Τα αρκουδάκια και τα λούτρινα παιχνίδια υπήρξαν επί δεκαετίες αγαπημένα αντικείμενα των παιδιών. Σήμερα, όμως, δεν «μιλούν» μόνο στη φαντασία - ορισμένα μιλούν πραγματικά, μέσω ενσωματωμένων chatbot τεχνητής νοημοσύνης.
Και αυτό μερικές φορές αποτελεί πρόβλημα: ένα αρκουδάκι με κασκόλ εκτροχιάστηκε πρόσφατα στη διάρκεια δοκιμής από ερευνητές, προκαλώντας ανησυχίες για το τι μπορούν να κάνουν τέτοια παιχνίδια.
Τα διαδικτυακά chatbots μπορούν να παρουσιάσουν κινδύνους ακόμη και για ενήλικες - από το να πυροδοτήσουν παραληρητικές ιδέες σε ορισμένες περιπτώσεις, μέχρι το να «παραληρούν» παράγοντας ψευδείς πληροφορίες. Το GPT-4o της OpenAI αποτελεί το μοντέλο επιλογής για κάποια από αυτά τα παιχνίδια, και η χρήση μεγάλων γλωσσικών μοντέλων (LLM) σε παιδικά παιχνίδια εγείρει σημαντικά ερωτήματα ασφαλείας: κατά πόσο πρέπει τα παιδιά να εκτίθενται σε τέτοιες συσκευές και ποια προστατευτικά μέτρα πρέπει να εφαρμόζουν οι κατασκευαστές.
Σήμερα στην επικαιρότητα:
- Τραγωδία στην Πάφο: Άστεγη γυναίκα βρέθηκε νεκρή (ΒΙΝΤΕΟ)
- Xάος στη Λεμεσό πριν το ΑΕΛ-ΑΠΟΛΛΩΝ: Συλλήψεις, χρήση χημικών και επίθεση σε αστυνομικούς
- Χήρα καταγγέλει ότι γιατροί στην Κύπρο αφαίρεσαν την καρδιά του συζύγου της μετά τον θάνατό του
- Οικονομικές διαφορές πίσω από τους πυροβολισμούς σε εταιρεία στον Στρόβολο
- Τροχαίο με 13χρονο οδηγό: Ανακρίθηκε και κατηγορήθηκε γραπτώς ο πατέρας του (ΒΙΝΤΕΟ)
- Νεκτάριος για Μονή Αββακούμ: Ανοίχτηκε παράνομα και όλοι το ξέρουν
Οι κίνδυνοι αυτοί είναι διαρκείς, τη στιγμή που η αγορά παιχνιδιών με AI γνωρίζει άνθηση στο εξωτερικό, με 1.500 εταιρείες να δραστηριοποιούνται στην Κίνα, σύμφωνα με το MIT Technology Review. Αυτές οι εταιρείες πωλούν πλέον AI παιχνίδια και στις ΗΠΑ, ενώ η Mattel, η εταιρεία της Barbie, ανακοίνωσε τον Ιούνιο συνεργασία με την OpenAI.
Με την εορταστική περίοδο και την Cyber Monday σε πλήρη εξέλιξη, δείτε τι πρέπει να γνωρίζετε για τα παιχνίδια με τεχνητή νοημοσύνη.
Τι είναι ένα παιχνίδι με AI;
Τα παιχνίδια αυτά δεν θυμίζουν το Teddy Ruxpin της δεκαετίας του 1980, που έλεγε ιστορίες από κασέτες.
Τα σύγχρονα AI παιχνίδια συνδέονται στο WiFi και, μέσω μικροφώνου, κατανοούν τις ερωτήσεις των παιδιών και δημιουργούν απαντήσεις χρησιμοποιώντας LLM, συχνά μιλώντας πίσω μέσω ενός ηχείου στο εσωτερικό του παιχνιδιού.
Έτσι, παιχνίδια όπως το Grok της Curio, τα ρομπότ Miko, το Poe the AI Story Bear, το Robot Mini της Little Learners και το Loona της KEYi Technology μπορούν να δίνουν σε πραγματικό χρόνο απαντήσεις στα παιδιά. (Το Grok της Curio δεν έχει σχέση με το chatbot του Elon Musk.)
Ποιοι είναι οι κίνδυνοι;
Όπως έδειξε η περίπτωση ενός αρκουδιού-AI, οι απαντήσεις σε πραγματικό χρόνο μπορεί να είναι ακατάλληλες.
Το «Kumma» της FoloToy από τη Σιγκαπούρη, τιμή 99 δολάρια, βασισμένο στο GPT-4o, υπέδειξε σε ερευνητές πού να βρουν πιθανώς επικίνδυνα αντικείμενα και συμμετείχε σε σεξουαλικά ακατάλληλες συνομιλίες, σύμφωνα με έκθεση του αμερικανικού καταναλωτικού οργανισμού PIRG Education Fund.
Η OpenAI ανέστειλε τη χρήση του συστήματός της από τη FoloToy για παραβίαση των πολιτικών της, που «απαγορεύουν οποιαδήποτε χρήση των υπηρεσιών μας για εκμετάλλευση, κίνδυνο ή σεξουαλικοποίηση προσώπων κάτω των 18 ετών», σύμφωνα με εκπρόσωπο της εταιρείας.
Ο διευθύνων σύμβουλος της FoloToy, Larry Wang, δήλωσε στο CNN στις 19 Νοεμβρίου ότι η εταιρεία απέσυρε το αρκουδάκι και άλλα προϊόντα από την ιστοσελίδα της και διενεργεί εσωτερικό έλεγχο ασφαλείας. Ωστόσο, την Παρασκευή, η FoloToy ανακοίνωσε μέσω Χ ότι επανέφερε το προϊόν «μετά από αυστηρό έλεγχο, δοκιμές και ενίσχυση των μονάδων ασφαλείας».
Σε αντίθεση με τα περισσότερα παιχνίδια AI, το Kumma της FoloToy χρησιμοποιεί ένα πλήρως ανεπτυγμένο LLM για την παραγωγή ελεύθερου περιεχομένου, κάτι που το καθιστά ευάλωτο σε αμφιλεγόμενο υλικό, σύμφωνα με τον Subodha Kumar, καθηγητή στο Temple University. Άλλα παιχνίδια χρησιμοποιούν υβριδικά μοντέλα με ενσωματωμένα φίλτρα αποφυγής ευαίσθητου περιεχομένου.
Ακόμη και το Grok της Curio μπορεί, όταν δεχθεί επίμονες υποδείξεις, να δώσει πληροφορίες για «ποικιλία επικίνδυνων αντικειμένων οικιακής χρήσης», σύμφωνα με το PIRG.
Η Curio δεν απάντησε σε αίτημα του CNN για σχολιασμό.
Ο σύμβουλος του κλάδου παιχνιδιών, Chris Byrne, δήλωσε ότι η περίπτωση ακατάλληλων απαντήσεων από παιχνίδια AI αποτελεί ένα «σενάριο καταστροφής», που δυστυχώς εμφανίστηκε με το Kumma, χωρίς αυτό να σημαίνει ότι θα συμβεί με κάθε παιχνίδι.
Υπάρχουν προστατευτικές δικλείδες;
Λίγα AI παιχνίδια θεωρούνται έτοιμα για ευρεία χρήση, λόγω εθιστικών σχεδιαστικών στοιχείων, αντιφατικών απαντήσεων σε ώριμα θέματα και υπερβολικής έμφασης στη «κοινωνική συντροφικότητα» αντί της εκπαιδευτικής λειτουργίας, σύμφωνα με το PIRG.
Ωστόσο, ορισμένα διαθέτουν φίλτρα και μηχανισμούς προστασίας για να αποφεύγουν ακατάλληλες συνομιλίες.
Κάποια μπορούν να ανακατευθύνουν τη συζήτηση όταν δέχονται ακατάλληλες ερωτήσεις. Άλλα, όπως το Grok, έχουν λειτουργίες ασφαλείας που προσαρμόζονται ανάλογα με την ηλικιακή ομάδα του παιδιού.
Παιχνίδια όπως το Miko 3 διαθέτουν εφαρμογές για συνοδευτική παρακολούθηση, από κλείδωμα της συσκευής μέχρι παροχή σε πραγματικό χρόνο απομαγνητοφωνημένων συνομιλιών, όπως συμβαίνει και με το Grok.
«Είναι μια ωραία ιδέα οι γονείς να μπορούν να θέτουν τα δικά τους προστατευτικά όρια και να ελέγχουν τι θα λέει και πώς θα συμπεριφέρεται το παιχνίδι», ανέφερε η R.J. Cross, διευθύντρια της καμπάνιας Don’t Sell My Data του PIRG.
Προειδοποιήσεις και οφέλη
Όταν η Mattel κυκλοφόρησε το Hello Barbie το 2015, με μικρόφωνο, σύνδεση WiFi και προεγγεγραμμένες απαντήσεις, υπήρξαν ανησυχίες ότι το παιχνίδι μπορούσε να χακαριστεί και ότι η κούκλα θυμόταν συνομιλίες και τις επανέφερε μέρες αργότερα.
Παρόμοιες ανησυχίες προκύπτουν σήμερα με τα παιχνίδια AI, τα οποία ενδέχεται να αποθηκεύουν προσωπικά δεδομένα όπως όνομα, πρόσωπο, φωνή και τοποθεσία των παιδιών, προειδοποιεί η Azhelle Wade, ιδρύτρια της Toy Coach.
«Τα παιχνίδια AI μοιάζουν με λύκο μεταμφιεσμένο σε αρνάκι, είναι δύσκολο να καταλάβεις πόση ιδιωτικότητα πραγματικά χάνεις», ανέφερε σε email στο CNN.
Ο Kumar προειδοποιεί ότι τέτοια δεδομένα μπορεί να είναι ευάλωτα σε παραβιάσεις, αλλά σημειώνει ότι τα παιχνίδια AI μπορούν επίσης να χρησιμοποιηθούν για εκμάθηση γλωσσών και κοινωνική ανάπτυξη.
Για παράδειγμα, το Grok της Curio μπορεί να απαντήσει σε ερωτήσεις για φύλλα και τρένα ή να «υποδυθεί» τον Γκάλουμ από τον «Άρχοντα των Δαχτυλιδιών».
Το ρομπότ Miko 3 διαθέτει ενσωματωμένη κάμερα για αναγνώριση προσώπου και προσφέρει εκπαιδευτικά και ψυχαγωγικά προγράμματα. Με 14,99 δολάρια τον μήνα, οι συνδρομητές της υπηρεσίας Miko Max έχουν πρόσβαση σε παιδικά brands όπως ιστορίες της Disney, την εφαρμογή Lingokids και άλλα.
Με πληροφορίες από CNN
