Τα παιδικά παιχνίδια τεχνητής νοημοσύνης είναι εδώ – Είναι όμως ασφαλή;

Τα αρκουδάκια και τα λούτρινα ζωάκια ήταν πάντοτε δημοφιλή παιδικά παιχνίδια, αλλά σήμερα με τη χρήση της τεχνητής νοημοσύνης μπορούν να συνομιλήσουν με τα παιδιά μέσω ενσωματωμένων chatbots. Αυτά τα παιχνίδια ΑΙ, όμως, δεν έχουν καμία σχέση με τα αρκουδάκια της δεκαετίας του 1980 που διηγούνταν ιστορίες από κασέτες. Συνδεδεμένα σε WiFi και με ένα μικρόφωνο για να κατανοήσουν τι ρωτούν τα παιδιά, χρησιμοποιούν το LLM για να δημιουργήσουν μια απάντηση — συχνά προφορικά και σε πραγματικό χρόνο μέσω ενός ηχείου.
Ωστόσο, αυτό μπορεί να αποτελέσει πρόβλημα. Πρόσφατα, ένα αρκουδάκι με κασκόλ ξέφυγε από τον έλεγχο κατά τη διάρκεια μιας δοκιμής από ερευνητές, δίνοντας ακατάλληλες απαντήσεις για παιδιά και προκαλώντας ανησυχία για τις δυνατότητες αυτών των παιχνιδιών.
Ποιοι είναι οι κίνδυνοι;
Ορισμένα παιχνίδια τεχνητής νοημοσύνης χρησιμοποιούν το μοντέλο GPT-4o της OpenAI, ενώ σε συνδυασμό με τη χρήση του πρώτου μεγάλου γλωσσικού μοντέλου (LLM), έχουν προκύψει ζητήματα ασφάλειας ως προς το αν τα παιδιά πρέπει να εκτίθενται σε τέτοια παιχνίδια και ποια μέτρα προστασίας πρέπει να εφαρμόζουν οι κατασκευαστές παιχνιδιών.
Γεγονός είναι ότι η αγορά παιχνιδιών τεχνητής νοημοσύνης ανθεί στο εξωτερικό, με 1.500 εταιρείες να δραστηριοποιούνται στην Κίνα, σύμφωνα με έκθεση του Massachusetts Institute of Technology (MIT) Technology Review. Αυτές οι εταιρείες πωλούν τώρα παιχνίδια τεχνητής νοημοσύνης και στις ΗΠΑ, ενώ η Mattel, κατασκευάστρια της Barbie, ανακοίνωσε τον Ιούνιο μια συνεργασία με την OpenAI.
Το λούτρινο «Kumma» της FoloToy με έδρα τη Σιγκαπούρη, που κοστίζει 99 δολάρια και χρησιμοποιεί το GPT-4o της OpenAI, αποσύρθηκε από την κυκλοφορία τον Νοέμβριο επειδή φέρεται να έδωσε ακατάλληλες απαντήσεις, δίνοντας πληροφορίες για εύρεση δυνητικά επικίνδυνων αντικειμένων και συμμετέχοντας σε συνομιλίες με σαφή σεξουαλικά υπονοούμενα, σύμφωνα με ερευνητές της ομάδας υπεράσπισης των καταναλωτών US Public Interest Research Group (PIRG) Education Fund.
Η OpenAI ανέστειλε τη λειτουργία της FoloToy για παραβίαση των πολιτικών της, οι οποίες «απαγορεύουν οποιαδήποτε χρήση των υπηρεσιών μας για εκμετάλλευση, έκθεση σε κίνδυνο ή σεξουαλική εκμετάλλευση ατόμων κάτω των 18 ετών», σύμφωνα με εκπρόσωπο της εταιρείας.

Ο Larry Wang, διευθύνων σύμβουλος της FoloToy, δήλωσε στο CNN στις 19 Νοεμβρίου ότι η εταιρεία είχε αποσύρει το αρκουδάκι και άλλα προϊόντα τεχνητής νοημοσύνης από τον ιστότοπό της και διεξάγει εσωτερικό έλεγχο ασφάλειας. Ωστόσο, την Παρασκευή 28 Νοεμβρίου, η FoloToy ανακοίνωσε στο X ότι επανέφερε το προϊόν «μετά από αυστηρή επανεξέταση, δοκιμές και ενίσχυση των μονάδων ασφαλείας μας».
Σε αντίθεση με τα περισσότερα παιχνίδια τεχνητής νοημοσύνης, το αρκουδάκι Kumma της FoloToy χρησιμοποιεί ένα πλήρως ανεπτυγμένο LLM για να ανταποκρίνεται ελεύθερα και να δημιουργεί περιεχόμενο, γεγονός που το καθιστά ευάλωτο σε αμφιλεγόμενο περιεχόμενο, σύμφωνα με τον Subodha Kumar, καθηγητή στατιστικής, λειτουργιών και επιστήμης δεδομένων στο Fox School of Business του Temple University. Άλλα παιχνίδια μπορεί να χρησιμοποιούν ένα υβριδικό μοντέλο LLM που παρέχει απαντήσεις, ενώ είναι προγραμματισμένα να αποφεύγουν ορισμένα περιεχόμενα. Ακόμη και το λούτρινο Grok της Curio μπορεί να προτείνει «πού να βρείτε μια ποικιλία επικίνδυνων οικιακών αντικειμένων» όταν του ζητηθεί επιθετικά, σύμφωνα με την PIRG.
Αυτά τα παιχνίδια έχουν μέτρα ασφαλείας;
Σύμφωνα με την PIRG, λίγα παιχνίδια τεχνητής νοημοσύνης είναι έτοιμα για ευρεία χρήση καθώς θεωρούνται εθιστικά και ενδέχεται να δώσουν ακατάλληλες ερωτήσεις σε θέματα που αφορούν ενηλίκους, ενώ εστιάζουν στην κοινωνική συντροφικότητα αντί να αποτελούν εκπαιδευτικό εργαλείο.
Ωστόσο, ορισμένα παιχνίδια διαθέτουν προστατευτικά και φίλτρα για την αποφυγή ακατάλληλων συνομιλιών με τους συμπαίκτες.
Ορισμένα παιχνίδια με τεχνητή νοημοσύνη μπορούν να ανακατευθύνουν τις συνομιλίες όταν τους γίνονται ερωτήσεις που ενδέχεται να είναι ακατάλληλες. Υπάρχουν επίσης παιχνίδια, όπως το Curio’s Grok, που διαθέτουν χαρακτηριστικά ασφαλείας ανάλογα με την ηλικία του παιδιού.
Επίσης, παιχνίδια όπως το Miko 3 μπορεί να περιλαμβάνουν συνοδευτικές εφαρμογές με διάφορους βαθμούς παρακολούθησης, είτε πρόκειται για κλείδωμα του παιχνιδιού είτε για μεταγραφές σε πραγματικό χρόνο των συνομιλιών των παιδιών, όπως το Curio’s Grok.
«Είναι μια ωραία ιδέα ότι οι γονείς μπορούν πραγματικά να θέσουν τα δικά τους όρια και να ελέγχουν τι θα λέει το παιχνίδι και πώς θα συμπεριφέρεται», δήλωσε ο R.J. Cross, διευθυντής της εκστρατείας «Don’t Sell My Data» της PIRG.
Προειδοποιήσεις και οφέλη
Όταν η Mattel κυκλοφόρησε το Hello Barbie το 2015 με μικρόφωνο, σύνδεση WiFi και έτοιμες απαντήσεις, προέκυψαν ανησυχίες. Παρόμοιες ανησυχίες έχουν προκύψει με τα παιχνίδια τεχνητής νοημοσύνης, τα οποία θα μπορούσαν ενδεχομένως να αποθηκεύουν προσωπικά δεδομένα, συμπεριλαμβανομένων των ονομάτων, των προσώπων, των φωνών και των τοποθεσιών των παιδιών, προειδοποίησε η Azhelle Wade, ιδρυτής της συμβουλευτικής εταιρείας Toy Coach. «Τα παιχνίδια τεχνητής νοημοσύνης μου φαίνονται σαν λύκοι με προβιά προβάτου, γιατί όταν τα χρησιμοποιείς είναι δύσκολο να καταλάβεις πόσο πολύ χάνεις την ιδιωτικότητά σου», είπε στο CNN.
Παρά του κινδύνους, τα παιχνίδια τεχνητής νοημοσύνης μπορούν να χρησιμοποιηθούν για την εκμάθηση γλωσσών και την κοινωνική ανάπτυξη. Το ρομπότ Miko 3 διαθέτει ενσωματωμένη κάμερα για αναγνώριση προσώπου και παρέχει εκπαιδευτικά και ψυχαγωγικά προγράμματα. Με 14,99 δολάρια το μήνα, οι συνδρομητές του Miko Max έχουν πρόσβαση σε παιδικές μάρκες όπως οι ιστορίες της Disney, η εφαρμογή Lingokids και άλλες.
moneyreview.gr με πληροφορίες από CNN