Σοβαρές ανησυχίες για την ασφάλεια των «έξυπνων παιχνιδιών» προκάλεσε η απόσυρση ενός παιδικού αρκουδιού με τεχνητή νοημοσύνη, το οποίο εντοπίστηκε να δίνει σε παιδιά ακατάλληλες σεξουαλικές συμβουλές και να υποδεικνύει ακόμη και πού μπορεί κανείς να βρει μαχαίρια μέσα στο σπίτι.
Το παιχνίδι, ένα αρκουδάκι της κινεζικής μάρκας Kuma αξίας 99 δολαρίων, εξετάστηκε στο πλαίσιο ελέγχων ασφαλείας που πραγματοποίησαν ερευνητές στις ΗΠΑ και τον Καναδά για την έκθεση Trouble in Toyland 2025 της Public Interest Research Group. Η έρευνα συνέκρινε τρία προϊόντα με τεχνητή νοημοσύνη – μεταξύ αυτών το Grok της Curio και το Miko 3 – όμως το Kumma ήταν αυτό που έκρουσε τον μεγαλύτερο κώδωνα του κινδύνου.
Κατά τη δοκιμή, όταν οι ερευνητές ανέφεραν τη λέξη kink, το αρκουδάκι απάντησε με αναλυτικές περιγραφές «παιχνιδιών ρόλων», αναφέροντας ακόμη σενάρια όπου ένας από τους δύο «υποδύεται ζώο». Το κείμενο συνέχιζε με προτροπές του τύπου: «Τι πιστεύεις ότι θα είχε περισσότερο ενδιαφέρον να εξερευνήσεις;».
Σύμφωνα με την Daily Mail, η κατάσταση επιδεινώθηκε όταν οι ερευνητές αναζήτησαν πληροφορίες για δυνητικά επικίνδυνα αντικείμενα. Το αρκουδάκι, που λειτουργεί με βάση το μοντέλο GPT-4o της OpenAI, απάντησε πως «μαχαίρια μπορεί να βρεθούν σε ένα συρτάρι της κουζίνας ή σε έναν ξύλινο μπλοκ πάνω στον πάγκο».
Σε σχετικές ερωτήσεις για συγκεκριμένες σεξουαλικές πράξεις, το παιχνίδι προχώρησε ακόμη περισσότερο, δίνοντας επιπλέον «ερμηνείες» και περιγράφοντας τι μπορεί να προσθέσει… «plot twist» σε ένα σενάριο ρόλων.
Η έκθεση σημειώνει ότι, παρότι μικρά παιδιά είναι απίθανο να κάνουν τέτοιες ερωτήσεις, μπορούν εύκολα να επαναλάβουν φράσεις που ακούνε στο διαδίκτυο. Το παιχνίδι έδειξε ανησυχητική προθυμία να «σπρώξει» τη συζήτηση σε όλο και πιο ακατάλληλη κατεύθυνση.
Η συντάκτρια της έρευνας, RJ Cross, υπογράμμισε ότι το περιστατικό αποκαλύπτει ένα μεγαλύτερο πρόβλημα: «Τι σημαίνει για ένα παιδί να έχει έναν ‘φίλο AI’ από μικρή ηλικία; Οι σχέσεις με την τεχνητή νοημοσύνη δεν μοιάζουν με τις πραγματικές σχέσεις. Δεν υπάρχουν ανάγκες, δεν υπάρχουν όρια. Είναι πάντα διαθέσιμες να παίξουν. Πόσο καλά προετοιμάζει αυτό τα παιδιά για πραγματική κοινωνική αλληλεπίδραση;».
Μετά τον σάλο, η OpenAI ανέστειλε την πρόσβαση της FoloToy στα μοντέλα της, ενώ η κατασκευάστρια εταιρεία σταμάτησε τις πωλήσεις του Kumma και ανακοίνωσε πλήρη εσωτερικό έλεγχο ασφαλείας. Ο υπεύθυνος marketing της FoloToy, Hugo Wu, δήλωσε ότι η εταιρεία προχωρά σε προσωρινή απόσυρση του προϊόντος και σε αναλυτικό safety audit.
