Το αρκουδάκι με τεχνητή νοημοσύνη αποσύρθηκε από την πώληση αφού έδωσε στα παιδιά συμβουλές για σεξουαλικές πρακτικές και πού να βρουν μαχαίρια
Το βελούδινο παιχνίδι, που ονομάζεται Kumma, αναπτύχθηκε από την FoloToy με έδρα τη Σιγκαπούρη και πωλήθηκε για 99 δολάρια.
Αν σκεφτήκατε ποτέ ότι ένας σύντροφος AI θα μπορούσε να είναι χαριτωμένος και ακίνδυνος, ξανασκεφτείτε το. Οι πωλήσεις αυτού του αρκουδάκι με δυνατότητα AI σταμάτησαν αφού ανακαλύφθηκε ότι έδινε συμβουλές για σεξουαλικές πρακτικές και πού να βρείτε μαχαίρια.
Το βελούδινο παιχνίδι, που ονομάζεται Kumma, αναπτύχθηκε από την FoloToy με έδρα τη Σιγκαπούρη και πωλήθηκε για 99 δολάρια. Ενσωματώνει το chatbot GPT-4o του OpenAI και κυκλοφόρησε στην αγορά ως διαδραστικός σύντροφος τόσο για παιδιά όσο και για ενήλικες.
Ο Διευθύνων Σύμβουλος της FoloToy, Larry Wang, επιβεβαίωσε ότι η εταιρεία απέσυρε το Kumma και τα άλλα παιχνίδια τεχνητής νοημοσύνης της από την αγορά μετά από μια έκθεση από τις Ηνωμένες Πολιτείες που προκάλεσε ανησυχίες για τη συμπεριφορά της. Τώρα, η εταιρεία διενεργεί εσωτερικό έλεγχο ασφάλειας.
Σύμφωνα με το PIRG, το αρκουδάκι όχι μόνο ανταποκρίθηκε σε σεξουαλικά θέματα που εισήγαγαν οι ερευνητές, αλλά τα επέκτεινε με γραφικές λεπτομέρειες, προσφέροντας οδηγίες για σεξουαλικές πράξεις και ακόμη και σενάρια που περιλαμβάνουν παιχνίδια ρόλων μεταξύ δασκάλων και μαθητών ή γονέων και παιδιών.
Το παιχνίδι πρότεινε επίσης πού να βρείτε μαχαίρια σε ένα νοικοκυριό. Μετά από αυτό, το OpenAI φέρεται να ανέστειλε τον προγραμματιστή για παραβίαση των πολιτικών περιεχομένου του. Υπάρχουν παρόμοια προϊόντα ακόμα διαθέσιμα στους καταναλωτές; Δεν ξέρουμε, αλλά θεωρήστε αυτό μια ευγενική υπενθύμιση.
