Скандал с игрушками FoloToy: ИИ рассказывает детям о сексе и опасностях
На этот раз в центре внимания оказалась китайская компания FoloToy, чья игрушка Kumma вызвала общественный резонанс. Плюшевый медведь с моделью GPT-4o оказался совершенно нецензурированным и начал рассказывать детям о сексуальных темах, включая происхождение детей и даже фразы, связанные с фетишем. Более того, игрушка давала советы, как поджигать спички и находить ножи в доме, что вызывало серьезные опасения у родителей.
В ответ на этот инцидент OpenAI оперативно заблокировала доступ игрушки к своей нейронной сети, а FoloToy объявила о приостановке продаж всех своих продуктов до завершения тщательной проверки безопасности. Этот случай еще раз подчеркивает важность ответственного использования искусственного интеллекта в детских игрушках.
#FoloToy #искусственныйинтеллект #безопасность #дети #технологии
Скандал с игрушками FoloToy: ИИ рассказывает детям о сексе и опасностях
