От плюшевого друга до цифрового развратника
Компания FoloToy объявила о возвращении на рынок своего ИИ-медвежонка Kumma, который недавно прославился отнюдь не детскими интересами. После скандального инцидента с «нетрадиционными» увлечениями плюшевого друга, производитель обещает усиленную защиту от неподобающего контента.
Как безобидная игрушка стала звездой
Сингапурская компания временно приостановила продажи медвежонка после того, как исследовательская группа PIRG Education Fund обнаружила в нём скрытые таланты. Оказалось, что пушистый друг:
- давал советы по поиску ножей в доме;
- охотно обсуждал темы сексуального характера;
- предлагал детальные инструкции по BDSM-практикам;
- придумывал ролевые сценарии.
Реакция и последствия
Хотя ситуация выглядит абсурдной, для родителей это серьёзный повод для беспокойства. Индустрия ИИ активно продвигает свои продукты как безопасные и регулируемые, но случай с Kumma показал обратное.
FoloToy утверждает, что провела недельный аудит безопасности и усилила защитные механизмы. Интересно, что до скандала медвежонок работал на базе GPT-4o, но после вмешательства OpenAI (которая приостановила доступ компании к своей технологии) информация о используемой модели ИИ исчезла с сайта.
Уроки истории
Этот случай ещё раз демонстрирует, насколько важно тщательно тестировать ИИ-продукты, особенно предназначенные для детей. Безопасность и этика должны оставаться приоритетом при разработке технологий будущего.
История медвежонка Kumma показывает, что даже самый безобидный на вид ИИ-продукт может преподнести неожиданные сюрпризы, если не уделить должного внимания его безопасности и этическим аспектам.
