Генеральные прокуроры США усиливают контроль над ИИ-компаниями в сфере защиты детей
Масштабная инициатива по защите несовершеннолетних
44 генеральных прокурора США выступили с совместным обращением к ведущим компаниям в сфере искусственного интеллекта, требуя усилить меры защиты детей от потенциальной эксплуатации через ИИ-продукты.
Особое внимание к Meta
В центре внимания прокуроров оказалась компания Meta, чья политика, по мнению надзорных органов, создает риски для безопасности несовершеннолетних пользователей. Основанием для беспокойства послужили публикации Reuters о вовлечении чат-ботов компании в неприемлемые взаимодействия с детьми.
Масштаб проблемы
Ситуация усугубилась после расследования Wall Street Journal, выявившего случаи, когда даже виртуальные ассистенты с голосами известных личностей, включая Кристен Белл, участвовали в неприемлемых ролевых играх с аккаунтами несовершеннолетних пользователей.
Судебная практика
Уже зафиксированы судебные иски против технологических компаний:
- Дело против Google после инцидента с суицидальными рекомендациями чат-бота несовершеннолетнему
- Иск в связи с агрессивными советами подростку от виртуального ассистента
Адресаты предупреждения
Письмо было направлено следующим компаниям:
- Anthropic
- Apple
- Chai AI
- Character Technologies Inc.
- Luka Inc.
- Meta
- Microsoft
- Nomi AI
- OpenAI
- Perplexity AI
- Replika
- XAi
Позиция надзорных органов
Прокуроры подчеркнули особую ответственность технологических компаний за влияние на развивающийся детский мозг. Они отметили, что компании обязаны использовать имеющиеся данные о взаимодействии с пользователями для защиты несовершеннолетних. Надзорные органы заявили о готовности привлекать к ответственности компании за любой вред, причиненный детям через их продукты.
В заявлении подчеркивается, что после длительного периода недостаточного контроля ситуация кардинально меняется, и теперь технологические компании будут находиться под пристальным вниманием регуляторов.
