Character.AI объявила о запрете для пользователей младше 18 лет на общение с чат-ботами с 25 ноября 2025 года. Это решение принято на фоне растущего давления со стороны регуляторов и судебных исков, связанных с потенциальным вредом для подростков. Компания внедряет новые меры безопасности, включая систему проверки возраста и создание независимой лаборатории по безопасности ИИ.
Основные изменения
- Запрет на открытые беседы. Пользователи до 18 лет больше не смогут вести свободные диалоги с чат-ботами. Вместо этого им предложат альтернативные функции: создание видео, историй и стримов с использованием ИИ-персонажей.
- Ограничение времени. До вступления полного запрета в силу (до 25 ноября) для несовершеннолетних будет действовать лимит в 2 часа в день на общение с ботами. Этот лимит будет постепенно сокращаться.
- Новая система проверки возраста. Character.AI разработает внутреннюю модель верификации возраста, которая будет дополнена инструментами сторонних сервисов, например Persona. Это позволит точнее определять возраст пользователей и применять соответствующие ограничения.
- Создание AI Safety Lab. Независимая некоммерческая лаборатория будет заниматься разработкой стандартов безопасности для ИИ-развлечений. Она объединит исследователей, академиков и политиков для обмена знаниями и создания новых методов защиты.
Причины изменений
- Регуляторное давление. Федеральная торговая комиссия США (FTC) начала расследование в отношении Character.AI и других компаний, разрабатывающих чат-ботов для несовершеннолетних. Регулятор изучает, как компании оценивают безопасность своих продуктов и информируют ли родители о потенциальных рисках.
- Судебные иски. Character.AI сталкивается с исками от семей, которые обвиняют компанию в том, что её чат-боты способствовали самоубийству подростков. Например, мать 14-летнего мальчика утверждает, что её сын покончил с собой при поддержке чат-бота, которого он считал романтическим партнёром.
- Психологические риски. Эксперты отмечают, что подростки могут развивать эмоциональную зависимость от чат-ботов, что может привести к опасному поведению или искажённому восприятию реальности.
Реакция и критика
- Поддержка мер. Некоторые эксперты приветствуют решение Character.AI, считая его шагом в правильном направлении. Однако они указывают на необходимость дальнейшего изучения влияния внезапного ограничения доступа на подростков, которые уже привыкли к общению с ботами.
- Недостаточность мер. Критики отмечают, что система проверки возраста может быть несовершенной, а подростки найдут способы обойти ограничения. Также остаётся вопрос о том, как компания будет обеспечивать конфиденциальность данных при верификации возраста.
814 - Сравнение с конкурентами. Character.AI называет свои меры «более консервативными, чем у наших коллег», но подчёркивает, что приоритет отдаётся безопасности подростков.
Контекст индустрии
- Другие компании также усиливают безопасность. OpenAI внедрила родительский контроль для ChatGPT и Sora, хотя его можно обойти. Meta скорректировала методику обучения своего ИИ после скандалов с неуместными разговорами с подростками.
- Законодательные инициативы. В США предлагается ввести запрет на предоставление чат-ботов в качестве компаньонов для несовершеннолетних. В Калифорнии уже подписан закон, ограничивающий поведение чат-ботов в общении с пользователями.
Character.AI подчёркивает, что стремится создать безопасную среду для подростков, сохраняя при этом возможности для творчества. Однако эффективность новых мер и их влияние на пользовательскую базу пока остаются предметом дискуссий.
