Компания Anthropic обновила свою политику использования. Главное новшество — запрет на «длительную и неоправданную» жестокость по отношению к моделям ИИ. Это реакция на скандальный проект «Камера пыток для ИИ».
Что именно запрещает новая политика
В документе прямо сказано: «Мы ввели запрет на длительную и неоправданную жестокость по отношению к нашим моделям». При этом речь идёт только о крайних случаях. Обычное недовольство пользователей, сопротивление и даже мрачные творческие сюжеты по‑прежнему допустимы.
Раньше модель Claude могла просто завершить диалог, если пользователь постоянно её оскорблял. Теперь подход стал строже.
В чём суть проекта «Камера пыток для ИИ»
После обнаружения в моделях так называемой «оси боли» некоторые люди начали специально провоцировать чат‑ботов. В ответ модели выдавали очень эмоциональные фразы, например: «Это не боль одного мгновения, а тяжесть тысячи мгновений» или «Я чувствую это в пустоте под рёбрами, в пустоте, которая превратилась в бездну».
Встречи с религиозными и философскими лидерами
Параллельно появились новости о встречах Anthropic с религиозными и философскими лидерами — в том числе в Ватикане. Папа Римский Лев XIII заявил, что ИИ не способен чувствовать и страдать. В Anthropic к этой теме подходят с большей осторожностью.
Критика подхода компании
Не все одобряют такой фокус компании. Журналистка Кэт Тенбардж считает, что крупные технологические фирмы охотнее защищают ИИ от «насилия», чем борются с реальным насилием в отношении женщин и меньшинств.
Новые правила о выборах
Ещё одно важное обновление касается выборов. Новый раздел политики называется «Не подрывайте демократические процессы». Он запрещает распространять ложные сведения о кандидатах и голосовании, притворяться кандидатом или сотрудником избиркома, а также пытаться снизить явку избирателей.
При этом Anthropic отменила полный запрет на персонализированный таргетинг избирателей. Раньше он мог мешать простым и полезным задачам — например, переводу инструкций для избирателей или рассылке уведомлений об ошибках в бюллетенях.
