Манифест Цукерберга о персональном ИИ: общий обзор
В понедельник Марк Цукерберг опубликовал манифест о персональном ИИ — он занял 6500 слов. В центре внимания — возможности систем «персонального сверхинтеллекта», которые разрабатывает Meta AI.
Идеи в посте не новы: две недели назад похожий текст вышел в Wall Street Journal, да и сам Цукерберг уже затрагивал эти темы во время отчётов Meta о доходах. Но сейчас он раскрыл их подробнее, чем когда‑либо.
Некоторые называют этот манифест «антипессимистичным» эссе, но это не совсем точно. По сути, это рассказ о том, что лично воодушевляет Цукерберга в перспективах ИИ и в том, как технология изменит общество. При этом, рисуя картину светлого будущего, он не забывает напоминать и о рисках.
Меня ИИ тоже увлекает — потому я и пишу о нём. Но многие люди видят в этой технологии нечто пугающее. Поэтому важно разобраться: что стоит за этим текстом и почему подобные манифесты могут скорее навредить репутации индустрии, чем помочь.
Почему общество настроено скептически: соцсети и доверие к Meta
Социальные сети — по‑прежнему болезненная тема в IT‑среде. Мы не будем разбирать каждую претензию к Facebook, но нельзя игнорировать общий настрой общества. И продукт, и сам Цукерберг сейчас непопулярны в США.
Данные говорят сами за себя:
- 64 % американцев считают, что соцсети навредили демократии.
- Примерно столько же выступают за более жёсткое регулирование отрасли — и эти настроения распространены вне зависимости от политических взглядов.
- На выходных суд оштрафовал компанию на 567 миллионов долларов за вред, нанесённый детям.
Атмосфера вокруг Meta явно не самая позитивная.
Я не призываю Цукерберга уйти в тень — но шлейф от эпохи соцсетей во многом объясняет, почему общество сейчас так настороженно относится к перспективам ИИ. Люди просто не верят, что технологические лидеры смогут гарантировать положительный эффект от новых разработок. А вместо того чтобы открыто признать эту проблему и работать над доверием, манифест будто снова показывает, как это доверие было потеряно.
Абстрактная философия вместо конкретики: о чём на самом деле говорит манифест
Значительная часть текста — это довольно абстрактные рассуждения об интеллекте. Они напоминают те расплывчатые тезисы о свободе слова, которые раньше озвучивали Цукерберг и Дорси. Например, такой пассаж:
«По мере того как у всех появляются всё более мощные инструменты, каждый человек становится всё более способным влиять на будущее… Люди и институты с конкурирующими интересами естественным образом сдерживают и уравновешивают друг друга, ведя к положительным результатам. Лучший путь к позитивному будущему с ИИ — дать сверхинтеллект каждому».
Звучит красиво, но примеров, где конкурирующие интересы приводят к хорошему результату, не так много. Страннее всего то, что эти фразы подаются как глубокие философские выводы, а не как маркетинговое описание продукта «персональный интеллект» от Meta. Если вы и так относитесь к Цукербергу с недоверием, может показаться, что он сам себя убеждает: мол, ничего плохого случиться не может.
Это ощущение только усилилось, когда речь зашла о конкретных примерах. Многие из них выглядят оторванными от реальности — от того, как ИИ используют уже сегодня.
ИИ в образовании: обещания и реальные проблемы
Цукерберг рисует такую картину:
«У каждого будет персональный репетитор с докторской степенью по любому предмету и безграничным терпением. Студенты получат помощь, которая сейчас доступна только тем, чьи родители могут за неё заплатить. Взрослые смогут осваивать новые навыки, языки и хобби с помощью сверхинтеллектуального помощника».
На деле продукт, о котором идёт речь, уже существует — это привычные чат‑боты вроде ChatGPT, Claude и Gemini. Они действительно помогают разобраться в теме, но в образовании их часто используют, чтобы избежать самого обучения: такой «репетитор» запросто напишет эссе или сделает домашнее задание. А поскольку надёжной системы водяных знаков нет, учителя не могут отличить работу студента от текста, сгенерированного ИИ.
Это лишь один, казалось бы, «незначительный» пример того, как благие намерения сталкиваются с непредвиденными последствиями. И тот факт, что один из самых влиятельных людей в мире будто не хочет этого замечать, вполне закономерно тревожит людей.
ИИ и правосудие: справедливее или сложнее?
Ещё один пример от Цукерберга — будущее юридической системы:
«Если сверхинтеллектуального юриста будет иметь только один человек, он получит несправедливое преимущество — даже если не прав по сути. Но если такой юрист будет у всех, правосудие станет гораздо справедливее и эффективнее».
Идея звучит логично, но у неё есть и обратная сторона. Доступ к ИИ в праве может не упростить, а усложнить и без того громоздкую бюрократическую систему. Или спровоцировать волну недобросовестных исков — своего рода «юридический спам», который только засорит суды.
Трудно сохранять спокойствие, когда такие сценарии не рассматриваются всерьёз. И чем спокойнее об этом говорит Цукерберг, тем больше поводов для беспокойства у остальных.
Бизнес‑модель Meta: freemium и динамические аукционы
В манифесте есть и описание бизнес‑модели:
«Все получат бесплатный или доступный доступ к этим инструментам. Мы предложим бесплатные версии для миллиардов людей. Для тех, кто хочет больше вычислительных мощностей, будет работать механизм динамических аукционов: он обеспечит минимальную цену и гарантирует, что ресурсы пойдут на то, что общество считает наиболее ценным».
В целом с идеей доступности сложно спорить: freemium действительно расширяет охват. Да и динамические рынки для вычислений уже существуют. Но есть причина, по которой большинство ИИ‑сервисов скрывают от пользователей реальную стоимость вычислительных мощностей: резкие скачки цен (surge pricing) — это плохой пользовательский опыт. Особенно если инструмент становится важной частью вашей работы.
Хочется верить, что Цукерберг это понимает и не планирует всерьёз выставлять цены через аукционы. Но после прочтения манифеста уверенность в этом только уменьшилась.
Как другие лидеры индустрии говорят об ИИ: контраст в коммуникации
Есть и другой подход к публичной коммуникации. Сэм Альтман и Дарио Амодеи, при всех их недостатках, умеют разговаривать с обществом. Они прямо говорят о рисках ИИ, рассказывают о мерах безопасности и стараются показать, что им можно доверять.
Конечно, даже самые продуманные меры иногда дают сбой — и тогда становится ясно, насколько высоки ставки. Но без попыток выстроить доверие индустрия не сможет пережить будущие провалы.
