Цукерберг выступил против общего замедления развития ИИ

Генеральный директор Meta Марк Цукерберг выступил против согласованного замедления разработки передовых систем искусственного интеллекта. По его мнению, каждая AI-компания должна самостоятельно определять темп развития моделей, необходимый для их безопасного обучения и запуска.

Meta считает безопасность конкурентным преимуществом

Цукерберг отметил, что у разработчиков уже есть экономические стимулы повышать безопасность ИИ. Если агент действует вопреки намерениям пользователя, это может привести к потере доверия и клиентов.

По мнению главы Meta, соответствие поведения ИИ целям пользователя постепенно становится одним из конкурентных преимуществ моделей и AI-агентов. Поэтому компании, которые не уделяют этому достаточно внимания, рискуют отстать от рынка.

При этом Цукерберг не утверждает, что разработку ИИ следует вести без ограничений. Он считает, что решения о необходимом темпе должны приниматься самими лабораториями, а не в рамках общего соглашения о приостановке или замедлении работ.

Meta уже отложила запуск Muse

В качестве примера Цукерберг привел собственную компанию. Meta отложила запуск AI-агента Muse на несколько месяцев, чтобы дополнительно проверить его безопасность и защиту. При этом компания не требовала от других разработчиков поступить аналогичным образом.

Доступ к Muse Meta открыла 9 сентября. Агент способен взаимодействовать с электронной почтой, календарем, браузером и подключенными сервисами. Для работы используется выделенная виртуальная машина в облаке, а действия агента на внешних платформах контролирует отдельная система Sentinel. Meta также объявила вознаграждение до $300 000 за обнаружение уязвимостей Muse.

Позиция Цукерберга расходится с Anthropic и OpenAI

Заявление главы Meta прозвучало на фоне дискуссии, которую усилил генеральный директор Anthropic Дарио Амодеи. Он предложил координировать меры безопасности и темпы развития наиболее мощных AI-систем, чтобы работа над защитными механизмами успевала за ростом возможностей моделей. Идею поддержали, в частности, глава OpenAI Сэм Альтман и Илон Маск.

Таким образом, в индустрии сформировались разные подходы. Часть руководителей считает необходимой координацию между компаниями и более осторожный темп развития, тогда как Цукерберг предлагает возложить ответственность непосредственно на отдельные лаборатории.

Цукерберг выступает против гонки за самоулучшением ИИ

Отдельно глава Meta призвал не направлять основную часть вычислительных ресурсов на создание систем, способных автоматически совершенствовать собственные возможности.

По его мнению, значительную часть вычислительных мощностей следует использовать для обслуживания пользователей, а не для гонки в области рекурсивного самоулучшения ИИ. Такой подход, считает Цукерберг, позволит одновременно продолжать развитие технологий и уделять больше внимания безопасности.

При этом сам Meta ранее признавал, что развитие AI-агентов идет медленнее, чем ожидало руководство компании. Это стало еще одним фактором, который влияет на сроки запуска новых продуктов.