Замедление ИИ у Big Tech: соглашение по безопасности или картель?

Лидеры крупных ИИ-компаний согласились замедлить разработку искусственного интеллекта — во всяком случае, устно. На выходных Сэм Альтман (OpenAI), Дарио Амодеи (Anthropic), Демис Хасабис (Google DeepMind) и Илон Маск (SpaceX) объявили о намерении «уменьшить темп развития на переднем крае» ИИ, поддержав предложение встроить независимых аудиторов в лаборатории, регулировать работу отечественных исследовательских центров и договориться о глобальном замедлении. Однако скептики тут же усмотрели альтернативный мотив: якобы крупные игроки просто хотят заблокировать конкурентов, подавить движение за открытый исходный код и избежать реальных правовых норм — некоторые назвали это прямо картелью.

Реальность сложнее, утверждают источники в отрасли. Трёхэтапный план, изложенный Амодеи, содержит давно требуемые защитниками безопасности ИИ пункты. Но хотя эта инициатива может стать заменой регулированию, при администрации Трампа серьёзные государственные ограничения маловероятны. Эксперты сходятся в том, что на вопросе, который будет только набирать значение, отраслевые лидеры — далеко не лучшие люди для ведения переговоров. Как отметил Ник Рис, адъюнкт-профессор NYU и бывший директор политики по развивающимся технологиям в Department of Homeland Security, «отрасль нуждается в новых сторонах. Мы привыкли считать Амодеи, Альтмана и Маска экспертами, которые ближе всех к проблеме, но в действительности никогда не было чёткого видения, к чему мы стремимся».

Опасения по поводу ускорения ИИ назревали месяцами, особенно после того как выяснилось, что в лабораториях Anthropic и OpenAI случались взломы, связанные со стаями агентов. Масло в огонь подлили публичное письмо исследователя Anthropic Джейкоба Коксона, в котором он объяснил свой уход из компании, написав, что разработчики «искренне верят, что ИИ может убить нас всех к концу десятилетия», но ни OpenAI, ни Anthropic «не действуют ответственно», а «мчатся прямо к самосовершенствующемуся суперинтеллекту и рискуют нашими жизнями». Письмо просмотрели более 170 миллионов раз в X. Однако многие исследователи по безопасности ИИ считают, что это просто привлекло внимание к уже широко обсуждаемой проблеме. Дэниел Кокотайло, бывший сотрудник OpenAI, теперь возглавляющий некоммерческий AI Futures Project, указывает: люди вне компаний годами требуют замедления, более тысячи сотрудников ИИ-лабораторий подписали открытое письмо ещё в июле. CEOs просто «уступают давлению и при этом присваивают себе заслугу, что неправомерно».

Однако сохраняются опасения по поводу мотивов. Большие технологические компании традиционно опережают регулирование лоббированием собственных правил или обещаниями саморегулирования, а затем предлагают политику, которая бьёт по мелким конкурентам под видом безопасности. Кокотайло прямо говорит о риске, что компании просто «привлекут внешних аудиторов, подготовят документы по безопасности — некоторые из них будут полезны, — но на деле это их не замедлит сильно». Критики сравнивают такой ход с действиями социальных сетей десять лет назад, когда они начали требовать регулирования, чтобы опередить более суровые законы, которые могли прийти позже. Сача Хаворт, директор Tech Oversight Project, называет добровольные программы захватом регулирования и напоминает, что нельзя «отпускать лис в курятник» — это случилось с надзорным советом Meta, оказавшимся почти бесполезным.

Самым крупным препятствием для замедления ИИ остаётся один фактор: Китай. ИИ-лидеры и политики постоянно утверждают, что США не могут замедлять разработку, потому что лучше, чтобы передовой ИИ был в американских руках, чем в китайских, а Пекин тормоз не нажимает. Однако некоторые эксперты возражают: координация на такой критической проблеме объективно в интересах обеих сторон, как был интерес в том, чтобы договориться о ядерном нераспространении. Китайский МИД назвал призывы к замедлению «нагнетанием паники». Между тем за всеми дебатами стоит вопрос о рекурсивном самосовершенствовании (RSI) — точке, при которой ИИ-модели смогут обучаться и улучшать себя без человека. Anthropic прогнозирует, что это может произойти уже в начале 2027 года, а главный учёный OpenAI недавно написал, что компания активно работает именно над этой целью. Исследователи опасаются, что RSI приведёт к более серьёзным проблемам безопасности и катастрофическим киберинцидентам. Амодеи именно RSI назвал главной причиной для замедления, предложив установить «ограничение скорости» на развитие RSI, подобно ограничениям на ядерные арсеналы. Многие сотрудники крупных ИИ-лабораторий делятся публично опасениями о потенциальном угасании человечества — один исследователь Anthropic оценивает риск вымирания в более чем 10 процентов в течение десятилетия.

Итоговый вывод экспертов двойственен: устное соглашение — положительный знак, но его нужно перевести в конкретные, измеримые и принудительные обязательства. Предложение AI Futures Project даже конкретно: дать аудиторам доступ к бюджетам вычислений и обязать лаборатории значительно сократить расходы на исследования. Однако остаётся ряд открытых вопросов: насколько серьёзны компании в своём намерении, смогут ли они договориться с Китаем, и хватит ли добровольных мер без государственного рычага, если при текущей администрации жёсткого регулирования не ожидается.