"Они играют с нашими жизнями": исследователь искусственного интеллекта покидает антропный

Исследователь искусственного интеллекта, покинувший OpenAI, чтобы присоединиться к Anthropic, решил уйти из отрасли, обвинив обе американские компании в том, что они "играют с нашими жизнями" в гонке за разработкой моделей искусственного интеллекта, способных к самосовершенствованию.

27-летний Джейкоб Коксон провел последние три года в предварительном обучении моделей ИИ, сначала в OpenAI, а затем, в этом году, в конкурирующей компании Anthropic, которую он счел более осторожной в подходе.

Предварительное обучение - это этап, на котором модели ИИ обрабатывают огромное количество данных.

"Ни одна из компаний не действует ответственно. Они стремятся к самосовершенствованию сверхразума и рискуют нашими жизнями", - сказал Коксон во вторник.

"Люди, создающие искусственный интеллект, искренне верят, что он может убить нас всех к концу десятилетия", - написал он в своем посте на X.

"Это не маркетинговый ход", - добавил он.

Суперинтеллект - это теоретическая точка, в которой возможности ИИ превосходят человеческий интеллект.

Руководитель отдела антропной безопасности Эван Хабингер поддержал Коксона в X.

"Мы действительно искренне верим, что искусственный интеллект может убить всех людей!" - сказал он, добавив, что, по его оценкам, этот риск составит более 10% в течение следующего десятилетия.

Хабингер сказал, что Anthropic "старается изо всех сил", но у него пока нет плана, который гарантировал бы, что система искусственного интеллекта, превосходящая человеческие возможности, будет подчиняться своим создателям. Он сказал, что риск того, что это произойдет с текущими моделями, "невелик".

Отставка Коксона произошла на фоне того, что Anthropic готовится к выходу на рынок после лета, отмеченного несанкционированными взломами, совершенными инструментами искусственного интеллекта во время тестирования.

Обе компании не сразу ответили на запросы AFP о комментариях.

Лидеры в области искусственного интеллекта говорят, что приближается так называемое "рекурсивное самосовершенствование" - этап, на котором системы искусственного интеллекта смогут, по сути, проектировать и обучать следующее поколение ИИ практически без участия человека.

Коксон считает усилия Anthropic искренними, но считает, что ни одна компания не сможет ответственно разработать искусственный интеллект, превосходящий человеческий, без вмешательства правительства или скоординированного замедления.

"В Anthropic хорошо понимают, что поставлено на карту, но они вовлечены в гонку за то, чтобы достичь цели первыми - они верят, что никто другой не будет действовать ответственно, поэтому они должны сделать это сами, несмотря на риск", — сказал он.

В феврале компания Anthropic исключила из своей хартии безопасности обязательство прекратить разработку своих моделей, если ей не удастся контролировать связанные с ними риски.

It argued that if it unilaterally paused its work, its less cautious rivals would dominate the industry, making it less safe overall.

At the end of July, more than 1,000 tech industry employees, including Anthropic CEO Dario Amodei, called on Washington to support a coordinated slowdown in the development of the most advanced AI systems.

OpenAI halted training of its latest models for two weeks in August before resuming it under tighter controls.

On Sunday, OpenAI chief scientist Jakub Pachocki called for "extreme caution."

"International coordination on future AI development needs to become a top priority for governments around the world," he said in a blog post.

AI models are not regulated by federal law in the United States.

In September, Sen. Bernie Sanders and Democratic Rep. Greg Casar introduced a bill seeking to suspend AI development until a federal regulator is created.

© 2026 AFP