Смогут ли модели с искусственным интеллектом улучшаться автономно? Ведущие лаборатории говорят, что сценарий близок

Перспектива того, что модели искусственного интеллекта, которые когда-то были далекой мечтой для исследователей технологий, смогут самостоятельно обучаться, чтобы стать более эффективными и способными, становится все более близкой к реальности.

По мере развития технологий, разработчики говорят, что они приближаются к "рекурсивному самосовершенствованию", или RSI, при котором модели искусственного интеллекта находят способы самосовершенствования и создают своих преемников. По словам руководителей технологических компаний, это может привести к достижениям в науке и медицине, но также и к рискам.

Неопределенность относительно того, к чему все это может привести, лежит в основе растущих опасений по поводу того, что ИИ выйдет из-под контроля человека, и возможных угроз человечеству, которые побудили нескольких магнатов в области ИИ присоединиться в прошлые выходные к призыву замедлить темпы развития технологии.

На этой неделе компания Anthropic подробно рассказала о том, как ее модель Claude помогает компании разработать следующую, более интеллектуальную версию самой себя. В настоящее время Claude руководит 26% исследований и разработок моделей в Anthropic, что, по словам компании, означает, что она может выполнять большую часть поставленных задач "от начала до конца с помощью высокоуровневых команд", все еще находясь под наблюдением человека. Модели не работают полностью автономно — по крайней мере, пока.

Вот несколько ключевых моментов, касающихся рекурсивного самосовершенствования.

Ведущие компании, занимающиеся искусственным интеллектом, по-разному определяют рекурсивное самосовершенствование. Некоторые определяют это как получение какой-либо обратной связи от ИИ по улучшению модели, в то время как другие определяют это как работу ИИ над достижением этой цели полностью автономно.

Автономное рекурсивное самосовершенствование, по сути, означает, что ИИ может совершенствовать себя, разрабатывая следующую версию системы, затем следующую версию и так далее, - сказал Энтони Агирре, президент и исполнительный директор некоммерческого Института будущего жизни и профессор физики Калифорнийского университета в Санта-Крузе.

"Действительно важным здесь является то, что по мере того, как ИИ выполняет все больше задач, они становятся быстрее, потому что ИИ работает намного быстрее, чем люди", - сказал он.

Страх перед RSI в значительной степени основан на появлении в результате этого процесса неконтролируемого сверхразума, сказал Джон Тикстун, доцент кафедры компьютерных наук Корнеллского университета, который изучает методы, управляющие поведением моделей искусственного интеллекта. Но, по его словам, более обоснованный взгляд предполагает, что в разработке искусственного интеллекта уже некоторое время происходит своего рода рекурсивное самосовершенствование.

"We have already, for years, been using these models in supportive roles for creating the next version of these models. So people use the past generation of models to write code for the AI systems that then create the next generation," he said.

For years, prominent AI researchers such as OpenAI co-founder Andrej Karpathy have experimented with trying to get AI models to train and improve new AI systems. Those efforts have brought minor improvements, but not big creative leaps, Thickstun said.

But AI companies today, Aguirre said, are much closer to pulling off those bigger leaps in improvement.

"You can see in these plots from Anthropic over time, more and more of research is being done by the AI and it's becoming closer and closer to fully autonomous," he said. "And the result of that success, ultimately is something that is, I think, extremely scary. I think this is probably the worst idea in the history of humanity to do this. And yes, they're doing it."

Anthropic's recent announcement provided the public—and other labs—with some insight into RSI progress, and it encouraged its competitors to share similar metrics. Still, the company has not expressly said how close it is to achieving fully autonomous model improvement.

ChatGPT maker OpenAI announced this month that it has developed an automated "research intern," which it defines as a system that can carry out well-defined research tasks under human direction, including "tasks that would take a skilled researcher a few days." The company has said it is moving forward with the goal of creating an automated AI "researcher" by March 2028.

The company said in that announcement that while RSI can help align models' actions with human values and intentions, that doesn't mean "rapid RSI is necessarily an outcome we should pursue."

"Whether and how to proceed must depend on our ability to preserve human control and on informed democratic choices about the benefits and risks," the company said in a blog post.

Elon Musk seems more eager to forge ahead. He said in March that for xAI's Grok models, "humans are gradually getting less and less in the loop" on model improvement and that "every successive model is built by the one before it," but clarified that the process was not yet fully automated. That target might be reached by the end of this year, he added, "but not later" than 2027.

Microsoft and some other leading AI companies seem to be taking a different approach.

Mustafa Suleyman, the CEO of Microsoft AI, has said the company is moving toward "humanist superintelligence," or advanced AI capabilities that are in service of people and humanity at large. Suleyman said in a 2025 essay that this would not mean "an unbounded and unlimited entity with high degrees of autonomy," but rather AI that is "carefully calibrated, contextualized, within limits."

A key challenge labs face—and have been facing essentially since the technology's inception—is ensuring their safety measures advance alongside the models' capabilities.

Divisions have emerged in the tech industry over calls for a coordinated AI slowdown for safety, and not every major player in the AI space has specifically commented on their path forward with RSI.

Anthropic, which has been a leading voice in the calls for pacing, has said it would slow or temporarily pause its development work—assuming its global competitors also did so, and in a "verifiable manner."

OpenAI explicitly said this month it does not yet know how to "safely get all the way to aligned, full RSI," adding that the company "cannot assume that progress in alignment and safety will keep pace." More capable systems can become harder to monitor, it continued, but pursuing RSI is still a goal it says it values because an "automated AI researcher can also be an automated safety or alignment researcher."

© 2026 The Associated Press. All rights reserved. This material may not be published, broadcast, rewritten or redistributed without permission.