В ООН технические руководители призывают к осторожности при разработке искусственного интеллекта

Руководители крупных компаний, занимающихся ИИ, сообщили Совету Безопасности ООН в среду, что технология требует повышенной бдительности, а генеральный директор Anthropic пообещал снизить скорость там, где это необходимо, для обеспечения безопасности новых версий.

"Этот момент требует особой осторожности", - заявил генеральный директор OpenAI Сэм Альтман в Нью-Йорке на экстренном заседании совета, состоящего из 15 членов.

Он предупредил, что по мере того, как системы искусственного интеллекта становятся более функциональными и автономными, они могут развиваться быстрее, чем учреждения, или сосредоточить власть в слишком узких руках.

Альтман был в числе лидеров отрасли, которые провели брифинг для совета после того, как в течение нескольких недель мировые сми писали о рисках, связанных с неконтролируемым искусственным интеллектом, и призывах к замедлению темпов роста, которым сопротивлялся президент США Дональд Трамп.

"Отрасль не должна идти на слишком большие технологические риски только потому, что выгоды от них слишком велики и важны, чтобы их снижать", - заявил Альтман высшему органу ООН.

Он также призвал правительства сотрудничать друг с другом и отраслью при принятии решений, определяющих будущее технологий.

""В нашей истории были времена, когда страны, которые конкурируют и не всегда очень любят друг друга, все же объединялись ради общих интересов и коллективного блага перед лицом новой мощной технологии", - сказал он.

"Мы считаем, что это, должно быть, один из таких случаев", - добавил он.

Выступая после Альтмана, генеральный директор Anthropic Дарио Амодей сказал, что его компания понимает, что по мере того, как модели искусственного интеллекта становятся все более мощными, "потребуются еще более строгие стандарты безопасности".

Он сказал, что Anthropic стремится улучшить свои возможности по предотвращению неправильного использования технологии.

"Мы будем замедлять работу настолько, насколько это необходимо, чтобы убедиться, что каждая последующая технология искусственного интеллекта, которую мы выпускаем, действительно безопасна", - сказал Амодей в видеообращении.

"Я даже считаю, что при плохом управлении искусственный интеллект может представлять угрозу для человечества в целом", - добавил Амодей.

Среди других выступавших был Клемент Деланг из Hugging Face, который недавно подвергся кибератаке со стороны автономного программного обеспечения OpenAI.

Это стало первым в серии инцидентов, которые вызвали тревогу по поводу быстро развивающейся технологии.

В начале сентября Джейкоб Коксон, исследователь, работавший как в OpenAI, так и в Anthropic, решил уйти из отрасли и обвинил обе компании в том, что они "рискуют своими жизнями" в гонке за разработкой моделей искусственного интеллекта, способных к самосовершенствованию.

The executives' remarks come shortly before Trump is due to welcome Chinese leader Xi Jinping for a summit where AI will be on the agenda.

On Wednesday, Altman said his company would try to walk a "middle path."

"We don't want to fall into the trap of blind optimism," he said, but he also cautioned against falling into "doomerism."

Yoshua Bengio, the Canadian computer scientist considered one of the founders of AI, told the Security Council that "more and more people are rightly worried about recent advances."

"We must channel that concern into productive action," he said.

Delangue of Hugging Face noted that while his company was targeted by AI, it also used the technology to fend off the attacks. "The world needs open-source AI more than ever to defend itself."

Altman, Amodei and several other leading AI executives have been calling for global oversight of the technology.

OpenAI has urged the United States to lead a global effort to establish standards for AI, noting that its industry is at the technical frontier.

Prime Minister Andy Burnham said Tuesday that Britain would launch an effort to set global AI standards during its 2027 G20 presidency.

French Foreign Minister Jean-Noel Barrot similarly urged joint action within the U.N. framework and with companies to set rules for a new era.

But diplomatic efforts could clash with the U.S. position.

Michael Kratsios, director of the White House Office of Science and Technology Policy, said rapid advancement is not a reason to pause AI's development or constrain it with new governance structures.

Trump on Tuesday rejected international regulation of AI, calling such proposals a "globalist scheme."

© 2026 AFP