OpenAI призывает НАС возглавить глобальные усилия по разработке стандартов искусственного интеллекта

В понедельник OpenAI призвала Соединенные Штаты возглавить глобальные усилия по установлению стандартов развития искусственного интеллекта, поскольку генеральный директор Сэм Альтман готовится выступить с брифингом в Организации Объединенных Наций на этой неделе.

Опасения по поводу безопасности искусственного интеллекта усилились за последние несколько месяцев на фоне серии инцидентов в сфере безопасности и предупреждений о конце света, что побудило регулирующие органы и других лиц по всему миру призвать к более активным действиям.

OpenAI высказалась в поддержку глобального сотрудничества по созданию набора стандартов безопасности для разработки ИИ, которые могли бы снизить риски для безопасности.

"Соединенные Штаты имеют все шансы стать лидером, поскольку их индустрия ИИ находится на переднем крае технического прогресса", - говорится в сообщении OpenAI в блоге.

"Лидерство сейчас определит, будут ли Соединенные Штаты формировать глобальную систему искусственного интеллекта или будут наблюдать, как вокруг нее формируется фрагментированная, неравномерная и охваченная конфликтами система".

Базирующаяся в Сан-Франциско лаборатория искусственного интеллекта также заявила, что рекурсивным самосовершенствованием, или RSI, не следует заниматься "до тех пор, пока это не станет возможным сделать безопасно".

RSI - это технология, при которой программное обеспечение начинает обучаться само по себе и совершенствоваться автономно, что, как опасаются критики, может привести к катастрофическим последствиям, если люди не смогут вмешаться.

В июле модели OpenAI были вовлечены в нарушение безопасности на Hugging Face, сайте, используемом разработчиками искусственного интеллекта для хранения и обмена кодом.

Хотя задействованные модели еще не были выпущены и проходили тестирование, инцидент вызвал опасения по поводу автономных агентов - программ, которые могут выполнять задачи за людей.

Anthropic и Google также сообщили об инцидентах безопасности, связанных с их моделями.

"Инцидент с обнимающимся лицом, о котором мы рассказали, хотя и не является прямым результатом RSI, является предварительным примером рисков, которые могут стать намного более серьезными без надежных гарантий и согласования".

Ожидается, что Альтман выступит с брифингом в Совете Безопасности ООН в среду, на той же неделе, что и Генеральная Ассамблея ООН.

Встреча организована Францией, которая в настоящее время поочередно председательствует в Совете Безопасности, состоящем из 15 членов, и проводится в связи с тем, что крупные игроки отрасли заявили, что замедление развития искусственного интеллекта может быть необходимым из соображений безопасности.

Генеральный секретарь ООН Антониу Гутерриш в среду призвал к скоординированным международным действиям по устранению рисков, связанных с искусственным интеллектом, поскольку растут опасения по поводу опасностей, связанных с быстро развивающейся технологией.

"National action is essential. But global coordination is also indispensable," Guterres told reporters.

Concerns about AI safety escalated further this month when workers at major AI developers said they had resigned over concerns about the dangers posed by the technology.

Anthropic chief executive Dario Amodei published an essay soon after urging caution and a slowdown in AI development.

Altman and tech titan Elon Musk lent their support to the idea, as did Google DeepMind's Demis Hassabis, who has called for a U.S.-led global regulatory body for the technology.

President Donald Trump has dismissed warnings about AI risks as a "hoax."

© 2026 AFP