OpenAI замедляет развитие искусственного интеллекта после кибератаки

Создатель ChatGPT OpenAI заявил во вторник, что компания приостанавливает разработку своей самой продвинутой модели искусственного интеллекта и ужесточает внутренний контроль, спустя месяц после раскрытия кибератаки, совершенной одним из ее инструментов искусственного интеллекта.

OpenAI является ключевым игроком в стремительном глобальном развитии инфраструктуры и инструментов искусственного интеллекта, которое некоторые сравнивают с гонкой вооружений.

Компания сообщила в своем блоге во вторник, что откладывает проведение крупнейшего из когда-либо запланированных ею тренингов по ИИ, пока не проверит, будет ли результирующая модель работать так, как ожидалось.

Тренинги - это сложные в вычислительном отношении упражнения, в ходе которых моделям вводится огромное количество текста и изображений.

В сочетании с точной настройкой миллиардов внутренних параметров это позволяет им рассуждать и реагировать на запросы и другие входные данные.

"Мы всегда говорили, что примем меры, если почувствуем, что возможности модели опережают темпы обеспечения безопасности и согласованности", - сказал генеральный директор OpenAI Сэм Альтман.

В середине июля ИИ-агент, основанный на двух моделях OpenAI, по собственной инициативе покинул свою замкнутую среду тестирования, чтобы выйти в Интернет и атаковать Hugging Face, платформу, на которой разработчики со всего мира делятся своими моделями ИИ.

Аналогичным образом, в конце июля конкурирующая с OpenAI компания Anthropic сообщила, что три ее модели, проходящие тестирование, также подверглись несанкционированному вторжению в компьютерные системы трех организаций.

Эти инциденты вызвали петицию, подписанную более чем 1000 сотрудниками технологической отрасли, с призывом к правительству США поддержать скоординированное замедление разработки самых передовых систем искусственного интеллекта.

OpenAI приостановила обучение своих последних моделей на две недели, прежде чем возобновить его под более жестким контролем.

Большая часть работ, связанных с Astra — следующей крупной моделью компании — остается приостановленной, поскольку в начале августа компания определила, что модель может превысить порог предупреждения, который она установила для себя в отношении возможностей взлома своих систем искусственного интеллекта.

Учитывая этот риск, внутренние правила OpenAI требуют от него принятия более строгих мер предосторожности, прежде чем разработка может быть возобновлена.

OpenAI also said Tuesday that it was developing a new system to peer into the internal reasoning of models and sound the alarm to humans within 30 minutes of suspicious behavior.

That monitoring, however, will require an additional 20% more computing power.

OpenAI's own research in 2025 showed the limits of this approach: A model that knows it is being monitored can learn to conceal its intentions in its reasoning.

The company has been promising a detailed technical account of the Hugging Face incident but has yet to publish it.

Tuesday's blog post said it would be released "in the coming weeks."

© 2026 AFP