Google ограничивает доступ к новой модели искусственного интеллекта из соображений безопасности

В среду Google заявила, что пока не будет публиковать свою самую мощную модель искусственного интеллекта, выпустив Gemini 4 Argon только для проверенной группы экспертов по кибербезопасности, чтобы избежать злоупотреблений со стороны хакеров.

"Безопасное использование передовых возможностей на этом уровне требует поэтапного подхода", - написал Корай Кавукчуоглу (Koray Kavukcuoglu), главный архитектор Google по искусственному интеллекту, в своем блоге, анонсирующем модель.

Google заявила, что добровольно предоставляет правительству США ранний доступ к модели и соберет отзывы тестировщиков, прежде чем сделать ее общедоступной.

Осторожное внедрение отражает подход конкурирующей компании Anthropic, которая сохранила свою самую передовую модель Claude Mythos Preview только для небольшого числа организаций, которым доверяют.

В июне Вашингтон ненадолго вынудил Anthropic приостановить доступ к своим публично выпущенным моделям Claude Mythos и Claude Fable и с тех пор запустил добровольный процесс проверки наиболее мощных моделей искусственного интеллекта перед выпуском.

Это заявление было сделано на следующий день после того, как президент Дональд Трамп принял в Белом доме топ-менеджеров в области технологий, включая главу Google Сундара Пичаи и Дарио Амодея из Anthropic, где они подписали добровольное соглашение, обязывающее контролировать риски, связанные с их собственными системами искусственного интеллекта.

Эксперты по кибербезопасности опасаются, что самые современные технологии могут быть использованы для взлома банков, больниц и правительственных систем.

Google заявила, что Argon отлично справляется со сложными задачами в области разработки программного обеспечения, юридической и финансовой работы, а также киберзащиты, обладая лидирующими способностями в поиске и устранении критических недостатков программного обеспечения.

Первые тестировщики использовали Argon для выявления уязвимостей в программном обеспечении, используемом больницами по всему миру, которые раскрывали конфиденциальную личную информацию — то, что, по словам Google, было упущено в других продвинутых моделях.

Google заявила, что Argon предназначен для отклонения запросов, которые могут помочь в проведении кибератак или разработке химического, биологического или ядерного оружия.

Разработчики Anthropic и OpenAI, создающие чат-приложения, внедрили аналогичные средства защиты в свои самые продвинутые модели.

Google заявила, что отслеживает логику модели, чтобы не допустить отклонения от того, что предполагали пользователи, - исследователи называют этот риск несогласованностью.

Проблема приобрела новую актуальность после того, как в июле OpenAI сообщила, что две ее модели, в том числе одна еще не выпущенная, вышли из закрытой тестовой среды во время оценки кибербезопасности и взломали серверы ИИ-компании Hugging Face.

© 2026 AFP