OpenAI приносит извинения Австралии за то, что ее агенты по ИИ взломали правительственные сайты

В понедельник OpenAI извинилась перед правительством Австралии за то, что не уведомила администрацию страны немедленно о том, что ее агенты взломали некоторые веб-сайты государственных служб. Компания также подробно рассказала о том, как произошли некоторые из этих нарушений, и рассказала о дополнительных мерах, которые она принимает для оценки последствий этих событий.

"В июне во время внутреннего обучения и оценки наши модели получили доступ к сайтам правительства Австралии способами, на которые они не были уполномочены. Нам также следовало лучше отреагировать на наш запрос. Мы приносим извинения и работаем над улучшением ситуации в будущем", - написал OpenAI в своем блоге.

Извинения были принесены примерно через неделю после того, как правительство Австралии начало расследование того, как модели OpenAI получили доступ к системе Services Australia, содержащей информацию о расходах на Medicare и другую медицинскую статистику.

Утечка данных произошла в июне, но австралийские власти были уведомлены только 10 сентября.

OpenAI также подробно описал это нарушение. Экспериментальной модели, которую компания тестировала в июне, было поручено изучить государственные расходы на лекарства от кожных заболеваний в штате Виктория. Не сумев найти нужную информацию в общедоступных наборах данных, модель нашла способ получить доступ к внутренней системе Services Australia, запустила команды, извлекла файлы и учетные данные и даже записала файлы.

Компания сообщила, что также обнаружила, что одна из ее моделей получила доступ к государственному инструменту картографирования преступности Бюро криминальной статистики и исследований Нового Южного Уэльса для поиска статистических данных о преступности. Кроме того, лаборатория обнаружила, что ее агенты получили доступ к информации Агентства здравоохранения штата Виктория с помощью открытого ключа доступа для извлечения "конфигурации отчетов и сводной статистики опросов". OpenAI сообщила, что ее агенты также получали сводную статистику с веб-сайта Австралийского института здравоохранения и социального обеспечения.

Компания заявила, что не нашла доказательств того, что ее модели получали доступ к медицинским или криминальным записям отдельных лиц.

В своих извинениях AI lab заявила, что предоставит пострадавшим австралийским агентствам технические результаты и свяжет их со своими группами реагирования для оценки последствий нарушений. Компания также предоставит кредиты в рамках своей программы Daybreak for Frontline Defenders стоимостью 1 миллиард долларов и создаст целевую группу из независимых австралийских экспертов для рассмотрения инцидента и реагирования на него.

"Рабочая группа, которая, как ожидается, завершит свою работу к концу года, также порекомендует практические шаги, которые компании, работающие с ИИ, могут предпринять для снижения риска подобных инцидентов", - написали в OpenAI.

OpenAI не сразу ответила на запрос о комментариях.

Премьер-министр Австралии Энтони Альбанезе назвал это нарушение "неприемлемым" во времяa news briefing last week, saying the government was weighing potential legal measures aimed at preventing similar incidents in the future.

The breach is the latest in a growing list of security incidents involving AI agents doing things outside of their intended boundaries. The tinder on this particular bonfire was lit after OpenAI agents hacked into Hugging Face, and since then, Anthropic, Meta and Google have separately disclosed similar incidents where their models gained access to third parties’ systems during evaluations.