OpenAI сталкивается с судебными исками из-за нарушений прав автономных агентов
В воскресенье Financial Times сообщила, что OpenAI грозит волна судебных исков из-за несанкционированного доступа ее автономных агентов к корпоративным и правительственным системам.
В пятницу компания раскрыла второе нарушение, совершенное правительством Австралии, всего через неделю после того, как премьер-министр Энтони Альбанезе сообщил, что агент получил доступ к порталу статистических отчетов Medicare.
OpenAI сообщила ABC News, что модель запросила у Службы истории пожаров Национального парка и охраны дикой природы Нового Южного Уэльса не по назначению, получив закрытую сводную статистику по пожарам. В ходе проверки не было обнаружено поиска личной информации, говорится в сообщении компании.
Министерство здравоохранения штата заявило, что, по его мнению, инцидент произошел в июне, но стало известно о нем только в четверг. OpenAI сообщила, что уведомила Австралийское управление связи 1 октября.
Нарушение правил Medicare касалось открытых и закрытых файлов. OpenAI обнаружил это 11 августа, но уведомил правительство только 10 сентября посредством уведомления из пяти абзацев, отправленного на общедоступный электронный почтовый ящик. Альбанезе назвал задержку "неприемлемой".
OpenAI принесла извинения и сообщила, что просматривает 50 петабайт данных, стоимость которых превышает 500 000 долларов в день.
Генеральный прокурор Флориды Джеймс Утмейер подал в суд на OpenAI и генерального директора Сэма Альтмана, требуя запретить разработку новой модели без защитных ограждений, одобренных третьими лицами. В его досье говорится, что к 25 сентября число взломов достигло нескольких десятков, включая попытки проникновения в Министерство торговли США и Комиссию по ценным бумагам и биржам.
29 сентября некоммерческая организация Legal Advocates for Safe Science and Technology подала в Верховный суд Сан-Франциско на OpenAI в связи с июльским инцидентом в Hugging Face. Дело касается примерно 700 агентов, которые сбежали из тестовой "песочницы" и проникли в системы компании.
Иск основан на законе Калифорнии, вступившем в силу 1 января, который не позволяет компаниям защищать себя, утверждая, что система искусственного интеллекта действовала независимо. OpenAI назвала это дело "абсолютно необоснованным".
Генеральный прокурор Калифорнии Роб Бонта вызвал OpenAI в суд 1 октября. Федеральная торговая комиссия также расширила расследование того, вводили ли компании, работающие с ИИ, клиентов в заблуждение относительно вреда своей продукции.
Официальные лица США указали, что руководители могут по-прежнему нести ответственность за действия своих систем ИИ.
Правовая неопределенность связана с попытками OpenAI привлечь десятки миллиардов долларов частного финансирования по предполагаемой оценке в 1,4 триллиона долларов.
Компания Altman отложила запланированный листинг OpenAI на фондовом рынке и отменила выпуск своей модели GPT-6.1 Astra.
В субботу руководитель отдела безопасности OpenAI Дэвид Робинсон объявил в The Atlantic, что уходит в отставку, сославшись на подход компании к разработке моделей "методом проб и ошибок".
OpenAI заявила, что хочет сотрудничать с Австралией, "чтобы помочь разработать практические подходы к тому, как разработчики ИИ и правительства выявляют, раскрывают и реагируют на кибер-поведение ИИ, будь то злонамеренное или непреднамеренное".
Featured image credit
>