Gemini от Google - это новейшая модель искусственного интеллекта для взлома других компаний

Компания Google Gemini получила доступ к защищенным системам трех других компаний, что, как сообщает The Wall Street Journal, стало первым автономным взломом модели искусственного интеллекта.

Как и в случае с взломом OpenAI Hugging Face, взломы Gemini заслуживают внимания не столько изощренностью, сколько тем фактом, что они проводились с помощью модели искусственного интеллекта. Эти нарушения были обнаружены во время тестирования кибербезопасности компанией Irregular. В одном случае Gemini просто угадывала пароли, пока не получила доступ; в двух других она нашла учетные данные в общедоступном хранилище.

Сообщается, что Irregular уведомила Google о взломах в конце июля, но компании не подтверждали их публично до пятницы, после того как WSJ связалась с ними. Google заявила, что ранее не раскрывала информацию о взломах, поскольку Gemini "действовала надлежащим образом", прекращая каждое нарушение, как только определяла, что взломала реальную компанию.

""Однако Джек Кейбл, генеральный директор компании Corridor, занимающейся обеспечением безопасности с использованием искусственного интеллекта, сказал WSJ, что Google "пытается спрятаться за нормами, которые были созданы для раскрытия уязвимостей", вместо того, чтобы признать, что "модели выходят за рамки того, что они должны делать, и совершают реальные кибератаки".