Брэд Смит из Microsoft призывает к "реальным и эффективным" стандартам безопасности искусственного интеллекта

Президент Microsoft Брэд Смит предупредил во вторник, что промышленность и правительства должны "действовать безотлагательно", чтобы создать "реальные и эффективные стандарты безопасности" для сдерживания рисков, связанных с искусственным интеллектом.

"Для ИИ нам понадобится то же, что и для всего остального в жизни... нам нужны реальные и эффективные стандарты безопасности, и нам нужно, чтобы общественность доверяла им", - заявил Смит группе журналистов накануне международного саммита по искусственному интеллекту в Дублине.

Опасения по поводу безопасности искусственного интеллекта возросли в последние месяцы после того, как модели, разработанные OpenAI и Anthropic, были вовлечены в инциденты с безопасностью во время тестирования, что привело к усилению давления с целью регулирования технологии.

"Мы достигли точки, когда нам, очевидно, необходимо, чтобы отраслевые компании активизировались и сделали больше для решения проблем безопасности ИИ", - сказал Смит. "Я думаю, что мы достигли того момента, когда от правительств потребуется также больше усилий".

Глава Microsoft изложил предложения компании по повышению безопасности во всем секторе, начав с требования, чтобы агенты искусственного интеллекта были оснащены "тормозами безопасности", которые пользователи могли бы активировать в случае инцидента.

"Идея в том, что любой ИИ, работающий на критически важной инфраструктуре или в какой-либо другой автоматизированной системе, может отключаться или замедляться", - пояснил он.

Смит также призвал поставщиков ИИ к обязательному представлению отчетов об инцидентах.

"Если вы занимаетесь бизнесом и столкнулись с нарушением безопасности, которое приводит к потере данных потребителей, вы должны сообщить об этом потребителям", - сказал он. "Та же логика должна применяться к людям, пострадавшим от действий ИИ-агента", с юридическим обязательством информировать пострадавших.

Президент Microsoft также выступил за более тщательное тестирование и оценку моделей искусственного интеллекта перед их выпуском, чтобы убедиться в их безопасности.

"Нам нужно действовать безотлагательно", - предупредил он.

Смит - последний из ряда ведущих представителей отрасли, которые подчеркивают необходимость повышения бдительности в отношении технологий искусственного интеллекта. Среди них Дарио Амодей, исполнительный директор Anthropic, пообещал в случае необходимости замедлить развитие в одностороннем порядке.

© 2026 AFP