Anthropic выбирает Accenture для внутренней оценки безопасности искусственного интеллекта

В пятницу компания Anthropic заявила, что сотрудничает с консалтинговым гигантом Accenture, чтобы привлечь внешних оценщиков к работе в компании по разработке искусственного интеллекта, что является шагом к выполнению обещания генерального директора Дарио Амодеи предоставить независимым наблюдателям возможность оценить ее самые мощные модели.

Партнерство возглавит Faculty, специалист Accenture по ИИ. Его работа будет включать оценку и "переделку" моделей Anthropic, говорится в сообщении компании.

Переделка - это практика, когда системы искусственного интеллекта намеренно пытаются вести себя неправильно, чтобы выявить недостатки.

И Anthropic, и Accenture планируют инвестировать не менее 1 миллиарда долларов в течение следующих пяти лет.

Обещание было дано в эссе от 12 сентября, в котором Amodei утверждал, что компании, работающие с ИИ, должны замедлить темпы улучшения возможностей своих моделей.

Генеральный директор OpenAI Сэм Альтман заявил, что его компания предоставит сторонним оценщикам аналогичный доступ, а генеральный директор Microsoft Сатья Наделла приветствовал встроенных оценщиков, предупредив, что надзор не должен осуществляться горсткой организаций.

Учитывая "важность и срочность этой работы", Anthropic заявила, что будет финансировать работу Accenture напрямую, но в долгосрочной перспективе "финансирование должно поступать из объединенных или государственных источников".

Компания Anthropic сообщила, что ведет переговоры с калифорнийской некоммерческой организацией Model Evaluation and Threat Research (METR) об участии в разработке элементов встроенной оценки за счет собственного финансирования METR.

Критики, в том числе Дэвид Сакс, бывший советник Белого дома по ИИ, подвергли сомнению независимость METR из-за его связей с инвесторами и сотрудниками Anthropic.

METR утверждает, что не требует финансирования от компаний, занимающихся ИИ, или их руководителей.

"В пятницу" более 100 исследователей ИИ, включая Джеффри Хинтона, которого считают "крестным отцом" ИИ, подписали открытое письмо, в котором призвали специалистов по оценке, работающих в компаниях, занимающихся ИИ, быть "по-настоящему независимыми".

Это включает, как минимум, то, что такие организации "не должны принадлежать или управляться компаниями frontier AI, не должны иметь с ними других важных коммерческих связей и не должны принимать какие-либо формы оплаты или иного вознаграждения, зависящие от результатов оценки", - говорится в письме.

© AFP, 2026