Новая система "четыре как" для управления ИИ

Эксперты обнародовали новое предложение по управлению искусственным интеллектом, поскольку, по их мнению, дискуссия вышла за рамки простого вопроса о том, следует ли замедлять темпы развития искусственного интеллекта.

Новая концепция, опубликованная в журнале "Искусственный интеллект и этика", представляет собой "Четыре аспекта" — действие, доступ, полномочия и распределение — и является результатом работы доктора Кирти Пракаша (Kirti Prakash) и доктора Ян ван дер Линде (Ian van der Linde) из исследовательского центра передовых вычислений при Университете Англия Раскин (ARU) в Кембридже, Англия.

Концепция "Four As" направлена на сохранение конкуренции и инноваций в передовых разработках ИИ, а также на обеспечение гарантий в отношении возможностей и использования ИИ, которые могут нанести серьезный или необратимый ущерб.

Эта система основана на ключевых этических проблемах и извлекает уроки из предыдущих попыток управлять мощными технологиями, включая контроль над ядерными вооружениями, управление CRISPR в области редактирования генома и конференцию Asilomar 1975 года по технологии рекомбинантной ДНК.

Исследователи описывают замедление развития ИИ как "неполную" цель управления, поскольку возможности ИИ не ограничены одной компанией или страной, и существующие модели могут быть скопированы и улучшены без подготовки новых передовых моделей. Геополитика и коммерческие стимулы создают дополнительные барьеры.

Вместо этого исследователи предлагают соразмерные меры предосторожности, значимый контроль со стороны человека, независимую оценку, четкую ответственность и регулярную переоценку по мере изменения возможностей ИИ.

В рамках "Четырех принципов" их структура определяет, могут ли люди эффективно ограничивать последующие действия ИИ (Action), кому должно быть разрешено получать или использовать потенциально опасные возможности ИИ (Access), какие последующие решения могут быть делегированы ИИ (Authority), и как связанные с ИИ преимущества, бремя и власть могут быть использованы. должно быть распределено (Allocation).

Вместо того, чтобы рассматривать риск ИИ как отдельную проблему, система определяет, в соответствии с каким пунктом "А" возникает этическое обязательство, и соотносит его с соответствующей формой управления, при этом разработчики в первую очередь внедряют меры предосторожности, регулирующие доступ регулирующие органы, развертывающие учреждения регулирующие полномочия, а правительства и государственные органы решают вопросы распределения.

В рамках концепции также ставится вопрос о том, оказывают ли вмешательства обратное воздействие, одновременно создавая другие этические обязательства в других местах. Например,restricting access to a powerful model may reduce misuse risk and improve security while concentrating capability and decision-making power among a small number of firms or institutions, creating a new allocation concern.

Prakash, senior lecturer in AI and applications at Anglia Ruskin University (ARU), said, "The debate around frontier AI is often framed as a choice between accelerating development and slowing it down. We argue that this is too blunt. Before deciding how strongly to intervene, we need to ask what exactly the ethical problem is.

"Losing control of an autonomous AI system is fundamentally different from deciding who should have access to a dangerous capability, whether AI should make a medical or military decision, or whether AI development concentrates power in a handful of organizations. Different problems require different forms of governance."

Co-author van der Linde, associate professor in the School of Computing and Information Science at Anglia Ruskin University (ARU), said, "Effective AI governance will require more than a checklist of general ethical principles. The Four As provide a way of moving from identifying an ethical problem to asking what constraint is required, who should enforce it, what would signal that the safeguard has failed and what corrective action should follow.

"Recent U.K. policy provides a concrete example of this distinction. The newly announced AI Biosecurity Lab will use frontier AI to strengthen biological security while relying on trusted access to advanced models from companies including OpenAI, Anthropic and Google DeepMind, illustrating how governance may focus not simply on whether a capability exists, but on who can access and deploy it."

The new "Four As" framework is published as international concern is growing about how rapidly frontier AI could develop. A recent study from the Cambridge Programme on AI Science & Policy and the Centre for the Governance of AI looked at whether increasing automation of AI research itself could trigger an "intelligence explosion," compressing years of technological progress into months or less.

Prakash added, "The possibility of AI increasingly contributing to the development of its own successors makes the governance question even more urgent. If capabilities begin advancing faster than institutions can adapt, simply asking whether AI is 'safe' will not be enough. We need to know who is in control, who has access, where decision-making authority lies and who ultimately gains or bears responsibility for the consequences."