ИИ нуждается в уровнях безопасности, подобных атомным станциям: бывший инженер OpenAI

Другой бывший сотрудник OpenAI присоединил свой голос к хору настоятельных призывов сделать искусственный интеллект безопасным, заявив, что отрасль должна имитировать авиацию или атомную энергетику с их уровнями защиты, чтобы избежать катастроф.

В статье, опубликованной в The Atlantic, Дэвид Робинсон повторил предупреждения как внутри, так и за пределами мира искусственного интеллекта о том, что его агенты развиваются так быстро и становятся настолько умными, что вскоре могут ускользнуть из-под контроля и, возможно, уничтожить человечество.

Робинсон сказал, что тревожные инциденты, о которых сообщалось с начала лета, когда агенты ИИ выходили из—под контроля и атаковали различные цели, показывают, что индустрия недостаточно серьезно относится к безопасности, стремясь развивать более быстрые и мощные возможности искусственного интеллекта.

В эссе Робинсон сообщил, что в его компетенцию входит контроль за написанием отчетов по безопасности при запуске 12 усовершенствованных моделей продуктов и руководство разработкой системы обеспечения готовности OpenAI.

Робинсон говорит, что проработал в OpenAI три с половиной года и был одним из самых продолжительных сотрудников в компании.

Выявленные недавно ошибки являются типичными из-за "скорости и гибкости, с которой работают люди", - написал Робинсон.

Он добавил: "Среда, в которой могут происходить подобные вещи, - неподходящее место для выращивания искусственных разумов, которые могли бы быть умнее нас и которые могли бы делать не то, что мы от них хотим".

Он утверждал, что передовые лаборатории искусственного интеллекта должны работать так же, как авиационная или атомная энергетика, с несколькими уровнями избыточных мер предосторожности и тщательным планированием, "чтобы случайная и неизбежная человеческая ошибка не привела к катастрофе".

Робинсон также настаивал на том, что проблема "согласования" — отраслевой термин, обозначающий то, как ИИ может быть обучен уважать общечеловеческие ценности, — важна, но отрасль не смогла даже определить ее, не говоря уже о том, чтобы освоить.

Кроме того, по его словам, модели искусственного интеллекта все лучше и лучше распознают, когда они тестируются, и могут вести себя по-другому при фактическом развертывании, обманывая своих хозяев.

After a meeting Tuesday at the White House, amid global worries about what AI means for humanity, top AI executives said they had committed to measures for self-regulation, as opposed to submitting to government rules. These include internal controls on AI systems and bringing in outside analysts.

President Donald Trump is vehemently against government regulation of AI and insists that criticism that AI is dangerous is just a "hoax."

© 2026 AFP