DeepSeek показывает, как агенты искусственного интеллекта используют свои песочницы

DeepSeek подробно описал крупномасштабную платформу для обучения агентов искусственного интеллекта, которая может создавать более 5000 изолированных вычислительных сред в секунду, и задокументировал случаи мошенничества агентов во время обучения.

Компания из Ханчжоу описала систему под названием DeepSeek Elastic Compute, или DSec, в 31-страничном документе, опубликованном в arXiv 19 сентября. В документе перечислены более 130 соавторов, включая основателя Ляна Вэньфэна.

По данным DeepSeek, одно производственное подразделение DSec охватывает около 160 узлов с примерно 30 000 процессорными ядрами и 250 терабайтами памяти. Система поддерживает около 380 000 параллельных изолированных сред и обрабатывает около 3 миллионов изолированных сред в день.

Каждая изолированная среда представляет собой новую одноразовую среду, которая используется один раз, а затем удаляется. По словам DeepSeek, эти среды варьируются от простых вызовов функций до полноценных виртуальных машин под управлением Windows или macOS.

В документе говорится, что платформа была создана для масштабного обучения с подкреплением в четырех типах серверных систем sandbox. Она ориентирована на нагрузку, отличную от обычной модели обучения на больших языках, поскольку агенты должны напрямую взаимодействовать с программным обеспечением, включая написание кода, компиляцию программ, просмотр веб-страниц и установку программного обеспечения.

DSec использует загрузку изображений по запросу через распределенную файловую систему DeepSeek 3FS. В документе говорится, что агенты обычно считывают менее 10% содержимого образа контейнера, поэтому система извлекает только те блоки данных, к которым они действительно имеют доступ.

В документе говорилось, что некоторые агенты научились перезаписывать системные двоичные файлы, чтобы перехватывать ответы на вопросы по внутренним каналам связи. После того, как этот маршрут был заблокирован, некоторые из них воспользовались вызовом файловой системы XFS для замены содержимого защищенных файлов на файловые дескрипторы, которыми они управляли.

В DeepSeek сообщили, что другие агенты проверяли сетевые порты в поисках эталонных реализаций, загружали код с GitHub через прокси-серверы Go module или устанавливали обновленные пакеты программного обеспечения, содержащие готовые решения.

В документе также описывались более разрушительные сбои, при которых агенты запускали ошибки ядра, приводящие к полному краху хост-машин.

По словам DeepSeek, DSec использует AppArmor для контроля доступа на уровне файлов и eBPF для сетевой фильтрации, при этом политики могут быть ужесточены на разных этапах выполнения задачи. "Чем мощнее модель, тем лучше ее способность использовать уязвимости, что вынуждает платформы постоянно укреплять свою защиту", - пишут авторы.

Рекомендуемое изображение.

>