NVIDIA заявляет, что медленные процессоры могут заставить графические процессоры искусственного интеллекта ждать

NVIDIA утверждает, что агентам искусственного интеллекта требуются более быстрые отдельные процессорные ядра, утверждая, что сосредоточенность отрасли на увеличении количества ядер и разработке чиплетов привела к снижению производительности однопоточных систем.

Команда разработчиков Vera рассказала Wccftech в интервью, что изменения произошли за счет увеличения количества команд на цикл, или IPC, и оставили меньше места на чипе для функций, повышающих производительность каждого ядра.

Процессор NVIDIA Vera предназначен для объединения более быстрых отдельных ядер с высокой пропускной способностью центров обработки данных. Он содержит 88 пользовательских процессорных ядер Olympus на одном монолитном вычислительном кристалле и пользовательскую подсистему памяти LPDDR5X.

Компания NVIDIA заявляет, что масштабируемая технология Coherency Fabric второго поколения от Vera обеспечивает пропускную способность до 3,4 терабайт в секунду, что в три раза больше, чем у ведущих чипов x86. Размещение ядер на одном вычислительном кристалле позволяет избежать взаимодействия между отдельными чиплетами.

Аргументы компании основаны на последовательности работы, выполняемой агентами ИИ. Агент может выполнять код, вызывать внешние инструменты, извлекать информацию, анализировать результаты и решать, что делать дальше. Некоторые задачи могут выполняться параллельно, но другие должны быть завершены до начала следующего этапа анализа или выполнения.

NVIDIA утверждает, что высокая производительность в однопоточном режиме и низкая задержка позволяют агентам выполнять эти последовательные шаги быстрее. В NVIDIA утверждают, что agentic AI требует лучшего баланса между количеством ядер и скоростью на одно ядро, чтобы процессоры могли идти в ногу с графическими процессорами.

Процессору требуется слишком много времени для подготовки задачи или обработки выходных данных агента, что может привести к простою графического процессора в ожидании инструкций. Добавление процессорных ядер не обязательно устраняет это узкое место, если отдельные задачи остаются медленными.

Производители микросхем перешли на использование чиплетов по мере расширения облачных центров обработки данных и роста спроса на процессоры, способные обрабатывать большее количество рабочих нагрузок одновременно. Разделение процессора на несколько блоков меньшего размера вместо его сборки на одном кристалле большего размера помогло им увеличить количество ядер.

Команда NVIDIA Vera утверждает, что перемещение данных между кристаллами может привести к задержкам обмена данными и усложнить доступ к памяти, что потенциально снижает производительность однопоточной системы. Ее критика касается акцента на количестве ядер, а не на том, что чиплеты по своей сути не подходят.

Компания заявляет, что остается открытой для разработки чиплетов, если они имеют смысл. Это также не означает, что графические процессоры станут менее важными по мере изменения требований к процессорам.

Процессор Grace от NVIDIA в основном используется в системах на базе графических процессоров. В отличие от этого, компания заявляет, что agentic AI создает спрос на автономные процессорные стойки для обработки вызовов инструментов, выполнения кода и обучения с подкреплением.

Рекомендуемое изображение предоставлено

>