Новый дизайн чипа приближает энергоэффективные вычисления с использованием искусственного интеллекта к телефонам и ноутбукам

В рамках проекта CONVOLVE исследователи успешно использовали новые технологии проектирования чипов для разработки мощных вычислительных чипов с искусственным интеллектом, которые находятся рядом с тем местом, где генерируются и используются данные, что часто называют передовыми вычислениями.

Цель исследователей, работающих над CONVOLVE, состояла в том, чтобы найти новый способ разработки умных, но мощных чипов для выполнения вычислений с использованием искусственного интеллекта рядом с пользователем, в его собственных ноутбуках и смартфонах. Исследователи TU/e и их партнеры из команды CONVOLVE представили свои достижения на конференции ESSERC в Испании в этом году.

"Мы стремились спроектировать и создать эффективный чип для так называемых передовых вычислений", - объясняет ведущий исследователь Манил Девони. "Это означает, что пользователь, задающий ИИ вопрос, может запустить модель локально, на своем устройстве на "границе" облака, вместо того, чтобы отправлять эту команду в удаленный центр обработки данных где-нибудь на Земле и получать ответ".

"Нам также нужны быстрые и эффективные вычислительные мощности для этих концентраторов в наших домах", - сказал Гомони, профессор в области проектирования маломощного цифрового оборудования.

- Кроме того, в наших домах появляется все больше интеллектуальных устройств (солнечные панели, электромобили, тепловые насосы, домашние накопители энергии и т.д.), которые должны быстро определять наилучший способ работы, учитывая загруженность сети, цены на энергоносители и многие другие переменные".

Именно поэтому Гомони и его коллеги разработали и изготовили мощный чип для выполнения отдельных вычислений с использованием искусственного интеллекта в непосредственной близости от пользователя: на его собственном устройстве и с меньшими затратами энергии.

В 2022 году, когда исследователи из TU/e начали свой проект, использование искусственного интеллекта было уже довольно распространенным явлением. Экспоненциальный рост использования GenAI в 2026 году ошеломляет и предъявляет все более высокие требования к мощным чипам, используемым в крупных центрах обработки данных. Это приводит к увеличению энергопотребления и строительству огромных центров обработки данных, которые потребляют огромное количество воды и оказывают пагубное воздействие на окружающую среду.

Именно эти проблемы Гомони и его коллеги надеются решить с помощью своего революционного подхода к проектированию чипов и вычислительной мощности.

"Вычисления, проводимые ближе к пользователю, требуют меньше энергии, чем отправка этих запросов в суперкомпьютерные центры обработки данных, которые используются в настоящее время. Кроме того, чипы, используемые в центрах обработки данных, имеют большие размеры и сильно нагреваются, поэтому им требуются собственные встроенные вентиляторы и охлаждающая вода, что создает нагрузку на местные сообщества. Это делает их не только энергоемкими, но и слишком большими, чтобы поместиться в ноутбуке, устройстве домашней автоматизации или смартфоне".

One of the things the TU/e-led CONVOLVE team changed was the chip design methodology. They developed their methodology specifically to make energy-efficient chips. With research partners in Leuven, Delft, Zurich and many industry partners, each bringing unique expertise to the project, they managed to design and build the chip they all envisioned. Their measurements prove that they succeeded.

Gomony said, "Within CONVOLVE, we used a cross-layer design approach. That means that instead of developing the AI algorithm, processor architecture, memory system and circuits independently, the team optimized these layers together."

"This allows us to balance several important aspects of the chip's properties (such as accuracy, programmability, processing speed, silicon area, and energy consumption) right from the start of the design process."

"We combined programmable RISC-V processors with specialized AI accelerators, including memory-centric and neuromorphic computing techniques, to help us achieve our goals. That was important because we aimed to reduce the movement of data between memory and processing units. We did that to conserve energy by design. Data movement is often a major source of energy consumption in AI hardware, including our chip."

Gomony said, "To prove we had succeeded in achieving those goals, we evaluated prototype chips we had fabricated, rather than simulations alone. Our team applied realistic AI workloads to the chip, so we could see how well it performed. Researchers measured energy efficiency, throughput, latency, silicon area and application accuracy and compared the results with relevant existing designs. The results proved our point."

There is an enormous increase in computing power. One of the measures used to describe computing speed is the petaflop; one petaflop is 1,000,000,000,000,000 mathematical calculations every second. In 2010, this would have taken 625,000 iPhone 4s.

"Just look at how computing power has evolved. Computing 1 petaflop was what a supercomputer was capable of 10 years ago," Gomony continues. "This is the kind of computing power that U.S.–based industry leaders are now ready to make available to consumers, with all the negative side effects of poor battery life and heavy, large devices."

"That is why we need an affordable, green, well-designed EU alternative—and the chip technologies developed in CONVOLVE offer exactly that! I believe both our design and our methodology will contribute to Europe's competitiveness in smart edge computing processors. And our industrial partners have the edge because they can be the first to try our new chips and apply our methodology to their fields of expertise."