Новый метод позволяет использовать искусственный интеллект в критических для безопасности ситуациях

Исследователи Массачусетского технологического института разработали новую методику, которая помогает моделям искусственного интеллекта находить решения сложных задач.

В таких условиях правдоподобного ответа недостаточно: выходные данные часто также должны удовлетворять не подлежащим обсуждению требованиям безопасности, физическим требованиям или требованиям, связанным с конкретной задачей, известным как жесткие ограничения.

Исследователи разработали метод, который помогает генерирующим моделям соответствовать этим строгим требованиям без ущерба для качества их результатов.

Суть их метода заключается в том, чтобы предоставить модели больше свободы в процессе генерации и наложить жесткие ограничения на конечный результат, а не на каждом промежуточном этапе.

В экспериментах, охватывающих робототехнику, управление физическими процессами и компьютерное зрение, новый метод неизменно удовлетворял требуемым ограничениям, выявляя лучшие решения, чем существующие методы.

Этот адаптируемый метод "подключи и работай" работает во время развертывания, поэтому его можно применять к предварительно обученным генеративным моделям без их переобучения. Это может сделать такие модели более полезными в приложениях, где правила безопасности, физические законы или другие строгие требования не могут быть нарушены.

"Потенциал генеративного ИИ заключается в его способности исследовать обширное пространство возможностей, но реальный мир устанавливает границы, за которыми возможности являются приемлемыми. Наш подход позволяет нам сохранить эту производительную силу, обеспечивая при этом выполнение не подлежащих обсуждению требований, предъявляемых к приложениям с высокими ставками или критически важным для безопасности", - говорит Навид Азизан, доцент кафедры развития карьеры Альфреда Х. и Джин М. Хейс на факультете машиностроения и Института данных, систем и общества (IDSS), исследовательского центра по развитию карьеры. главный исследователь Лаборатории информационных систем и систем принятия решений (LIDS) и старший автор статьи по этому методу.

К Азизану в работе присоединились ведущий автор Зеянг Ли, аспирант кафедры машиностроения и LIDS, и Кавех Алим, аспирант кафедры IDSS и LIDS. Исследование опубликовано на этой неделе в журнале IEEE Transactions по анализу моделей и машинному интеллекту.

Свобода исследования

В настоящее время широко доступны предварительно обученные генеративные модели искусственного интеллекта, такие как диффузионные модели, такие как Stable Diffusion, и модели согласования потоков, такие как FLUX. Эти мощные модели позволяют создавать новые данные путем преобразования случайного шума. Их доступность позволила людям адаптировать их к широкому спектру приложений.

Эти высокопроизводительные модели превосходно справляются с решением большинства задач, но в таких критически важных для безопасности приложениях, как планирование траектории движения робота в переполненных производственных помещениях, "почти правильного" ответа может оказаться недостаточно.

Например, "почти правильный" переход от одной машины к другой все равно может привести к столкновению робота с коллегой-человеком.

В таких критически важных с точки зрения безопасности приложениях пользователи часто используют методику, называемую выборкой на основе прогнозов, которая многократно заставляет частичные решения модели, называемые промежуточными выборками, удовлетворять строгим требованиям в процессе генерации.

But constraining the entire generation process can prevent the model from reaching a better final solution. These methods also typically focus only on satisfying the hard constraints, missing the opportunity to improve other qualities of the solution, like reducing the length of the robot’s trajectory.

"For constraint satisfaction, what ultimately matters is the model’s final output, since the internal process is discarded. By not requiring every intermediate step to satisfy the constraints, we give the model more freedom to find high-quality solutions that are still feasible in the end," says Li.

The researchers developed an algorithm called HardFlow that steers the sampling process so that the final output satisfies the user’s hard constraints without being overly restrictive and is of higher quality.

Subtle steering

HardFlow reformulates hard-constrained sampling as a trajectory-optimization problem, using tools from the field of optimal control. This enables the framework to steer the model’s sampling trajectory toward a goal, making subtle corrections along the way while enforcing hard constraints on the final output.

"Control theory gives us a powerful framework for formalizing the optimal way of making these corrections," Azizan says.

But solving the trajectory-optimization problem around an enormous neural network was no easy task. The model may have hundreds of interconnected layers that process data.

To make the problem tractable, the researchers leveraged the structure of flow-matching models to decompose the problem into a sequence of smaller, single-step subproblems. They then applied systematic transformations and approximations to derive an efficient, scalable algorithm that still finds a feasible solution.

"Essentially, we transformed the trajectory-optimization problem into something that preserves the key properties of the original problem, but can be solved very efficiently at deployment time," Azizan adds.

Reformulating the task as an optimization problem allows HardFlow to incorporate additional goals that can improve the quality of the final answer. For instance, HardFlow could find a collision-free path for a robot that is also the shortest distance to its goal.

"Our framework can jointly handle both aspects, which helps it perform much better than existing methods," says Li.

Across experiments in robotic manipulation, maze navigation, and text-guided image editing, HardFlow achieved perfect constraint satisfaction while consistently outperforming baseline methods on measures of solution quality.

For example, it enabled a robotic manipulator to avoid collisions with obstacles while also finding the quickest path to the target object. Most other methods either resulted in collisions or found paths that took significantly more time.

In addition, HardFlow’s computation time was comparable to or lower than that of most competing methods.

In the future, the researchers could extend the framework to settings in which the AI model itself can also be updated, so that constraint satisfaction and sample quality can be improved in a more adaptive manner.

>