Искусственные подделки становятся все более реалистичными. Ученые разработали лучший способ их обнаружения

Прошлой осенью сотни ученых-компьютерщиков страны собрались на конференцию в Денвере, и Туан Тран устроил для них большой тест: смогут ли они отличить настоящего Брэда Питта от его версии, созданной искусственным интеллектом?

Тран, докторант по компьютерным наукам из Калифорнийского университета в Боулдере, прокрутил пленку на большом проекторе. Только половина аудитории смогла разглядеть подделку.

"Эти модели, генерирующие подделки, становятся очень эффективными", - сказал Тран.

Чтобы решить эту проблему, Тран и команда исследователей из Калифорнийского университета в Боулдере в прошлом году разработали собственную систему для обнаружения подделок на видео. Она использует гораздо меньше вычислительных мощностей для достижения тех же результатов, что и современные модели обнаружения.

Их результаты были представлены на SIGCOMM, ведущей конференции в области компьютерных сетей и систем, которая состоялась в августе в Денвере.

Злоумышленники использовали созданные с помощью искусственного интеллекта фальшивки, чтобы выдавать себя за финансовых директоров крупных компаний и убеждать сотрудников переводить крупные суммы денег. В результате одной из таких афер в Гонконге кто-то перевел мошенникам 25 миллионов долларов.

Миллионы людей остаются уязвимыми для такого обмана, когда они подключаются к видеоконференциям. Трэн сказал, что в Zoom, Apple FaceTime и Google Meet отсутствует функция обнаружения подделок в реальном времени. Microsoft Teams тоже работает, но недавно компания объявила о намерении начать ее предоставлять.

Имеющиеся в продаже системы, предназначенные для выявления самозванцев, требуют огромных вычислительных мощностей, что затрудняет их масштабирование и делает их слишком дорогими для большинства пользователей.

Команда Трэна решила выяснить, можно ли достаточно упростить процесс обнаружения подделок, чтобы его можно было внедрить в массы.

"Некоторые люди думали, что это невозможно из-за системных требований и текущей архитектуры", - сказал Сангтае Ха, профессор компьютерных наук в Калифорнийском университете в Боулдере, который возглавлял исследовательскую группу. "Но, взглянув на систему с другой стороны, вы действительно можете решить проблему".

The team spent many hours in front of a whiteboard deep inside CU's engineering center trying to crack the code and figure out a way to simplify deepfake detection. Sometimes they wouldn't go home until 1 a.m.

They worked through fall break, Christmas and even the new year.

"The experience itself was very joyful, even when it was intense," said Shirin Ebadi, a doctoral candidate in electrical and computer engineering and a co-author. "The most exciting part is doing something that's never been done."

She said existing deepfake detectors work well, but they need to see the actual picture to work. Video travels the internet in compressed form, so before a detector can examine a face, it has to reconstruct every frame of every participant's video at full resolution.

That takes a lot of computing power.

The researchers discovered they didn't need to reconstruct the video at all to spot deepfakes. The clues were already sitting in the compressed form of the video that travels over the network.

Imagine a video clip of a person speaking in front of a plain wall. Video compression doesn't send every pixel of every frame. Instead, it describes the changes that occurred since the frame before.

The wall barely changes in the video, so it's covered by a few large blocks of pixels, while the face and its shifting expressions are carved into many smaller blocks to capture the detail.

When someone's appearance changes abruptly, a compressor has to write down a lot of new information. The team measured how much of that new information lands on someone's face and how widely it's spread.

Crucially, the method reads these numbers directly from the compressed video without ever decompressing it to a higher resolution. Only when something looks suspicious does the detector ask the sender's device for a complete, fresh frame and use AI to check for a deepfake.

"We only had to look at data from one out of every 100 frames, instead of every frame," Ha said.

The team demonstrated that the detection system could spot deepfakes using 143 times less computing power than the existing models. They tested it on a library of 1,000 online videos containing deepfakes and reported near-perfect accuracy.

Eric Keller, an electrical and computer engineering professor at CU Boulder and a co-leader of the project, said the team wants to adapt the detection system so it can be scaled up and used for large-scale videoconferencing.

The team is betting that as deepfakes become a bigger problem, the demand for new detection technology will only grow.