Технология искусственного интеллекта сохраняет качество рекомендаций после удаления пользовательских данных

Исследовательская группа, возглавляемая главным научным сотрудником Санг-Чулом Ли из отдела нанотехнологий DGIST, разработала технологию искусственного интеллекта, которая автоматически идентифицирует группы пользователей, эффективность рекомендаций которых значительно ухудшается после удаления пользовательских данных, и выплачивает компенсацию.

Исследователь-бакалавр Юджин Джонг участвовал в качестве первого автора в исследовании, которое стало одной из 28 статей, отобранных для студенческого консорциума ACM KDD (KDD-UC '26) и было представлено на Чеджудо в августе.

В связи с недавним ростом спроса на защиту персональных данных внимание привлекла технология "машинного обучения", которая устраняет влияние пользовательских данных на уже обученную модель искусственного интеллекта, когда пользователь запрашивает их удаление.

Хотя это важнейшая технология для реализации "права быть забытым" в системах искусственного интеллекта, у нее есть ограничение: удаление данных конкретного пользователя может ухудшить качество рекомендаций для других пользователей.

Исследовательская группа сосредоточилась на том факте, что в рекомендательных системах, основанных на нейронной сети graph (GNN), некоторые пользователи играют структурную роль в объединении различных групп пользователей, и что удаление их данных может повлиять на эффективность рекомендаций окружающих пользователей.

Основываясь на этом наблюдении, команда предложила "Ada-Comp (адаптивная компенсация)", метод компенсации, который автоматически определяет группу пользователей, наиболее пострадавшую после удаления данных, и выборочно проводит дополнительное обучение для этой группы.

Это исследование имеет большое значение, поскольку оно расширило перспективу машинного обучения, перейдя от традиционного рассмотрения вопроса о том, "насколько эффективно была удалена информация пользователей, предназначенная для удаления", к рассмотрению вопроса о том, "как этот процесс влияет на других пользователей".

Команда предложила новый подход, который точно отражает процесс удаления персональных данных и в то же время предотвращает неожиданное снижение производительности из-за концентрации внимания на конкретных группах пользователей.

В частности, это достижение является значительным, поскольку исследования, проводимые под руководством студентов, стали международным результатом благодаря междисциплинарным исследованиям между студенческим и исследовательским подразделениями DGIST.

Jeong served as the first author, while Lee participated as the corresponding author, thereby linking undergraduate research with the experience of professional researchers.

"For trustworthy AI, it is important not only to delete personal data safely but also to ensure that the quality of service for other users does not deteriorate in the process," Lee said.

"We expect this study to present a new direction for reducing performance disparities among user groups that may arise after machine unlearning."