Как модели принятия решений с помощью искусственного интеллекта могут изменить модерацию контента
По мере того как модели принятия решений распространяются по всей отрасли, у компании Musubi появилась новая идея, как применить их на практике: модерировать контент. Во вторник компания Musubi анонсировала облегченную модель принятия решений для модерации в режиме реального времени под названием PolicyLM-1.7B, выпущенную с открытыми весами.
Идея состоит в том, чтобы взять политику в отношении контента, написанную простым английским языком, и применить ее к сообщениям менее чем за 50 миллисекунд. Модель Musubi разработана таким образом, чтобы быть похожей по стоимости и быстродействию на системы классификации ИИ, которые обеспечивают модерацию на большинстве социальных платформ, но поскольку она обладает гибкостью современного LLM, она может применять сложные политики без специальной подготовки. Что еще более важно, модель не будет нуждаться в новом обучении при изменении политики, что позволит специалистам, разрабатывающим политику, выполнять столько итераций, сколько им потребуется.
По мнению соучредителя Musubi и главного специалиста по искусственному интеллекту Филипа Янковича, это дает менеджерам платформ возможность проактивно маркировать контент.
"Разработчики просто хотят лучше понимать, что происходит на их платформе, тем более что объем контента растет в геометрической прогрессии", - говорит Янкович. "Возможность маркировать все это масштабируемым и настраиваемым способом чрезвычайно полезна".
Модели принятия решений стали актуальной темой в мире искусственного интеллекта с момента выхода в сентябре Jev от TypeSafe AI, за которым вскоре последовали конкурирующие модели принятия решений от OpenAI и Amazon. Вместо вывода текста модель принятия решений выводит вероятности исхода, хотя в данном случае модель выводит бинарное суждение: либо контент относится к категории, либо нет. Ограничивая выходные данные модели набором заранее определенных вариантов, модели принятия решений могут работать быстрее и дешевле, чем модели на больших языках, сохраняя при этом гибкость архитектуры transformer.
Одним из первых примеров использования является сдерживание плохого поведения агентов искусственного интеллекта, поэтому вполне естественно применить ту же технологию к плохому поведению человека.
Примечательно, что Янкович говорит, что его интерес к моделям принятия решений возник еще до Jev, и прослеживает его до проекта 2024 года под названием GLiNER (Универсальная модель распознавания именованных объектов), в котором использовались многие из тех же методов.
Тем не менее, Musubi не против такого сравнения. Во всяком случае, компания стремится использовать новый интерес к моделям принятия решений, чтобы пролить свет на модерацию контента. "Если Jev привлек ваше внимание, PolicyLM-1.7B - это такая же модель, разработанная специально для модерации контента, которую вы можете запустить самостоятельно", - говорится в анонсе продукта.
>