Musubi представила ШІ-модель для модерації контенту в реальному часі

Компанія Musubi представила PolicyLM-1.7B — легку ШІ-модель ухвалення рішень для модерації контенту в реальному часі. Ваги моделі оприлюднили у відкритому доступі. За даними TechCrunch, система має застосовувати правила, сформульовані звичайною англійською мовою, до повідомлень менш ніж за 50 мілісекунд.

Правила без нового навчання

PolicyLM-1.7B створили для роботи зі складними правилами модерації без спеціального донавчання під кожне з них. У Musubi стверджують, що модель за вартістю та швидкістю має бути подібною до систем класифікації, які використовують для модерації більшість соціальних платформ. Водночас архітектура сучасної великої мовної моделі, за задумом розробників, дає змогу інтерпретувати складніші політики.

Якщо правила змінюються, модель не потребуватиме нового навчання. Це має дозволити фахівцям, які формують політики платформи, змінювати їх у міру потреби. Співзасновник і головний фахівець Musubi зі штучного інтелекту Філіп Янкович зазначив, що продуктовим командам потрібне краще розуміння того, що відбувається на їхніх платформах, особливо через експоненційне зростання обсягу контенту.

Модель з бінарною відповіддю

Моделі ухвалення рішень замість генерації тексту повертають імовірності результатів. У випадку PolicyLM-1.7B результатом є бінарне рішення: належить контент до заданої категорії чи ні. Обмеження відповіді наперед визначеними варіантами, як зазначає видання, дає таким моделям змогу працювати швидше й дешевше за великі мовні моделі, зберігаючи гнучкість трансформерної архітектури.

Тема моделей ухвалення рішень стала помітнішою після виходу Jev від Typesafe AI у вересні, а згодом аналогічні моделі представили OpenAI та Amazon. Янкович сказав, що зацікавився цим підходом ще до Jev: він пов’язує його з проєктом GLiNER 2024 року, у якому застосовували схожі техніки для розпізнавання іменованих сутностей.