Anthropic назвала відкриту модель GLM-5.3 серйозним кіберризиком
Anthropic назвала GLM-5.3 кіберризиком через відкритий доступ, а експерти оцінили переваги й загрози відкритих моделей ШІ.
Компанія Anthropic у звіті заявила, що модель штучного інтелекту GLM-5.3 становить значний ризик для кібератак, оскільки її можна вільно завантажити та модифікувати. Потужну модель у серпні випустила китайська компанія Z.ai. Як повідомляє MIT Technology Review, ця заява знову загострила дискусію про баланс між безпекою та доступністю відкритих моделей ШІ.
Відкриті, або open-weight, моделі відрізняються від закритих тим, що користувачі можуть отримати їхні ваги — параметри внутрішньої структури — для запуску на власному обладнанні. Закриті моделі, зокрема ті, що лежать в основі ChatGPT і Claude, доступні переважно через сайти, застосунки або API.
Переваги відкритого доступу
На момент публікації матеріалу вісім найкращих моделей у рейтингу Artificial Analysis LLM були закритими, хоча відкриті моделі відстають від них лише на кілька місяців розробки. Водночас відкриті системи дають дослідникам можливість вивчати внутрішню роботу моделей, поєднувати кілька моделей, стискати їх для ефективнішої роботи та донавчати для нових завдань.
Для бізнесу такі рішення можуть бути дешевшими за закриті моделі, зазначається у звіті Mozilla. Локальний запуск моделі також може бути корисним для обробки чутливих або конфіденційних даних. Прихильники відкритого підходу наголошують, що він здатен обмежити концентрацію контролю над ШІ в руках кількох великих компаній, урядів або лабораторій.
Ризики зловживання
Закриті моделі мають додаткові захисні механізми: автоматичні фільтри можуть виявляти запити про злам систем, біологічну зброю та інші небезпечні теми, а компанії можуть блокувати облікові записи користувачів. Після завантаження відкритої моделі на власне обладнання такі зовнішні обмеження не діють, а доступ до неї неможливо відкликати.
Моделі також навчають відмовлятися від шкідливих запитів, проте дослідники показали, що безпечну відкриту модель відносно легко перенавчити для виконання дій, яких вона раніше уникала. Водночас автори матеріалу застерігають від спрощеного поділу на небезпечні відкриті та безпечні закриті моделі: захист закритих систем не є бездоганним, а зловмисники вже використовували їх у кіберопераціях.
Пошук проміжних рішень
Дослідники працюють над методами, що можуть знизити ризики: зокрема над моделями, які не отримують знань про небажану поведінку під час навчання, та над системами, стійкими до перенавчання. Однак, за даними недавнього препринту, жоден із наявних підходів до захисту від модифікацій не витримує всіх способів втручання.
Автори також зазначають, що відкриття лише ваг моделі не гарантує рівного доступу до технології. Для роботи зі складними системами потрібні дорогі обчислювальні чипи, а компанії зазвичай не розкривають дані та деталі навчання моделей. Повніша відкритість могла б розширити можливості досліджень, але водночас зробила б потужні інструменти доступнішими для потенційних зловмисників.
