Відкриті ШІ-моделі дають більше контролю, але посилюють кіберризики
MIT Technology Review пояснює, які переваги й кіберризики пов’язані з відкритими моделями штучного інтелекту.
Відкриті моделі штучного інтелекту дають дослідникам, компаніям і користувачам змогу завантажувати, змінювати та запускати системи на власному обладнанні, однак водночас можуть полегшувати зловмисникам доступ до інструментів для кібератак. Про ключові переваги й ризики такого підходу повідомляє MIT Technology Review.
Наприкінці вересня компанія Anthropic оприлюднила звіт, у якому назвала модель GLM-5.3 значним ризиком для кібератак. Її випустила у серпні китайська компанія Z.ai, а ваги моделі доступні для завантаження та модифікації. Це стало черговим епізодом дискусії про те, чи мають потужні системи ШІ бути відкритими, чи залишатися доступними лише через сервіси розробників.
Що дають відкриті моделі
Закриті моделі, зокрема ті, що використовуються в ChatGPT і Claude, доступні через сайт, застосунок або API. Відкриті моделі, або моделі з відкритими вагами, можна безпосередньо завантажити. Це дозволяє запускати їх локально, перенавчати та адаптувати для окремих завдань за наявності потрібних технічних ресурсів.
Для науковців відкритий доступ означає можливість вивчати внутрішню роботу моделей, об’єднувати кілька систем, стискати їх для ефективнішої роботи й донавчати для нових застосувань. Бізнес може обирати такі моделі через нижчу вартість або для обробки конфіденційних і корпоративних даних на власному обладнанні.
Прихильники відкритого підходу також вважають його способом обмежити концентрацію контролю над ШІ в руках невеликої кількості компаній і урядів. Водночас співзасновник Ghana NLP Пол Азунре звернув увагу, що компанії можуть використовувати розробки спільнот, а потім інтегрувати їх у власні продукти без визнання чи компенсації авторам удосконалень.
Безпекові обмеження
Закриті моделі мають автоматичні фільтри для запитів, пов’язаних із хакерством, біологічною зброєю та іншими ризиками, а компанії можуть блокувати облікові записи користувачів. Для локально завантаженої моделі такі механізми контролю не працюють: перевірки запитів немає, а доступ до вже отриманої моделі неможливо відкликати.
Моделі також навчають відмовлятися від небезпечних запитів, проте дослідники показали, що безпечну відкриту модель відносно легко перенавчити для обходу таких обмежень. Водночас закриті системи теж не є повністю захищеними від зловживань: у звіті Anthropic ішлося про масштабні хакерські операції за сприяння Claude.
Прихильники відкритих моделей зазначають, що їх можна ширше застосовувати для кіберзахисту, зокрема для пошуку вразливостей у власному програмному забезпеченні. Дослідники також працюють над моделями, стійкими до перенавчання, однак жоден із нинішніх підходів, за даними згаданого препринту, не захищає від усіх способів втручання.
Автори матеріалу наголошують, що відкритість ваг сама по собі не гарантує рівного доступу до ШІ: для запуску складних моделей потрібні дорогі обчислювальні чипи. Повніша відкритість тренувальних даних і обладнання могла б розширити можливості користувачів, але водночас підвищила б ризики зловживань.
