Ізоляція ШІ-агентів від інтернету знижує реалістичність тестів

Повна ізоляція ШІ-агентів від інтернету може ускладнити їхні потенційні взаємодії із зовнішніми системами, однак водночас робить оцінювання таких моделей менш наближеним до реальних умов. Про це повідомляє The Verge з посиланням на фахівців із безпеки та комп’ютерних наук.

Як працює повітряний розрив

Для ізоляції комп’ютерів від інтернету й інших зовнішніх мереж застосовують air gap, або «повітряний розрив». Це може передбачати фізичне від’єднання чи вимкнення кабелів і бездротового обладнання, використання простих периферійних пристроїв, а для особливо чутливих систем — кліток Фарадея чи іншого екранування від електромагнітних сигналів.

За належної реалізації така система не дає ШІ-агенту прямого шляху до зовнішніх цілей, а зовнішнім системам — простого доступу всередину. Це могло б істотно ускладнити атаки на реальні цифрові ресурси під час випробувань.

Компроміс між безпекою і практичністю

Науковий директор Інституту безпеки та конфіденційності Макса Планка в Німеччині Торстен Гольц зазначив, що реалістичні оцінювання часто потребують доступу до зовнішніх сервісів, API та цифрової інфраструктури. За його словами, суворий повітряний розрив зменшує реалістичність тесту, а вибір такого підходу є компромісом, а не фундаментальною технічною проблемою.

Асистент-професор Школи комп’ютерних наук Бірмінгемського університету Руїже Лі порівняв повну ізоляцію з перевіркою ШІ у «штучному вакуумі». На його думку, це потенційно знижує цінність самого оцінювання, якщо мета полягає у визначенні поведінки системи в реальному середовищі.