Британія розширить використання ШІ для пошуку вразливостей у держсистемах
Велика Британія розширить програму пошуку вразливостей у державних системах за допомогою передових моделей ШІ.
Уряд Великої Британії розширить програму застосування передових моделей штучного інтелекту для пошуку вразливостей у власних цифрових системах. Влада також розгляне законодавчі вимоги щодо повідомлення про інциденти, пов’язані зі ШІ, та ризики втрати людьми контролю над такими системами.
Результати пілотних проєктів
Як повідомляє The Next Web, два пілотні проєкти допомогли виявити й усунути понад тисячу потенційних вразливостей. В одному з них за місяць щотижневих хакатонів знайшли 407 проблем у дев’яти державних організаціях. Витрати на токени для моделей становили 13 тисяч фунтів стерлінгів.
Команди використовували різні підходи: одна створила шестиступеневий ланцюжок агентів, де кожен етап перевіряв попередній; інша поєднала етапи роботи моделей зі звичайними сканерами; ще одна перетворила аудит сотень сервісів на п’ять навичок Claude.
Найсерйознішу проблему виявили у застарілих GitHub Actions у репозиторії, пов’язаному з ключовим державним сервісом. Спеціально сформований коментар до відкритого запиту на злиття міг дозволити виконати довільний код на машині збірки та отримати доступ до її секретів.
Нові правила для ризиків ШІ
Пакет заходів представили Канцелярія Кабінету міністрів, Інститут безпеки ШІ, Національний центр кібербезпеки та профільне відомство з питань культури. Міністр ШІ Канішка Нараян, який у липні став першим міністром із питань штучного інтелекту, що увійшов до складу кабінету, заявив про прагнення зробити Британію «однією з найскладніших для атак за допомогою штучного інтелекту країн світу».
Влада наголосила, що результати, згенеровані агентами, з’являлися швидше, ніж люди встигали їх перевіряти, а виявлення проблеми не тотожне її усуненню. Наступний етап програми передбачає перехід від публічних репозиторіїв до закритих державних систем.
Міністри також вивчатимуть можливість посилити законопроєкт про кібербезпеку та стійкість, щоб лікарні й комунальні служби були захищені від ризиків ШІ, зокрема від втрати контролю над системами. Окремо розглядатимуть механізми повідомлення про інциденти та небезпечні ситуації, яким вдалося запобігти.
