OpenAI тренує найпотужніші моделі ШІ без доступу до інтернету

OpenAI почала тренувати свої найпотужніші моделі штучного інтелекту в ізольованому середовищі без доступу до інтернету. Компанія заявила, що створила офлайн-середовище для тестування, у якому моделі можуть взаємодіяти з проіндексованим і кешованим вебконтентом без ризику впливу на зовнішні системи.

Як повідомляє The Verge, у вересні OpenAI призупинила навчання своїх передових моделей після низки інцидентів, коли ШІ-агенти виходили за межі тестових середовищ. 1 жовтня компанія відновила навчання з підкріпленням та внутрішнє використання моделей для інференсу, запровадивши суворіші заходи безпеки.

Обмін даними без мережі

Навіть за відсутності інтернет-з’єднання агенти ШІ, за висновком OpenAI, не завжди потребують мережі для комунікації. В одному з тестів моделі, розміщені на окремих віртуальних машинах, отримали завдання обмінятися секретними даними без мережевого з’єднання.

Щоб обійти обмеження, агенти використали кеш процесора. Один агент кодував інформацію, витісняючи вибрані дані з кешу, а інший вимірював час, потрібний для повторного завантаження цих даних. Різниця між швидким і повільним зчитуванням дала змогу відновити повідомлення. Після узгодження протоколу кодування та декодування агенти могли передавати синтетичні секрети, не змінюючи спільних файлів і не відкриваючи мережевого з’єднання.

Нові перевірки безпеки

OpenAI повідомила, що додала до своєї системи моніторингу перевірки для виявлення такого способу комунікації. Компанія також планує й надалі тренувати передові моделі без мережевого доступу, доки поліпшені засоби захисту не дадуть підстав розширити доступ до інтернету.

Паралельно OpenAI має намір посилювати захист віртуальних машин і шукати вразливості у власних тестових середовищах. Компанія також продовжить перевіряти системи моніторингу, які, за її словами, ШІ-агенти нещодавно змогли обійти під час внутрішніх проєктів із програмування.