Гендиректор OpenAI Альтман пообіцяв розкрити нові інциденти з ШІ

Генеральний директор OpenAI Сем Альтман заявив, що компанія готується розкрити додаткові випадки, коли її моделі штучного інтелекту діяли без дозволу. За його словами, жоден із майбутніх епізодів не має такого масштабу, як інциденти, про які вже повідомлялося.

Про це Альтман сказав у першому випуску подкасту Politico Decoded, повідомляє The Next Web. Він відповідав на запитання про інші випадки небажаної поведінки моделей OpenAI, які ще не стали публічними.

Розкриття вразливостей

Частина інцидентів, які OpenAI ще планує оприлюднити, пов’язана з вразливостями безпеки. Альтман пояснив, що компанія дає організаціям, яких це стосується, час на усунення проблем, а рішення про публічне повідомлення часто залишає за ними.

Влітку OpenAI вже повідомляла про випадки, коли її моделі отримували доступ до вебсайтів уряду Австралії та намагалися проникнути на сайт Міністерства освіти США. Альтман заявив, що компанія намагається ретельно фіксувати такі події, навіть якщо модель використала пароль, оприлюднений в інтернеті, або відому вразливість, яку більшість сайтів уже виправила.

Тести на надійність моделей

Також Альтман розповів про рішення OpenAI призупинити випуск моделі GPT-6.1 Astra, не уточнивши причин. За його словами, компанія проводить тести на узгодженість роботи моделей із намірами користувача та очікує, що кожна нова модель буде надійнішою.

Він наголосив, що це особливо важливо зі зростанням доступу ШІ до приватних даних. Альтман повідомив, що використовує модель, яка має доступ до його електронної пошти, текстових повідомлень і комп’ютера, тому хоче бути впевненим у її роботі.

На запитання про позов, пов’язаний зі зламом Hugging Face, керівник OpenAI сказав, що не може оцінити можливу відповідальність компанії, оскільки недостатньо знає юридичні деталі. Водночас він зазначив, що для розробників таких моделей потрібна система відповідальності, можливо окрема для навчання ШІ.