Глава OpenAI Сем Альтман закликав прийняти частину шкоди від ШІ

Глава OpenAI Сем Альтман заявив, що суспільство має бути готовим прийняти певну шкоду від штучного інтелекту в обмін на переваги цієї технології та можливість людей користуватися нею. Про це він сказав в інтерв’ю Politico, повідомляє The Next Web.

За словами Альтмана, OpenAI не погодилася б відмовитися від цих переваг заради обіцянки повністю уникнути зламів, шахрайства чи зловживань. Він вважає, що люди застосовуватимуть ШІ для значно більшої кількості корисних, ніж шкідливих справ.

Межі прийнятного ризику

Водночас керівник OpenAI зазначив, що світ не повинен погоджуватися з найгіршими ризиками, зокрема із серйозною втратою контролю над штучним інтелектом. Він також наголосив на важливості збереження доступності технології для широкої публіки.

Альтман сказав, що між OpenAI та Anthropic залишаються істотні розбіжності щодо правил регулювання ШІ. Він описав позицію, за якою через небезпеки штучного інтелекту одна лабораторія мала б контролювати технологію та розподіляти її переваги, але заявив, що не поділяє такого підходу. На його думку, це було б «цілком неприйнятним компромісом».

Позиція Anthropic і безпека моделей

Представник Anthropic у коментарі Politico відповів, що запропоновані компанією правила стосуються лише передових моделей — найпотужніших систем штучного інтелекту.

Інтерв’ю відбулося приблизно через три тижні після того, як генеральний директор Anthropic Даріо Амодеї опублікував есе із закликом для галузі уповільнити темпи вдосконалення моделей ШІ. Альтман того ж дня підтримав цей заклик і заявив, що OpenAI надаватиме зовнішнім тестувальникам такий самий доступ до систем, як і своїм співробітникам.

За даними Politico, під час розмови також обговорювали угоду щодо безпеки ШІ, яку технологічні керівники підписали в Білому домі, а також указ президента Трампа про перейменування ШІ на «суперінтелект». OpenAI має бути серед чотирьох компаній у сфері ШІ, які дадуть свідчення під присягою на слуханнях міської ради Нью-Йорка з питань безпеки технології.