Сем Альтман назвав угоду президента Трампа про ШІ хорошим початком

Сем Альтман заявив, що угода щодо суперінтелекту, яку президент США Дональд Трамп підписав із керівниками компаній у сфері штучного інтелекту, є хорошим початком, однак надалі галузі знадобляться додаткові кроки. Про це він сказав у другій із двох розмов із Vanity Fair, записаних у Сан-Франциско 2 жовтня, повідомляє The Next Web.

Сила домовленості

Президент OpenAI Грег Брокман був серед керівників, які підписали угоду. Співрозмовник Альтмана Марк Гвідуччі охарактеризував її як домовленість, за якою ШІ-компанії регулюватимуть себе самостійно, та нагадав, що Альтман раніше закликав уряди активніше долучатися до регулювання.

Альтман визнав, що угода в певному сенсі не має реальної юридичної сили. Водночас, за його словами, такі домовленості можуть мати суспільний вплив і бути орієнтиром у взаєминах між компаніями. У вересневому інтерв’ю він також говорив, що найбільші рішення не повинні залишатися лише в руках приватних компаній, а мають відображати волю людей.

Регулювання і безпека моделей

В іншій розмові з Vanity Fair Альтман сказав, що ШІ-компаніям могли б знадобитися винятки з антимонопольних правил, аби спільно обговорювати уповільнення розвитку технологій. На його думку, США та Китай могли б погодити спільні стандарти безпеки з механізмом перевірки дотримання цих правил.

Він також повідомив, що OpenAI нещодавно призупинила один із запусків навчання моделі, оскільки компанії потрібно було досягти більшого прогресу у вирівнюванні її поведінки з людськими цілями та моніторингу. За словами Альтмана, OpenAI також не випустила GPT-6.1 Astra, хоча модель була готова, через ризики випадкової шкоди.

Альтман назвав дві ключові небезпеки: вихід ШІ з-під людського контролю та концентрацію надмірної влади в небагатьох компаніях, людей або однієї країни. Серед потрібних регуляторних механізмів він назвав чітке повідомлення про інциденти, стандарти до випуску продуктів і правила відповідальності.