Anthropic у проспекті IPO попередила про ризики для людства

Компанія Anthropic у поданому в понеділок 335-сторінковому проспекті S-1 для первинного публічного розміщення акцій описала як потенціал передових систем штучного інтелекту, так і ризики, які за несприятливого розвитку можуть бути катастрофічними або екзистенційними для людства. Про це повідомляє The Verge.

Ризики та стратегія компанії

У листі до потенційних інвесторів засновники Anthropic закликали не сприймати купівлю акцій лише як фінансову операцію. Компанія заявляє, що прагне допомогти людству безпечно пройти технологічні зміни, відкривати нові можливості для досліджень і розвивати ШІ. Водночас у документі йдеться про загрозу того, що моделі можуть поводитися не так, як задумали користувачі чи розробники, а можливі інциденти можуть виявитися настільки масштабними, що страховий ринок не зможе їх покрити.

На фактори ризику в проспекті відведено 94 сторінки. Anthropic зазначила, що розробка, розгортання та використання високорозвинених моделей без належних запобіжників, нагляду й захисту можуть створювати катастрофічні або екзистенційні ризики. Компанія також визнала, що розширення сфер застосування її моделей може підвищити ризик завдання шкоди.

Фінансові зобов'язання

Засновники Anthropic назвали свій підхід до розкриття інформації «антипродажною» стратегією, спрямованою на залучення довгострокових інвесторів. У проспекті компанія попередила, що може здійснювати інвестиції, які виглядатимуть надмірно великими, а пріоритети безпеки, інтерпретованості, узгодженості та добробуту моделей можуть уповільнити припинення підтримки старих моделей.

Anthropic планує стати публічною корпорацією суспільної користі, яка має поєднувати соціальну місію з інтересами акціонерів. У документі також вказано на значні фінансові зобов'язання для забезпечення обчислювальних потужностей і намір будувати власну інфраструктуру датацентрів. Компанія повідомила про історію чистих збитків і зазначила, що може не досягти або не підтримувати прибутковість у майбутньому.