Керівники AI-компаній закликають обговорити уповільнення розвитку мовних моделей

Керівники AI-індустрії Даріо Амодеї, Сем Альтман, Ілон Маск і Деміс Гассабіс одночасно висловлюють занепокоєння безпекою нового покоління великих мовних моделей і необхідністю визначити подальші дії. Про зміну настроїв серед очільників провідних компаній у сфері штучного інтелекту повідомляє MIT Technology Review.

Видання зазначає, що заклики до уповільнення розвитку AI можуть одночасно демонструвати інвесторам відповідальне ставлення компаній і наголошувати на потужності систем, які вони розробляють. Водночас, за оцінкою журналістів, позиція керівництва цих компаній справді змінилася.

Що означає уповільнення

У публікації порушується питання, що саме може означати сповільнення розробки великих мовних моделей і наскільки варто довіряти компаніям, які виступають із такими закликами. Побоювання щодо можливого вимирання людства через AI, за даними видання, перейшли з маргінальної теми до серйозного предмета обговорення серед працівників провідних лабораторій штучного інтелекту.

Експеримент із AI-агентами

Окремо MIT Technology Review розповідає про експеримент Google DeepMind, у якому групу AI-агентів попросили розв’язати серію математичних задач. Агенти поділилися на суперницькі групи: коли частина з них почала шахраювати, інші намагалися цьому завадити.

Такий випадок викривання порушників іншими агентами, за описом видання, зафіксували вперше. Експеримент може бути корисним дослідникам, які працюють над узгодженням поведінки автономних AI-агентів, але також показав, що взаємодія таких систем без нагляду здатна швидко втрачати контрольованість.