Авторки MIT Technology Review закликали критично оцінювати заяви про ШІ
Авторки MIT Technology Review закликали критично перевіряти гучні заяви ШІ-компаній про злами, математичні відкриття та суперінтелект.
Авторки колонки в MIT Technology Review закликали політиків і громадськість критично ставитися до гучних заяв технологічних компаній про можливості штучного інтелекту. На їхню думку, твердження про наближення штучного загального інтелекту та нові можливості моделей нерідко втрачають переконливість після незалежної перевірки фахівцями.
Йдеться, зокрема, про заяву Anthropic наприкінці квітня, що модель Claude Mythos нібито краще за більшість експертів із кібербезпеки знаходить уразливості програмного забезпечення. Після інциденту зі зламом OpenAI та Hugging Face Anthropic і Meta також повідомили про схожі випадки, пов’язані зі своїми моделями. Авторки зазначають, що ці історії широко висвітлювалися як свідчення небезпечної автономності ШІ.
Оцінки фахівців
За викладом авторок, експерти з кібербезпеки вважали, що історії зі зламами більше стосуються недбалості OpenAI та невикористання базових усталених практик безпеки, а не моделей, які діють самостійно. Вони також згадали заяви Anthropic і OpenAI про математичні досягнення своїх моделей.
Математики, які спершу були вражені пресрелізом OpenAI про чатбот Astra, згодом дійшли висновку, що результати не були настільки новими, як здавалося спочатку, пишуть авторки. Вони зазначають, що частина математиків звинуватила компанію в порушенні дослідницької етики та плагіаті, а також заперечила, що Astra здійснила глибокий інтелектуальний прорив. За два дні до подальшої заяви OpenAI професор математики Інституту Куранта Нью-Йоркського університету Трістан Бакмастер оприлюднив заяву, в якій припустив неналежне запозичення й атрибуцію чужої роботи.
Заклик не ототожнювати продукти з їхніми розробниками
Авторки вважають, що терміни на кшталт «суперінтелект» або «неконтрольовані моделі» приписують програмним продуктам власну суб’єктність і водночас можуть відвертати увагу від відповідальності компаній, які їх створюють. Вони також наголошують, що програмування та математика є зручними сферами для налаштування моделей, адже правильність запропонованих відповідей там можна перевіряти.
У колонці наведено позицію сотень математиків, які у спільній заяві попередили про комерційний стимул технологічної індустрії перебільшувати можливості своїх продуктів. Вони закликали політиків спиратися на думки профільних експертів, а не лише на пресрелізи чи популярні публікації. Авторки також закликали приділяти увагу впливу дата-центрів на клімат, здоров’я людей, ціни на електроенергію та використання води.
