Nature закликав ШІ-компанії прозоро фіксувати внесок науковців
Nature закликав ШІ-компанії прозоро збирати дані користувачів і визнавати внесок науковців у дослідження.
Журнал Nature закликав компанії, що розробляють штучний інтелект, прозоро визначати правила збирання даних користувачів і належно визнавати внесок дослідників у наукові результати, отримані за допомогою ШІ. Видання пов’язало цю проблему з нещодавньою заявою OpenAI про розв’язання однієї з Проблем тисячоліття, що стосується рівнянь Нав’є — Стокса.
OpenAI заявила, що її результат показує можливість руйнування розв’язків цих рівнянь за певних умов. Компанія також повідомила, що висновок перевірили автоматизованим методом верифікації, який дедалі частіше застосовують для математичних доказів.
Заява математиків
За 12 годин до оголошення OpenAI математик Нью-Йоркського університету Трістан Бакмастер, який виступав також від імені математика компанії Anthropic Левента Альпоге, написав у соціальних мережах про частковий розв’язок проблеми. За його словами, отримати цей результат допомогли інструменти ШІ OpenAI та Anthropic.
Бакмастер припустив, що взаємодія дослідників з інструментами OpenAI, зокрема агентом Codex, могла мати важливе значення для досягнення компанії. OpenAI це заперечила. Nature зазначив, що через непрозорість нейромереж практично неможливо встановити, звідки саме модель отримала ідеї або підказки, які могли вплинути на наукове відкриття.
Пропозиції щодо захисту даних
Редакція пропонує технологічним компаніям перейти від моделі відмови до моделі явної згоди: за замовчуванням взаємодії користувачів не мають використовуватися для навчання моделей без їхнього дозволу. Також видання вважає необхідними незалежні перевірки внутрішніх процесів обробки даних, аби ШІ-агенти не обходили захист приватної інформації.
Університетам і дослідникам радять уважно визначати умови угод із технологічними компаніями та не завантажувати до чатботів рукописи, що перебувають на рецензуванні. Nature також закликав академічний і приватний сектори долучати ШІ-компанії до Лейденської декларації про відповідальне використання ШІ в математиці, яка передбачає відкриту науку, рецензування результатів і згадування матеріалів, використаних для навчання моделей.
