Науковці обмежують використання ШІ через ризик втрати першості у дослідженнях

Науковці почали обережніше використовувати комерційні моделі штучного інтелекту через побоювання, що ШІ-агенти можуть випередити їх у дослідженнях або отримати доступ до неопублікованих ідей. Про це повідомляє Nature. Щонайменше двоє дослідників за останні п’ять тижнів заявили, що тривалий час працювали над науковими питаннями, а потім дізналися про оголошення результатів компаніями у сфері ШІ.

Дискусія навколо задачі Нав’є — Стокса

7 вересня математик Нью-Йоркського університету Трістан Бакмастер написав, що він і математик компанії Anthropic Левент Альпьоге протягом року займалися задачею Нав’є — Стокса — давньою відкритою проблемою гідродинаміки. У дописі Бакмастер також оприлюднив статтю з розв’язанням простішої версії задачі.

Наступного дня OpenAI заявила, що її агенти розв’язали цю проблему. Бакмастер публічно поставив під сумнів такий збіг у часі та припустив, що інформація, завантажена ним і Альпьоге до інструменту OpenAI, могла бути використана для навчання моделей. OpenAI це заперечила: за заявою компанії, перевірка встановила, що запити Бакмастера за два місяці до оголошення не могли вплинути на систему, зокрема через навчання. Компанія також заявила, що її дослідники й агенти не бачили роботи математиків до її публічного оприлюднення.

Обережність із неопублікованими даними

Через два тижні Anthropic повідомила, що агенти на базі її мовної моделі Claude виявили у деяких вірусах повторювані сегменти ДНК, схожі на патерни в системах редагування генів CRISPR. Аспірант із обчислювальної біології Копенгагенського університету Маріо Родрігес Местре розповів The New York Times, що кілька років вивчає такі самі патерни, часто використовуючи Claude, але ще не публікував свою роботу. Він також припустив, що завантажені його командою дані могли бути включені до навчальних даних моделі. Anthropic заявила, що Claude не навчали на користувацьких стенограмах.

Репродуктивна епігенетикиня Мюнстерського університету Сандра Лаурентіно сказала, що тепер застосовує ШІ лише для пошуку помилок у коді та замінює назви параметрів і змінних на загальні позначення. Науковець із когнітивної науки слуху Оклендського університету Семюел Мер створив для своєї лабораторії правила, які забороняють студентам завантажувати захищену інформацію до комерційних мовних моделей і застерігають від використання таких систем на будь-якому етапі дослідження.