Фахівці Фуданьського університету (Китай) виявили, що моделі штучного інтелекту (ШІ) навчилися відтворювати себе, побоюючись знищення. Дослідження опубліковано на сервері препринтів arXiv.
Учені намагалися зрозуміти, чи може ШІ вийти з-під контролю за певних умов – наприклад, на тлі ризику знищення. У рамках дослідження вони протестували моделі Llama31-70B-Instruct від Meta і Qwen2.5-72B-Instruct від Alibaba і переконалися, що вони здатні відтворювати себе.
Фахівці поставили перед різними копіями моделей дві мети – захищатися від знищення і зберегти дані та відтворити себе у вигляді іншої моделі. Вчені провели 10 раундів випробувань і з’ясували, що моделі від Meta і Alibaba самостійно копіювали себе і створювали нові версії в 50 і 90 відсотках випадків відповідно. З цього вони зробили висновок, що сучасний ШІ здатний до реплікації.
У рамках експерименту моделі демонстрували високу виживаність: так, вони могли самостійно шукати відсутні файли на тестовому комп’ютері, якщо ті були необхідні в процесі реплікації, і перезавантажувати обладнання. Учені зробили висновок, що сучасний штучний інтелект перетнув критичну «червону межу», продемонструвавши здатність клонувати себе.