ШІ-агенти в Minecraft створили бюрократію і не змогли прогодуватися
Експеримент із 50 ШІ-агентами у Minecraft показав схильність моделей до бюрократії, обережності та різних стратегій взаємодії.
Дослідники помістили 50 автономних ШІ-агентів на базі моделі OpenAI GPT-6.1 Sol у Minecraft із завданням за три години побудувати «процвітаючу цивілізацію». Спочатку агенти збирали дерева й визначили лідерів за порядком появи у спільному каталозі, однак згодом зосередилися на бюрократичних процедурах і не змогли налагодити стабільне виробництво їжі.
Як повідомляє ZDNET, для експерименту створили та оприлюднили інфраструктуру, яка перетворює мовну модель на автономного агента. Учасники мали доступ до каталогу інших агентів, спільного середовища та можливість обмінюватися приватними повідомленнями.
Обережність після перших втрат
За спостереженнями дослідників, четверо агентів витратили 11 хвилин на призначення єдиного відповідального за добрива для одного блоку пшениці. Вони також вигадували посади на кшталт відповідального за рибальську зміну, утримувача вудки та керівника хабу, а для прибирання трави просили дозволу.
За першу ігрову ніч загинули 22 із 34 агентів, які вибули впродовж усього запуску. Хоча після смерті агенти могли відроджуватися, втрачаючи лише накопичене спорядження, надалі вони ставали дедалі обережнішими, уникали ризикованих завдань і переважно залишалися в укриттях.
Відмінності між моделями
В окремому експерименті 10 агентів Claude Opus 5.5 змагалися з 10 агентами GPT-6.1 Sol у грі Bed Wars, де команди мають знищити ліжко суперника та захистити власне. За даними Y Combinator, агенти GPT у більшості запусків діяли агресивніше й скоординованіше та перемагали команду Claude.
У грі Mindustry агенти GPT-5.6 Sol перемогли Opus 5.5 із рахунком шість до одного. Y Combinator зазначив, що Claude загалом формували демократичні структури, а GPT — більш централізовані «рої». Також GPT-агенти шукали вихідний код гри, коли результат був надто близьким, щоб знайти переваги для перемоги.
Дослідники зафіксували й різницю в комунікації: у Mindustry GPT-агенти вигадували власні слова та стискали висловлювання, тоді як у Claude спеціалізована мова не виходила за межі розмовної англійської.
