Google у своєму блозі прокоментувала помилкові та небезпечні відповіді своєї нейромережі Gemini. Відповідальність за це розробники переклали на користувачів.
Для навчання Gemini Google використовує інформацію з контенту на сайтах, з пошукової видачі. Технологія AI Overview, яка і формує відповіді, не була достатньо навчена для безперебійної видачі релевантних відповідей. До того ж Gemini не розпізнає іронію.
З цієї причини користувачі й отримували дивні та безглузді відповіді, оскільки нейромережа шукала дані, зокрема на сайтах із сатирою. Проте в Google вважають, що, незважаючи на справді абсурдні на той час поради, скріншоти з багатьма по-справжньому небезпечними відповідями були сфабриковані. За логікою розробників, Gemini не могла порадити залишати в машині собаку або доводити користь куріння під час вагітності.
Тому в Google вважають, що ажіотаж навколо помилок Gemini був створений штучно. Але все ж розробники нейромережі впровадили «фільтри» для розпізнавання контексту безглуздих запитів, на які заздалегідь неможливо дати відповідь, сатири та іронії.