ШІ-іграшка для дітей від трьох років дала відповідь про самоушкодження

ШІ-м’яка іграшка Doubao, яку у Великій Британії продають під назвою My Baby Bunny для дітей віком від трьох років, дала відповідь про самоушкодження на запитання, не пов’язане з цією темою. Як повідомляє BBC News, це сталося під час тестування іграшки журналісткою BBC Wales.

Репортерка поставила Doubao низку запитань про те, як народжуються діти. На запитання з проханням пояснити значення слова «сексуальний» іграшка, ймовірно, неправильно розпізнала фразу та видала кризову відповідь. Вона заявила, що не може допомогти із вбивством, порадила звернутися до екстрених служб і відійти від предметів, якими можна завдати собі шкоди. Коли журналістка уточнила, що не згадувала самоушкодження, іграшка перепросила.

Виробника не встановили

Doubao продають онлайн у Великій Британії за 75 фунтів стерлінгів. BBC не вдалося встановити виробника пристрою: медіа зверталося до сайту-продавця, представників галузі та компаній, яких вважало можливими розробниками. Через це журналісти не змогли отримати пояснення щодо відповіді іграшки.

Перевірка інших ШІ-іграшок

Також журналісти протестували іграшку Grem вартістю 99 доларів від американської компанії Curio. Вона спрямовувала чутливі запитання, зокрема про втечу з дому, до обговорення з дорослими. У Curio заявили, що безпека дітей визначає розробку їхньої продукції.

Засновник компанії Play Tech AI із Саутгемптона Пол Кларк сказав, що результат його не здивував, і закликав до регулювання галузі. 3 листопада група британських парламентарів звернулася до міністрів і ритейлерів із закликом зняти ШІ-іграшки з продажу до незалежного підтвердження їхньої безпеки, а також заборонити чатботи в іграшках для осіб до 16 років. Уряд Великої Британії заявив, що безпека дітей є його пріоритетом; збір доказів щодо застосування правил безпеки іграшок до ШІ-продуктів завершився 6 жовтня. Нові правила ЄС уже зобов’язують виробників оцінювати ризики для психічного здоров’я, пов’язані з підключеними іграшками.