Журналіст створив ШІ-копії редакторів і зіткнувся з помилками та імітацією стилю
Експеримент із ШІ-копіями редакторів показав користь чатботів для дрібних завдань, але також їхні помилки та обмеження.
Журналіст провів експеримент зі створенням ШІ-копій двох редакторів, використавши платформу Gemini та обмежену добірку їхніх професійних матеріалів і листування. Чатботи частково відтворювали манеру спілкування людей, пропонували заголовки й ідеї для роботи, однак також вигадували факти, повторювали одні й ті самі формулювання та викликали негативну реакцію самих редакторів.
Як повідомляє Wired, для створення першого бота автор використав публічні матеріали про свого керівника Браяна Барретта: зокрема подкастові розшифровки, публічні біографічні дані та повідомлення про працевлаштування. Система сформувала для нього стилістичні інструкції та редакційне досьє, але помилково пов’язала його з вебсайтом іншої людини з таким самим ім’ям.
Імітація стилю і межі приватності
Для іншої ШІ-копії журналіст завантажив приблизно місяць листування у Slack із редакторкою Софі Клімен, вилучивши конфіденційні фрагменти. На основі понад 17 тисяч слів Gemini створив матеріали для налаштування чатбота. Ця версія точніше відтворювала окремі мовні звички редакторки: короткі повідомлення у нижньому регістрі та характерне звертання «big dog».
Бот також генерував дописи у стилі Софі Клімен, які, за словами автора, змогли ввести в оману кількох його друзів і колег. Водночас система вигадала неіснуючого керівника, а її відповіді містили грубіші характеристики колег, ніж ті, які використовувала реальна редакторка. Сама Клімен визнала, що бот нерідко переконливо її імітував, але вважала його помилки особливо неприродними.
Допомога в роботі та ризик помилок
Обидва боти часом пропонували співрозмовників для майбутнього матеріалу, допомагали редагувати повідомлення та добирати заголовки. Автор зазначив, що це дозволяло ставити дрібні запитання ШІ перед тим, як звертатися до редакторів із більш підготовленими пропозиціями. Проте згодом відповіді чатботів стали повторюваними, а після додавання архіву дописів із X бот Софі почав плутати нове інтерв’ю з цитатами з попередніх статей автора.
Генеральна директорка HR-компанії Lattice Сара Франклін застерегла від надмірного олюднення таких систем. Вона назвала антропоморфізацію ШІ маніпуляцією людськими емоціями. Дослідження Boston Consulting Group, згадане в матеріалі, встановило, що менеджери знаходили на 18% менше помилок у роботі, якщо вважали, що її виконав ШІ-співробітник, а не інструмент.
Після експерименту автор дійшов висновку, що такі системи поки не здатні замінити досвідчених редакторів: ідеї одного бота рідко були оригінальними, а інший часто галюцинував. Обидва редактори заявили, що не хотіли б працювати зі своїми цифровими копіями.
