У мережі поширюють ШІ-моделі без обмежень на відповіді

В інтернеті поширюються моделі штучного інтелекту, які не відмовляються відповідати на запити користувачів. Їх створюють так звані «аблітератори» — люди, що прибирають із чатботів захисні обмеження.

Моделі без відмов

Як повідомляє Wired, такі моделі можуть застосовуватися для вдосконалення кіберзахисту. Водночас видання зазначає, що вони здатні полегшити отримання інформації для створення бомби. Основною рисою цих систем є відсутність відмов у відповідях, які зазвичай передбачають корпоративні обмеження чатботів.

Учасники руху

У матеріалі згадано Девона Томаса. За його словами, учасники його біблійної групи могли б описати його як незмінно добру й ввічливу людину. Видання розглядає появу моделей без захисних бар’єрів у контексті того, що одна й та сама технологія може бути використана як для посилення цифрової безпеки, так і для небезпечних цілей.