За останні півтора року генеративний ШІ став дуже популярним. Дедалі більше компаній хочуть інтегрувати GPT-4 або його альтернативи у свої продукти. Однак, без своєї уваги розвиток нової технології не залишили та хакери.
Для того, щоб виявити раніше за зловмисників вразливості в генеративному штучному інтелекті розробники звернулися до спільноти білих хакерів. У серпні в Лас-Вегасі відбулася щорічна конференція DEFCON, де було організовано хакатон Generative Red Team Challenge.
Учасники конференції могли спробувати свої сили в пошуках вразливостей у генеративному ШІ та навіть отримати за це призи.
Повідомляється, що захід залучив близько 2200 учасників. На конференції були представлені різні завдання, пов’язані зі зломом ШІ, та учасникам надавалося 50 хвилин для їх виконання. У результаті чотири найкращі учасники отримали як приз графічний процесор NVIDIA RTX A6000.
