За последние полтора года генеративный ИИ стал очень популярным. Все больше компаний хотят интегрировать GPT-4 или его альтернативы в свои продукты. Однако, без своего внимания развитие новой технологии не оставили и хакеры.
Для того, чтобы выявить раньше злоумышленников уязвимости в генеративном искусственном интеллекте разработчики обратились к сообществу белых хакеров. В августе в Лас-Вегасе прошла ежегодная конференция DEFCON, где был организован хакатон Generative Red Team Challenge.
Участники конференции могли попробовать свои силы в поисках уязвимостей в генеративном ИИ и даже получить за это призы.
Сообщается, что мероприятие привлекло около 2200 участников. На конференции были представлены различные задачи, связанные со взломом ИИ, и участникам предоставлялось 50 минут для их выполнения. В результате четыре лучших участника получили в качестве приза графический процессор NVIDIA RTX A6000.
