За останній рік генеративний ШІ став дедалі популярнішим, і багато компаній почали активно інтегрувати його у свої продукти.
Проте зловмисники також навчилися використовувати ці системи для створення фішингових листів, дипфейків та інших шахрайських дій. Більшість з ШІ-розробок взагалі виявилися вразливими. Їх цілком можна зламати, обійшовши захисні заходи.
Для виявлення вразливостей у генеративному штучному інтелекті розробники звернулися до хакерської спільноти. У серпні у Лас-Вегасі відбулася щорічна конференція DEFCON, де було організовано захід Generative Red Team Challenge.
Учасники конференції мали змогу протестувати вразливості у генеративному ШІ та отримати за це призи.
Повідомляється, що захід залучив близько 2200 учасників. На конференції були представлені різноманітні завдання, пов’язані зі зломом ШІ, та учасникам надавалося 50 хвилин для їх виконання. У результаті чотири найкращі учасники отримали як приз графічний процесор NVIDIA RTX A6000.
