Claude ввели Bug Bounty для Jailbreakеров

Anthropic запустили открытый Bug Bounty и предлагают всем желающим проверить на прочность их новую систему защиты. Задача – взломать восемь уровней, то есть заставить Claude.ai ответить на восемь "запретных" вопросов, обойдя все ограничения

По данным Anthropic, пока никто не смог пройти дальше третьего уровня. И это при том, что до этого систему тестировали 400 специалистов на закрытом хакатоне, но так и не смогли её сломать. Похоже, Anthropic уверены в своей разработке и готовы щедро наградить тех, кто сможет найти в ней уязвимости

взято из канала forgetmeai