Используя фотографии из соцсетей, нейросеть может сломать жизнь любому пользователю. В ходе эксперимента исследователи Arstechnica использовали нейросеть для создания 7 фотографий вымышленного пользователя соцсетей, которого эксперты назвали Джон. В сценарии ИИ Джон — учитель начальной школы. За последние 12 лет Джон публиковал фотографии, на которых он работает, отдыхает и проводит свои выходные. Эти изображения Джона использовались в качестве обучающих данных Используя эти 7 изображений, нейросеть научилась генерировать настоящий компромат на Джона. Она создала фото, на которых Джон: сидит полуголый в учебном классе; фотографируется с обнаженной порноактрисой; ходит в костюме клоуна; входит в состав экстремистской военной группировки; отбывает срок в тюрьме за незаконный оборот наркотиков. Сгенерированные фотографии Джона в различных «образах» Специалисты использовали нейросеть Stable Diffusion и метод обучения Dreambooth, чтобы научить ИИ создавать изображения Джона в различных стилях. Джон – несуществующая личность, но любой пользователь может повторить эксперимент, используя несколько фотографий (от 5 шт.) реального человека из соцсетей или даже стоп-кадры из видео. Процесс обучения ИИ занимает около 1 часа и является бесплатным, потому что работает на облачной платформе Google Cloud Platform. После завершения обучения генерация самих изображений заняла несколько часов — не потому, что они медленно генерируются, а потому, что из всех результатов нужно отсортировать множество неудачных изображений. Тем не менее, это намного проще и быстрее, чем рисовать реалистичное фото Джона в Photoshop с нуля. Синтезированные изображения не идеальны. Если внимательно присмотреться, знающий человек может распознать подделку. Но нейросети быстро развиваются и скоро смогут создавать изображения, которые будет невозможно отличить от реальных. На примере вымышленного Джона мы увидели, что даже со всеми своими недостатками нейросети могут сильно разрушить репутацию любого человека в соцсетях. Источник