Как показало расследование ВВС, для создания изображений авторы используют Stable Diffusion - программное обеспечение с искусственным интеллектом, которое помогает создавать изображения для использования в искусстве или графическом дизайне. Для этого программе достаточно описания пользователя.
Журналисты выяснили, что программа используется для создания реалистических изображений сексуального насилия над детьми, в том числе изнасилования детей раннего возраста и младенцев. Изображения рекламируют с помощью хештегов на таких платформах, как японский вебсайт для обмена изображениями Pixiv, а оплатить желаемый контент можно даже на Patreon*.
Представитель Pixiv сказал, что компания уделяет усиленное внимание решению подобной проблемы. Он также заверил, что запретил все реалистические изображения сексуального контента с участием несовершеннолетних. В Patreon же говорят, что придерживаются политики "нулевой толерантности" к подобному контенту и заверяют, что удалили огромное количество таких материалов.
Результаты исследования шокируют - изображения жестокого обращения с детьми создают в "промышленных масштабах", местами до тысячи в месяц. Комментарии пользователей к некоторым изображениям в Pixiv неоднозначно демонстрируют, что у них имеется сексуальный интерес к детям. А некоторые предлагают предоставить им реальные видео и изображения жестокого обращения с маленькими детьми.
В правительственном агентстве по разведке, безопасности и кибернетике Великобритании говорят:
"Преступники, занимающиеся сексуальным насилием над детьми, перенимают все технологии, и некоторые эксперты считают, что будущее материалов о сексуальном насилии над детьми зависит от контента, созданного ИИ".
Эксперты по защите детей заявляют, что они не могут противостоять тысячам «изображений сексуализированного насилия над детьми, созданных искусственным интеллектом», которые легко и быстро создаются и распространяются на темных форумах педофилов, сообщает The Washington Post. Этот «взрыв» пугающе реалистичных изображений может способствовать нормализации сексуализированного насилия над несовершеннолетними, привлечь настоящих детей в ловушку и затруднить работу правоохранительных органов по поиску реальных жертв, заявили эксперты.
А пока искусственный интеллект продолжает стремительно развиваться, и на первый план выходят вопросы будущих рисков, которые он способен представлять для конфиденциальности, прав и безопасности людей.
*Patreon — веб-сайт, на котором авторы творческих произведений могут распространять свои работы по платной подписке или предоставлять дополнительный контент для своих подписчиков.
https://www.youtube.com/watch?v=4XWwcP_ProE
