Педофилы используют технологию искусственного интеллекта для создания и продажи реалистических материалов о сексуальном насилии над детьми, сообщает BBC.
Некоторые из них получают доступ к изображениям, оплачивая подписку на аккаунты на популярных сайтах обмена контентом, таких как Patreon.
Patreon заявил, что придерживается политики «нулевой толерантности» к таким изображениям на своем сайте.
Национальный совет руководителей полиции заявил, что это возмутительно, что некоторые платформы получают огромную прибыль, но не берут на себя моральную ответственность.
А GCHQ, правительственное агентство по вопросам разведки, безопасности и кибербезопасности, отреагировало на отчет, заявив: «Преступники, которые совершают сексуальное насилие над детьми, используют все технологии, и некоторые считают, что будущее материалов с изображениями сексуального насилия над детьми лежит в плоскости контента, созданного искусственным интеллектом».
Педофилы используют программное обеспечение с ИИ под названием Stable Diffusion, предназначенное для создания изображений для использования в искусстве или графическом дизайне. Оно создает изображение по описанию и словесным подсказкам.
Британская полиция, которая расследует случаи насилия над детьми в Интернете, заявляет, что сталкивается с таким контентом.
Руководитель Национального совета начальников полиции (NPCC) по вопросам защиты детей Ян Критчли заявил, что было бы неправильно утверждать, что поскольку на таких искусственных изображениях не были изображены реальные дети, то никто не пострадал.
Он предупредил, что педофил может «двигаться по этой шкале преступлений от мыслей к искусственным изображениям, к фактическому насилию над реальным ребенком».
Некоторые авторы публикуют свои работы на популярной японской социальной платформе Pixiv, которая в основном используется художниками манги и аниме.
Представитель Pixiv заявил, что компания уделяет большое внимание решению этой проблемы. Компания заявила, что 31 мая запретила все фотореалистические изображения сексуального содержания с участием несовершеннолетних. Она активно усиливает свои системы мониторинга и выделяет значительные ресурсы для противодействия проблемам, связанным с развитием искусственного интеллекта.
Комментарии пользователей к отдельным изображениям в Pixiv дают понять, что у них сексуальный интерес к детям, а некоторые пользователи даже предлагают предоставить изображения и видео насилия, которые не были сгенерированы искусственным интеллектом.
Stability AI сообщила BBC, что «запрещает какое-либо злоупотребление в незаконных или безнравственных целях на всех наших платформах, и в нашей политике четко указано, что это включает в себя CSAM (материалы, содержащие сексуальное насилие над детьми).
Мы решительно поддерживаем усилия правоохранительных органов, направленные на борьбу с теми, кто использует наши продукты в незаконных или недостойных целях».
Поскольку ИИ продолжает стремительно развиваться, возникают вопросы о будущих рисках, которые он может представлять для частной жизни людей, их прав человека и безопасности.