Педофіли використовують ШІ для створення дитячого порно
Педофіли використовують технологію штучного інтелекту для створення і продажу реалістичних матеріалів про сексуальне насильство над дітьми, повідомляє BBC.
Деякі з них отримують доступ до зображень, оплачуючи підписку на акаунти на популярних сайтах обміну контентом, таких як Patreon.
Patreon заявив, що дотримується політики «нульової толерантності» до таких зображень на своєму сайті.
Національна рада керівників поліції заявила, що це обурливо, що деякі платформи отримують величезні прибутки, але не беруть на себе моральну відповідальність.
А GCHQ, урядове агентство з питань розвідки, безпеки та кібербезпеки, відреагувало на звіт, заявивши: «Злочинці, які вчиняють сексуальне насильство над дітьми, використовують усі технології, і дехто вважає, що майбутнє матеріалів із зображеннями сексуального насильства над дітьми лежить у площині контенту, створеного штучним інтелектом».
Педофіли використовують програмне забезпечення з ШІ під назвою Stable Diffusion, яке призначене для створення зображень для використання в мистецтві або графічному дизайні. Воно створює зображення за описом та словесними підказками.
Британська поліція, яка розслідує випадки насильства над дітьми в Інтернеті, заявляє, що вже стикається з таким контентом.
Керівник Національної ради начальників поліції (NPCC) з питань захисту дітей Ян Крітчлі заявив, що було б неправильно стверджувати, що оскільки на таких штучних зображеннях не було зображено реальних дітей, то ніхто не постраждав.
Він попередив, що педофіл може «рухатися по цій шкалі злочинів від думок до штучних зображень, до фактичного насильства над реальною дитиною».
Деякі з авторів публікують свої роботи на популярній японській соціальній платформі Pixiv, яка в основному використовується художниками манги та аніме.
Представник Pixiv заявив, що компанія приділяє велику увагу вирішенню цієї проблеми. Компанія заявила, що 31 травня заборонила всі фотореалістичні зображення сексуального змісту за участю неповнолітніх. Вона активно посилює свої системи моніторингу і виділяє значні ресурси для протидії проблемам, пов’язаним з розвитком штучного інтелекту.
Коментарі користувачів до окремих зображень у Pixiv дають зрозуміти, що вони мають сексуальний інтерес до дітей, а деякі користувачі навіть пропонують надати зображення і відео насильства, які не були згенеровані штучним інтелектом.
Stability AI повідомила BBC, що «забороняє будь-яке зловживання в незаконних або аморальних цілях на всіх наших платформах, і в нашій політиці чітко зазначено, що це включає в себе CSAM (матеріали, що містять сексуальне насильство над дітьми).
Ми рішуче підтримуємо зусилля правоохоронних органів, спрямовані на боротьбу з тими, хто використовує наші продукти у незаконних або негідних цілях».
Оскільки ШІ продовжує стрімко розвиватися, виникають питання про майбутні ризики, які він може становити для приватного життя людей, їхніх прав людини та безпеки.
