Штучний інтелект на службі у педофілів

Створювати контент про сексуальне насильство над дітьми, а потім продавати його допомагав педофілам ІІ – у Британії викрили злочинну схему.

Як показало розслідування ВПС, для створення зображень автори використовують Stable Diffusion – програмне забезпечення зі штучним інтелектом, яке допомагає створювати зображення для використання у мистецтві чи графічному дизайні. Для цього програмі достатньо опису користувача.

Журналісти з’ясували, що програма використовується для створення реалістичних зображень сексуального насильства над дітьми, зокрема зґвалтування дітей раннього віку та немовлят. Зображення рекламують за допомогою хештегов на таких платформах, як японський веб-сайт для обміну зображеннями Pixiv, а сплатити бажаний контент можна навіть на Patreon*.

Представник Pixiv сказав, що компанія приділяє посилену увагу рішенню подібної проблеми. Він також запевнив, що заборонив усі реалістичні зображення сексуального контенту за участю неповнолітніх. У Patreon кажуть, що дотримуються політики “нульової толерантності” до подібного контенту і запевняють, що видалили величезну кількість таких матеріалів.

Результати дослідження шокують – зображення жорстокого поводження з дітьми створюють у “промислових масштабах”, місцями до тисячі на місяць. Коментарі користувачів до деяких зображень у Pixiv неоднозначно демонструють, що вони мають сексуальний інтерес до дітей. А деякі пропонують надати їм реальні відео та зображення жорстокого поводження з маленькими дітьми.

В урядовому агентстві з розвідки, безпеки та кібернетики Великобританії кажуть:

“Злочинці, які займаються сексуальним насильством над дітьми, переймають усі технології, і деякі експерти вважають, що майбутнє матеріалів про сексуальне насильство над дітьми залежить від контенту, створеного ІІ”.

Експерти захисту дітей заявляють, що вони не можуть протистояти тисячам «зображень сексуалізованого насильства над дітьми, створених штучним інтелектом», які легко і швидко створюються і поширюються на темних форумах педофілів, повідомляє The Washington Post. Цей «вибух» страшно реалістичних зображень може сприяти нормалізації сексуалізованого насильства над неповнолітніми, залучити справжніх дітей у пастку та утруднити роботу правоохоронних органів щодо пошуку реальних жертв, заявили експерти.

А поки що штучний інтелект продовжує стрімко розвиватися, і на перший план виходять питання майбутніх ризиків, які він здатний представляти для конфіденційності, прав та безпеки людей.

*Patreon — веб-сайт, на якому автори творчих творів можуть розповсюджувати свої роботи щодо платної передплати або надавати додатковий контент для своїх передплатників.

Source link