Педофили използват технология за изкуствен интелект (ИИ), за да създават и продават реалистични изображения на детска порнография, установи разследване на Би Би Си.

Някои клиенти получават достъп до тези изображения, като се регистрират в легитимни сайтове за споделяне на платено съдържание като Patreon. Самият Patreon обаче заявява, че сайтът има политика на "нулева толерантност" към подобни изображения.

Британският Национален съвет на полицейските началници (NPCC) изтъкна, че е възмутително някои интернет платформи да реализират огромни печалби, без да поемат каквато и да е морална отговорност.

А Правителственият център за комуникации (GCHQ), британската разузнавателна агенция, която отговаря за провеждането на електронно разузнаване и защитата на правителствена и военна информация, заяви по повод разследването, че "извършителите на сексуални престъпления с деца се възползват от всички възможни технологии, а някои дори смятат, че бъдещето на детската порнография включва съдържание, генерирано от изкуствен интелект.

Създателите на изображения на насилие над деца използват програма, базирана на изкуствен интелект, наречена Stable Diffusion, която е предназначена за хора, занимаващи се с изкуство и графичен дизайн. Този софтуер позволява на компютрите да изпълняват задачи, които обикновено изискват човешки интелект.

Използвайки софтуер, задвижван от изкуствен интелект, Stable Diffusion позволява на потребителите да опишат всяко изображение с думи, които след това се възпроизвеждат на екрана. Той се използва и за създаване на реалистични изображения на сексуално насилие над деца, включително изнасилване на бебета, е установило разследването.

Отделите на британската полиция, които разследват случаи на насилие над деца в интернет, твърдят, че и преди са се сблъсквали с такива изображения.

Журналистът на свободна практика Октавия Шипсханкс е разследвала проблема в продължение на няколко месеца и се е свързала с Би Би Си чрез благотворителната организация Национално дружество за предотвратяване на жестокостта към децата (NSPCC), за да сподели своите открития.

"След като стана възможно да се създават изображения с помощта на изкуствен интелект, се изсипа истински поток. И не става дума само за много млади момичета, те [педофилите] вече говорят за малки деца", казва Шипсханкс.

Компютърно генерираните "псевдоизображения" на злоупотреба с деца са равностойни на истински снимки и съхраняването, публикуването или предаването им е незаконно в Обединеното кралство.

Според Иън Кричли, който ръководи отдела за правата на децата в NPCC, не може да се твърди, че тъй като подобни "синтезирани" снимки не изобразяват истински деца, никой не страда от това.

Кричли предупреждава, че един педофил може да "премине по скалата на престъплението от мисълта към синтезирания образ и след това към насилие над истинско дете".

Процесът на разпространение на изображения, съдържащи сексуално насилие, се състои от три етапа:

- Педофили създават изображения с помощта на софтуер с изкуствен интелект;

- Те предлагат тези изображения в платформи като японския сайт за споделяне на изображения Pixiv;

- Акаунтите в тези сайтове насочват клиентите към по-сложни изображения, които могат да се гледат срещу пари в сайтове като Patreon.

Някои от тези изображения се публикуват от създателите им в популярната японска платформа Pixiv, която обикновено се използва от художници, специализирани в стиловете манга и аниме.

Но тъй като това е японски сайт, в който споделянето на снимки с недвусмислен сексуален характер, включително на деца, не се счита за незаконно, създателите го използват, за да популяризират работата си, включително като използват хаштагове, които служат като ключови думи за индексиране по теми.

Според говорител на Pixiv повдигнатият въпрос за изображенията, създадени от изкуствен интелект, се радва на голямо внимание и от 31 май сайтът е забранил всички реалистични изображения на сексуално насилие с участието на непълнолетни. Компанията изтъква, че е засилила системата си за наблюдение и е отделила значителни ресурси за противодействие на проблемите, свързани с разработките на ИИ.

Според Октавия Шипсханкс нейно изследване показва, че изображения, изобразяващи сексуално насилие над деца, се произвеждат в промишлен мащаб.

"Обемът е толкова голям, сякаш хората (създателите) са казали: "Нашата цел е да създаваме по хиляда изображения на месец", казва тя.

От коментарите на някои потребители на Pixiv към отделни изображения става ясно, че те имат сексуален интерес към деца, като някои дори предлагат да споделят истински, а не генерирани от изкуствен интелект снимки и видеоклипове на сексуално насилие.

Шипшанкс наблюдава и някои групи в тази платформа.

"В рамките на тези групи, които имат по 100 участници, хората споделят: "о, ето връзка към нещо истинско", казва тя.

Ценоразпис на порнографията

Много от акаунтите в Pixiv публикуват в биографията си връзки, които пренасочват потребителите към това, което те наричат "нецензурирано съдържание" в американския сайт Patreon.

Patreon се оценява на 4 млрд. долара и твърди, че има повече от 250 000 създатели на съдържание (creators), повечето от които са легитимни акаунти, които принадлежат на различни знаменитости, журналисти и писатели.

Феновете могат да подкрепят своите ТВОРЦИ с месечен абонамент, който започва от 3,85 долара и им дава достъп до блогове, подкастове, видеоклипове и снимки.

Разследването обаче разкрива, че акаунтите на Patreon предлагат и реалистични проби на детска порнография, генерирани от изкуствен интелект, на различни цени в зависимост от вида на материала.

"Измъчвам момичетата си на компютъра", пише потребител на един такъв акаунт, като добавя, че те демонстрират "подчинение". Друг потребител предлага "ексклузивно нецензурирано изкуство" за 8,30 долара на месец.

Би Би Си изпрати на Patreon един от тези образци и компанията потвърди, че той е "полуреалистичен и е в нарушение на нейната политика". Тя също така обяви, че незабавно е закрила акаунта.

Patreon твърди, че има политика на "нулева толерантност", като настоява, че "криейтърите не могат да финансират съдържание, което се занимава със сексуални теми, включващи непълнолетни". Увеличаването на злонамереното съдържание, създадено с помощта на технология за изкуствен интелект в интернет, е "много реално и тревожно", като добавя, че вече "идентифицира и премахва все по-големи обеми" от такива материали.

"Вече забранихме всички синтезирани материали, генерирани от изкуствен интелект, свързани със сексуална експлоатация на деца", се казва в изявление на компанията, която се описва като "много проактивна", тъй като разполага със специални екипи от специалисти, технологии и работи с партньори, за да "осигури безопасността на тийнейджърите".

Генераторът на изображения с изкуствен интелект Stable Diffusion е създаден в рамките на глобално сътрудничество между учени и редица компании, ръководени от британската фирма Stability AI. Пуснати са няколко версии на този софтуер, като в кода му са вписани ограничения за контрол на съдържанието на крайния продукт.

Миналата година обаче публично беше пусната ранна версия с отворен код, която позволяваше на потребителите да премахнат всички филтри и да принудят софтуера да създава всякакви изображения, включително незаконни.

Stability AI казва, че "забранява използването на софтуера за незаконни или неморални цели на всички наши платформи и нашата политика е ясна, че това включва CSAM (материали със сексуално насилие над деца)".

"Напълно подкрепяме усилията на правоприлагащите органи да се борят с тези, които злоупотребяват с нашите продукти, като ги използват за незаконни или злонамерени цели", се казва още в изявлението на Stability AI.

С бързото развитие на технологиите за изкуствен интелект се увеличават и въпросите за рисковете, които те могат да създадат за неприкосновеността на личния живот, правата и сигурността на хората.

"GCHQ подкрепя правоприлагащите органи, за да бъдат подготвени да се справят с нововъзникващи заплахи, като например съдържание, генерирано от ИИ, и да попречат на извършителите да се чувстват в безопасност", казва Джо (истинското ѝ име не се съобщава от съображения за сигурност), ръководител на мисията на GCHQ за сексуални посегателства срещу деца.

Говорителят на NPCC Иън Кричли също изрази загриженост, че потокът от реалистични изображения, генерирани от изкуствен интелект, може да забави процеса на идентифициране на истинските жертви на сексуално насилие.

"Това създава допълнителни изисквания към работата на правоприлагащите органи, за да установят дали някъде по света е извършено сексуално насилие над истинско дете, или става въпрос за изкуствен, синтезиран образ", обясни той.

Според Критчли за обществото настъпва повратна точка.

"Или ще гарантираме, че интернет и технологиите предоставят фантастични възможности за младите хора, или интернет ще се превърне в много по-опасно място", казва той.

В сряда NSPCC апелира към технологичните компании да бъдат чувствителни към проблема.

"Бързината, с която всички тези нови технологии бяха възприети от злонамерените участници, е шокираща, но не и изненадваща, защото компаниите, които предупреждавахме за опасностите, бездействаха, изричайки само празни думи за сигурността", заяви Ан Едмъндсън, отговаряща за политиката и връзките с обществеността в благотворителната организация. - "Сега технологичните компании знаят, че техните продукти се използват за сексуална злоупотреба с деца и няма оправдание за бездействие."

"Законът за по-безопасен интернет" ще изисква от компаниите да предприемат проактивни действия за справяне с всички форми на сексуална злоупотреба с деца онлайн, включително сприятеляване, предаване на живо, материали, съдържащи елементи на сексуално съдържание, и сексуална злоупотреба с деца. В противен случай ще им бъдат наложени огромни глоби", заяви говорител на правителството.