A deepfake pornó valóságos rémálommá vált Dél-Koreában: nemcsak a készítők és terjesztők, hanem már a nézők is börtönbüntetésre számíthatnak. Egy amerikai streamer akár 31 évre is rács mögé kerülhet. A nézőkre három év börtön és akár 7 millió forintos bírság vár.

A dél-koreai hatóságok tavaly nyáron vizsgálatot indítottak egy Telegram-hálózat ügyében, amelyben 220 000 tag osztott meg mesterséges intelligenciával generált, valós személyeket ábrázoló pornográf képeket és videókat. Ez a rendszer – amely valós emberekről készült, hamisított szexuális tartalmak előállítására képes – azóta országos botránnyá, sőt, nemzetközi problémává nőtte ki magát, és tiltakozások hullámát váltotta ki Dél-Koreában.

A Dél-koreai Nemzetgyűlés gyorsan reagált: 2024 szeptemberében olyan törvényt fogadott el, amely nemcsak a készítőket és terjesztőket, hanem a birtoklókat és a nézőket is bünteti. Aki deepfake pornót néz, akár három év börtönre és 19 000 eurós (kb. 7 millió forintos) pénzbüntetésre is számíthat. Ennek ellenére ezrek kerültek már előzetes letartóztatásba, és egy amerikai streamer ügye különösen nagy figyelmet kapott.

Dél-Korea mélypontra jutott a deepfake járvánnyal

A Dél-koreai Országos Nyomozóiroda idén márciusban jelentette be, hogy 963 embert tartóztattak le deepfake tartalmak előállítása, terjesztése, birtoklása vagy megtekintése miatt. A legtöbben húszas éveikben jártak, és egy Telegram-csoportban osztottak meg olyan hamis videókat, amelyek női osztálytársaikat, színésznőket és énekesnőket ábrázoltak.

Összesen több mint 10 000 ilyen videót töröltek vagy blokkoltak a rendőrök. A botrány nemzetközi szintre emelkedett, miután kiderült, hogy egy ismert amerikai streamer ellen is vádat emeltek. Őt azzal vádolják, hogy két dél-koreai női streamerről készített és terjesztett engedély nélküli deepfake tartalmakat – és ezért akár 31 év börtönt is kaphat.

Bár a Telegram jelezte, hogy hajlandó együttműködni a hatóságokkal a deepfake tartalmak megfékezése érdekében, sok áldozat panaszkodik arra, hogy a videók eltávolítása túlságosan lassú, és a tartalomkészítők könnyedén platformot válthatnak.

Szakértők szerint az oktatási programok bővítése mellett elengedhetetlen lenne a deepfake tartalmak automatikus felismerése és eltávolítása is – ez azonban adatvédelmi és platformspecifikus szabályozási kérdéseket vet fel. Felmerült továbbá annak lehetősége is, hogy a platformokat is bírság sújtsa, ha nem akadályozzák meg az ilyen tartalmak tárolását és terjesztését – valamint emelnék a szankciókat a készítőkkel, terjesztőkkel és nézőkkel szemben is.

Forrás: 3djuegos