TECH HÍREK – Korunk egyik legjelentősebb celeb-ikonja, Taylor Swift AI pornó-botránya – hamis, de meggyőző explicit képek a popénekesnőről – végre ráirányította a figyelmet arra, milyen veszélyes is lehet a generatív mesterséges intelligencia használata. De vajon lesznek messzebbre ható következményei az esetnek?

Az egész Taylor Swift AI pornó-ügy azzal indult, hogy az énekesnő szexuálisan explicit deepfake-jei január 24-én, szerdán kezdtek terjedni az X-en. 19 óra alatt több mint 27 millió megtekintést generáltak, mielőtt a képeket eredetileg posztoló fiókot felfüggesztették – számolt be az NBC News. Az egyik kép végül 47 millió megtekintést ért el, mielőtt sikerült eltávolítani.

Egy január 25-én késő este közzétett bejegyzésben az X biztonsági csapata közölte, hogy a vállalat „aktívan eltávolítja” az összes azonosított, érzéketlen meztelenséget ábrázoló képet, ami – mint mondta – „szigorúan tilos” a platformon.

Szombattól (január 27.) az X-en a „Taylor Swift” keresések a következő hibaüzenetet adták vissza: „Valami elromlott. Próbáld meg újratölteni.” A felhasználók azonban rámutattak, hogy az X csak ezt a konkrét szöveges karakterláncot blokkolja; a „Taylor Al Swift” lekérdezés továbbra is engedélyezett az X-en.

A Taylor Swiftre történő keresések blokkolását célzó változtatással kapcsolatban Joe Benarroch, az X üzleti műveletekért felelős vezetője a következőket nyilatkozta: „Ez egy ideiglenes intézkedés, és óvatosságból történik, mivel a biztonságot helyezzük előtérbe ebben a kérdésben”.

Január 29-én, hétfőn végül az X visszaállította a „Taylor Swift” kereséseket. Az énekesnőre való keresés lehetőségét a platformon „újra engedélyeztük, és továbbra is éberen figyeljük az ilyen tartalmak terjesztésére irányuló kísérleteket, és eltávolítjuk azokat, ahol csak találjuk” – nyilatkozta most Joe Benarroch.

Politikai következmények? A Taylor Swift AI pornó-ügyre reagált a Fehér Ház és az amerikai Kongresszus

Pénteken a SAG-AFTRA közleményt adott ki, amelyben elítélte a Swift hamis képeit, mint ami „felzaklató, káros és mélyen aggasztó”. Azt mondta, hogy „a hamis képek – különösen a fajtalan jellegűek – kifejlesztését és terjesztését valaki beleegyezése nélkül illegálissá kell tenni”.

Satya Nadella, a Microsoft vezérigazgatója az NBC Newsnak adott interjújában „riasztónak és szörnyűnek” nevezte a hamis Swift-pornóképeket, és azt mondta, hogy „cselekednünk kell”, és hogy „függetlenül attól, hogy milyen álláspontot képviselünk egy adott kérdésben, azt hiszem, mindannyian jól járunk, ha az online világ biztonságos világ”.

A Fehér Ház is megszólalt az ügyben. Arra a kérdésre, hogy Biden elnök támogatná-e az ilyen mesterséges intelligencia által generált pornó illegálissá tételét célzó törvényt, Karine Jean-Pierre, a Fehér Ház sajtótitkára így válaszolt: „Aggódunk a képek terjesztéséről szóló jelentések miatt, amelyeket az imént ismertetett… Nyilvánvalóan szükség van olyan törvényre, amely foglalkozik ezzel a kérdéssel”.

Yvette D Clarke, New York demokrata kongresszusi képviselőnője az X-en azt írta: „Ami Taylor Swifttel történt, az nem újdonság. Évek óta a nők a deepfakes célpontjai [a beleegyezésük nélkül]. És [a] mesterséges intelligencia fejlődésével a deepfake-ek létrehozása egyszerűbb és olcsóbb. Ez egy olyan probléma, amelynek megoldása érdekében mindkét oldalnak és még a Swiftiesnek is össze kellene fognia.”

Néhány amerikai államnak saját jogszabályai vannak a deepfakes ellen, de egyre többen követelik a szövetségi törvények módosítását.

2023 májusában Joseph Morelle demokrata kongresszusi képviselő mutatott be ezzel kapcsolatban törvényjavaslatot. A Swift képeit elítélő tweetjében „szexuális kizsákmányolásnak” nevezte azokat. Az általa javasolt jogszabály még nem lépett törvényerőre.

Tom Kean Jr. republikánus kongresszusi képviselő szintén elítélte az esetet. Társszponzorként támogatta Morelle törvényjavaslatát, és benyújtotta saját AI címkézési törvényét, amely előírná, hogy minden AI által generált tartalmat (beleértve az ártalmatlanabb, például ügyfélszolgálati környezetben használt chatbotokat is) címkével kell ellátni.

A meggyőző deepfake videót vagy hangot már használták néhány magas rangú ember, különösen politikusok, például Donald Trump és Joe Biden, valamint művészek, például Drake és a Weeknd utánzására.

2023 októberében Tom Hanks azt üzente Instagram-követőinek, hogy ne hagyják magukat elcsábítani egy hamis fogászati reklámmal, amely az ő képmását ábrázolta.

A technológia azonban túlnyomórészt a nőket célozza meg. Méghozzá szexuálisan kizsákmányoló módon: a DeepTrace Labs 2019-es tanulmánya, amelyre a javasolt amerikai jogszabály hivatkozik, megállapította, hogy a deepfake videótartalmak 96%-a nem beleegyező pornográf anyag volt.

Végre jöhet a következetes fellépés a deepfake- és AI-túlkapásokkal szemben?

A deepfake-megtestesítette a probléma nem új keletű jelenség. A hamis pornó már több mint két évtizede lehetséges az olyan szoftvereknek köszönhetően, mint a Photoshop. Ám csak mostanra vált ilyen gyorsan és egyszerűen bárki számára előállíthatóvá, mivel a különböző alkalmazások lehetővé teszik például, hogy egy személy arcát egy másik testre cseréljék.

Most azonban egyre többen – beleértve a hatóságokat is – figyelnek fel rá, hiszen a legújabb áldozat a Time magazin által az év emberének választott Swift, aki 0,5 százalékponttal járult hozzá az amerikai GDP-hez, aki háborút indított olyan cégek streaming szolgáltatásaival, mint az Apple Inc. és nyert, és aki fellendítette a futball női nézettségét.

A törvényhozók felháborodtak, míg Swift rajongóinak légiói az X-en a „védjük meg Taylor Swiftet” kifejezést trendingelték. Néhányan önbíráskodáshoz folyamodtak, előásva egy Twitter-felhasználót, aki állítólag sok tiltott kép mögött áll. Swift állítólag jogi lépéseket fontolgat egy deepfake pornóoldal ellen, amelyik közzétette néhányukat – írja a Daily Mail.

Swift nem az a fajta, aki félmegoldásokkal intézi a dolgokat, így lehet, hogy nem csak egy pert fogunk látni. Talán a Kongresszusban már készülő, az engedély nélküli deepfake-ek ellen fellépő törvényjavaslatok mögé áll majd.

Az egyik törvényjavaslat illegálissá teszi az ilyen képek készítését és megosztását, míg egy másik öt év börtönbüntetést javasol az elkövetőknek, valamint jogorvoslatot az áldozatoknak.

Van remény a megoldásra. A kongresszuson keresztülhaladó intézkedések egy része kezdetnek tekinthető. Habár a hosszú távú szabályok kidolgozása még folyamatban van, a hatóságok egyelőre kézben tarthatják a helyzetet azzal, hogy példát statuálnak a legrosszabb elkövetőkkel szemben. Az elrettentő eszközök működhetnek. Még azoknál az embereknél is, akik úgy gondolják, hogy az online anonimitás köpenye mögé bújhatnak. Erre kiváló példa az Anonymous nevű online hacktivista csoport, amelynek tevékenysége szinte azonnal leállt, miután egy évtizeddel ezelőtt letartóztatták és megnevezték a legismertebb hackerek egy maroknyi csoportját. Az egyik Twitter-felhasználó már beismerte, hogy ő tette közzé az első, vírusszerűen terjedő képek közül néhányat: „Bro mit tettem… Lehet, hogy új törvényeket hoznak a Taylor Swift-posztom miatt” – írja a Newsweek, mielőtt a fiókját privátra állították volna.

Forrás: NBC, Newsweek, The Daily Mail, The Guardian, Variety