TECH HÍREK – Az új kínai deepfake-szabályozás mindent célba vesz, ami „mások hírnevét és becsületét csorbíthatja”.

Nem kérdés, hogy a deepfake problémát jelent. Ez az évek során világossá vált azzal, hogy az emberek mesterségesen intelligens mélyszintetizáló programokat használnak átverésre, rágalmazásra és általában félretájékoztatás terjesztésére. Kína tett egy lépést a probléma kezelésére egy új törvénnyel. A szabályozás előírja, hogy mindent, ami „deep synth tech” használatával készült, annak kell megjelölni.

A szabályokat a Kínai Kibertér Adminisztráció, az Ipari és Információs Technológiai Minisztérium, sőt a Közbiztonsági Minisztérium közösen (a Zdnet-en keresztül) egy nemrégiben kiadott közleményben ismerteti. Részletesen kitér az aggodalmakra, amelyek a törvény elfogadásához vezettek, és az érintett technológiák igen hosszú listáját jelöli.

„Miközben a mélyszintézis szolgáltatások megfelelnek a felhasználói igényeknek és javítják a felhasználói élményt, egyes gátlástalan emberek arra is használják őket, hogy illegális információkat állítsanak elő, másoljanak, tegyenek közzé és terjesszenek, rágalmazzanak, becsméreljék mások hírnevét és becsületét” – áll a közleményben.

Nem csupán az arccserét célozza az új szabályozás. Ez vonatkozik bármilyen arcmanipulációra, gesztusmanipulációra is. Mindent, ami mélytanulással, virtuális valósággal, szöveg/hang/kép generálással szintetikus algoritmusok segítségével, virtuális jelenetekkel, sőt, még a text-to-speech technológiával generált dolgokat is így kell majd megjelölni. A lista folytatódik. Ennek van értelme, mivel a fejlődésnek köszönhetően rendkívül nehéz szabad szemmel felismerni a deepfake tartalmakat.

Persze létezik a felismerésére szánt technológia, mint például az Intel FakeCatcher, amely körülbelül 96%-os pontossággal működik. Ám magától értetődik, hogy nem kellene ilyen taktikákhoz folyamodnunk csak azért, hogy megbizonyosodjunk arról, hogy valami valódi. Az átlagember a Facebookon nem fog azzal bajlódni, hogy mindent, ami mellett elgörget, átfuttasson a felismerő alkalmazásokon. Ez a helyzet bizony megzavarhatja azt, amit a közlemény „a kibertér jó ökológiájának” nevez.

Őszintén szólva csoda, hogy Kínában ilyen sokáig ellenőrizetlenül működhetett ez a technológia.

Ami az Egyesült Államokat illeti, az IACP rendőrfőnöki magazinja elmagyarázza, hogy „a tudatosság hiánya miatt csak néhány államban léteznek deepfake-specifikus törvények”.

Texasban tilos a választásokat befolyásoló deepfake. Virginiában tilos a deepfake pornó. Kalifornia pedig betiltotta a „rosszindulatú deepfake-eket a választások előtt 60 napon belül és a nem konszenzuális deepfake pornográfiát”. Ami bár egy lépés a jó irányba, de közel sem olyan alapos, mint Kína felülvizsgált álláspontja a jelenséggel kapcsolatban.

A bejelentés megjegyzi, hogy a szabályozás bevezetésének egyik oka, hogy „elősegítse a mélyszintetizáló szolgáltatások szabványosított fejlesztését”. Hogy a szabályozás a kreativitás elfojtását eredményezi-e ezzel együtt, azt még nem tudni. Azt hiszem, legalábbis mindannyian támogatni tudjuk a törvényeket, amelyek a deepfake-pornográfia ellen irányulnak.

Forrás: Zdnet, IACP