A Twitch frissített irányelveket ad ki a platform livestreamjeiben megjelenő deepfake tartalmak terjedésével kapcsolatban.

A Twitch egy nemrég közzétett blogbejegyzésben foglalkozott a legújabb deepfake vitával, hogy megpróbálja megvédeni a női streamelőit. A bejegyzés válaszul született egy januárban történt szerencsétlen esetre, amikor több női Twitch-streamelő képmását használták ki explicit tartalmakhoz.

A beavatatlanok számára a deepfaking az a folyamat, amelynek során mesterséges intelligencia segítségével meggyőző képeket, videókat és hangokat hoznak létre olyan emberekről, akik olyan dolgokat mondanak vagy tesznek, amelyeket soha nem mondtak vagy tettek.

Ez egy erőteljes és gyorsan fejlődő technológia, amely egyszerre képes szórakoztatni és megtéveszteni. Bár a deepfake-nek lehetnek pozitív felhasználási lehetőségei, a visszaélések miatt jelentős aggodalmak merülnek fel. A technológia felhasználható rosszindulatú, konkrét személyeket célzó tartalmak létrehozására is. Például olyan hamis videók készítésére, amelyekben emberek olyasmit tesznek vagy mondanak, amit valójában nem tettek meg. Ez bizalomvesztéshez, hírnévkárosodáshoz és akár jogi következményekhez is vezethet.

A Twitch úgy kezelte a kifejezett deepfake tartalom problémáját, hogy először egy címkével látta el a kifejezést, és „szintetikus, nem konszenzuális kizsákmányoló képnek” vagy „szintetikus NCEI-nek” nevezte el. A következő hónapban a Twitch frissíti a felnőttek szexuális erőszakára és kizsákmányolására vonatkozó irányelveit. Hangsúlyozzák, hogy a szintetikus NCEI-k szándékos népszerűsítése, létrehozása vagy megosztása az első szabálysértés esetén határozatlan idejű felfüggesztést von maga után. A Twitch felnőtteknek szóló meztelenkedési szabályzatát is frissítik, hogy az a szintetikus NCEI-kre is kiterjedjen. A jövőben egy NCEI bemutatása a streaming platformon a streaming oldal szabályzatának azonnali érvényesítését vonja maga után, függetlenül a kontextustól. A Twitch március 14-én Creator Campet is szervez, hogy a nézőket felvilágosítsa a fontos társadalmi problémáról.

Zara Ward streamer, aki az NCEI-k szakértője, a Twitch biztonsági csapatának egy tagjával együtt mindent megtárgyal, amit a szintetikus NCEI-kről tudni kell.

A deepfaking technológia térhódítása egyre aggasztóbbá válik, és következményei messzemenőek. A beleegyezés nélküli explicit tartalmak mellett a közvélemény manipulálására, hamis információk terjesztésére, választások befolyásolására, és minden körben rosszindulatú tartalmak létrehozására is felhasználható, amelyek káros hatással lehetnek az egyénekre és a társadalomra. Míg a Twitch fontos lépéseket tesz a probléma kezelése érdekében a felhasználók védelme és a biztonságos környezet fenntartása érdekében, még nem tudni, hogy más vállalatok hogyan fognak foglalkozni az egyre növekvő fenyegetéssel.

Forrás: Twitch