TECH HÍREK – A felettébb disztopikussá váló Kínában következett be az, amire már jó ideje számítottunk: a mesterséges intelligencia alkalmazása ártalmasnak bizonyult, és ennek börtön lett az eredménye.

A South China Morning Post írt arról, hogy a kínai rendőrség letartóztatott egy férfit, aki állítólag a ChatGPT-t használta, hogy egy hamis hírt (fake news) hozzon létre, és ezt online elterjessze. Ez lehet az első alkalom, hogy valaki börtönt kapott a mesterséges intelligencia használatáért. Az ország északkeleti Gansu tartományában csattant a férfi csuklóin a bilincs, és a rendőrök csak a vezetéknevét (Hong) árulták el. A rendőrség közleménye szerint „mesterséges intelligenciát használt, hogy téves és valótlan információt készítsen”.

Hong cikke április 25-én bukkant fel, és valótlanul állította, hogy egy helyi vonatbaleset történt, amiben kilenc ember életét vesztette. A kiberbiztonságiak szerint több mint 20 fiókon lettek egy mikrobloggolásra szánt platformon, a Baijiahaón posztolva (ezt a helyi Google megfelelője, a Baidu futtatja), és minimum tizenötezren olvasták el. Ez az első letartóztatás Kínában, miután a mesterséges intelligenciával és a deepfake-kel kapcsolatos törvényt életbe léptették januárban. Az internetes információs szolgáltatásra vonatkozó mélyszintézisre vonatkozó igazgatási rendelkezések minden olyan technológiát megcéloznak, amely szöveget, képet, hangot vagy videót generál, és kifejezetten említik a mélytanulási modelleket. Nem tiltja be az ilyen technológiákat használó dolgok létrehozását, de arra kényszeríti őket, hogy „egyértelműen jelöljék meg” őket.

A rendőrség kiderítette, hogy a gyanúsítottnak volt egy cége, és a cikk megjelenése után tíz nappal jött a letartóztatás, a PC elkobzása, illetve a házkutatás. A közleményük szerint Hong beismerte, hogy a régebbi, Kínában népszerű történetekből elemeket vett át, hogy azokat a ChatGPT-be táplálja, így több verzió is született a kamu történetből, ami végül fel lett töltve. Hong szerint a WeChaten a barátai azt mondták, hogy a klikkelésekből pénzt tud keresni. Hong bűntette a „veszekedés és bajkeverés”, ami akár öt évnyi börtönbüntetéssel is járhat, és a hatóságok elrettentő példaként ezt ki is róhatják Hongra, hogy mások ne próbálkozzanak.

Ijesztően hangzik.

Forrás: PCGamer