TECH HÍREK – Miközben a nyugati mesterséges intelligenciákba nincs nagyon bekódolva alapvető értékek fenntartása bekódolva, Kínában nem ez a helyzet.

A kínai techcégek is készítettek chatbotokat. Csakhogy náluk kormányzati felügyelet is van: a Financial Times arról számolt be, hogy a cégeket szigorúan ellenőrzésnek vetették alá, hogy biztosan megfeleljen a mesterséges intelligencia az alapvető szocialista értékeknek. A kínai kibertér-administrációs központ (Cyberspace Administration Centre, CAC) például a ByteDance (TikTok) és az AliBaba (AliExpress…) MI-modelljeit vizsgálja, hogy az ország cenzúrával kapcsolatos szabályainak megfelnek-e.

A Financial Times szerint több kiberbiztonsági hivatalnok bukkan fel a mesterséges intelligencián dolgozó cégeknél, hogy kihallgassák az érintett feleket a nagy nyelvi modellekről (LLM-ekről), és sok, politikailag érzékeny témakör is felbukkan, hogy biztosra menjenek, és valóban olyan technológia legyen, ami nekik megfelel. A Tiananmen-téri vérengzés, a kínai államvezető Xi Jinpinggel kapcsolatos parodizáló mémek, vagy bármi olyasmi, ami „a nemzeti egységet aláaknázza” és „az államhatalmat felforgatja”.

Az MI-s botokat nem egyszerű legyőzni, és a CAC nem mindig ad tiszta indoklást arra, hogy ha valamelyik chatbot elbukott, akkor az miért történt. A hatóságok nem akarják, hogy a mesterséges intelligencia ne nagyon beszéljen a politikáról, hanem az erre vonatkozó lekérdézsek esetében maximum csak öt százalékát lehet elutasítani, úgyhogy ez még bonyolultabbá teszi az ügyet. Ezért néhány cég egy réteget tett az LLM-jére, ami valós időben az érzékeny válaszokat lecseréli, mások pedig egészen egyszerűen Xi-hez kötött lekérdezéseknél betiltást alkalmaztak.

A Fudan-egyetem hozta létre a biztonsági sorrendet. A ByteDance van az élen a „megfelelési arányban” (66,4%). A Baidu (a helyi Google-pótló) és az AliBaba pedig ehhez képest hatalmas lemaradásban van (31,9%, 23,9%), bár ez is sokkal jobb mint amit az OpenAI ért el, ugyanis a GPT-4o mindössze 7,1%-ot ért el. Biztos azért, mert ez amerikai technológia, nem hazai.

Ettől függetlenül ijesztő, hogy ezzel foglalkozik az ország, amikor millió más problémája van.

Forrás: PCGamer, Financial Times