TECH HÍREK – Nem véletlenül mondta Sam Altman, a ChatGPT mögött álló OpenAI vezérigazgatója, hogy a mesterséges intelligencia rossz módon történő használata „egy villanyoltással ér fel mindenkinek”…

A Checkpoint írt arról, hogy a kiberbűnözők kiskaput találtak, így nem kell betartaniuk a ChatGPT tartalommoderációs határait, és ezzel még pénzt is tudnak keresni. Kevesebb mint hat dollárért (~2400 forint) ugyanis megvalósítható, hogy a ChatGPT káros kódot generáljon, vagy esetleg az adathalászatra specializálódott emailekből létrehozzon egy újat. Ehhez az illetők az OpenAI API-ját (alkalmazásprogramozási felületét) vetették be, hogy különleges botokat teremtsenek a népszerű üzenetküldő apphoz, a Telegramhoz.

Ezek képesek voltak az appon keresztül a korlátlanul funkcionáló ChatGPT-t elérni, és a kiberbűnözők kb. 5,5 dollárt (2200 forintot) kérnek minden száz lekérdezésért, és a vásárlók példákat kaphatnak a mesterséges intelligencia által generált káros tartalmakból. Más hackerek pedig úgy jutottak át a ChatGPT védelmén, hogy (ismét az OpenAI API-ját használva) különleges scriptet alkottak, amit aztán nyilvánosságra hoztak a GitHubon. A ChatGPT „sötét oldala” képes egy bank vagy egy cég álruhájába bújni, és az emailben meg tudja mutatni, hogy hol lenne érdemes az adathalászathoz szánt linket elhelyezni (amire ugyebár nem lenne (szabad kattintani).

Ha ez nem lenne elég ijesztő, a chatbotnak biztosított káros kódot (malware-t) képes továbbfejleszteni. A Checkpoint korábban írt arról, hogy programozási ismerek nélkül is milyen könnyű elég súlyos malware-t teremteni főképp a ChatGPT korábbi verzióin, mielőtt az OpenAI elkezdte volna szigorítani a felhasználási feltételeket a technológia körül, amit ugyebár a Microsoft a Bing keresőmotorjának frissítése után ott is alkalmazni fog, ugyanis egy mesterséges intelligenciával chatelni lehet, hogy a nyitottabb kérdésekre könnyebben fogyasztható, értelmezhető válaszokat tudjon adni. Ez a szerzői jogok által védett anyagok körül lehet még érdekes téma majd.

Mivel a mesterséges intelligenciával már a hangutánzás is megvalósítható (bárkit meg lehet úgy szólaltatni, hogy olyasmit mondjon, amit a való életben nem tenne), ki tudja, hogy innen hova tovább.

Forrás: PCGamer