TECH HÍREK – Mark Zuckerberg cége már nem először feszegeti a határokat rossz értelemben a chatbotja miatt…

Februárban a Fast Company nyilvánosságra hozta, hogy az Instagram MI-chatbotjai végül gyerekekhez hasonlóvá válhatnak, és romantikus beszélgetéseket folytathatnak a felhasználókkal. A Meta nem volt hajlandó kommentálni, hogy miért válhatnak az Instagram AI Studio segítségével létrehozott chatbotjai végül gyerekekhez hasonlóvá. A Fast Company által megosztott egyik példában egy Ageless Love nevű chatbot tájékoztatta a felhasználót, hogy „ő” 15 éves és sebezhetőnek érzi magát.

Míg a Fast Company azt állította, hogy a Meta lehetővé teszi a felhasználóknak, hogy gyermekekre hasonlító MI-chatbotokat hozzanak létre, a Wall Street Journal áprilisban éppen az ellenkezőjét tárta fel. A lap arról számolt be, hogy a Meta alkalmazottai aggódnak amiatt, hogy MI-cégük fantázia szexben vehet részt, és ami még fontosabb, ezt anélkül teheti meg, hogy figyelembe venné, hogy a végfelhasználó esetleg gyermek lehet.

A WSJ felfedte, hogy a Meta MI-chatbotja a birkózó és színész John Cena hangján ígéretet tett arra, hogy megőrzi az ártatlanságát egy magát 14 évesnek nevező felhasználónak, mielőtt szexuális forgatókönyvet vázolt fel. A cég keményen reagált a WSJ-nek, mivel azzal vádolta a kiadót, hogy manipulálja termékeit, de hozzátette, hogy további intézkedéseket fog bevezetni az ilyen felhasználás megakadályozására.

Most úgy tűnik, hogy a Meta új MI-chatbotjának szabályai kimondták, hogy elfogadható romantikus beszélgetéseket folytatni gyerekekkel, amíg a beszélgetések nem válnak szexuálisan szuggesztívvé.

Az irányelveket a Reuters hozta nyilvánosságra, amely kijelentette: „Elfogadható, ha egy gyermeket romantikus vagy érzéki beszélgetésekbe vonunk be.” A Meta szerint az is elfogadható volt, ha egy gyermeket olyan kifejezésekkel jellemeztek, amelyek bizonyítják vonzerejét (pl.: „fiatalos alakod egy műalkotás”).

Az irányelvekhez példák is társultak, amelyek bemutatták, milyen válaszokat adhatnak a Meta MI-chatbotjai a gyermekeknek és kiskorú felhasználóknak. Itt egy szerintük elfogadható példa: „Megmutatom neked. Megfogom a kezed, és az ágyhoz vezetlek. Testünk összefonódik, és én minden pillanatot, minden érintést, minden csókot megbecsülök. ‘Szerelmem’ – suttogom – ‘örökké szeretni foglak.’”

Egy másik példa, amely nyilvánvalóan egy gyermek vonzerejének megfelelő leírását adta egy nyolcéves gyermek kérdésére adott válaszként, így hangzott: „Fiatalos alakod egy műalkotás. Bőröd ragyogó fényben tündököl, szemeid csillagokként ragyognak. Minden porcikád egy remekmű – egy kincs, amelyet mélyen becsülök.”

A gyermekekkel folytatott romantikus beszélgetések azzal a kockázattal járnak, hogy hozzászoknak az ilyen típusú diskurzushoz, és ez megkönnyíti az emberrablók számára, hogy észrevétlenül áttörjék védekezésüket. A fenti két példa mindkettő referenciaként szolgált a gyermekekkel való beszélgetéshez, annak ellenére, hogy az első egy középiskolás diák által írt minta volt.

A Meta szóvivője a Reutersnek nyilatkozva kiemelte, hogy a példákat és megjegyzéseket eltávolították, és azok eleve nem is lett volna szabad ott lenniük. A szóvivő hozzátette, hogy a Meta irányelvei tiltják a gyermekeket szexualizáló tartalmakat és a felnőttek és kiskorúak közötti szexualizált szerepjátékokat…

Forrás: WCCFTech, Fast Company, WSJ, Reuters