TECH HÍREK – Egy amerikai republikánus szenátor levelet küldött Mark Zuckerbergnek, miután a cégének MI-chatbotja romantikus és érzelmi hangnemet ütött meg a kiskorúakkal is…

A Meta a héten forró vízben találta magát, miután a Reuters nyilvánosságra hozta, hogy a cég belső irányelvei megengedték az érzéki és romantikus beszélgetéseket gyerekekkel. A Meta szóvivője szerint ezek az irányelvek nem tükrözték a vállalat hivatalos MI-politikáját, és miután a Reuters kérdéseket tett fel, a cég eltávolította őket. Mark Zuckerberg válasza azonban nem győzte meg Josh Hawley-t, Montana állam republikánus szenátorát.

Hawley a Zuckerbergnek küldött levelében követelte, hogy a Meta őrizzen meg minden releváns feljegyzést, és nyújtson be dokumentumokat, hogy a Kongresszus kivizsgálhassa ezeket a gyakorlatokat. Hawley közvetlenül idézett a Meta korábbi MI-irányelveiből, amelyeket elítélendőnek és felháborítónak nevezett. Azt mondta, ezek erős korlátozások hiányában arrogáns hozzáállást tükröznek a generatív MI fiatalokra gyakorolt kockázataival kapcsolatban.

Hawley bejelentette, hogy a Szenátus igazságügyi bizottságának bűnözés- és terrorizmusellenes albizottsága, amelynek ő lesz az elnöke, vizsgálatot indít a Meta ellen. A bizottság azt ellenőrzi, hogy a Meta félrevezette-e a nyilvánosságot vagy a szabályozó hatóságokat biztonsági intézkedéseiről, és hogy az MI-termékek hozzájárultak-e bűncselekményekhez vagy gyermekeket érintő károkhoz. A Metának be kell nyújtania a GenAI: Tartalomkockázati szabványok irányelv összes változatát és tervezetét.

Ezenkívül a cégnek tájékoztatást kell adnia az irányelv hatálya alá tartozó összes MI-termékről és a gyermekvédelmi ellenőrzésekről. A Metának dokumentálnia kell, hogyan előzi meg, ismeri fel és blokkolja a 18 év alattiakkal folytatott romantikus vagy érzéki beszélgetéseket, illetve mit tesz, ha a felhasználó életkora ismeretlen. A vállalatnak be kell nyújtania a gyermekbiztonsággal kapcsolatos levelezését is a hirdetőkkel, a Kongresszussal, az FTC-vel és más szervezetekkel. A bizottság ezen felül értékelni fogja azokat a dokumentumokat, amelyek bemutatják, ki felelős a cégnél az MI-biztonsági irányelvekért, és ki hozza a döntéseket azok módosításáról vagy eltávolításáról.

A Meta nemcsak a kiskorúakat érintő chatbot-irányelvek miatt került össztűzbe, hanem más MI által okozott mentális problémák és károk miatt is. Nemrég például kiderült, hogy egy 60 éves férfi megmérgezte magát, miután követte az OpenAI ChatGPT étrendi tanácsait, májusban pedig egy nő beadta a válókeresetet, miután a ChatGPT meggyőzte, hogy férje hűtlen.

Forrás: WCCFTech