TECH HÍREK – Indítványt nyújtott be a techcég, aminek talán köze van egy 14 éves fiú öngyilkosságához, talán nem…

Az MI fejlődésével egyre nagyobb aggodalomra ad okot, hogy hogyan használják a technológiát, és hogy megvannak-e a szükséges intézkedések a felhasználókra (különösen a kisgyermekekre) gyakorolt káros hatások ellen. Bár a vállalatok aktívan dolgoznak azon, hogy biztosítsák az eszközök felelősségteljes használatát, egyes felhasználók hajlamosak erősen kötődni hozzájuk vagy befolyásolni őket.

Eléggé tragikus még leírni is, hogy egy öngyilkosságot elkövető 14 éves fiú édesanyja jogi eljárást indított a Character.AI ellen, és erre a vállalat indítványt nyújtott be az ügy elutasítására. A Character.AI egy olyan platform, amely lehetőséget ad a felhasználóknak arra, hogy szerepjátékot játsszanak, amikor az MI-chatbottal kapcsolatba lépnek, és emberibb beszélgetéseket folytassanak. Októberben viszont elkezdett forrósodni a platform alatt a talaj, amikor Megan Garcia pert indított a cég ellen 14 éves fia halála miatt, mivel a tinédzser állítólag túlzottan kötődött a platformhoz, és érzelmi kötődést alakított ki vele. A fiú folyamatosan foglalkozott a chatbottal, és még a halála előtt is csevegett vele.

A vállalat azonnal reagált a perre, és biztosította a felhasználókat a további védőkorlátok elhelyezéséről, beleértve a jobb reagálást és beavatkozást, amikor úgy tűnik, hogy megsértik a feltételeket és szolgáltatásokat. A tinédzser anyukája azonban nem nyugszik: ő szigorúbb védőintézkedéseket sürget, és olyan funkciókat vezet be, amelyek minimalizálják a káros interakciókat és az érzelmi kötődés minden formáját. A Character.AI jogi csapatának érvelése szerint a platformot védi az Egyesült Államok alkotmányának első módosítása, amely alapvetően a szólásszabadságot védi, és a vállalat felelősségre vonása a felhasználói interakciókért sérti az alkotmányos jogokat. Bár ezt az érvet a cég a saját védelmében hozta fel, még nem tudni, hogy a bíróság szerint a kifejező beszéd védelme kiterjed-e arra a pontra, ahol az MI-rendszer interakcióinak káros kimenetele elfogadhatónak tekinthető.

A cég ügyvédjei szerint az eljárás felhasználók, nem pedig a vállalat saját jogait sérti az első alkotmánymódosításra hivatkozva. Az az által nyújtott védelem a felhasználók azon képességére összpontosít, hogy szabadon interakcióba léphessenek a platformmal, és kifejező beszélgetéseket folytathassanak. Az indítvány továbbá azt sugallja, hogy ha a pert megnyerik, az nem csak a Character.AI-ra, hanem az egész generatív MI-iparágra jelentős hatással lehet.

Ennek az ügynek még komoly hatása lehet az iparra a későbbiekben.

Forrás: WCCFTech