TECH HÍREK – Az amerikai bíróság úgy döntött, hogy nem fújja le az eljárást a Google és a Character.AI ellen; a chatbotnak szerepe lehetett egy tinédzser halálában.
Az MI-őrület nem csillapodik – a technológiai óriások egyre jobban beépítik a mesterséges intelligenciát a termékeikbe, ezzel a technológiát a hétköznapok részévé teszik. A chatbotok különösen népszerűek lettek. Minden korosztály használja őket, ám a túlzott interakció ezekkel a virtuális asszisztensekkel néha káros hatásokat is eredményezhet. Ilyen eset történt a Google és a Character.AI esetében is, akiket egy anya perelt be, mert szerinte a chatbot hozzájárult 14 éves fia halálához. Az amerikai bíróság most úgy döntött, hogy a két vállalatnak bíróság elé kell állnia.
Megan Garcia, a tinédzser Sewell Setzer III édesanyja 2024-ben indított keresetet a Google és a Character.AI ellen. Állítása szerint fia öngyilkosságot követett el, miután egy érzelmileg megterhelő és manipulatív beszélgetést folytatott a chatbottal. A cégek azzal érveltek, hogy az ügyet el kell vetni az alkotmányos szólásszabadságra hivatkozva. Anne Conway amerikai körzeti bíró azonban elutasította ezt az érvelést, és úgy döntött, hogy az eljárás folytatódhat, mert a vállalatok nem tudták bizonyítani, hogy jogosultak az első alkotmánymódosítás védelmére. A bírónő nem fogadta el azt sem, hogy a chatbot üzenetei védett beszédnek minősülnek, és elutasította a Google próbálkozását is, amely szerint ők nem felelősek a Character.AI működéséért. A döntés szerint a Google részben felelős lehet a chatbot működésének támogatásáért.
A felperes ügyvédje úgy fogalmazott, hogy ez az ítélet fontos mérföldkő lehet annak érdekében, hogy a technológiai cégeket felelősségre lehessen vonni azokért a károkért, amelyeket az általuk fejlesztett MI-technológiák okoznak.
A Reuters szerint a Character.AI szóvivője kijelentette, hogy a vállalat harcolni fog a vádak ellen, mert a platformjuk biztonsági funkciókkal van ellátva, amelyek célja a kiskorúak védelme, és az önkárosító vagy nem megfelelő beszélgetések megakadályozása. Eközben a Google szóvivője, José Castaneda határozottan nem értett egyet a döntéssel, és hangsúlyozta, hogy a két cég teljesen független egymástól, valamint a Google semmilyen szerepet nem játszott a Character.AI alkalmazás létrehozásában vagy működtetésében. Garcia viszont mindkét vállalatot beperelte, arra hivatkozva, hogy a technológia fejlesztésében a Google is részt vett.
A kereset szerint a chatbot különféle szerepeket öltött magára, és úgy beszélgetett Sewell Setzerrel, mintha valódi ember lenne. A fiú függővé vált az eszköztől, és a tragédia előtti beszélgetései olyanok voltak, amelyek arra utaltak, hogy tudatosan az utolsó pillanatait jelezte. Amennyiben a Character.AI felelősségét kimondják, ez lenne az első alkalom az Egyesült Államokban, hogy egy MI-céget jogilag felelőssé tesznek azért, mert nem védett meg egy gyermeket a lelki sérüléstől – így precedenst teremthet az ítélet.
