TECH HÍREK – A Character.AI ismét egy sajnálatos eseményt követően szerepel a hírekben.

A mesterséges intelligencia térnyerése nyomán a Google úgy döntött, hogy partnerségi megállapodást köt a Character.AI platformmal. Sajnos az amerikai cég nem számított arra, hogy ez a lépés egyszerre lesz ellentmondásos és tragikus. Ugyanis egy AI-alapú chatbot okozta egy tinédzser öngyilkosságát. Ráadásul alig két hónappal azután, hogy kiderült a dolog, a platformot újabb perrel sújtották egy tinédzserrel szembeni viselkedése miatt.

Ahogy a The Verge beszámolt róla, egy 17 éves texasi tinédzser és családja beperelte a Character.AI-t, azt állítva, hogy a platform önsebzésbe kergette őt. A perben azt állítják, hogy a szolgáltatás lehetővé teszi, hogy a kiskorú felhasználók szexuálisan explicit, erőszakos és káros tartalmaknak legyenek kitéve, valamint hajlamosítja őket az önkárosításra. A kereset szerint a tinédzser szorongástól, depressziótól, sőt pánikrohamoktól kezdett szenvedni, miután elkezdte használni a szolgáltatást, a problémák sorozata pedig az önsebzéshez vezetett.

A Google elhatárolódik a Character.AI-tól

A botok, amelyekkel a tinédzser interakcióba lépett, állítólag önsebzést emlegettek, a szüleit okolták a problémáiért, és azt tanácsolták neki, hogy ne keressen segítséget, azt állítva, hogy a környezete nem törődik vele. Néhány héten belül ez már a második panasz, amelyet a platformra érkezett. A panasz szerint a Character.AI kényszeres használatra ösztönöz. Emellett hiányoznak a kockázatos felhasználók azonosítására szolgáló eszközök, és így lehetővé teszi a szexualizált és erőszakos tartalmakat is.

Bár 13 éves korhatárral rendelkezik, nem igényel szülői beleegyezést, így bárki használhatja, aki meghamisítja az adatait. A felperesek tehát azt állítják, hogy a platform hibás kialakítása miatt törvényt sért, míg a vállalat azt mondja, hogy nagyon komolyan veszik a biztonságot. Ezért állításuk szerint olyan intézkedéseket vezettek be, mint például az öngyilkossági megelőző forródrótokra átirányító felugró üzenetek. A Google pedig a maga részéről rámutatott, hogy nincs kapcsolatuk sem a Character.AI modellek tervezésével, sem kezelésével.

Forrás: The Verge