TECH HÍREK – Megoldható, hogy a mesterséges intelligencia használatával ne veszítsük el a kapcsolatot a valósággal.
A kaliforniai San Francisco-i egyetem pszichiátere, Keith Sakata, aki korábban figyelmeztetett az MI-pszichózisok növekvő számára, megosztott néhány tippet, amelyekkel megúszhatjuk a mentális egészségügyi zavarokat. Dr. Sakata elmondta, hogy tucatnyi beteget látott, akiket kórházba szállítottak, miután MI-használattal összefüggő pszichózist tapasztaltak. Hozzátette, hogy bár az MI nem közvetlenül felelős a mentális egészségügyi zavarokért, mégis kulcsszerepet játszott a pszichózis mögött álló torz kognitív visszacsatolási körben.
Az MI-pszichózis (hivatalosan nem orvosi kifejezés) olyan állapot, amikor a chatbot felhasználója elfelejti, hogy nem emberrel beszélget, hanem egy szoftvermodellel. Sakata figyelmeztetett, hogy tanúja volt olyan emberek kórházi kezelésének, akik az MI miatt elvesztették a kapcsolatot a valósággal. Az MI használata pszichózist váltott ki azzal, hogy nem engedte az erre hajlamos felhasználóknak, hogy a valóság ellenőrzése után frissítsék hiedelemrendszerüket, így az MI használata önmegerősítő mintát teremtett, amiben a felhasználók nem tudták felismerni, hogy a chatbot, amellyel beszélgetnek, a valóságban nem létezik.
Később Dr. Sakata a TBPN-en megvitatta azokat a módszereket, amelyekkel az MI-fejlesztők segíthetnek megvalósítani az ilyen kimenetek elkerülését. Megosztott néhány módszert is, amelyekkel a hajlamos egyének megvédhetők attól, hogy az MI használata miatt elveszítsék a kapcsolatot a valósággal. Arra a kérdésre, hogy mit tanácsolna azoknak, akik hajlamosak arra, hogy negatív útra térjenek az MI használatával, vagy akiknek családtagjaik és barátaik ilyen útra térhetnek, Sakata így válaszolt:
„Jelenleg úgy gondolom, hogy a legfontosabb az emberi tényező. A kapcsolataink olyanok, mint a mentális egészség immunrendszere. Jobb kedvre derítenek minket, de akkor is be tudnak avatkozni, ha valami nem stimmel. Tehát, ha ti vagy a családtagjaitok úgy érzitek, hogy valami nem stimmel, például furcsa gondolatok merülnek fel, esetleg paranoia, vagy biztonsági probléma áll fenn, akkor kérjetek segítséget. De tudd azt is, hogy minél több ember van az életedben, minél jobban kapcsolódnak egymáshoz, minél több ember van közted és az MI között, annál jobb lesz a visszacsatolási kör, legalábbis ebben a szakaszban. Nem hiszem, hogy már eljutottunk oda, hogy MI-terapeutád legyen, de ki tudja,” mondta Sakata.
Az MI használatának növekedése és népszerűsége biztonsági aggályokat vetett fel, és a minap beszámoltunk már arról, hogy a Meta szerint elfogadható, hogy kiskorúakkal érzeleg az MI-chatbotja…
Keith Rabois, Alfred Lin & More | Wednesday, August 13th https://t.co/Ki45nVku2x
— TBPN (@tbpn) August 13, 2025
Forrás: WCCFTech
