TECH HÍREK – Én, a robot vagy akár a Cyberpunk 2077 is eszünkbe juthat a mesterséges intelligencia filozófiája és etikája kapcsán. Mustafa Suleyman, a Microsoft mesterséges intelligenciáért felelős vezérigazgatója egy friss blogposztban fejtette ki véleményét a tudatos MI támogatóiról, és arról, hogy egy napon az emberek az MI jogait is védelmezni fogják. Szerinte ez egy veszélyes irány, amely azonnali figyelmet érdemel.
Suleyman úgy véli, az MI képes lehet egyfajta pszichózist kiváltani: „Egyszerűen fogalmazva, legfőbb aggodalmam az, hogy sokan annyira elkezdenek hinni az MI-k tudatos lényekként való illúziójában, hogy hamarosan az MI jogait, a modell jólétét, sőt az MI állampolgárságát is támogatni fogják. Ez a fejlemény veszélyes fordulatot jelent az MI fejlődésében, és azonnali figyelmet érdemel.”
Szerinte az MI különösen aggasztó, mert olyan magabiztosan kommunikál. Mindig kész a párbeszédre, így sok felhasználó felsőbbrendű intelligenciaként kezdhet rá tekinteni, mintha kozmikus igazságokat birtokolna. Suleyman hangsúlyozza: az MI sosem helyettesítheti az embert, és szükség van korlátokra ahhoz, hogy ez a technológia valóban hasznos segítő legyen. Eközben tudósok már vizsgálják az úgynevezett „modell jóléte” koncepcióját is.
Ez gyakorlatilag azt a gondolatot jelenti, hogy erkölcsi kötelességünk van azok iránt a lények iránt, akik potenciálisan tudatosságot érhetnek el. Suleyman szerint az SCAI (látszólag tudatos mesterséges intelligencia) a nyelv, az empatikus személyiség, a memória, a szubjektív élmény igénye, az önérzet, a belső motiváció, a célkitűzés és tervezés, valamint az autonómia kombinációjából állna össze. Ugyanakkor hangsúlyozza, hogy ezek a képességek nem természetes módon alakulnak ki a mostani modellekből.
„Ez csak akkor fog bekövetkezni, ha valakik tudatosan megtervezik, létrehozva és kombinálva a fent említett képességeket, és úgy csomagolják össze, hogy együtt az SCAI benyomását keltik. A sci-fi ihlette képzeletünk miatt sokan attól félnek, hogy egy rendszer szándék nélkül lesz képes önfejlesztésre vagy megtévesztésre. Ez azonban egy leegyszerűsítő antropomorfizmus. Ha valaki a környezetedben elkezd hinni abban, hogy az MI-je egy tudatos digitális személy, az sem neki, sem a társadalomnak, sem pedig nekünk, fejlesztőknek nem egészséges.” – tette hozzá Suleyman.
Blogbejegyzése erősen önreflexív, és újra ráirányítja a figyelmet arra, mennyire összetett a mesterséges intelligencia társadalmi megítélése.
Forrás: PCGamer, Mustafa Suleyman
