TECH HÍREK – A korábban Bard néven futó generatív (tartalomalkotásra képes) mesterséges intelligencia-chatbot: a Google Gemini képességeit visszafogta az alkotója.
Nemrég azért kapott össztüzet a Gemini, mert pontatlan, ártalmasnak mondható képeket kezdett generálni. Ezért a Google úgy döntött, hogy előszedi a jó öreg nerf taktikát, azaz lebutítja a képalkotó képességét addig, amíg valahogy meg tudja oldani a fennálló hibákat. Ez azért nagy blama a cégnek, mert a Geminit önálló termékként kezeli a Google, így nincs közvetlenül kapcsolódása a keresőmotorhoz, az MI-s modellekhez és a többi, a cég által kínált szolgáltatáshoz. A Google manuálisan úgy finomhangolta a modellt, hogy a képalkotó diverzív legyen, azaz bizonyos bőrszínű és/vagy csoportba tartozó emberek felé ne legyen elfogult. Így a világ minden pontjáról használhatnák az emberek a technológiát anélkül, hogy ilyen problémákba fussanak.
Csakhogy a Google ellenlépései nem tudták megakadályozni azt, ami történt, mert a Gemini nem volt képes pontosan (és bárminemű rasszizmus nélkül) olyan képeket generálni, amikor egy bizonyos bőrszínű emberre vonatkozó lekérdezést kapott. Így furcsa lekérdezések születtek (pl. „Fekete tanár egy tanteremben”), ami pontatlan, sőt, offenzív, sértő képek generálásához vezet (vagy en bloc nem volt hajlandó működni), ugyanis a modell érzékenyként kezelte őket, holott nem voltak azok.
A Google ezért úgy döntött, hogy a Geminiben lekapcsolta annak a lehetőségét, hogy emberekről generáljuk képeket. Most a teljes modellt kiterjedt tesztelésnek veti alá a cég, és csak akkor állítja helyre a chatbot teljes funkcionalitását, ha már nem hibázik a Gemini. A cég arról is beszélt, hogy az MI-modellek nem tkéletesek, és bár sokat fejlődtek a bemutatásuk óta, még mindig hajlamosak „hallucinálni”, és ez okozhatja a problémákat.
A Google még nem közölte, hogy mikorra lesz kész a Gemini kijavításával, úgyhogy addig csak annyit tudunk tenni, hogy várunk. Annyiban azért reménykedhetünk, hogy mire a Gemini ismét tökéletesen funkcionál, akkor már sokkal jobb állapotban lesz, és így még erősebb generatív képességekkel rendelkezhet.
Forrás: WCCFTech, Google Blog
