TECH HÍREK – A Facebook felhasználóit, akik megnéztek egy fekete férfiakat bemutató újságvideót, megkérdezte egy mesterséges intelligenciával működő ajánlórendszer, hogy „akarnak-e továbbra is főemlősökről szóló videókat látni”.

A Facebook a BBC Newsnak úgy reagált, hogy ez „egyértelműen elfogadhatatlan hiba” volt, letiltotta a rendszert és vizsgálatot indított: „Elnézést kérünk mindenkitől, aki esetleg látta ezeket a sértő ajánlásokat”. Ez a legutóbbi a hibák hosszú sorában, amelyek a mesterséges intelligencia faji előítéletességével kapcsolatos aggodalmakat vetettek fel.

2015-ben a Google Photos applikációja a fekete emberek képeit „gorilláknak” címkézte. A vállalat közölte, hogy „megdöbbent és őszintén sajnálja”, bár a Wired 2018-ban arról számolt be, hogy egyszerűen cenzúrázta a „gorilla” szóra vonatkozó fotókereséseket és címkéket. Aztán májusban a Twitter ismerte el, hogy a „saliency algoritmusa” faji előítéletességgel vágta le a képek előnézeti képeit. Tanulmányok kimutatták az egyes arcfelismerő rendszereket működtető algoritmusok torzításait is.

2020-ban a Facebook új „inkluzív terméktanácsot” jelentett be – és egy új méltányossági csapatot az Instagramon -, amely többek között azt vizsgálja majd, hogy algoritmusai nem mutatnak-e faji előítéleteket. Az IBM pedig  inkább lemond az „elfogult” arcfelismerő technológiáról. A Google és a nagy tech cégek vajon „intézményesen rasszisták” lennének? Valószínűleg nem.

A „főemlősök” ajánlás „algoritmikus hiba volt a Facebookon„, és nem tükrözte a videó tartalmát – mondta egy képviselő a BBC Newsnak. De a Facebook maga is ezzel érvelt: „Amint rájöttünk, hogy ez történt, azonnal letiltottuk a teljes témaajánló funkciót, hogy kivizsgálhassuk az okot, és megakadályozhassuk, hogy ez még egyszer előforduljon. Mint mondtuk, bár javítottunk a mesterséges intelligenciánkon, tudjuk, hogy az nem tökéletes, és még van mit fejlődnünk” – ismerték el a hibát.

Forrás: BBC News