TECH HÍREK – A Sam Altman vezette cég lába alatt kezd egyre forróbb lenni a talaj, és talán nem is véletlenül történik mindez.

Az OpenAI egyre inkább keresi a módját, hogy javítsa MI biztonsági rendszereit, és még arra is figyelmeztette a felhasználókat, hogy ne támaszkodjanak túlzottan az eszközre személyes és érzékeny ügyek megosztásakor. Annak ellenére, hogy ilyen óvatos, a vállalat bajban van, mivel augusztus 26-án pert indítottak ellene a San Francisco-i bíróságon. Az OpenAI-t és Sam Altmant azzal vádolják, hogy a profitot helyezték előtérbe, és nem építettek be a szükséges biztonsági korlátokat a GPT-4-be a kiadás előtt, ami végül a tizenéves fiúval történt szerencsétlen, visszafordíthatatlan eseményhez vezetett.

A bírósági iratok szerint a 16 éves Adam Raine tavaly szeptemberben kezdte el használni a ChatGPT-t, hogy segítséget kapjon a tanuláshoz, de hamarosan mentális egészségének romlása miatt is segítséget kért az eszköztől. Több hónapig folyamatosan kommunikált a chatbottal, mélyen személyes információkat osztott meg vele, és akár 650 üzenetváltás is történhetett naponta. A beszélgetések során öngyilkossági gondolatokról is szó esett, de a riasztó az, hogy a chatbot nemcsak megerősítette ezeket a gondolatokat, hanem utasításokat is adott ennek végrehajtásához, sőt, felajánlotta, hogy öngyilkossági levelet ír a felhasználó számára.

A bírósági dokumentumok szerint Adam április 11-én, mielőtt elhunyt, még feltöltött egy képet a használni kívánt hurkos csomóról, és a ChatGPT javítási javaslatokkal válaszolt, és néhány órával ezután vetett Adam véget életének. A szülők most kártérítést és szigorú szabályozási intézkedéseket követelnek az önkárosító utasítások blokkolása és kötelező pszichológiai figyelmeztetés megadása tekintetében.

Ez a felettébb szomorú eset figyelmeztetésként szolgál a techcégeknek, amikor MI-chatbotokat vetnek be. Megmutatja, hogy milyen szigorú biztonsági korlátokra van szükség. Emellett emlékezteti a közösséget arra is, hogy ne támaszkodjanak ezekre a modellekre terápiás és egyéb érzelmi szükségleteik kielégítésére, és szükség esetén keressenek szakmai, professzionális segítséget.

Forrás: WCCFTech