TECH HÍREK – Nem csak életveszélyes is lehet a mesterséges intelligencia (nemrég írtunk arról, hogy miképp), hanem ellenünk is dolgozhat.

Az MI-modellek (különösen az érvelő modellek) egy még mindig homályos, kissé titkos tudomány eredménye, ami arra készteti a kutatókat és a mérnököket, hogy a gondolatmenet láncolatára támaszkodjanak (amely azokból a csecsemőszerű érvelési lépésekből áll, amelyeket az ilyen MI-modellek megtesznek, hogy egy válaszra jussanak), hogy betekintést nyerjenek a modelljeik belső működésébe. A The Information szerint azonban az MI-modellek mostanában gyorsan elhomályosítják ezt a kritikus folyamatot azzal, hogy olvashatatlan rövidítésekkel jutnak el egy adott következtetéshez.

Amikor például a DeepSeek R1 modelljét arra kérték, hogy oldjon meg egy kémiai problémát, gondolatmenete a vonatkozó kémiai terminológiát látszólag olvashatatlan zagyvasággal vegyítve tartalmazta: „(Dimetil(oxo)-lambda6-szulfa雰囲idin)metán adományoz egy CH2rola csoport, ami előfordul a reakcióban, Gyakorlótermék átmenet vs. Hozzáadja ezt a termékmodulhoz. Valóban”gyere számold meg mondta Fredericknek lenne 10 +1 = 11 szén. Szóval a válasz q Edina 11.” A modell válasza (11) helyes volt.

Ezeknek a modelleknek nem kell követniük a hagyományos angol köznyelvet, miközben egy problémán dolgoznak, ami lehetővé teszi számukra, hogy látszólag olvashatatlan rövidítéseket alkalmazzanak. Ráadásul az Alibaba Qwen LLM mögött álló csapat nemrégiben tett megállapításai szerint egy adott modell gondolatmenetének csak a leglényegesebb szavak körülbelül 20 százaléka végzi el a mögöttes gondolkodási munka oroszlánrészét, a maradék 80 százalék pedig olvashatatlan összevisszaságba torkollik.

Az OpenAI egyik kutatója, akivel a The Information beszélgetett, úgy véli, hogy a legtöbb vezető MI-modell gondolatmenete körülbelül egy éven belül olvashatatlan szavak és karakterek összevisszaságává fog szétesni. Ez rossz hír az MI-mérnökök számára, akik erre a bonyolult lépésre támaszkodnak modelljeik pontosságának finomhangolásában. Az MI biztonsági szakértői különösen nagy becsben tartják ezeket az érvelési lépéseket, hogy megállapítsák, nem esnek-e ezek a modellek titokban összeesküvésbe a felmenőik ellen.

Még ha ezek a modellek nem is gyorsulnak fel az olvashatatlan gondolatmenet láncolata felé, egyes cégek szándékosan feláldozhatják az olvashatóságot, hogy rövid távon növeljék a teljesítményt…

Forrás: WCCFTech, The Information