TECH HÍREK – A redmondi techóriás lényegében lesöpörte magáról a felelősséget, és kissé hihetetlen, hogy hibásan adnak ki valamit, és hogy ez elfogadható…
A Microsoft az utóbbi időben nagy erőfeszítéseket tett az MI területén. Legújabb eredménye ebben a tekintetben az agentikus MI funkciók bevezetése a Windows 11-be a 26220.7262 frissítésnek köszönhetően. Ezzel együtt figyelmeztetés is érkezik, hogy az új MI funkciók hajlamosak hallucinálni és új biztonsági kockázatokat jelenthetnek. A Microsoft szerint a biztonsági hibák között szerepel a keresztprompt-befecskendezés (cross-prompt injection) (XPIA), amelynek során a felhasználói felület elemeibe vagy dokumentumokba ágyazott rosszindulatú tartalom felülírhatja az ügynök utasításait, ami nem kívánt műveletekhez vezethet (adatlopás, rosszindulatú szoftverek telepítése). Például letölthetünk egy PDF-fájlt, amely rejtett szöveget tartalmaz, amely utasítja a Windows-ügynököt, hogy végezzen el rosszindulatú feladatokat, és az ügynök egyszerűen végrehajthatja ezeket az utasításokat.
Vannak a Microsoftnak valamilyen enyhítő intézkedései? Részben. Szerencsére ezek az új ügynöki funkciók alapértelmezés szerint nincsenek engedélyezve. Ha azonban egyszer bekapcsoljuk őket, akkor minden felhasználó számára, minden időben engedélyezve vannak. Kísérleti ügynöki funkcióként vannak megjelölve, és a beállítási folyamat során figyelmeztetés jelenik meg. A Microsoft azt is közli, hogy az új ügynöki MI funkciók három alapelv szerint működnek. Az ügynökök minden cselekedete megfigyelhető és megkülönböztethető a felhasználók cselekedeteitől. Azok az ügynökök, amelyek a felhasználók védett adatait gyűjtik, összesítik vagy más módon felhasználják, teljesítik vagy meghaladják az általuk felhasznált adatok biztonsági és adatvédelmi szabványait. A felhasználók jóváhagyják az összes felhasználói adat lekérdezést, valamint a végrehajtott műveleteket.
Ezek az elvek azonban nem garantálnak semmit, inkább csak törekvéseket jelentenek, ezért is vannak a biztonsági figyelmeztetések. A Microsoft azt is javasolja, hogy olvassuk el ezeket az információkat, és ismerjük meg a biztonsági következményeket, amelyekkel jár, ha engedélyezzük az ügynököt a számítógépünkön. De nehéz elképzelni, hogy az átlagos felhasználók hogyan tudnák megérteni a biztonsági következményeket. Hogyan lehet megítélni a kockázatot? Mennyire valószínű egy sikeres biztonsági támadás, amely az ügynöki MI sebezhetőségére épül, hogy prompt injection-t indítson? Ez a legtöbb felhasználó számára biztosan érthetetlen. A Microsoft gyakorlatilag a felelősséget a felhasználókra hárítja. Rajtuk múlik, hogy bekapcsolják-e ezeket a funkciókat, és rajtuk múlik a kockázatok megítélése is.
Figyelemre méltó, hogy a Microsoft ilyen könnyedén ad hozzá egy olyan funkciót (amelynek ilyen nyilvánvaló problémái vannak) a mainstream és teljesen domináns PC-operációs rendszeréhez. Most már rendben van, ha egy olyan funkciót adnak ki, amelynek jelentős, ismert hibái és biztonsági sebezhetőségei vannak…?
