TECH HÍREK – Egy biztonsági szakértő szerint hiába könnyű a saját chatbotunkat létrehozni, ha annak biztonsági hiányosságai mellett nem mehetünk el szó nélkül…

A Microsoft chatbotjával így például egy játékfejlesztő megvalósíthatná, hogy a játékával kapcsolatos kérdésekre válazolhasson, segíthet a PC port grafikus behangolásában, és a technikai problémákra is gyógymódot adhat. Felületesen vizsgálva ez jó, de Zenity, egy MI-s biztonsági specialista szerint a Copilot Studio és az általa létrehozott chatbotok biztonsági rémálmot jelentenek. A cég technikai igazgatója, Michael Bargury a Black Hat biztonsági konferencián ásott mélyebbre a részletekben…

A Copilot Studio biztonsági alapbeállításai nem megfelőek. Egy kártékony felhasználó ártalmas kódot helyezhet el egy ártatlan emailben, utasíthatja a Copilot botot annak ellenőrzésére és puff, már fut is a kód. Vagy az is baj lehet, hogy a Copilot egy hamis Microsoftos bejelentkezési oldalt dob fel, ahonnan a belépési adatokat pillanatok alatt eltulajdoníthatják, és mindezt a chatboton belül láthatnánk. A Zenity szerint egy átlagos nagy amerikai cégben már 3000 ilyen chatbot fut, és 63%-uk online felfedezhető. Ha ez igaz, akkor egy Fortune 500-as cégből 2000 bot lehet képes kritikus, titkos adatokat kiszivárogtatni!

„Átkutattuk az internetet, és több tízezer ilyen botot találtunk. Ez egy alapvető probléma. Ha a mesterséges intelligenciának hozzáférést biztosítunk az adatokhoz, akkor az adatok támadási felületet jelentenek a prompt injektáláshoz,” mondta Bargury. Szerinte a Copilot eredeti alapbeállításai az internetre publikálta a botokat, és ezekhez hitelesítés nélkül hozzá lehetett férni. Ezt a Zenity felvetette a Microsoftnak, de a frissítés előtti botok így is ott vannak…

Erre ez volt a Microsoft közleménye: „Nagyra értékeljük Michael Bargury munkáját e technikák azonosításában és felelősségteljes bejelentésében egy összehangolt közzététel révén. Vizsgáljuk ezeket a bejelentéseket, és folyamatosan fejlesztjük rendszereinket, hogy proaktívan azonosítsuk és mérsékeljük az ilyen típusú fenyegetéseket, és segítsük ügyfeleink védelmét. Hasonlóan más, a kompromittálást követő technikákhoz, ezek a módszerek a rendszer előzetes kompromittálását vagy a social engineeringet igénylik. A Microsoft Security olyan robusztus védelmi csomagot biztosít, amelyet az ügyfelek használhatnak e kockázatok kezelésére, és elkötelezettek vagyunk a biztonsági mechanizmusaink folyamatos javítása mellett, ahogy ez a technológia folyamatosan fejlődik.”

A mesterséges intelligencia egyfajta aknamező is lehet.

Forrás: PCGamer, The Register, TechTarget