TECH HÍREK – Jensen Huang, az Nvidia vezérigazgatója egy kissé követhetetlen kommenttel élt a Computexes előadás után megtartott kérdezz-felelekjén.
Egy raklapnyi mesterséges intelligenciára kihegyezett GPU fogyasztása oltári magas tud lenni, és Huang, aki manapság kb. azzal a mottóval él, hogy „minél többet veszel, annál többet spórolsz” ezekkel a chipekkel kapcsolatban, hasonló gondolattal bír a legújabb MI-modellekhez köthető fogyasztásról, ugyanis ezek többnyire az Nvidia hardverén futnak. Az Nvidia GPU-i gyorsabban és hatékonyabban végzik el a számításokat mint a riválisok, és szerinte meg kell gyorsítani mindent, ami időt és energiát is spórol így…
„A tartalomalkotó (generatív) mesterséges intelligencia nem a képzésről, hanem a következtetésről szól. A cél nem a képzés, a cél a következtetés. A következtetés során a felhasznált energia mennyisége a számítás alternatív módjához képest sokkal, de sokkal kisebb. Megmutattam például a tajvani klímaszimulációt – 3000-szer kevesebb energiát használunk. Nem 30%-kal kevesebb, hanem 3000-szer kevesebb. Ez egyik alkalmazás után a másik alkalmazásban történik. A mesterséges intelligenciát nem érdekli, hogy hova jár iskolába.
A világnak nincs elég energiája a népesség közelében. De a világnak rengeteg felesleges energiája van. Csak a Napból származó energia mennyisége hihetetlen. De rossz helyen van. Erőműveket és adatközpontokat kellene felállítanunk a képzéshez ott, ahol nincs népesség, a modellt máshol kellene kiképeznünk. A következtetési modellt mindenkinek közelebb kell vinni – a zsebükbe, a telefonjaikba, a PC-kbe, az adatközpontokba és a felhőalapú adatközpontokba,” írta Huang.
A Világgazdasági Fórum (WEF = World Economic Forum) nemrég azt becsülte, hogy az MI-hez köthető energiafogyasztás évente 26-36%-kal nő, és 2028-ra egy kisebb ország (pl. Izland) szintjét is elérheti. De a csökkenő fogyasztáshoz jelentős hatékonyságbeli javulásnak kellene bekövetkeznie, mert minél gyorsabb a feladatelvégzés, annál több energiára van szükség.
Az Nvidia MI-s GPU-ja kb. 40 ezer dollárnál (kb. 15 millió forintnál) kezdődik, úgyhogy eléggé nagy lécet kell megugrani, hogy egy MI-s startup beruházzon egy ilyen hardverbe.
Forrás: PCGamer
