{"id":131083,"date":"2024-06-08T06:01:22","date_gmt":"2024-06-08T04:01:22","guid":{"rendered":"https:\/\/thegeek.hu\/?p=131083"},"modified":"2024-06-08T18:53:36","modified_gmt":"2024-06-08T16:53:36","slug":"nvidia-minel-tobb-mi-s-gpu-annal-kevesebb-fogyasztas","status":"publish","type":"post","link":"https:\/\/thegeek.hu\/2024\/06\/08\/nvidia-minel-tobb-mi-s-gpu-annal-kevesebb-fogyasztas\/","title":{"rendered":"Nvidia: \u201emin\u00e9l t\u00f6bb MI-s GPU, ann\u00e1l kevesebb fogyaszt\u00e1s!\u201d"},"content":{"rendered":"
<\/p>\n
Egy raklapnyi mesters\u00e9ges intelligenci\u00e1ra kihegyezett GPU fogyaszt\u00e1sa olt\u00e1ri magas tud lenni, \u00e9s Huang, aki manaps\u00e1g kb. azzal a mott\u00f3val \u00e9l, hogy \u201emin\u00e9l t\u00f6bbet veszel, ann\u00e1l t\u00f6bbet sp\u00f3rolsz\u201d ezekkel a chipekkel kapcsolatban, hasonl\u00f3 gondolattal b\u00edr a leg\u00fajabb MI-modellekhez k\u00f6thet\u0151 fogyaszt\u00e1sr\u00f3l, ugyanis ezek t\u00f6bbnyire az Nvidia hardver\u00e9n futnak. Az Nvidia GPU-i gyorsabban \u00e9s hat\u00e9konyabban v\u00e9gzik el a sz\u00e1m\u00edt\u00e1sokat mint a riv\u00e1lisok, \u00e9s szerinte meg kell gyors\u00edtani mindent, ami id\u0151t \u00e9s energi\u00e1t is sp\u00f3rol \u00edgy…<\/p>\n
\u201eA tartalomalkot\u00f3 (generat\u00edv) mesters\u00e9ges intelligencia nem a k\u00e9pz\u00e9sr\u0151l, hanem a k\u00f6vetkeztet\u00e9sr\u0151l sz\u00f3l. A c\u00e9l nem a k\u00e9pz\u00e9s, a c\u00e9l a k\u00f6vetkeztet\u00e9s. A k\u00f6vetkeztet\u00e9s sor\u00e1n a felhaszn\u00e1lt energia mennyis\u00e9ge a sz\u00e1m\u00edt\u00e1s alternat\u00edv m\u00f3dj\u00e1hoz k\u00e9pest sokkal, de sokkal kisebb. Megmutattam p\u00e9ld\u00e1ul a tajvani kl\u00edmaszimul\u00e1ci\u00f3t – 3000-szer kevesebb energi\u00e1t haszn\u00e1lunk. Nem 30%-kal kevesebb, hanem 3000-szer kevesebb. Ez egyik alkalmaz\u00e1s ut\u00e1n a m\u00e1sik alkalmaz\u00e1sban t\u00f6rt\u00e9nik. A mesters\u00e9ges intelligenci\u00e1t nem \u00e9rdekli, hogy hova j\u00e1r iskol\u00e1ba.<\/p>\n
A vil\u00e1gnak nincs el\u00e9g energi\u00e1ja a n\u00e9pess\u00e9g k\u00f6zel\u00e9ben. De a vil\u00e1gnak rengeteg felesleges energi\u00e1ja van. Csak a Napb\u00f3l sz\u00e1rmaz\u00f3 energia mennyis\u00e9ge hihetetlen. De rossz helyen van. Er\u0151m\u0171veket \u00e9s adatk\u00f6zpontokat kellene fel\u00e1ll\u00edtanunk a k\u00e9pz\u00e9shez ott, ahol nincs n\u00e9pess\u00e9g, a modellt m\u00e1shol kellene kik\u00e9pezn\u00fcnk. A k\u00f6vetkeztet\u00e9si modellt mindenkinek k\u00f6zelebb kell vinni – a zseb\u00fckbe, a telefonjaikba, a PC-kbe, az adatk\u00f6zpontokba \u00e9s a felh\u0151alap\u00fa adatk\u00f6zpontokba,\u201d \u00edrta Huang.<\/p>\n
A Vil\u00e1ggazdas\u00e1gi F\u00f3rum (WEF = World Economic Forum) nemr\u00e9g azt becs\u00fclte, hogy az MI-hez k\u00f6thet\u0151 energiafogyaszt\u00e1s \u00e9vente 26-36%-kal n\u0151, \u00e9s 2028-ra egy kisebb orsz\u00e1g (pl. Izland) szintj\u00e9t is el\u00e9rheti. De a cs\u00f6kken\u0151 fogyaszt\u00e1shoz jelent\u0151s hat\u00e9konys\u00e1gbeli javul\u00e1snak kellene bek\u00f6vetkeznie, mert min\u00e9l gyorsabb a feladatelv\u00e9gz\u00e9s, ann\u00e1l t\u00f6bb energi\u00e1ra van sz\u00fcks\u00e9g.<\/p>\n
Az Nvidia MI-s GPU-ja kb. 40 ezer doll\u00e1rn\u00e1l (kb. 15 milli\u00f3 forintn\u00e1l) kezd\u0151dik, \u00fagyhogy el\u00e9gg\u00e9 nagy l\u00e9cet kell megugrani, hogy egy MI-s startup beruh\u00e1zzon egy ilyen hardverbe.<\/p>\n