TECH HÍREK – Az indoklás a teljesítmény és a költség, így az Nvidiának a helyzete a közeljövőben még érdekessé válhat.
Jeff Tatarchuk, a TensorWave társalapítója ezt írta a Twitteren: „Egy nemrégiben 82 mérnök és MI-szakember körében végzett felmérés szerint a válaszadók 50%-a aktívan fontolgatja az AMD Instinct MI300X GPU használatát. Az AMD MI300X mérlegelésének első három oka az elérhetőség, az ár és a teljesítmény, ebben a sorrendben. Mi tervezzük a MI300X használatát. És ti tervezitek?” A független felmérés alapján tehát a jobb ár-érték arány és a nagyobb elérhető készlet miatt válthatnak.
Az MI300X Instinct mesterséges intelligencia-GPU a CDNA 3 architektúrára (nem írtuk el, nem RDNA 3!) épül. 5 és 6 nanométeres gyártás alapján akár 153 milliárd tranzisztorral rendelkezhet (MI300X), nem beszélve a dupla mennyiségű HBM3-as memóriáról (MI250X: 128 GB, MI350X: 256 GB). Az Nvidia H100-asával összevetve 2,4-szeres a memóriakapacitás, 1,6-szoros a memória sávszélessége, illetve 1,3-szeres az FP8 és az FP16 TFLOPS számítási teljesítmény. Az 1v1 összevetésben akár 20%-kal gyorsabb lehet a Llama 2 70B-ben és a FlashAttention 2-ben, a 8v8 szerver felállásban akár 40%-kal gyorsabb is lehet a Llama 2 70B-ben, és 60%-os előnyt is felmutathat a Bloom 176B-ben.
Az AMD zászlóshajó MI-gyorsítója nem véletlenül okoz fejfájást a riválisoknak. Az MI300X jelentősen nagyobb teljesítményt kínál, és az AMD remekül időzítette a megjelenést, ugyanis az Nvidia most azzal küszködik, hogy a rendeléseket teljesítse és kiszállítsa a chipeket a megrendelőknek, ami jelentősen lassítja az új kliensekkel való gyarapodásukat. Az AMD nem vett olyan jó rajtot, amilyet szeretett volna, de a felmérésből adódóan a helyzetük még sokkal jobbra fordulhat, ha közvetlenül a piaci riválisokkal száll ringbe a termék.
Úgyhogy az Nvidiának érdemes lesz gyakran hátranéznie, mert nem csak az asztali videókártyák piacán mutathat fel komoly versenyt az AMD (főleg amiatt, mert azonos áron több VRAM van a Radeon RX 7000-es kártyákon az RTX 4000-esekkel szemben).
Forrás: WCCFTech
In a survey conducted recently among 82 engineers and AI professionals, it stated 50% of the respondents are actively considering using the AMD Instinct MI300X GPU.
The top three reasons for considering the AMD MI300X are availability, cost, and performance, in that order.
We… pic.twitter.com/ZckHBj6b20
— Jeff Tatarchuk (@jtatarchuk) March 8, 2024