A Google TPU-inak jobb teljesítményük is lehetne, de egy faktor visszafogja őket!

TECH HÍREK – A TPU-k (tenzorfeldolgozó egységek) teljesítménye fontos a gépi tanuláshoz, és így a mesterséges intelligenciához is.

 

Az ASIC-ek (alkalmazásspecifikus integrált áramkörök) iránti érdeklődés hatalmas a mai MI-világban, mert a mesterséges intelligencia-alkalmazások következő szintjén (azaz a következtetésben) a Google TPU-ihoz hasonló chipek fogják uralni a piacot, de jobb TCO-val és teljesítményképességgel. A Google 7. generációs Ironwood TPU-jainak bevezetését követően a Meta és az Anthropic érdeklődést mutatott az ASIC-ek integrálása iránt a munkaterhelésükbe, és a TPU-k külső alkalmazásának narratívája lendületet kapott. Az ellátási lánc korlátai azonban jelentős kihívást jelentenek a Google számára, ha az infrastrukturális piacra kíván belépni.

A ChinaTimes szerint kiderült, hogy a Google TPU-i nem felelnek meg a piaci elvárásoknak a chipek mennyisége tekintetében, elsősorban azért, mert a vállalatnak nehézséget okoz a TSMC-hez hasonló beszállítóktól a fejlett csomagolási anyagok beszerzése, amelyek a sikeres felfutáshoz szükségesek. Az olyan technológiák mint a CoWoS egyike azoknak a módszereknek, amelyekkel a chipgyártók a korábbi generációkhoz képest hatalmas teljesítménynövekedést értek el. A TPUv7 esetében a Google MCM (Multi-Chip Module) tervezést alkalmazott, amely lehetővé teszi a cég számára, hogy több chipet integráljon egy egységes csomagba.

A nagy monolitikus chip helyett a TPUv7 több szilícium chipet integrál egy szilícium interposerbe, amely mikrobumphalmazokkal rendelkezik a chipletek összekapcsolásához. Ez végső soron skálázhatóságot tesz lehetővé, és kifejezetten optimalizálja a mátrixszorzók és a következtető struktúra belső kialakítását. Érdekes módon az Ironwood a hálózati PHY-ket és az útválasztási logikát is közvetlenül a csomagba integrálja az interposer útválasztáson keresztül, ami végső soron rendkívül alacsony késleltetésű D2D-kapcsolatokat eredményez. A fejlett csomagolás a Google TPU technológiai stackjének szerves része, ezért a cégnek elegendő kapacitást kell biztosítania a külső alkalmazások elterjedésének növelése érdekében.

A Fubon Research előrejelzése szerint a Google TPU szállításai 2026-ban alacsonyabbak lesznek a mainstream elemző cégek előrejelzéseihez képest főként azért, mert a CoWoS szűk keresztmetszete túl jelentős ahhoz, hogy figyelmen kívül lehessen hagyni. A TSMC meglévő ellátási lánca teljes mértékben az Apple és az Nvidia termékeihez van kötve, ezért a fejlett csomagoláshoz további ügyfelek bevonása problémás lépés, még akkor is, ha a TSMC nagy összegeket költ a termelési kapacitás növelésére. Mivel a Google viszonylag új szereplő lenne az ellátási láncban a tömeggyártás terén, minden bizonnyal a sor végén állna. Ez természetesen nem jelenti azt, hogy a TPU-kat nem fogják bevezetni, hanem inkább azt, hogy az iparágon belüli szűk keresztmetszetek miatt a Google nehezen tudja széles körű ügyfélkörének kínálni egyedi chipjeit. A Google egy lehetséges megoldásként igénybe vehetne olyan cégeket mint az Intel vagy az Amkor a fejlett csomagoláshoz, és a techóriásról máris azt pletykálják, hogy EMIB-T megoldásokat vizsgál.

Az MI ellátási lánc rendkívül kiszámíthatatlan, amikor az ügyfelek megrendeléseinek kielégítéséről van szó, ezért nem lehetünk biztosak abban, hogy mi lesz a Google következő lépése.

Forrás: WCCFTech, ChinaTimes

Spread the love
Avatar photo
theGeek is here since 2019.