Džima Kellera vadītais mikroshēmu uzņēmums Tenstorrent ir izlaidis nākamās paaudzes tārpu caurumu procesoru mākslīgā intelekta darba slodzēm, kas, domājams, piedāvās labu veiktspēju par pieņemamu cenu.Pašlaik uzņēmums piedāvā divas papildu PCIe kartes, kas var uzņemt vienu vai divus Wormhole procesorus, kā arī TT-LoudBox un TT-QuietBox darbstacijas programmatūras izstrādātājiem. Visi šodienas paziņojumi ir paredzēti izstrādātājiem, nevis tiem, kas Wormhole plates izmanto komerciālām darba slodzēm.
“Vienmēr ir gandarījums nonākt izstrādātāju rokās, ja arvien vairāk mūsu produktu nonāk izstrādātāju rokās. Izstrādes sistēmas, kurās tiek izmantotas mūsu Wormhole™ kartes, var palīdzēt izstrādātājiem paplašināties un attīstīt vairāku mikroshēmu mākslīgā intelekta programmatūru,” sacīja Džims Kellers, Tenstorrent izpilddirektors.Papildus šai palaišanai mēs ar prieku gaidām progresu, ko panākam, izlaižot lenti un iedarbinot mūsu otrās paaudzes produktu Blackhole.
Katrā Wormhole procesorā ir 72 Tensix kodoli (pieci no tiem atbalsta RISC-V kodolus dažādos datu formātos) un 108 MB SRAM, kas nodrošina 262 FP8 TFLOPS ar 1 GHz frekvenci un 160 W termisko dizaina jaudu. Vienas mikroshēmas Wormhole n150 karte ir aprīkota ar 12 GB GDDR6 video atmiņu un tās joslas platums ir 288 GB/s.
Wormhole procesori nodrošina elastīgu mērogojamību, lai apmierinātu dažādas darba slodzes vajadzības. Standarta darbstacijas iestatījumos ar četrām Wormhole n300 kartēm procesorus var apvienot vienā vienībā, kas programmatūrā tiek parādīta kā vienots, plašs Tensix kodola tīkls. Šī konfigurācija ļauj paātrinātājam apstrādāt vienu un to pašu darba slodzi, sadalīt to starp četriem izstrādātājiem vai vienlaikus darbināt līdz astoņiem dažādiem mākslīgā intelekta modeļiem. Šīs mērogojamības galvenā iezīme ir tā, ka tas var darboties lokāli bez virtualizācijas nepieciešamības. Datu centra vidē Wormhole procesori izmantos PCIe paplašināšanai iekārtas iekšpusē vai Ethernet ārējai paplašināšanai.
Runājot par veiktspēju, Tenstorrent vienas mikroshēmas Wormhole n150 karte (72 Tensix kodoli, 1 GHz frekvence, 108 MB SRAM, 12 GB GDDR6, 288 GB/s joslas platums) sasniedza 262 FP8 TFLOPS pie 160 W, savukārt divu mikroshēmu Wormhole n300 plate (128 Tensix kodoli, 1 GHz frekvence, 192 MB SRAM, apkopota 24 GB GDDR6, 576 GB/s joslas platums) nodrošina līdz pat 466 FP8 TFLOPS pie 300 W.
Lai 300 W pie 466 FP8 TFLOPS aplūkotu kontekstā, salīdzināsim to ar to, ko piedāvā mākslīgā intelekta tirgus līderis Nvidia ar šādu termiskās konstrukcijas jaudu. Nvidia A100 neatbalsta FP8, bet gan atbalsta INT8 ar maksimālo veiktspēju 624 TOPS (1248 TOPS ar reti izmantotu jaudu). Salīdzinājumam, Nvidia H100 atbalsta FP8 un sasniedz maksimālo veiktspēju 1670 TFLOPS pie 300 W (3341 TFLOPS ar reti izmantotu jaudu), kas ievērojami atšķiras no Tenstorrent Wormhole n300.
Tomēr pastāv viena būtiska problēma. Tenstorrent Wormhole n150 mazumtirdzniecības cena ir 999 ASV dolāri, savukārt n300 — 1399 ASV dolāri. Salīdzinājumam, viena Nvidia H100 grafikas karte maksā 30 000 ASV dolāru atkarībā no daudzuma. Protams, mēs nezinām, vai četri vai astoņi Wormhole procesori faktiski var nodrošināt viena H300 veiktspēju, taču to TDP ir attiecīgi 600 W un 1200 W.
Papildus kartēm Tenstorrent piedāvā iepriekš saliktas darbstacijas izstrādātājiem, tostarp 4 n300 kartes lētākajā Xeon bāzes TT-LoudBox ar aktīvo dzesēšanu un uzlaboto TT-QuietBox ar EPYC bāzes Xiaolong šķidruma dzesēšanas funkciju.
Publicēšanas laiks: 2024. gada 29. jūlijs