Džima Kellera vadītais mikroshēmu uzņēmums Tenstorrent ir izlaidis savu nākamās paaudzes Wormhole procesoru AI darba slodzēm, kas paredz nodrošināt labu veiktspēju par pieņemamu cenu.Šobrīd uzņēmums piedāvā divas papildu PCIe kartes, kurās var ievietot vienu vai divus Wormhole procesorus, kā arī TT-LoudBox un TT-QuietBox darbstacijas programmatūras izstrādātājiem. Visi šodienas paziņojumi ir paredzēti izstrādātājiem, nevis tiem, kas izmanto Wormhole plates komerciālām darba slodzēm.
“Vienmēr ir patīkami vairāk mūsu produktu nonākt izstrādātāju rokās. Izlaiduma izstrādes sistēmas, kurās tiek izmantotas mūsu Wormhole™ kartes, var palīdzēt izstrādātājiem mērogot un izstrādāt vairāku mikroshēmu AI programmatūru,” sacīja Džims Kellers, Tenstorrent izpilddirektors.Papildus šai izlaišanai mēs esam priecīgi redzēt progresu, ko mēs panākam, izlaižot lenti un iedarbinot mūsu otrās paaudzes produktu Blackhole.
Katrs Wormhole procesors satur 72 Tensix kodolus (no kuriem pieci atbalsta RISC-V kodolus dažādos datu formātos) un 108 MB SRAM, nodrošinot 262 FP8 TFLOPS 1 GHz frekvencē ar 160 W siltuma projektēto jaudu. Viena mikroshēmas Wormhole n150 karte ir aprīkota ar 12 GB GDDR6 video atmiņu, un tās joslas platums ir 288 GB/s.
Wormhole procesori nodrošina elastīgu mērogojamību, lai apmierinātu dažādas darba slodzes vajadzības. Standarta darbstacijas iestatījumos ar četrām Wormhole n300 kartēm procesorus var apvienot vienā vienībā, kas programmatūrā parādās kā vienots, plašs Tensix pamattīkls. Šī konfigurācija ļauj paātrinātājam apstrādāt to pašu darba slodzi, sadalīt starp četriem izstrādātājiem vai vienlaikus darbināt līdz astoņiem dažādiem AI modeļiem. Šīs mērogojamības galvenā iezīme ir tā, ka tā var darboties lokāli bez virtualizācijas. Datu centra vidē Wormhole procesori izmantos PCIe paplašināšanai iekārtas iekšienē vai Ethernet ārējai paplašināšanai.
Runājot par veiktspēju, Tenstorrent viena mikroshēmas Wormhole n150 karte (72 Tensix kodoli, 1 GHz frekvence, 108 MB SRAM, 12 GB GDDR6, 288 GB/s joslas platums) sasniedza 262 FP8 TFLOPS ar jaudu 160 W, savukārt dual-board-chipn W3mholepn (128 Tensix kodoli, 1 GHz frekvence, 192 MB SRAM, 24 GB GDDR6, 576 GB/s joslas platums) nodrošina līdz 466 FP8 TFLOPS ar 300 W.
Lai kontekstā iekļautu 300 W no 466 FP8 TFLOPS, mēs to salīdzināsim ar to, ko AI tirgus līderis Nvidia piedāvā ar šo siltuma dizaina jaudu. Nvidia A100 neatbalsta FP8, taču tas atbalsta INT8 ar maksimālo veiktspēju 624 TOPS (1248 TOPS, ja tas ir maz). Salīdzinājumam, Nvidia's H100 atbalsta FP8 un sasniedz maksimālo veiktspēju 1670 TFLOPS pie 300 W (3341 TFLOPS pie retām), kas ievērojami atšķiras no Tenstorrent Wormhole n300.
Tomēr ir viena būtiska problēma. Tenstorrent Wormhole n150 mazumtirdzniecības cena ir 999 USD, bet n300 – par 1399 USD. Salīdzinājumam, vienas Nvidia H100 grafiskās kartes mazumtirdzniecības cena ir 30 000 USD, atkarībā no daudzuma. Protams, mēs nezinām, vai četri vai astoņi Wormhole procesori spēj nodrošināt viena H300 veiktspēju, taču to TDP ir attiecīgi 600 W un 1200 W.
Papildus kartēm Tenstorrent piedāvā izstrādātājiem jau iebūvētas darbstacijas, tostarp 4 n300 kartes lētākajā Xeon bāzētajā TT-LoudBox ar aktīvo dzesēšanu un uzlaboto TT-QuietBox ar EPYC balstītu Xiaolong) šķidruma dzesēšanas funkciju).
Izlikšanas laiks: 29. jūlijs 2024