Džima Kellera vadītā Chip Company Tenstorrent ir izlaidis savu nākamās paaudzes Wormhole procesoru AI darba slodzēm, kuru tā paredz piedāvāt labu sniegumu par pieņemamu cenu.Pašlaik uzņēmums piedāvā divas papildu PCIe kartes, kurās var izmitināt vienu vai divus tārpu caurumu procesorus, kā arī TT-Loudbox un TT-Quietbox darbstacijas programmatūras izstrādātājiem. Visi šodienas paziņojumi ir vērsti uz izstrādātājiem, nevis tiem, kas izmanto tārpu dēļus komerciālai darba slodzei.
“Vienmēr ir iepriecinoši panākt, lai vairāk mūsu produktu nonāktu izstrādātāju rokās. Izlaižot attīstības sistēmas, izmantojot mūsu Wormhole ™ kartes, var palīdzēt izstrādātājiem mērogot un attīstīt vairāku ciparu AI programmatūru,” sacīja Džims Kellers, Tenstorrent izpilddirektors.Papildus šai palaišanai mēs ar prieku redzam progresu, ko mēs gūstam, izejot no lentes un mūsu otrās paaudzes produkta “Blackhole” ieslēgšanu. ”
Katrā tārpu cauruma procesorā ir 72 Tensix serdeņi (no kuriem pieci atbalsta RISC-V kodolus dažādos datu formātos) un 108 MB SRAM, nodrošinot 262 FP8 TFLOPS pie 1 GHz ar termisko dizaina jaudu 160W. Vienas mikroshēmas Wormhole N150 karte ir aprīkota ar 12 GB GDDR6 video atmiņu, un tā joslas platums ir 288 GB/s.
Tārpu caurumu procesori nodrošina elastīgu mērogojamību, lai apmierinātu daudzveidīgās darba slodzes vajadzības. Standarta darbstacijas iestatījumā ar četrām tārpu caurumu N300 kartēm procesorus var apvienot vienā vienībā, kas programmatūrā parādās kā vienots, plašs Tensix pamata tīkls. Šī konfigurācija ļauj akseleratoram rīkoties ar vienu un to pašu darba slodzi, sadalīt starp četriem izstrādātājiem vai vienlaikus palaist līdz astoņiem dažādiem AI modeļiem. Šīs mērogojamības galvenā iezīme ir tā, ka tā var darboties lokāli bez nepieciešamības pēc virtualizācijas. Datu centra vidē Wormhole procesori izmantos PCIe paplašināšanai mašīnā vai Ethernet ārējai paplašināšanai.
Veiktspējas izteiksmē Tenstorrent vienas mikroshēmas Wormhole N150 karti (72 Tensix kodoli, 1 GHz frekvence, 108 MB SRAM, 12 GB GDDR6, 288 GB/S joslas platums) sasniedza 262 FP8 TFLOPS 160W, bet divkāršs-chip wormhole n300 (128 Tensix Cores, 1 GHZ biežums, 192 MB s. 24 GB GDDR6, 576 GB/S joslas platums) nodrošina līdz 466 FP8 TFLOPS 300W.
Lai kontekstā ievietotu 300 W no 466 FP8 TFLOPS, mēs to salīdzināsim ar to, ko AI tirgus līderis Nvidia piedāvā šajā termiskā dizaina jaudā. NVIDIA A100 neatbalsta FP8, bet tas atbalsta Int8, ar maksimālo veiktspēju 624 topi (1 248 topi, kad tas ir mazs). Salīdzinājumam - NVIDIA H100 atbalsta FP8 un sasniedz 1,670 TFLOPS maksimālo veiktspēju pie 300 W (3 341 Tflops retā), kas ievērojami atšķiras no Tenstorrent tārpa N300.
Tomēr ir viena būtiska problēma. Tenstorrent's Wormhole N150 mazumtirdzniecības cena ir USD 999, savukārt N300 pārdod par 1 399 USD. Salīdzinājumam - viena NVIDIA H100 grafiskā karte ir mazāka par 30 000 USD, atkarībā no daudzuma. Protams, mēs nezinām, vai četri vai astoņi tārpu cauruma procesori faktiski var nodrošināt viena H300 veiktspēju, bet to TDP ir attiecīgi 600 W un 1200 W.
Papildus kartēm Tenstorrent piedāvā iepriekš izveidotas darbstacijas izstrādātājiem, ieskaitot 4 N300 kartes pieejamākā Xeon balstītā TT-Loudbox ar aktīvu dzesēšanu un uzlaboto TT-Quietbox ar EPYC balstītu Xiaolong) šķidruma dzesēšanas funkciju).
Pasta laiks: jūlijs-29-2024