Компанија за чипове Tenstorrent, коју предводи Џим Келер, објавила је свој процесор Wormhole следеће генерације за вештачку интелигенцију, за који очекује да ће понудити добре перформансе по приступачној цени.Компанија тренутно нуди две додатне PCIe картице које могу да приме један или два Wormhole процесора, као и TT-LoudBox и TT-QuietBox радне станице за програмере софтвера. Све данашње најаве су намењене програмерима, а не онима који користе Wormhole плоче за комерцијална радна оптерећења.
„Увек је задовољство када више наших производа доспе у руке програмера. Системи за развој издања који користе наше Wormhole™ картице могу помоћи програмерима да скалирају и развијају софтвер за вештачку интелигенцију са више чипова“, рекао је Џим Келер, извршни директор компаније Tenstorrent.Поред овог лансирања, узбуђени смо што видимо напредак који остварујемо са изградњом траке и покретањем нашег производа друге генерације, Blackhole.
Сваки Wormhole процесор садржи 72 Tensix језгра (од којих пет подржава RISC-V језгра у различитим форматима података) и 108 MB SRAM меморије, испоручујући 262 FP8 TFLOPS на 1 GHz са термалном снагом од 160W. Wormhole n150 картица са једним чипом је опремљена са 12 GB GDDR6 видео меморије и има пропусни опсег од 288 GB/s.
Wormhole процесори пружају флексибилну скалабилност како би задовољили различите потребе радних оптерећења. У стандардној конфигурацији радне станице са четири Wormhole n300 картице, процесори се могу комбиновати у једну јединицу која се у софтверу појављује као обједињена, широка Tensix језгрена мрежа. Ова конфигурација омогућава акцелератору да обради исто радно оптерећење, подели га између четири програмера или истовремено покреће до осам различитих AI модела. Кључна карактеристика ове скалабилности је да може да ради локално без потребе за виртуелизацијом. У окружењу дата центра, Wormhole процесори ће користити PCIe за проширење унутар машине или Ethernet за екстерно проширење.
Што се тиче перформанси, Tenstorrent-ова једночипова Wormhole n150 картица (72 Tensix језгра, фреквенција 1 GHz, 108 MB SRAM, 12 GB GDDR6, пропусни опсег 288 GB/s) постигла је 262 FP8 TFLOPS при 160W, док двочипова Wormhole n300 плоча (128 Tensix језгара, фреквенција 1 GHz, 192 MB SRAM, агрегирано 24 GB GDDR6, пропусни опсег 576 GB/s) испоручује до 466 FP8 TFLOPS при 300W.
Да бисмо ставили 300W од 466 FP8 TFLOPS у контекст, упоредићемо то са оним што лидер на тржишту вештачке интелигенције, Nvidia, нуди са овом термалном снагом. Nvidia A100 не подржава FP8, али подржава INT8, са максималним перформансама од 624 TOPS (1.248 TOPS када је ретко. Поређења ради, Nvidia H100 подржава FP8 и достиже максималне перформансе од 1.670 TFLOPS при 300W (3.341 TFLOPS при ретко), што се значајно разликује од Tenstorrent-овог Wormhole n300.
Међутим, постоји један велики проблем. Тенсторентов Wormhole n150 се продаје по цени од 999 долара, док се n300 продаје за 1.399 долара. Поређења ради, једна Nvidia H100 графичка картица се продаје по цени од 30.000 долара, у зависности од количине. Наравно, не знамо да ли четири или осам Wormhole процесора заправо могу да испоруче перформансе једног H300, али њихови TDP-ови су 600W и 1200W респективно.
Поред картица, Tenstorrent нуди унапред изграђене радне станице за програмере, укључујући 4 n300 картице у приступачнијем TT-LoudBox-у базираном на Xeon-у са активним хлађењем и напредни TT-QuietBox са EPYC (Xiaolong) функцијом течног хлађења).
Време објаве: 29. јул 2024.