Компанија Тенсторрент за чипове предвођена Јимом Келером објавила је своју нову генерацију Вормхоле процесора за радна оптерећења вештачке интелигенције, за које очекује да ће понудити добре перформансе по приступачној цени.Компанија тренутно нуди две додатне ПЦИе картице које могу да приме један или два Вормхоле процесора, као и ТТ-ЛоудБок и ТТ-КуиетБок радне станице за програмере софтвера. Све данашње најаве су усмерене на програмере, а не на оне који користе Вормхоле плоче за комерцијална радна оптерећења.
„Увек је задовољство добити више наших производа у руке програмера. Издавање развојних система помоћу наших Вормхоле™ картица може помоћи програмерима да скалирају и развију софтвер за вештачку интелигенцију са више чипова“, рекао је Јим Келлер, извршни директор Тенсторрент-а.Поред овог лансирања, узбуђени смо што видимо напредак који постижемо са извлачењем траке и укључивањем наше друге генерације производа, Блацкхоле.“
Сваки Вормхоле процесор садржи 72 Тенсик језгра (од којих пет подржава РИСЦ-В језгра у различитим форматима података) и 108 МБ СРАМ-а, испоручујући 262 ФП8 ТФЛОПС на 1 ГХз са топлотном пројектованом снагом од 160 В. Картица Вормхоле н150 са једним чипом је опремљена са 12 ГБ ГДДР6 видео меморије и има пропусни опсег од 288 ГБ/с.
Вормхоле процесори пружају флексибилну скалабилност како би задовољили различите потребе радних оптерећења. У стандардној радној станици са четири Вормхоле н300 картице, процесори се могу комбиновати у једну јединицу која се појављује у софтверу као обједињена, широка Тенсик мрежа језгра. Ова конфигурација омогућава акцелератору да се носи са истим радним оптерећењем, подели између четири програмера или истовремено покрене до осам различитих АИ модела. Кључна карактеристика ове скалабилности је да може да ради локално без потребе за виртуелизацијом. У окружењу центра података, процесори Вормхоле ће користити ПЦИе за проширење унутар машине или Етхернет за екстерно проширење.
Што се тиче перформанси, Тенсторрент-ова једночипна Вормхоле н150 картица (72 Тенсик језгра, 1 ГХз фреквенција, 108 МБ СРАМ, 12 ГБ ГДДР6, 288 ГБ/с пропусног опсега) је постигла 262 ФП8 ТФЛОПС при 160 В, док је В3 или дуал-боард 0 чип (128 Тенсик језгара, фреквенција 1 ГХз, 192 МБ СРАМ, агрегирано 24 ГБ ГДДР6, пропусни опсег 576 ГБ/с) испоручује до 466 ФП8 ТФЛОПС при 300 В.
Да бисмо ставили 300В од 466 ФП8 ТФЛОПС у контекст, упоредићемо то са оним што лидер на тржишту вештачке интелигенције нуди Нвидиа са овом снагом топлотног дизајна. Нвидијин А100 не подржава ФП8, али подржава ИНТ8, са максималним перформансама од 624 ТОПС (1.248 ТОПС када је ретко). За поређење, Нвидијин Х100 подржава ФП8 и достиже врхунске перформансе од 1.670 ТФЛОПС при 300 В (3.341 ТФЛОПС при ретким), што се значајно разликује од Тенсторрент-овог Вормхоле н300.
Међутим, постоји један велики проблем. Тенсторрент-ов Вормхоле н150 се продаје за 999 долара, док се н300 продаје за 1.399 долара. Поређења ради, једна Нвидиа Х100 графичка картица кошта 30.000 долара, у зависности од количине. Наравно, не знамо да ли четири или осам Вормхоле процесора заиста могу да испоруче перформансе једног Х300, али њихови ТДП-и су 600В односно 1200В.
Поред картица, Тенсторрент нуди унапред изграђене радне станице за програмере, укључујући 4 н300 картице у приступачнијем Ксеон-базираном ТТ-ЛоудБок-у са активним хлађењем и напредном ТТ-КуиетБок-у са ЕПИЦ-базираном Ксиаолонг) функцијом течног хлађења).
Време поста: 29.07.2024