חדשות התעשייה: ג'ים קלר השיק שבב RISC-V חדש

כל מעבד Wormhole מכיל 72 Tensix ליבות (חמש מהן תומכות בליבות RISC-V בפורמטים שונים של נתונים) ו-108 MB של SRAM, המספקים 262 FP8 TFLOPS במהירות 1 GHz עם הספק תרמי של 160W. כרטיס Wormhole n150 בעל שבב יחיד מצויד בזיכרון וידאו GDDR6 בנפח 12 גיגה-בייט ובעל רוחב פס של 288 גיגה-בייט לשנייה.

מעבדי חור תולעת מספקים מדרגיות גמישה כדי לענות על הצרכים המגוונים של עומסי עבודה. בהתקנה סטנדרטית של תחנת עבודה עם ארבעה כרטיסי Wormhole n300, ניתן לשלב את המעבדים ליחידה אחת המופיעה בתוכנה כרשת ליבה מאוחדת ורחבה של Tensix. תצורה זו מאפשרת למאיץ להתמודד עם אותו עומס עבודה, לפצל בין ארבעה מפתחים או להפעיל עד שמונה דגמי AI שונים בו זמנית. תכונה מרכזית של מדרגיות זו היא שהיא יכולה לפעול באופן מקומי ללא צורך בווירטואליזציה. בסביבת מרכז נתונים, מעבדי Wormhole ישתמשו ב-PCIe להרחבה בתוך המכונה, או Ethernet להרחבה חיצונית.

מבחינת ביצועים, כרטיס ה-Wormhole n150 של Tenstorrent עם שבב יחיד (72 ליבות Tensix, תדר 1 GHz, 108 MB SRAM, 12 GB GDDR6, רוחב פס של 288 GB/s) השיג 262 FP8 TFLOPS ב-160W, בעוד הלוח Wormhole עם שבב כפול n300 (128 Tensix ליבות, תדר 1 GHz, 192 MB SRAM, 24 GB GDDR6 מצטבר, רוחב פס של 576 GB/s) מספק עד 466 FP8 TFLOPS ב-300W.

כדי להכניס 300W של 466 FP8 TFLOPS להקשר, נשווה את זה למה שמובילת שוק הבינה המלאכותית Nvidia מציעה בכוח העיצוב התרמי הזה. ה-A100 של Nvidia אינו תומך ב-FP8, אך הוא כן תומך ב-INT8, עם ביצועי שיא של 624 TOPS (1,248 TOPS כאשר דליל). לשם השוואה, ה-H100 של Nvidia תומך ב-FP8 ומגיע לביצועי שיא של 1,670 TFLOPS ב-300W (3,341 TFLOPS בדלילות), מה ששונה משמעותית מה- Wormhole n300 של Tenstorrent.

עם זאת, יש בעיה מרכזית אחת. ה-Wormhole n150 של Tenstorrent נמכר במחיר של 999 דולר, בעוד שה-n300 נמכר ב-1,399 דולר. לשם השוואה, כרטיס מסך יחיד של Nvidia H100 נמכר במחיר של 30,000 דולר, תלוי בכמות. כמובן, אנחנו לא יודעים אם ארבעה או שמונה מעבדי Wormhole באמת יכולים לספק את הביצועים של H300 בודד, אבל ה-TDP שלהם הם 600W ו-1200W בהתאמה.

בנוסף לכרטיסים, Tenstorrent מציעה תחנות עבודה מובנות מראש למפתחים, לרבות 4 כרטיסי n300 ב-TT-LoudBox המבוסס על Xeon המשתלם יותר עם קירור אקטיבי, וה-TT-QuietBox המתקדם עם פונקציית קירור נוזלים מבוססת EPYC Xiaolong).