成本最優!教你用智微智能至強W系列工作站+英特爾 4 路銳炫?顯卡跑 DeepSeek
2025-03-10
憑借超強性能表現與開源優勢,DeepSeek 正迅速成為全球擴展大模型應用實踐的“頂流”。在這一創新旅程中,智微智能AI工作站搭載了英特爾銳炫?顯卡,為DeepSeek注入了強心劑。
本文將在 DeepSeek-R1- Distill-Qwen-32B 推理場景下,以面向企業級應用,且成本最低可控制在 5-6 萬元人民幣的智微智能至強W系列工作站+4 路英特爾銳炫? A770 顯卡的解決方案為例,闡述搭建硬件環境與軟件配置。
軟硬件安裝配置
01
硬件安裝配置
02
軟件安裝配置
創新不止步:全新產品與滿血版 DeepSeek R1 方案正在路上
智微智能提供詳盡的部署指南,方便用戶部署。該解決方案可對 DeepSeek 各個蒸餾版提供同樣靈活的支持。使用者可通過調整輸入模型名稱,以及設定并行使用的顯卡數量來進行調整。
另一方面,智微智能至強W系列工作站+4 路英特爾銳炫? A770 顯卡的解決方案的關鍵目標,還是鎖定在 DeepSeek- R1-671B 這一性能巔峰版本上,其配置與優化方法很快就會與大家見面。預計其技術路徑會同時覆蓋基于 KTransformer,能更充分發揮至強? 處理器內置 AI 加速技術 AMX 潛能的方案,以及 GPU 配置密度更高的單機 16 路英特爾銳炫?顯卡的方案。