薪火Deepseek滿血版671B大模型軟硬件一體機（DS一體機）
在內(nèi)網(wǎng)部署deepseek-R1-671B滿血版私有化AI大模型，提供服務(wù)器+GPU顯卡+大模型部署一體機產(chǎn)品，開箱即用，快速上線屬于您自己的大模型。一站式為企業(yè)客戶提供開箱即用的大模型AI軟硬一體機，為行業(yè)客戶提供大模型智能應(yīng)用落地的一體化解決方案，參數(shù)規(guī)模671B，與deepseek官網(wǎng)R1模型效果一致，成本低，性價比極高。
演示網(wǎng)址 http://api.xinhuokj.com:56655 請您親自驗證效果
滿血版DS大模型一體機 內(nèi)置RAG的知識庫問答系統(tǒng) 售價僅需28萬元
對大模型部署方式進行調(diào)整，使得顯存占用降低，大大節(jié)省成本
通過優(yōu)化，將非共享的稀疏矩陣轉(zhuǎn)移至CPU內(nèi)存進行處理，有效降低對GPU顯存的需求，原本需要500GB顯存的模型，在優(yōu)化下，僅需24GB即可運行，而推理速度和精度保持不變。在具體的計算任務(wù)分配上，將計算復(fù)雜、參數(shù)較少的MLA注意力模塊留在GPU上處理，而對于參數(shù)較大、計算較輕的FNN（MOE）模塊，則將其交由CPU執(zhí)行。在GPU/CPU協(xié)同方面，將MLA層保留在GPU，而把路由專家層卸載至CPU，并充分利用AMD指令集進行加速。通過這種動態(tài)任務(wù)分配方式，根據(jù)計算強度分級調(diào)度，使每個計算資源都能得到充分利用，大幅提升了整體計算效率。除此之外，還引入了Marlin GPU算子，對模型的計算過程進行深度優(yōu)化，使推理效率大幅提升，推理速度提高了5倍。
如果使用人數(shù)較多，需要高并發(fā)的deepseek一體機，推薦使用如下產(chǎn)品方案
|
部件規(guī)格 |
部件數(shù)量 |
支持DS模型性能 |
使用體驗 |
價格 |
|
|
薪火AI服務(wù)器XH-10L20-48 |
1 |
本地部署DeepSeek版本 |
DeepSeek-R1 671B |
企業(yè)級應(yīng)用部署，滿血DeepSeek 671B-R1模型 |
80W |
|
Intel 8480+ Xeon 2.0GHz 56C 105M 350W |
2 |
||||
|
64G DDR5-6400MHZ RECC RDIMIM |
16 |
支持并發(fā)數(shù) |
30-300 |
||
|
M.2固態(tài)硬盤2T |
1 |
||||
|
機械硬盤 16T |
1 |
推薦使用人數(shù) |
50-120 |
||
|
2GB緩存RAID卡，支持RAID 0、1、5、6、10、50、60 |
1 |
||||
|
25G雙口網(wǎng)卡 |
1 |
并發(fā)為20時性能 |
25-30Tokens/s |
已可滿足對外提供服務(wù)，每秒輸出25個字，使用非常流暢 |
|
|
英偉達L20 |
10 |
||||
|
2700W滿配熱插拔冗余GPU電源 |
6 |
||||
|
3200W滿配熱插拔冗余主板電源 |
2 |
并發(fā)為50時性能 |
10Tokens/s |
企業(yè)內(nèi)部使用理論上不低于10Tokens/s 體驗不會太差 |
|
|
滿配冗余風(fēng)扇組，支持N+1冗余，支持熱插拔 |
12 |
||||
|
標(biāo)準(zhǔn)機柜安裝，含機架安裝套件并帶安裝導(dǎo)軌，帶相關(guān)配置軟件 |
1 |
并發(fā)為200時性能 |
5Tokens/s |
系統(tǒng)性能趨于飽和 |
|
|
一體化交付，分鐘級部署，提供用戶UI界面，支持模型微調(diào)和數(shù)據(jù)投喂 |
1 |
|
|
一體化交付，提供產(chǎn)品指導(dǎo)和培訓(xùn)，研發(fā)側(cè)與用戶側(cè)分離，提供網(wǎng)頁使用界面 |
|
|
內(nèi)置基于大語言模型和 RAG 的知識庫問答系統(tǒng)，廣泛應(yīng)用于智能客服、企業(yè)內(nèi)部知識庫、學(xué)術(shù)研究與教育等場景，為企業(yè)智能化注入新動力，助力企業(yè)提質(zhì)增效。 |
|||||
產(chǎn)品概述
薪火DeepSeek AI一體機（型號XH-10L20-48）是一款專為企業(yè)級智能化場景打造的高性能AI服務(wù)器，搭載DeepSeek 671B-R1大模型，支持本地化部署，提供開箱即用的企業(yè)級AI能力。通過一體化交付設(shè)計，分鐘級快速部署，助力企業(yè)輕松實現(xiàn)智能客服、知識庫管理、學(xué)術(shù)研究等場景的數(shù)字化轉(zhuǎn)型。
核心配置與性能
1. 強勁硬件，穩(wěn)定可靠
- 處理器：Intel Xeon 8480+（2.0GHz，56核心），支持高并發(fā)數(shù)據(jù)處理。
- 內(nèi)存與存儲：64G DDR5-6400MHz RECC內(nèi)存，2TB M.2固態(tài)硬盤 + 16TB機械硬盤，滿 足海量數(shù)據(jù)存儲需求。
- GPU算力：10塊英偉達L20 GPU，配合2700W冗余電源，保障AI模型高效運算。
- 網(wǎng)絡(luò)與冗余：25G雙口網(wǎng)卡、熱插拔冗余電源（N+1）、智能散熱系統(tǒng)，確保7×24小 時不間斷運行。
2. 卓越性能，靈活適配
- 高并發(fā)支持： 支持30-300用戶并發(fā)，性能隨負載動態(tài)優(yōu)化。
- 并發(fā)20時：25-30 Tokens/s（每秒輸出25字，流暢響應(yīng)對外服務(wù)）。
- 并發(fā)50時：10 Tokens/s（企業(yè)內(nèi)部使用體驗穩(wěn)定）。
- 并發(fā)200時：5 Tokens/s（系統(tǒng)性能趨于飽和，仍可保障基礎(chǔ)服務(wù)）。
核心功能與優(yōu)勢
1. 內(nèi)置知識庫問答系統(tǒng)
- 文檔智能處理：支持直接上傳文檔、自動爬取在線內(nèi)容、智能拆分與向量化，快速構(gòu) 建企業(yè)專屬知識庫。
- 零代碼集成：無縫嵌入企業(yè)微信、釘釘、飛書等第三方平臺，無需開發(fā)即可為現(xiàn)有系 統(tǒng)賦予智能問答能力。
- 工作流引擎：支持AI流程自定義編排，靈活應(yīng)對復(fù)雜業(yè)務(wù)場景（如多輪對話、審批流 轉(zhuǎn)等）。
2. 企業(yè)級部署便捷性
- 一體化交付：預(yù)裝DeepSeek-R1模型及管理界面，分鐘級部署，即插即用。
- 研發(fā)與使用分離：提供用戶友好的網(wǎng)頁操作界面，支持模型微調(diào)、數(shù)據(jù)投喂，技術(shù)門檻低。
- 標(biāo)準(zhǔn)化機柜安裝：含導(dǎo)軌與配置軟件，兼容企業(yè)機房環(huán)境。
3. 場景全覆蓋
- 智能客服：7×24小時自動應(yīng)答，提升客戶滿意度。
- 內(nèi)部知識庫：快速檢索企業(yè)文檔、制度、技術(shù)資料，提高員工效率。
- 學(xué)術(shù)研究：支持文獻分析、數(shù)據(jù)挖掘，加速科研進程。
為何選擇薪火DeepSeek一體機？
- 成本可控：本地化部署，無持續(xù)云端費用，長期使用更經(jīng)濟。
- 安全合規(guī)：數(shù)據(jù)完全私有，保障企業(yè)敏感信息不外泄。
- 高效運維：冗余電源、散熱系統(tǒng)與熱插拔設(shè)計，降低維護成本。
- 專業(yè)支持：提供產(chǎn)品培訓(xùn)、技術(shù)指導(dǎo)，確保快速上手與持續(xù)優(yōu)化。
賦能企業(yè)智能化，一步到位！
薪火DeepSeek一體機以企業(yè)級性能、開箱即用的便捷性、靈活的場景適配能力，為企業(yè)提供從“AI能力構(gòu)建”到“業(yè)務(wù)落地”的全鏈路支持。無論是提升服務(wù)效率，還是優(yōu)化內(nèi)部管理，這款產(chǎn)品都是您邁向智能化的最佳伙伴。
在線演示地址
您可以打開上面的網(wǎng)址，親自體驗效果。
