科技日?qǐng)?bào)記者 吳純新 通訊員 劉荊刈
近日,國(guó)產(chǎn)開(kāi)源大模型DeepSeek火速“出圈”,成為關(guān)注焦點(diǎn)。2月18日,武漢云基于華為昇騰 910B,成功部署上線DeepSeek-R1(671B版),為武漢市市區(qū)兩級(jí)政務(wù)用戶提供快速訪問(wèn)服務(wù)。
本次部署基于兩臺(tái)華為Atlas800服務(wù)器,共計(jì)使用16塊910B顯卡(5p算力),集成CANN、FrameworkPTAdapter、MindIE等組件,實(shí)現(xiàn)DeepSeek大模型高效落地應(yīng)用,搭建了安全的私域環(huán)境,全面保障模型完整、知識(shí)安全和應(yīng)用合規(guī),為開(kāi)發(fā)者和客戶提供彈性、充足的算力。同時(shí),武漢云還針對(duì)大模型場(chǎng)景提供多維并行優(yōu)化技術(shù),實(shí)現(xiàn)性能端到端提升,加速智能業(yè)務(wù)快速部署落地。
武漢云基于DeepSeek構(gòu)建了AIGC應(yīng)用開(kāi)發(fā)平臺(tái),具備知識(shí)庫(kù)管理、定制化應(yīng)用、高便捷開(kāi)發(fā)等功能。平臺(tái)支持用戶快速搭建不同行業(yè)、不同場(chǎng)景的大模型應(yīng)用,引入AI AGENT與Workflow高效工作流編排技術(shù),進(jìn)一步提高工作效率,降低運(yùn)營(yíng)成本?;诖似脚_(tái),已開(kāi)發(fā)上線智能公文寫(xiě)作、問(wèn)答助手等場(chǎng)景應(yīng)用。
安全保障方面,武漢云依托國(guó)產(chǎn)技術(shù)自主可控的優(yōu)勢(shì),滿足國(guó)內(nèi)合規(guī)標(biāo)準(zhǔn),適用于對(duì)數(shù)據(jù)安全性要求極高的用戶,全面保障數(shù)據(jù)隱私與安全。
據(jù)了解,未來(lái),武漢云將基于DeepSeek及其他商業(yè)大模型,開(kāi)展語(yǔ)料采集、清洗、整合與訓(xùn)練,打造自主、可控、開(kāi)放、具有武漢特色的江豚大模型。