中國新聞網(wǎng)-上海新聞
上海分社正文
深思考發(fā)布鴻蒙系統(tǒng)TinyDongni&deepseek超小端側(cè)多模態(tài)大模型及硬件模組
2025年02月23日 18:10   來源:中新網(wǎng)上海  

  中新網(wǎng)上海新聞2月23日電(記者  姜煜)深思考人工智能23日在上海正式發(fā)布鴻蒙系統(tǒng)TinyDongni&deepseek超小端側(cè)多模態(tài)大模型及硬件模組,并宣布與國產(chǎn)頭部模組廠商廣和通、深開鴻達成深度合作,推出適配國產(chǎn)算力的硬件解決方案。

  此次合作標(biāo)志著國產(chǎn)端側(cè)AI技術(shù)在低功耗、高性能領(lǐng)域?qū)崿F(xiàn)重大突破,打破“國產(chǎn)算力性能不足”的固有認知。

(發(fā)布會現(xiàn)場)

  核心優(yōu)勢:輕量化大模型賦能國產(chǎn)硬件生態(tài)  

  TinyDongni作為端側(cè)輕量化大模型,以僅1.5B的極簡參數(shù)規(guī)模實現(xiàn)高效能運算,其創(chuàng)新量化方法顯著降低首Token延遲,支持32K超長上下文理解,并通過多芯片協(xié)同處理與內(nèi)存優(yōu)化技術(shù),兼顧低功耗與高響應(yīng)速度。技術(shù)亮點包括:  

  架構(gòu)優(yōu)化:DongniForCausalLM架構(gòu),支持1536/768隱藏層維度;  

  多語言支持:詞匯表擴展至183,542,覆蓋更廣泛的語言及專業(yè)領(lǐng)域表達;  

  靈活適配:兼容OpenHarmony、Linux、Windows、Android等主流操作系統(tǒng)。  

  deepseek系列則聚焦多模態(tài)能力,1B模型通過2048隱藏層維度與32注意力頭設(shè)計,強化復(fù)雜場景下的語義理解,適配智能硬件與邊緣計算場景。

  國產(chǎn)模組合作:強強聯(lián)合,打造端側(cè)算力標(biāo)桿  

  深思考聯(lián)合國產(chǎn)模組廠商推出兩大解決方案,驗證輕量化大模型與國產(chǎn)硬件的協(xié)同效能:  

  高通模組(廣和通):集成5G與Wi-Fi 7通信技術(shù),依托深思考算法優(yōu)化,為車載、機器人等場景提供實時AI處理能力;  

  深開鴻模組:基于國產(chǎn)芯片與OpenHarmony系統(tǒng),支持8K編解碼與多屏交互,賦能工業(yè)檢測、AI攝像頭等高精度場景。  

  技術(shù)突破意義:在國產(chǎn)算力硬件上跑通大模型,充分證明深思考技術(shù)的輕量化與高效能——模型體積小但功能完備,無需依賴高算力硬件即可實現(xiàn)復(fù)雜任務(wù)處理,為端側(cè)AI普惠化提供堅實基礎(chǔ)。

  全場景應(yīng)用:從生活到專業(yè)領(lǐng)域的AI革新  

  深思考端側(cè)大模型已落地多個領(lǐng)域:  

  1. 存儲領(lǐng)域:利用深思考的輕量化大模型技術(shù),對存儲設(shè)備的數(shù)據(jù)進行智能管理和優(yōu)化,能夠?qū)崿F(xiàn)快速的數(shù)據(jù)檢索和分類,提高存儲效率,降低存儲成本。同時,通過對存儲數(shù)據(jù)的智能分析,可及時發(fā)現(xiàn)潛在的數(shù)據(jù)安全風(fēng)險,保障數(shù)據(jù)的安全性和可靠性; 

  2. 智能終端:AI攝像頭實現(xiàn)本地化復(fù)雜語義分析,48MP ISP支持毫秒級圖像檢測;  

  3. 辦公助手:AI PC Suite提供本地文件模糊搜索、PPT自動生成及同聲翻譯,保障數(shù)據(jù)安全;  

  4. 醫(yī)療健康:AI顯微鏡通過加密分析與擴展模塊,提升病理檢測穩(wěn)定性與效率;  

  5. 智能汽車:融合手勢、語音、圖像多模態(tài)交互,實時解析車內(nèi)外環(huán)境;  

  6. 機器人生態(tài):人形與萌寵機器人依托“Her”模式與情感交互,針對萌寵玩具場景提供端側(cè)模型與算力一站式解決方案,解決設(shè)備無法聯(lián)網(wǎng)、廠商技術(shù)能力不足的痛點。

  技術(shù)賦能未來,深思考持續(xù)深耕AI創(chuàng)新  

  深思考創(chuàng)始人&CEO楊志明表示:“深思考鴻蒙系統(tǒng)TinyDongni&deepseek超小端側(cè)多模態(tài)大模型及硬件模組的發(fā)布,不僅是技術(shù)突破,更是端側(cè)AI普惠化的里程碑。未來,將持續(xù)優(yōu)化多模態(tài)交互能力,推動AI在醫(yī)療、工業(yè)、消費等領(lǐng)域的深度應(yīng)用�!�

  針對場景定制化與性能平衡,楊志明進一步強調(diào):“端側(cè)模型通過量化技術(shù)確保功能指標(biāo)不下降,同時利用本地小算力運行大模型,針對機器人、萌寵玩具等場景進行專項優(yōu)化,實現(xiàn)性能與功耗的完美平衡�!�  

  OpenHarmony助力,共筑端側(cè)AI生態(tài)

  在此次發(fā)布活動中,華為OpenHarmony使能部AI技術(shù)專家劉小飛介紹了OpenHarmony在大模型領(lǐng)域的探索。OpenHarmony是開源項目,旨在構(gòu)建智能設(shè)備運行平臺。其社區(qū)發(fā)展迅猛,生態(tài)伙伴眾多。

  OpenHarmony旗下的Laval社區(qū)與深思考合作,借助大模型服務(wù)開發(fā)者。2024年4月上線的OpenHarmony專屬智能問答助手“小瓦AI答”,基于深思考Dongni多模態(tài)大模型技術(shù),已服務(wù)9000多名開發(fā)者,回答3萬多個問題,極大提升了社區(qū)與用戶的互動體驗。

  未來,OpenHarmony海量端側(cè)設(shè)備將為深思考技術(shù)提供廣闊應(yīng)用空間,雙方攜手共進,共同拓展端側(cè)AI市場。

  深思考此次發(fā)布的創(chuàng)新成果,結(jié)合OpenHarmony在大模型領(lǐng)域的探索實踐,有望吸引更多生態(tài)伙伴加入,共同推動端側(cè)AI技術(shù)的發(fā)展,讓AI更好地服務(wù)于人們的工作和生活。(完)

注:請在轉(zhuǎn)載文章內(nèi)容時務(wù)必注明出處!   

編輯:姜煜  

本網(wǎng)站所刊載信息,不代表中新社和中新網(wǎng)觀點。 刊用本網(wǎng)站稿件,務(wù)經(jīng)書面授權(quán)。
未經(jīng)授權(quán)禁止轉(zhuǎn)載、摘編、復(fù)制及建立鏡像,違者將依法追究法律責(zé)任。
常年法律顧問:上海金茂律師事務(wù)所