中國新聞網(wǎng)-上海新聞
上海分社正文
PPIO派歐云發(fā)布全新算力云產(chǎn)品 助力大模型推理千倍降本
2024年09月07日 19:11   來源:中新網(wǎng)上海  

  中新網(wǎng)上海新聞9月7日電(徐明睿)近日,由PPIO派歐云主辦的“Power to Pioneers·2024分布式云計算論壇暨 PPIO AI產(chǎn)品發(fā)布會”在上海召開。論壇聚焦于分布式云計算的技術(shù)創(chuàng)新、產(chǎn)業(yè)落地、市場趨勢,及其對AIGC規(guī);瘧玫耐苿恿。期間,PPIO推出全新的Serverless和模型API服務產(chǎn)品,進一步完善派歐算力云產(chǎn)品矩陣,標志著PPIO的分布式云服務從邊緣云延伸到AI基礎設施,將為AIGC創(chuàng)新企業(yè)和開發(fā)者帶來更高性價比、彈性、易用的一站式AI基礎設施產(chǎn)品和服務。

  中國信息通信研究院云大所政企數(shù)字化轉(zhuǎn)型部主任徐恩慶發(fā)表了重要演講。他指出,分布式算力體系已成為支持新一代IT技術(shù)發(fā)展的關(guān)鍵,生成式人工智能的興起離不開新一代超大規(guī)模分布式算力基礎設施的支持。這些設施通過分布式計算確保了人工智能算法的高效運行,同時也需要一個更強大的操作平臺來融合異構(gòu)算力和智算基礎設施。

  會上,中國信息通信研究院與PPIO派歐云聯(lián)合多家行業(yè)領(lǐng)軍企業(yè)、科研機構(gòu)共同啟動《分布式算力發(fā)展白皮書》研究工作,旨在推動分布式算力技術(shù)的發(fā)展,為全球數(shù)字經(jīng)濟注入新動能。白皮書將系統(tǒng)地闡述了分布式算力的發(fā)展背景、核心技術(shù)、應用場景、市場趨勢以及未來發(fā)展方向,全面總結(jié)了近年來分布式算力在全球范圍內(nèi)的實踐成果與技術(shù)突破,為分布式云行業(yè)從業(yè)者、技術(shù)開發(fā)者和政策制定者提供清晰的方向指引,推動分布式算力技術(shù)的進一步成熟和落地。

  上海交通大學特聘教授陳海波探討了通用智能與操作系統(tǒng)的緊密關(guān)系。他指出,大模型正逐步從應用形態(tài)演變?yōu)榛A能力,推動各行業(yè)的數(shù)字化進程。通用機器人技術(shù)的進步,結(jié)合多模態(tài)大模型和腦機接口,正在引領(lǐng)行業(yè)變革。而端側(cè)和邊緣側(cè)的大模型推理優(yōu)化對操作系統(tǒng)提出了更高要求,盡管大模型潛力巨大,但完全替代操作系統(tǒng)仍有挑戰(zhàn)。未來,開源操作系統(tǒng)與大模型的結(jié)合將帶來新的技術(shù)機遇,并對分布式系統(tǒng)軟件提出更高的要求和挑戰(zhàn)。

  PPIO派歐云聯(lián)合創(chuàng)始人、董事長兼 CEO姚欣在主題演講中指出:“遵循尺度定律的基本原理,計算能力將決定大模型創(chuàng)新和應用的上限。在計算資源成本高昂而需求爆增的市場格局下,分布式算力將成為引領(lǐng)下一輪科技革命的重要推動力,正在逐步改變?nèi)蛴嬎阗Y源的供給和利用方式。我們的核心理念是利用分布式云的優(yōu)勢,三年實現(xiàn)千倍降本,以算力普惠推動 AI 普惠,助力開拓者創(chuàng)造出全新的發(fā)展機遇!

  大幅降低AI推理成本,實現(xiàn)AI普惠

  與模型訓練相比,AI推理與產(chǎn)業(yè)應用關(guān)系更為密切。大模型在訓練后需要通過推理應用于實際場景,這直接影響其可用性和實用性。然而,目前AI推理面臨的主要問題是成本高昂,尤其是隨著模型規(guī)模增大,計算需求和成本也隨之增加。此外,推理效率普遍較低,加上復雜的業(yè)務場景和應用鏈路,進一步推高了推理成本。

  為了解決AI推理的成本問題,實現(xiàn)大模型應用算力普惠,PPIO派歐云通過算法、系統(tǒng)和硬件協(xié)同創(chuàng)新,推出了專為AI推理場景設計的Serverless產(chǎn)品,提供模型部署、運行優(yōu)化、彈性伸縮及API服務,幫助客戶在自定義模型時獲得高效的彈性效率和極致的運行成本。Serverless產(chǎn)品的推出使得開發(fā)者無需再管理和運維算力服務器,而是能夠?qū)⒕杏诤诵臉I(yè)務的應用邏輯開發(fā)與創(chuàng)新,從而幫助企業(yè)實現(xiàn)降本增效。

派歐算力云Serverless產(chǎn)品提供業(yè)界領(lǐng)先的自動彈性觸發(fā)時延和單實例冷啟動速度
派歐算力云Serverless產(chǎn)品提供業(yè)界領(lǐng)先的自動彈性觸發(fā)時延和單實例冷啟動速度

  此外,PPIO派歐云還推出了全新的Model API服務產(chǎn)品,支持 AIGC 應用開發(fā)所需的全模態(tài) API,開發(fā)者無需精通機器學習即可快速部署和調(diào)用大模型功能。結(jié)合PPIO強大的分布式計算能力和派歐算力云Serverless產(chǎn)品的彈性支持,Model API服務不僅顯著提升了AI應用的開發(fā)效率,還通過按需付費模式有效降低了企業(yè)的開發(fā)和運營成本。

PPIO派歐云聯(lián)合創(chuàng)始人兼CTO王聞宇發(fā)布Model API 服務價格
PPIO派歐云聯(lián)合創(chuàng)始人兼CTO王聞宇發(fā)布Model API 服務價格

  派歐算力云產(chǎn)品可廣泛應用于多個場景,提供靈活且高效的解決方案。例如,在中國鐵塔的智能算力調(diào)度管理項目中,為了實現(xiàn)在城市廣泛分布的產(chǎn)業(yè)園、寫字樓、住宅、文娛和高校等園區(qū)進行算力入園的管理服務,PPIO通過打造分布式算力網(wǎng)絡,實現(xiàn)不同地區(qū)、不同時間、不同業(yè)務的彈性算力調(diào)度和大模型推理加速,為園區(qū)內(nèi)的AI應用提供高性價比的智算服務,滿足智能數(shù)據(jù)處理、大模型部署、AIGC生成、AI算法加速、渲染加速等一系列應用需求。

  產(chǎn)研聯(lián)動、生態(tài)協(xié)同,加速AI應用創(chuàng)新

  會上,PPIO派歐云宣布聘請華中科技大學教授、長江學者特聘教授、中國計算機學會副理事長金海教授擔任公司技術(shù)委員會主席。作為中國分布式計算領(lǐng)域的知名學者,金海教授將為PPIO的分布式技術(shù)發(fā)展戰(zhàn)略和算力網(wǎng)絡規(guī)劃提供深入全面的指導,為公司未來在分布式云和AI基礎設施領(lǐng)域的研究和創(chuàng)新發(fā)展奠定堅實基礎。

  金海教授表示:“PPIO在分布式云領(lǐng)域的前沿探索和創(chuàng)新實踐,不僅展現(xiàn)了技術(shù)推動行業(yè)變革的深遠影響,更預示著一個全新的計算時代的到來。我期待與PPIO技術(shù)團隊攜手,將分布式云計算的技術(shù)邊界進一步拓展,推動其在更多行業(yè)中的深度應用,助力PPIO實現(xiàn)全球領(lǐng)先的分布式計算資源優(yōu)化配置和行業(yè)數(shù)字化轉(zhuǎn)型。”

  不僅如此,為了推動AI應用的持續(xù)創(chuàng)新,PPIO派歐云聯(lián)合PingCap、Zilliz、AscentStream和CSDN,共同啟動“Pioneers AI初創(chuàng)加速計劃”。該計劃面向AI初創(chuàng)企業(yè)和開發(fā)者,提供包括分布式算力、分布式關(guān)系型數(shù)據(jù)庫、分布式向量數(shù)據(jù)庫、分布式消息隊列等在內(nèi)的全面資源和技術(shù)服務,助力初創(chuàng)團隊在分布式云上實現(xiàn)快速成長,加速其創(chuàng)新成果的落地。

  PPIO派歐云將繼續(xù)依托產(chǎn)學研深度融合與生態(tài)體系共建的優(yōu)勢,基于分布式云打造創(chuàng)新產(chǎn)品服務,持續(xù)降低技術(shù)基礎設施成本,使更多AI企業(yè)和開發(fā)者能夠輕松承擔大模型推理的費用和成本,助力企業(yè)在AI應用創(chuàng)新中搶占市場先機。(完)

注:請在轉(zhuǎn)載文章內(nèi)容時務必注明出處!   

編輯:徐明睿  

本網(wǎng)站所刊載信息,不代表中新社和中新網(wǎng)觀點。 刊用本網(wǎng)站稿件,務經(jīng)書面授權(quán)。
未經(jīng)授權(quán)禁止轉(zhuǎn)載、摘編、復制及建立鏡像,違者將依法追究法律責任。
常年法律顧問:上海金茂律師事務所