廣告自美國開放人工智能研究中心（OpenAI）發(fā)布聊天機器人程序ChatGPT及其背后的GPT系列大語言模型以來，人工智能大模型熱潮持續(xù)蔓延，全球科技企業(yè)競相宣布研發(fā)或推出自己的大模型，數(shù)量迅速增長的大模型如何實現(xiàn)商業(yè)化落地成為行業(yè)關(guān)注焦點。
除了OpenAI、谷歌等公司采取的提供云端大模型應用程序編程接口（API）的商業(yè)模式之外，另一條備受關(guān)注的商業(yè)化路徑是銷售“軟硬件結(jié)合”的大模型訓推一體機。這種商業(yè)模式在中國市場上熱度較高，特別是多家中小型科技企業(yè)都推出了大模型訓推一體機產(chǎn)品。這類“開箱即用”的人工智能產(chǎn)品可以在企業(yè)內(nèi)進行本地化部署，使最新人工智能技術(shù)能夠方便地在工業(yè)場景中落地應用，實現(xiàn)從人工智能技術(shù)到生產(chǎn)力的轉(zhuǎn)化，加速人工智能與產(chǎn)業(yè)深度融合。
大模型訓推一體機一般指集成了大模型訓練和推理功能的“全棧式”人工智能設備，通常包含中央處理器（CPU）、圖形處理器（GPU）、存儲器、操作系統(tǒng)、深度學習模型等軟硬組件，能通過大規(guī)模數(shù)據(jù)訓練掌握數(shù)據(jù)處理和預測等能力。
與通過應用程序編程接口使用大模型功能相比，企業(yè)利用訓推一體機實現(xiàn)大模型部署具有多方面優(yōu)勢。首先，訓推一體機可以針對企業(yè)的特定業(yè)務需求提供“開箱即用”的定制化大模型解決方案，并通過軟硬件協(xié)同優(yōu)化提高性能，降低大模型部署、業(yè)務方案建設和調(diào)適的門檻。例如，佳都科技基于華為“昇騰AI”基礎軟硬件平臺推出了“佳都知行交通行業(yè)大模型訓推一體機”，可面向軌道交通、城市交通、城市安全等智慧城市重點建設領域，提供智能化、高效實時的解決方案和決策支持。
其次，由于訓推一體機將所有計算資源集中到一臺設備上，在大規(guī)模數(shù)據(jù)訓練中可大幅減少數(shù)據(jù)傳輸時間，提高計算速度和模型訓練效率，使企業(yè)能夠更快捷地使用和管理資源。
此外，本地化部署的訓推一體機能最大程度保障數(shù)據(jù)隱私和模型安全可控，滿足企業(yè)對數(shù)據(jù)安全監(jiān)管的需求。英國《金融時報》日前報道說，在企業(yè)內(nèi)部署的大模型訓推一體機產(chǎn)品正在對一些大型科技企業(yè)提供的基于公共云的人工智能服務形成沖擊。
該報道說，近期曝出的人工智能企業(yè)安全漏洞加劇了用戶對數(shù)據(jù)安全的擔憂。例如，ChatGPT將用戶的搜索歷史分享給他人，以及韓國三星的員工在使用ChatGPT處理工作時無意間泄露了公司的商業(yè)機密等。報道援引中國科大訊飛董事長劉慶峰的話說，機構(gòu)需要能夠保護他們的數(shù)據(jù)，而建立私有云是防止有價值數(shù)據(jù)泄露的方法。
但也有觀點認為，訓推一體機的性能會受到硬件技術(shù)限制，這提高了技術(shù)持有和更新的成本?！督鹑跁r報》的報道援引半導體行業(yè)研究機構(gòu)SemiAnalysis的首席分析師迪倫·帕特爾的話說，相比于公共云服務或使用應用程序編程接口接入大模型，訓推一體機的效率更低下。該模式對人工智能大模型的使用非常零散，這意味著企業(yè)持有的昂貴人工智能硬件沒有得到充分利用。
許多企業(yè)在衡量利弊后選擇了訓推一體機，這正在成為中國算力行業(yè)的趨勢之一。2023年7月，華為聯(lián)合多家伙伴共同發(fā)布“昇騰AI”大模型訓推一體化解決方案，加速大模型在各個行業(yè)落地應用。目前，科大訊飛等多家中國科技企業(yè)都發(fā)布了基于華為“昇騰AI”基礎軟硬件平臺的訓推一體機產(chǎn)品。
華為董事、ICT（信息與通信技術(shù)）產(chǎn)品與解決方案總裁楊超斌在今年3月舉行的華為中國合作伙伴大會上表示，2024年中國區(qū)人工智能訓推一體機市場規(guī)模有望達到168億元人民幣。
自美國開放人工智能研究中心（OpenAI）發(fā)布聊天機器人程序ChatGPT及其背后的GPT系列大語言模型以來，人工智能大模型熱潮持續(xù)蔓延，全球科技企業(yè)競相宣布研發(fā)或推出自己的大模型，數(shù)量迅速增長的大模型如何實現(xiàn)商業(yè)化落地成為行業(yè)關(guān)注焦點。
除了OpenAI、谷歌等公司采取的提供云端大模型應用程序編程接口（API）的商業(yè)模式之外，另一條備受關(guān)注的商業(yè)化路徑是銷售“軟硬件結(jié)合”的大模型訓推一體機。這種商業(yè)模式在中國市場上熱度較高，特別是多家中小型科技企業(yè)都推出了大模型訓推一體機產(chǎn)品。這類“開箱即用”的人工智能產(chǎn)品可以在企業(yè)內(nèi)進行本地化部署，使最新人工智能技術(shù)能夠方便地在工業(yè)場景中落地應用，實現(xiàn)從人工智能技術(shù)到生產(chǎn)力的轉(zhuǎn)化，加速人工智能與產(chǎn)業(yè)深度融合。
大模型訓推一體機一般指集成了大模型訓練和推理功能的“全棧式”人工智能設備，通常包含中央處理器（CPU）、圖形處理器（GPU）、存儲器、操作系統(tǒng)、深度學習模型等軟硬組件，能通過大規(guī)模數(shù)據(jù)訓練掌握數(shù)據(jù)處理和預測等能力。
與通過應用程序編程接口使用大模型功能相比，企業(yè)利用訓推一體機實現(xiàn)大模型部署具有多方面優(yōu)勢。首先，訓推一體機可以針對企業(yè)的特定業(yè)務需求提供“開箱即用”的定制化大模型解決方案，并通過軟硬件協(xié)同優(yōu)化提高性能，降低大模型部署、業(yè)務方案建設和調(diào)適的門檻。例如，佳都科技基于華為“昇騰AI”基礎軟硬件平臺推出了“佳都知行交通行業(yè)大模型訓推一體機”，可面向軌道交通、城市交通、城市安全等智慧城市重點建設領域，提供智能化、高效實時的解決方案和決策支持。
其次，由于訓推一體機將所有計算資源集中到一臺設備上，在大規(guī)模數(shù)據(jù)訓練中可大幅減少數(shù)據(jù)傳輸時間，提高計算速度和模型訓練效率，使企業(yè)能夠更快捷地使用和管理資源。
此外，本地化部署的訓推一體機能最大程度保障數(shù)據(jù)隱私和模型安全可控，滿足企業(yè)對數(shù)據(jù)安全監(jiān)管的需求。英國《金融時報》日前報道說，在企業(yè)內(nèi)部署的大模型訓推一體機產(chǎn)品正在對一些大型科技企業(yè)提供的基于公共云的人工智能服務形成沖擊。
該報道說，近期曝出的人工智能企業(yè)安全漏洞加劇了用戶對數(shù)據(jù)安全的擔憂。例如，ChatGPT將用戶的搜索歷史分享給他人，以及韓國三星的員工在使用ChatGPT處理工作時無意間泄露了公司的商業(yè)機密等。報道援引中國科大訊飛董事長劉慶峰的話說，機構(gòu)需要能夠保護他們的數(shù)據(jù)，而建立私有云是防止有價值數(shù)據(jù)泄露的方法。
但也有觀點認為，訓推一體機的性能會受到硬件技術(shù)限制，這提高了技術(shù)持有和更新的成本。《金融時報》的報道援引半導體行業(yè)研究機構(gòu)SemiAnalysis的首席分析師迪倫·帕特爾的話說，相比于公共云服務或使用應用程序編程接口接入大模型，訓推一體機的效率更低下。該模式對人工智能大模型的使用非常零散，這意味著企業(yè)持有的昂貴人工智能硬件沒有得到充分利用。
許多企業(yè)在衡量利弊后選擇了訓推一體機，這正在成為中國算力行業(yè)的趨勢之一。2023年7月，華為聯(lián)合多家伙伴共同發(fā)布“昇騰AI”大模型訓推一體化解決方案，加速大模型在各個行業(yè)落地應用。目前，科大訊飛等多家中國科技企業(yè)都發(fā)布了基于華為“昇騰AI”基礎軟硬件平臺的訓推一體機產(chǎn)品。
華為董事、ICT（信息與通信技術(shù)）產(chǎn)品與解決方案總裁楊超斌在今年3月舉行的華為中國合作伙伴大會上表示，2024年中國區(qū)人工智能訓推一體機市場規(guī)模有望達到168億元人民幣。
本文鏈接：http://www.3ypm.com.cn/news-2-5168-0.html大模型訓推一體機：“開箱即用”的人工智能
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
上一篇：充分激發(fā)釋放科技人才紅利
點擊右上角
微信好友
朋友圈
點擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點擊“
”按鈕
點擊右上角
QQ
點擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點擊“”按鈕
