2023世界人工智能大會(huì)（WAIC 2023）于上海世博中心及世博展覽館成功舉辦。大會(huì)參展企業(yè)超過400家，線下參觀人數(shù)突破17.7萬人。速石科技也應(yīng)邀參加本次大會(huì)，旗下一站式AI研發(fā)平臺(tái)及AI應(yīng)用Megrez首次亮相。
本次大會(huì)以“智聯(lián)世界，生成未來”為主題，圍繞大模型、智能芯片、類腦智能、自動(dòng)駕駛、元宇宙等十大前沿方向，聚焦于AI領(lǐng)域的學(xué)術(shù)和研發(fā)熱點(diǎn)問題，由包括圖靈獎(jiǎng)得主、諾貝爾獎(jiǎng)得主、海內(nèi)外院士、頂尖企業(yè)領(lǐng)軍人才在內(nèi)的逾1400位重量級(jí)嘉賓展開討論。
在ChatGPT、Midjourney等產(chǎn)品引爆AIGC熱度后，國(guó)內(nèi)外知名科技公司也先后發(fā)布了自己的大模型，極高的關(guān)注度帶動(dòng)了整條人工智能產(chǎn)業(yè)鏈的發(fā)展，從而催生了行業(yè)對(duì)MLOps平臺(tái)的進(jìn)一步需求。
關(guān)于MLOps
與外界認(rèn)知不同，在AI的完整生態(tài)體系中，模型開發(fā)在其中的占比微乎其微。
Google團(tuán)隊(duì)在2015年的論文中首次提出機(jī)器學(xué)習(xí)系統(tǒng)中存在著隱藏的技術(shù)債務(wù)，代碼開發(fā)的占比僅僅如下圖小黑框所示，整個(gè)機(jī)器學(xué)習(xí)的體系復(fù)雜而龐大。
來源：Hidden Technical Debt in Machine Learning Systems, NeurIPS 2015
諸如數(shù)據(jù)處理、生產(chǎn)環(huán)境部署、算力資源管理、多個(gè)開發(fā)環(huán)境的管理等，會(huì)降低企業(yè)的研發(fā)效率和研發(fā)人員的工作體驗(yàn)。
而在生產(chǎn)部署環(huán)節(jié)，根據(jù)IDC調(diào)查顯示，在準(zhǔn)備部署人工智能的企業(yè)中，大部分還停留在對(duì)模型的評(píng)估測(cè)試階段，只有31%的企業(yè)將模型投入了生產(chǎn)環(huán)境，這其中僅三分之一的企業(yè)認(rèn)為AI的部署對(duì)自己起到了正面作用。
MLOps就是將機(jī)器學(xué)習(xí)（ML）、開發(fā)（Dev）和運(yùn)維（Ops）串連為一個(gè)整體，向人工智能領(lǐng)域提供了系統(tǒng)性的生產(chǎn)過程管理方案，從而針對(duì)性地解決前述AI領(lǐng)域問題。
行業(yè)對(duì)系統(tǒng)性的方法論和規(guī)范化的管理流程有著強(qiáng)烈的需求，這也是近年來MLOps產(chǎn)業(yè)快速發(fā)展的原因所在。
速石科技MLOps平臺(tái)
作為 NVIDIA Inception Program 的一員，速石科技致力于彌合研發(fā)團(tuán)隊(duì)與AI基礎(chǔ)設(shè)施間的差距，簡(jiǎn)化AI模型的研發(fā)流程，借助自身優(yōu)勢(shì)減少研發(fā)過程中技術(shù)和流程的重復(fù)，大幅優(yōu)化企業(yè)的研發(fā)效率和體驗(yàn)。
速石科技旗下的MLOps平臺(tái)能為企業(yè)提供端到端的一站式AI研發(fā)平臺(tái)，并為AI/ML提供全生命周期的產(chǎn)研支持，實(shí)現(xiàn)AI/ML模型的部署和落地，從而幫助企業(yè)實(shí)現(xiàn)自身商業(yè)價(jià)值。
敏捷高效的一站式研發(fā)平臺(tái)
速石科技MLOps平臺(tái)能夠?yàn)槠髽I(yè)提供敏捷高效的一站式研發(fā)環(huán)境，縮短模型的開發(fā)周期，覆蓋企業(yè)從ML/LLM模型的構(gòu)建、訓(xùn)練到最終部署的全部需求，幫助企業(yè)更快地將ML/LLM模型推向生產(chǎn)環(huán)境，從而提升整體產(chǎn)研效率。
速石科技擁有遍布全球的服務(wù)節(jié)點(diǎn)，能為企業(yè)提供海量的CPU、GPU、TPU等異構(gòu)資源，并能提供數(shù)據(jù)運(yùn)營(yíng)（DataOps）和存儲(chǔ)方案等底層支持。平臺(tái)內(nèi)多種即開即用的工具、可視化的操作界面和工作流設(shè)置，則能減少研發(fā)人員的學(xué)習(xí)成本，允許企業(yè)快速完成環(huán)境設(shè)置，隨時(shí)開啟研發(fā)工作。
幫助企業(yè)實(shí)現(xiàn)降本增效
速石科技一站式的研發(fā)服務(wù)也能幫助企業(yè)縮短AI項(xiàng)目的研發(fā)周期，實(shí)現(xiàn)快速迭代，幫助企業(yè)更快地將AI產(chǎn)品投入生產(chǎn)環(huán)節(jié)，實(shí)現(xiàn)自身商業(yè)價(jià)值。
速石科技通過集群實(shí)現(xiàn)對(duì)云端和本地算力的統(tǒng)一管理，并通過自研調(diào)度器Fsched確保每個(gè)用戶都能及時(shí)獲取所需資源，減少任務(wù)排隊(duì)和資源浪費(fèi)，從而提升企業(yè)研發(fā)的投資回報(bào)率。
Fsched調(diào)度器能夠?qū)崿F(xiàn)任務(wù)調(diào)度自動(dòng)化，加快模型研發(fā)和迭代的速度，實(shí)現(xiàn)敏捷交付。在任務(wù)高峰期，F(xiàn)sched還能自動(dòng)為團(tuán)隊(duì)補(bǔ)充云端算力以防任務(wù)中斷。速石科技的自動(dòng)集群管理與彈性資源擴(kuò)充解放了團(tuán)隊(duì)精力，幫助企業(yè)有效提升研發(fā)效率，控制研發(fā)成本。
可視化的監(jiān)控儀表盤可以讓企業(yè)從多個(gè)維度查看資產(chǎn)利用情況，并通過速石科技的身份系統(tǒng)管理用戶的訪問權(quán)限和資源上限，進(jìn)一步優(yōu)化企業(yè)資源的投入產(chǎn)出比。
數(shù)字資產(chǎn)管理
隨著AI的飛速發(fā)展，數(shù)據(jù)、算法、模型和特征等數(shù)字資產(chǎn)的重要性逐漸突顯。
速石科技能夠提供多維度的監(jiān)控告警及審核日志，能夠追溯操作記錄，幫助企業(yè)了解數(shù)字資產(chǎn)的使用情況，增強(qiáng)企業(yè)的數(shù)字資產(chǎn)安全保障。
結(jié)合企業(yè)內(nèi)部安全策略，速石科技能為企業(yè)提供安全可控的訪問環(huán)境，通過身份認(rèn)證、權(quán)限管理、數(shù)據(jù)隔離等功能，簡(jiǎn)化訪問管理，并實(shí)現(xiàn)對(duì)數(shù)字資產(chǎn)的全面管理和控制。
速石科技AI應(yīng)用
AI應(yīng)用落地是所有研發(fā)環(huán)節(jié)中最后一環(huán)，也是最重要的一環(huán)。在AIGC應(yīng)用百花齊放的這波浪潮中，速石科技作為MLOps平臺(tái)的提供方，同時(shí)也是其使用方。
速石科技已經(jīng)發(fā)布一款行業(yè)知識(shí)庫聊天應(yīng)用Megrez，這款聊天應(yīng)用面向企業(yè)客戶提供大語言模型的私有化部署能力，解決了許多企業(yè)用戶關(guān)注的數(shù)據(jù)安全問題，它也允許用戶自定義行業(yè)知識(shí)庫，實(shí)現(xiàn)領(lǐng)域知識(shí)的問答。
速石科技支持用戶在平臺(tái)上自定義這款應(yīng)用的部署，實(shí)現(xiàn)從基礎(chǔ)架構(gòu)到最終應(yīng)用的端到端掌控。
結(jié)語
AI工程化是產(chǎn)業(yè)發(fā)展的必經(jīng)之路，AI真正成為生產(chǎn)力工具，就必須借助MLOps等工程化技術(shù)來解決開發(fā)、訓(xùn)練和部署等全鏈路生命周期的問題。
速石科技在云平臺(tái)、團(tuán)隊(duì)協(xié)同、數(shù)據(jù)管理、工作流優(yōu)化和應(yīng)用部署等層面的積累，能夠?yàn)槠髽I(yè)提供優(yōu)質(zhì)的、可落地的系統(tǒng)性研發(fā)支持，幫助企業(yè)優(yōu)化部署流程。
在未來，速石科技將在此基礎(chǔ)上積極探索，助力企業(yè)的可持續(xù)發(fā)展，推動(dòng)行業(yè)形成人工智能生態(tài)閉環(huán)。
關(guān)于速石科技
速石科技（fastone）致力于構(gòu)建為應(yīng)用定義的云，讓任何應(yīng)用程序，始終以自動(dòng)化、更優(yōu)化和可擴(kuò)展的方式，在任何基礎(chǔ)架構(gòu)上運(yùn)行。
我們?yōu)閯?chuàng)新驅(qū)動(dòng)型用戶提供為應(yīng)用優(yōu)化的一站式研發(fā)云平臺(tái)，滿足半導(dǎo)體、新藥研發(fā)、汽車/智能制造、人工智能、金融科技等企業(yè)及高校科研機(jī)構(gòu)多種研發(fā)場(chǎng)景需求。基于本地+公有混合云環(huán)境的靈活部署及交付，幫助用戶提升20倍研發(fā)效率，降低成本達(dá)到75%以上，加快市場(chǎng)響應(yīng)速度，面向全球開展競(jìng)爭(zhēng)。
