由大模型掀起的 AI 熱潮已經(jīng)持續(xù)了兩年時(shí)間,行業(yè)已經(jīng)從關(guān)注大模型技術(shù)的創(chuàng)新突破,轉(zhuǎn)變?yōu)樗伎己蛯?shí)踐如何利用基于大模型的 AI 能力來(lái)賦能業(yè)務(wù)、創(chuàng)造價(jià)值。正如用友網(wǎng)絡(luò)副總裁羅小江所說(shuō):這個(gè)時(shí)代不缺技術(shù),缺的是方法體系,缺的是讓技術(shù)真正意義上融入業(yè)務(wù)。
可以預(yù)見(jiàn)的是,企業(yè)將更加親睞針對(duì)特定行業(yè)或應(yīng)用進(jìn)行訓(xùn)練優(yōu)化的大模型,以及能夠深入業(yè)務(wù)場(chǎng)景,帶來(lái)實(shí)際經(jīng)濟(jì)效益的 AI 解決方案。
8 月 9-10 日,由用友主辦,以“AI+成就數(shù)智企業(yè)”為主題的“2024 全球商業(yè)創(chuàng)新大會(huì)”在北京召開(kāi),在企業(yè)數(shù)智化技術(shù)峰會(huì)上,用友圍繞 YonGPT 2.0 大模型與用友iuap 智能平臺(tái)YonAI給出了更加滿足企業(yè)需求的 AI 落地解法。在用友看來(lái),AI 能力并非孤立的煙囪,想要充分釋放 AI潛能,一定要將 AI 能力融入企業(yè)的平臺(tái)能力建設(shè),以平臺(tái)為載體,在各個(gè)業(yè)務(wù)環(huán)節(jié)中挖掘 AI 能力的適用場(chǎng)景,加速發(fā)展新質(zhì)生產(chǎn)力、重塑企業(yè)核心競(jìng)爭(zhēng)力。
1
大模型落地并非易事,
YonGPT 2.0 如何破局?
目前,大模型在大多數(shù)行業(yè)中仍然很難深入到企業(yè)實(shí)際業(yè)務(wù)層面,要想切實(shí)為企業(yè)賦能,往往面臨多重挑戰(zhàn):首先是數(shù)據(jù)挑戰(zhàn),很多企業(yè)缺乏數(shù)據(jù)準(zhǔn)備,無(wú)法為模型訓(xùn)練和微調(diào)提供充足的高質(zhì)量數(shù)據(jù),也沒(méi)有建立與 AI 時(shí)代相適應(yīng)的大數(shù)據(jù)基礎(chǔ)設(shè)施;其次是安全挑戰(zhàn),普遍運(yùn)行在云端的大模型讓企業(yè)擔(dān)憂數(shù)據(jù)和隱私泄露風(fēng)險(xiǎn),他們更偏向運(yùn)行在本地,或者自身有更高掌控力的小模型產(chǎn)品;大模型的應(yīng)用場(chǎng)景偏少也讓很多用戶頭疼,花費(fèi)大量投資建立的技術(shù)棧在實(shí)踐中少有用武之地,降本增效也就無(wú)從談起。另外,大模型在行業(yè)領(lǐng)域應(yīng)用時(shí),頻繁出現(xiàn)的幻覺(jué)現(xiàn)象讓問(wèn)題更是雪上加霜,這也是垂類(lèi)大模型崛起的重要因素;最后,由于IT技術(shù)較為薄弱,傳統(tǒng)企業(yè)面對(duì)大模型和 AI 技術(shù)棧的持續(xù)運(yùn)維也往往力不從心。
以上這些問(wèn)題,都讓大模型技術(shù)的落地之路變得更加坎坷不平。面對(duì)這樣的局面,用友在去年發(fā)布了業(yè)內(nèi)首個(gè)企業(yè)服務(wù)大模型 YonGPT,專(zhuān)注于助力企業(yè)降低使用 AI 的門(mén)檻,解決企業(yè) AI 賦智賦能時(shí)面臨的一系列難題。過(guò)去一年來(lái),YonGPT 先后發(fā)布了六大場(chǎng)景,上線了問(wèn)答應(yīng)用、Agent 和應(yīng)用生成等能力,并在今年 2 月份通過(guò)了網(wǎng)信辦備案。在此基礎(chǔ)上,用友此次又升級(jí)了 YonGPT 2.0 全新版本,包括了多項(xiàng)專(zhuān)業(yè)能力增強(qiáng)、一個(gè)大模型平臺(tái)和兩個(gè)應(yīng)用框架。
通用大模型所關(guān)注的領(lǐng)域范圍往往非常廣泛,而 YonGPT 2.0 的提升完全專(zhuān)注于企業(yè)常見(jiàn)的業(yè)務(wù)領(lǐng)域,包括 PPT 分析報(bào)告生成、合同智能審核與生成、業(yè)務(wù)對(duì)象和表格理解、代碼生成、財(cái)務(wù)和人力等領(lǐng)域知識(shí)增強(qiáng)、安全拒識(shí)等能力。這一設(shè)計(jì)的最大優(yōu)勢(shì)在于 YonGPT 2.0 可以充分利用用友數(shù)十年來(lái)服務(wù)各行業(yè)的經(jīng)驗(yàn)和數(shù)據(jù)積累,同時(shí)不需要像 ToC 的通用大模型一樣擴(kuò)展更大的規(guī)模,節(jié)省了大量訓(xùn)練、微調(diào)和運(yùn)維成本。
雖然 YonGPT 2.0 大模型已經(jīng)專(zhuān)門(mén)為企業(yè)應(yīng)用量身定制,但各個(gè)行業(yè)在實(shí)際部署模型時(shí)仍需要微調(diào)和優(yōu)化才能獲得更好的使用效果。對(duì)此,用友提供了一個(gè)一站式的大模型平臺(tái)即服務(wù),覆蓋了數(shù)據(jù)管理、模型訓(xùn)練、評(píng)估優(yōu)化、推理服務(wù)的全流程。平臺(tái)內(nèi)置了多個(gè)專(zhuān)業(yè)數(shù)據(jù)集,還支持百川、通義千問(wèn)等多種大模型的微調(diào)訓(xùn)練。用戶訓(xùn)練完成后,還可以在平臺(tái)上直接評(píng)估效果,進(jìn)行可視化展示。通過(guò)這一平臺(tái),沒(méi)有大模型實(shí)踐經(jīng)驗(yàn)的企業(yè)也能快速上手,將 YonGPT 2.0 調(diào)整為更加適合自身業(yè)務(wù)需求的狀態(tài),為接下來(lái)的應(yīng)用開(kāi)發(fā)做好準(zhǔn)備。
企業(yè)服務(wù)大模型的最終目標(biāo)還是解決實(shí)際的業(yè)務(wù)問(wèn)題,對(duì)此,用友匯總了經(jīng)營(yíng)中常見(jiàn)的八大問(wèn)題場(chǎng)景,包括人、財(cái)、物、服、供、產(chǎn)、銷(xiāo)、研,各個(gè)場(chǎng)景又總結(jié)出八種業(yè)務(wù)運(yùn)營(yíng)和知識(shí)生成的問(wèn)題類(lèi)型。對(duì)于這些問(wèn)題,用友基于Agent、RAG應(yīng)用框架, 幫助企業(yè)實(shí)現(xiàn)業(yè)務(wù)運(yùn)營(yíng)、人機(jī)交互、知識(shí)生成和應(yīng)用生成等應(yīng)用能力。
Agent 應(yīng)用框架主要負(fù)責(zé)將用戶的自然語(yǔ)言需求轉(zhuǎn)換分解成模型能夠識(shí)別的子任務(wù)集,并基于這些子任務(wù)輸出模型 API 可以調(diào)用的參數(shù)。面對(duì)復(fù)雜問(wèn)題時(shí),用友的多智能體自主協(xié)同框架可以調(diào)度多個(gè)大模型模塊,用友還結(jié)合專(zhuān)家知識(shí)和錯(cuò)誤反饋學(xué)習(xí)解決了模型的幻覺(jué)和可靠性問(wèn)題,并優(yōu)化了模型的時(shí)效性和安全性表現(xiàn)。
知識(shí)生成問(wèn)答無(wú)疑是大模型落地倍受矚目的應(yīng)用場(chǎng)景。但基于企業(yè)自身數(shù)據(jù)積累的知識(shí)生成高度依賴數(shù)據(jù)處理框架,處理不好很容易“答非所問(wèn)”甚至輸出誤導(dǎo)、錯(cuò)誤結(jié)果。
用友結(jié)合流行的 RAG 框架開(kāi)發(fā)了智能大搜產(chǎn)品,并提出了多語(yǔ)義向量技術(shù),對(duì)每個(gè)知識(shí)片段都生成了向量和問(wèn)題來(lái)增強(qiáng)索引,顯著提升了知識(shí)搜索的精確度。用友還解決了索引搜索的權(quán)限問(wèn)題,防止低權(quán)限用戶搜索到高權(quán)限內(nèi)容。該框架對(duì)表格、圖片、視頻、代碼的理解也更加準(zhǔn)確。企業(yè)員工使用自然語(yǔ)言提出問(wèn)題,智能大搜不僅可以給出準(zhǔn)確的文本回答,還能輸出關(guān)系圖、匯總圖、相關(guān)圖片和視頻,甚至可以幫助員工擴(kuò)寫(xiě)論點(diǎn)、整理文稿等。而基于 Code RAG 應(yīng)用框架,應(yīng)用開(kāi)發(fā)人員甚至業(yè)務(wù)人員都可以快速生成企業(yè)應(yīng)用代碼,簡(jiǎn)化應(yīng)用生成流程。所有生成內(nèi)容都能無(wú)縫對(duì)接員工使用的各類(lèi)應(yīng)用,幫助企業(yè)實(shí)現(xiàn)全流程、全場(chǎng)景提效。
為了深化大模型在行業(yè)的場(chǎng)景應(yīng)用,用友在本次大會(huì)上還聯(lián)合來(lái)自公共資源交易行業(yè)、工業(yè)裝備行業(yè)、交通建設(shè)行業(yè)的代表客戶,發(fā)布了三大行業(yè)的垂類(lèi)大模型。加速了 AI 在千行百業(yè)的落地進(jìn)程 。
2
挖掘智能場(chǎng)景應(yīng)用,
YonAI 為大模型落地構(gòu)建平臺(tái)基礎(chǔ)
YonGPT 2.0 的能力升級(jí),為企業(yè)在業(yè)務(wù)中運(yùn)用大模型提效增速鋪平了道路。YonGPT是用友為企業(yè)持續(xù)輸出 AI 服務(wù)能力的核心工具。如前文所述,企業(yè)在 AI 落地過(guò)程中面臨著一系列挑戰(zhàn),這些挑戰(zhàn)僅靠大模型技術(shù)本身是不足以應(yīng)對(duì)的。正因如此,用友將過(guò)去數(shù)十年幫助企業(yè)數(shù)智化轉(zhuǎn)型取得的技術(shù)成果與 YonGPT 大模型創(chuàng)新結(jié)合起來(lái),推出了用友iuap智能平臺(tái) YonAI。
YonAI 平臺(tái)由包含 YonGPT 大模型的智能基礎(chǔ)平臺(tái)層、智能算法層、包含 Agent、RAG 和智能服務(wù)的智能框架層,以及最頂層的智能入口層構(gòu)建而成,外部對(duì)接用友云技術(shù)、應(yīng)用和數(shù)據(jù)平臺(tái),從而為企業(yè)提供全方位、全場(chǎng)景的平臺(tái)化 AI 能力支撐?;?YonAI 平臺(tái),企業(yè)員工在日常業(yè)務(wù)中隨處開(kāi)啟智友智能助理和智能大搜服務(wù),就可以輕松調(diào)用 YonGPT 大模型等 AI 能力來(lái)提升工作效率,啟發(fā)創(chuàng)新靈感。用友也在服務(wù)企業(yè)客戶的過(guò)程中與用戶共同探索,挖掘出了一些企業(yè)在當(dāng)下可以快速引入 AI 技術(shù)的應(yīng)用場(chǎng)景。
合同審核是業(yè)務(wù)運(yùn)營(yíng)中常見(jiàn)而關(guān)鍵的環(huán)節(jié)之一。業(yè)務(wù)人員將合同草稿輸入審核應(yīng)用,即可自動(dòng)提取關(guān)鍵字段,根據(jù)知識(shí)庫(kù)內(nèi)擬定的業(yè)務(wù)規(guī)則和敏感詞審查合同違規(guī)情況。智友助手還能幫助業(yè)務(wù)人員查詢合同相關(guān)數(shù)據(jù),計(jì)算合約背后的經(jīng)濟(jì)和財(cái)務(wù)數(shù)據(jù),乃至輔助補(bǔ)充合同條款、潤(rùn)色文本等。合同審核智能化大大縮短了業(yè)務(wù)合約的審批周期,加快資源周轉(zhuǎn),提升了業(yè)務(wù)運(yùn)營(yíng)效率。
在企業(yè)人力資源領(lǐng)域,員工面試是人資部門(mén)的日常工作。用友為企業(yè)打造了 AI 面試平臺(tái),通過(guò)對(duì)面試視頻記錄的 AI 分析為候選人進(jìn)行多維評(píng)價(jià),繪制人才畫(huà)像。平臺(tái)覆蓋 140 多個(gè)評(píng)分項(xiàng)、600 多個(gè)評(píng)價(jià)標(biāo)準(zhǔn),并能在面試結(jié)束后自動(dòng)輸出面試紀(jì)要和綜合建議。在典型客戶的實(shí)踐應(yīng)用中,用友 AI 面試可以幫助人力資源部門(mén)提升 30% 的面試效率。
用友智能大搜產(chǎn)品也有著豐富的使用場(chǎng)景。例如,出差人員可以通過(guò)簡(jiǎn)單詢問(wèn)快速了解差旅報(bào)銷(xiāo)標(biāo)準(zhǔn);新人入職后,可以在智能大搜服務(wù)中點(diǎn)播各類(lèi)企業(yè)培訓(xùn)課程自主學(xué)習(xí);管理人員組建團(tuán)隊(duì)時(shí),可以使用智能大搜尋找符合所需人員屬性、匹配崗位的員工人才;營(yíng)銷(xiāo)人員則能利用智能大搜查找企業(yè)營(yíng)銷(xiāo)知識(shí)庫(kù)的詳細(xì)內(nèi)容等等。員工使用搜索功能查找到所需資料后,可以直接使用這些資料智能生成文檔、報(bào)告、知識(shí)圖譜,節(jié)約大量文書(shū)工作的時(shí)間和精力投入。
企業(yè)員工還能使用手機(jī)遙控桌面打開(kāi)企業(yè)應(yīng)用進(jìn)行展示。業(yè)務(wù)人員可以利用大模型代碼生成框架,將自然語(yǔ)言自動(dòng)轉(zhuǎn)化為所需的代碼腳本,開(kāi)發(fā)人員在前端開(kāi)發(fā)過(guò)程中也能受益于代碼自動(dòng)補(bǔ)全能力。最后,企業(yè)交流群中的群組機(jī)器人能夠隨時(shí)響應(yīng)員工的問(wèn)題,給出準(zhǔn)確、實(shí)時(shí)的回答。
3
AI 賦能,平臺(tái)建設(shè)才是標(biāo)準(zhǔn)解法
如今,通過(guò)AI技術(shù)重構(gòu)應(yīng)用,將AI算法模型深度融入行業(yè)與領(lǐng)域場(chǎng)景,成為顛覆傳統(tǒng)業(yè)務(wù)模式,創(chuàng)新商業(yè)形態(tài)的最佳路徑。
用友iuap智能平臺(tái) YonAI,再一次證明任何創(chuàng)新技術(shù)想要真正落地到企業(yè)業(yè)務(wù)層面,為企業(yè)帶來(lái)看得見(jiàn)的收益,都不能僅靠技術(shù)本身的孤立應(yīng)用來(lái)達(dá)成目標(biāo)。尤其對(duì)于 AI 大模型這樣具備顛覆性能力的創(chuàng)新,更要融入企業(yè)數(shù)智平臺(tái)建設(shè)才能發(fā)揮更大效應(yīng)。
YonAI 作為用友歷時(shí)多年建設(shè)的企業(yè)數(shù)智化底座用友 iuap的 AI 能力引擎,幫助企業(yè)升級(jí)數(shù)智底座,實(shí)現(xiàn)智能運(yùn)營(yíng)。在用友 iuap 平臺(tái)中,云技術(shù)、應(yīng)用、數(shù)據(jù)、開(kāi)發(fā)和連接集成平臺(tái)共同為 YonAI 智能平臺(tái)的能力提供支撐。而 YonAI 的智能能力則通過(guò)這些平臺(tái)延伸到企業(yè)業(yè)務(wù)的十大領(lǐng)域和每一個(gè)具體場(chǎng)景中。通過(guò)平臺(tái)化建設(shè),用友解決了 AI 賦能企業(yè)的最大挑戰(zhàn),使 AI 落地過(guò)程“潤(rùn)物無(wú)聲”,也為行業(yè)給出了一套標(biāo)準(zhǔn)解法。
用友iuap通過(guò)融合六大平臺(tái)、YonGPT大模型以及工程化體系和運(yùn)營(yíng)體系能力,構(gòu)建起完整的數(shù)智化平臺(tái)能力,幫助企業(yè)搭建起智能運(yùn)營(yíng)、數(shù)據(jù)驅(qū)動(dòng)、敏捷創(chuàng)新、開(kāi)放連接和全球化支撐等核心能力,加速企業(yè)數(shù)智化進(jìn)程!