7月30日,2024京東云峰會(huì)上正式發(fā)布了新一代一站式 AI Agent 開發(fā)平臺(tái)——言犀智能體平臺(tái)。平臺(tái)已接入數(shù)十個(gè)大模型,無(wú)論用戶是否有編程基礎(chǔ),從解決簡(jiǎn)單的問答到處理復(fù)雜邏輯的業(yè)務(wù)問題,都可以低成本快速搭建基于 AI 模型的各類智能體。如今,活躍在京東內(nèi)部的智能體超3300個(gè),平臺(tái)還沉淀了100多個(gè)行業(yè)解決方案模版,支持行業(yè)應(yīng)用快速落地。
隨著AI技術(shù)的飛速發(fā)展,大模型技術(shù)已成為推動(dòng)行業(yè)創(chuàng)新的引擎。零售、醫(yī)療、教育等行業(yè)都在積極探索用好大模型。盡管大模型充滿潛力,企業(yè)在實(shí)際應(yīng)用過程中卻面臨諸多挑戰(zhàn):專業(yè)的AI人才匱乏,數(shù)據(jù)安全的擔(dān)憂,定制化應(yīng)用的開發(fā)難題,以及集成到現(xiàn)有系統(tǒng)的高難度和應(yīng)用效果的不確定性。這些問題成為了企業(yè)實(shí)現(xiàn)大模型快速應(yīng)用落地的障礙。
在此背景下,言犀智能體平臺(tái)應(yīng)運(yùn)而生。如果說(shuō)大模型像是可以思考的大腦,智能體就像把大腦和四肢結(jié)合,它是具有自主性、感知能力、決策能力的小助理,幫助用戶完成特定的工作任務(wù)。平臺(tái)通過完備的AI解決方案,流程編排、算法庫(kù)、工具庫(kù)、Advance RAG、數(shù)據(jù)分析、自動(dòng)評(píng)測(cè)能力組合,即便是沒有深厚AI基礎(chǔ)的企業(yè)也能快速將LLM應(yīng)用到實(shí)際業(yè)務(wù)場(chǎng)景中,解鎖新的價(jià)值潛力。
豐富的大模型能力:目前智能體平臺(tái)內(nèi)置了言犀大模型、GPT、GLM、Gemini等國(guó)內(nèi)外主流大模型,用戶可能根據(jù)實(shí)際的業(yè)務(wù)需求選擇不同的大模型能力。
Advance RAG添加內(nèi)部知識(shí)副腦:提供了簡(jiǎn)單易用的知識(shí)接入能力,用戶通過簡(jiǎn)單的配置即可實(shí)現(xiàn)結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的接入,大模型會(huì)根據(jù)用戶輸入,自動(dòng)調(diào)用本地知識(shí)進(jìn)行回復(fù)。
算法庫(kù)及工具庫(kù)給智能體裝上雙手:通過插件能力平臺(tái)沉淀了上千種算法、工具能力,包括數(shù)據(jù)分析、NL2SQL、文檔內(nèi)容提取、sku信息查詢等,用戶可以直接將在智能體中運(yùn)用這些能力,進(jìn)而調(diào)度各類業(yè)務(wù)系統(tǒng)。例如,通過調(diào)用數(shù)據(jù)分析插件,直接查詢預(yù)算數(shù)據(jù)。
工作流指導(dǎo)LLM按照既定的路徑行動(dòng):通過工作流對(duì)插件和大模型能力進(jìn)行編排組合,指導(dǎo)LLM按照既定思路行動(dòng),提高大模型應(yīng)用執(zhí)行的確定性。例如通過流程編排對(duì)ASR、大模型能力、數(shù)據(jù)源管理、SQL執(zhí)行、RAG進(jìn)行編排,實(shí)現(xiàn)自然語(yǔ)言對(duì)數(shù)據(jù)進(jìn)行問答展示。
智能數(shù)據(jù)分析實(shí)現(xiàn)數(shù)據(jù)能力:完整的數(shù)據(jù)源管理、自然語(yǔ)言轉(zhuǎn)SQL、數(shù)據(jù)數(shù)據(jù)可視化能力實(shí)現(xiàn)人人都是數(shù)據(jù)分析師,每個(gè)人都能通過自然語(yǔ)言了解業(yè)務(wù)數(shù)據(jù),讓數(shù)據(jù)指導(dǎo)每位員工決策。
明確智能體定位:通過智能體編輯頁(yè)高級(jí)功能-變量模塊將問答人的身份、工作地等背景信息傳遞給智能體,作為對(duì)話過程中的基本信息。例如,當(dāng)工作在北京的員工詢問差旅政策時(shí),便自動(dòng)使用北京的差旅政策回答用戶的詢問。
目前,言犀智能體平臺(tái)已在零售、物流、健康、工業(yè)、協(xié)同辦公、人力資源、財(cái)務(wù)、法務(wù)、營(yíng)銷管理、數(shù)據(jù)分析、音視頻、物聯(lián)網(wǎng)、IT運(yùn)維、研發(fā)效能、網(wǎng)絡(luò)安全、生活?yuàn)蕵返阮I(lǐng)域積累形成了100多個(gè)解決方案,支持企業(yè)快速落地。
例如基于平臺(tái)構(gòu)建的AI搜索,用戶通過對(duì)話的方式對(duì)用戶私域知識(shí)、集團(tuán)公共知識(shí)進(jìn)行AI搜索;視頻分析智能體,針對(duì)企業(yè)內(nèi)部成千上萬(wàn)的線下錄制課程,利用智能體將無(wú)用片段剔除,同時(shí)自動(dòng)歸類主題,自動(dòng)切分成多個(gè)視頻;電話營(yíng)銷質(zhì)檢智能體,可以讀懂營(yíng)銷電話,完成內(nèi)容梳理分析,精準(zhǔn)定位目標(biāo),目前智能體每天處理超150000話單,采納率超90%。