7月30日,2024京東云峰會上正式發布了新一代一站式 AI Agent 開發平臺——言犀智能體平臺。平臺已接入數十個大模型,無論用戶是否有編程基礎,從解決簡單的問答到處理復雜邏輯的業務問題,都可以低成本快速搭建基于 AI 模型的各類智能體。如今,活躍在京東內部的智能體超3300個,平臺還沉淀了100多個行業解決方案模版,支持行業應用快速落地。
隨著AI技術的飛速發展,大模型技術已成為推動行業創新的引擎。零售、醫療、教育等行業都在積極探索用好大模型。盡管大模型充滿潛力,企業在實際應用過程中卻面臨諸多挑戰:專業的AI人才匱乏,數據安全的擔憂,定制化應用的開發難題,以及集成到現有系統的高難度和應用效果的不確定性。這些問題成為了企業實現大模型快速應用落地的障礙。
在此背景下,言犀智能體平臺應運而生。如果說大模型像是可以思考的大腦,智能體就像把大腦和四肢結合,它是具有自主性、感知能力、決策能力的小助理,幫助用戶完成特定的工作任務。平臺通過完備的AI解決方案,流程編排、算法庫、工具庫、Advance RAG、數據分析、自動評測能力組合,即便是沒有深厚AI基礎的企業也能快速將LLM應用到實際業務場景中,解鎖新的價值潛力。
豐富的大模型能力:目前智能體平臺內置了言犀大模型、GPT、GLM、Gemini等國內外主流大模型,用戶可能根據實際的業務需求選擇不同的大模型能力。
Advance RAG添加內部知識副腦:提供了簡單易用的知識接入能力,用戶通過簡單的配置即可實現結構化和非結構化數據的接入,大模型會根據用戶輸入,自動調用本地知識進行回復。
算法庫及工具庫給智能體裝上雙手:通過插件能力平臺沉淀了上千種算法、工具能力,包括數據分析、NL2SQL、文檔內容提取、sku信息查詢等,用戶可以直接將在智能體中運用這些能力,進而調度各類業務系統。例如,通過調用數據分析插件,直接查詢預算數據。
工作流指導LLM按照既定的路徑行動:通過工作流對插件和大模型能力進行編排組合,指導LLM按照既定思路行動,提高大模型應用執行的確定性。例如通過流程編排對ASR、大模型能力、數據源管理、SQL執行、RAG進行編排,實現自然語言對數據進行問答展示。
智能數據分析實現數據能力:完整的數據源管理、自然語言轉SQL、數據數據可視化能力實現人人都是數據分析師,每個人都能通過自然語言了解業務數據,讓數據指導每位員工決策。
明確智能體定位:通過智能體編輯頁高級功能-變量模塊將問答人的身份、工作地等背景信息傳遞給智能體,作為對話過程中的基本信息。例如,當工作在北京的員工詢問差旅政策時,便自動使用北京的差旅政策回答用戶的詢問。
目前,言犀智能體平臺已在零售、物流、健康、工業、協同辦公、人力資源、財務、法務、營銷管理、數據分析、音視頻、物聯網、IT運維、研發效能、網絡安全、生活娛樂等領域積累形成了100多個解決方案,支持企業快速落地。
例如基于平臺構建的AI搜索,用戶通過對話的方式對用戶私域知識、集團公共知識進行AI搜索;視頻分析智能體,針對企業內部成千上萬的線下錄制課程,利用智能體將無用片段剔除,同時自動歸類主題,自動切分成多個視頻;電話營銷質檢智能體,可以讀懂營銷電話,完成內容梳理分析,精準定位目標,目前智能體每天處理超150000話單,采納率超90%。