精准猎取科技资讯,天堂视频在线观看,高效阅读科技新闻_黄色av网站在线免费观看_科技猎

企業用大模型如何更具「效價比」?百度智能云發布5款大模型新品 | 速途網

我是創始人李巖:很抱歉!給自己產品做個廣告,點擊進來看看。  

速途網3月21日訊(報道:喬志斌)服務8萬企業用戶,累計幫助用戶精調1.3萬個大模型,幫助用戶開發出16萬個大模型應用,自2023年12月以來百度智能云千帆大模型平臺API日調用量環比增長97%…從一年前國內大模型平臺的“開路先鋒”到如今的大模型“超級工廠”,百度智能云千帆大模型平臺在國內大模型市場牢牢占據著領先身位,但奔跑的腳步卻并未停歇。

3月21日,百度智能云在北京首鋼園召開千帆產品發布會,百度智能云在大會期間宣布:

1、攜手北京市石景山區,共建全國首個百度智能云千帆大模型產業創新基地,助推區域產業騰飛;

2、滿足企業“效價比”核心訴求,千帆ModelBuilder大模型服務全面升級,3個輕量級大模型、2個垂直場景大模型全新發布;

3、大幅降低AI原生應用開發門檻,千帆AppBuilder組件能力全面升級。

企業用大模型如何更具「效價比」?百度智能云發布5款大模型新品 | 速途網
(百度智能云千帆大模型產業(北京)創新基地啟動建設)

活動中,石景山區政府黨組成員、副區長曹世輝,中關村石景山園管委會副主任崔明明,百度副總裁謝廣軍,百度副總裁石清華共同啟動全國首個百度智能云干帆大模型產業(北京)創新基地。

創新基地致力于推動大模型技術與產業創新深度融合,雙方將圍繞提升算力供給、優化模型算法、推動數據開放、打造示范場景、深化人才引育等方面深耕厚植,政企合力打造人工智能產業新高地。曹世輝副區長表示,石景山區將與百度攜手共進,聚焦人工智能和大模型技術研發和創新應用,構建完善AI 產業生態,為區域數字化轉型和產業智能化升級提供支撐,為新質生產力的培育和發展注入澎湃動能。

企業用大模型如何更具「效價比」?百度智能云發布5款大模型新品 | 速途網
(百度副總裁謝廣軍)

2023年,大模型在全球范圍呈現出爆發式增長,國內更是打起了“百模大戰”,無數科技大廠與科研院所聚焦大模型“本體”,瘋狂“內卷”。

百度副總裁謝廣軍表示,大模型技術在過去一年飛速發展,隨著逐步落地千行百業,2024年將成為國內大模型產業應用爆發的元年。針對企業最關心的大模型落地場景、使用成本、應用開發、應用效果四大挑戰,百度智能云千帆在大模型、AI原生應用開發兩個方面給出了最新“解題思路”。

百度智能云千帆大模型平臺發布“3+2”新模型套餐:提高企業應用大模型的“效價比”

大模型效果是“技術派”的不懈追求,而經濟效益則是“市場派”的終極目標。謝廣軍在與諸多行業客戶的交流中發現,除了極少的大客戶對大模型有極致的效果追求,更多的企業和機構往往要綜合考量大模型的使用效果、性能以及成本,即“效價比”。本次,千帆平臺的模型矩陣針對企業的“效價比”核心訴求進行了一系列升級。

企業用大模型如何更具「效價比」?百度智能云發布5款大模型新品 | 速途網
(百度智能云千帆大模型平臺模型矩陣)

文心大模型ERNIE 3.5是目前百度智能云千帆大模型平臺上最受歡迎的基礎大模型之一。針對用戶的常見通用的對話場景,ERNIE 3.5 在指令遵循、上下文學習和邏輯推理能力三方面分別進行了能力增強。升級后的ERNIE 3.5在企業應用場景如文案創作、信息抽取和工具調用三大場景中,應用表現分別大幅提升24%、27%和22%。

其次,相比超大規模參數的大模型,輕量級大模型的參數量更小,更便于客戶針對特定使用場景進行模型精調,更容易達成使用效果預期,同時節約更多成本開銷。本次大會,百度智能云發布了包括ERNIE Speed、ERNIE Lite、ERNIE Tiny在內,參數量由大到小的三款輕量級大模型,幫助客戶實現“減量不減效”,節約不必要投資。

具體來講,ERNIE Speed作為三款輕量級大模型中的“大個子”,推理場景下擁有最高128k的上下文長度,在處理知識問答等任務時,能夠更好的處理上下文的依賴關系,生成更加連貫和準確的預測或回答。同時,針對特定場景可以將ERNIE Speed作為基座模型進行精調,模型效果可以追平甚至超過旗艦級大參數規模大模型,效價比大幅提升。

相比ERNIE Speed,ERNIE Lite的參數量則更小,也更加適合搭載在低算力的AI加速卡上處理推理任務,在兼顧模型效果與推理性能的同時,大幅降低客戶落地應用成本。作為ERNIE-Bot-turbo模型的升級版,ERNIE Lite在情感分析、多任務學習、自然推理等場景下的應用效果提升了20%。推理調用成本大幅下降了53%!

三款輕量級模型中參數量最小的ERNIE Tiny則為客戶提供了極致低成本、低延遲的最佳選擇。在檢索、推薦、意圖識別等高并發、低延時等應用場景中,ERNIE Tiny的優異性能呈現了不俗表現。在某對話推薦業務場景中,精調后的ERNIE Tiny在搜索引擎推薦詞激發環節,相比ERNIE 3.5,對話輪次增長了3.5%,成本下降了32%。

此外,企業在落地應用中,對大模型在人物扮演、外部工具調用均有更高的效果要求。本次千帆大模型平臺ModelBuilder還基于對企業場景的深入洞察,結合百度自身業務最佳實踐沉淀,推出了ERNIE Character和ERNIE Functions兩款垂直場景大模型,分別適配客戶在角色扮演類應用場景(如游戲NPC、客服對話等)和工具調用場景(對話中使用外部工具、調用業務函數等)中的使用需求。

在企業實踐中,某智能硬件廠商,基于ERNIE Character打造智能助理,應用該模型后在人設一致性、激發并提升用戶聊天欲望等方面效果顯著提升。某旅游出行類APP,使用ERNIE  Functions打造智能客服助手,在執行訂票、查詢航班狀態等多種function調用上準確性達到85%。

千帆AppBuilder全面升級:大幅降低AI原生應用開發門檻

千帆AppBuilder作為產業級AI原生應用開發平臺,是千帆的重要組成部分。AppBuilder底層由基于百度多年技術和實踐經驗沉淀的大模型組件、AI能力組件的基礎組件和面向典型應用場景深入調優建設的一系列高級組件構成。基礎組件與高級組件共同支撐Agent,一方面可以通過工作流編排實現更為復雜的業務邏輯,另一方面Agent也具備強大的自主任務規劃能力,能夠理解用戶意圖自動規劃執行路徑,實現多工具的自動編排和執行。這些能力通過零代碼態、代碼態兩類開發方式提供服務,更好的匹配不同開發者的使用需求。

開發完成后,應用可多渠道分發與集成,AppBuilder支持將應用一鍵分發到微信客服、微信公眾號、Web端/H5及百度靈境矩陣等主流渠道。基于百度靈境矩陣,應用可在百度搜索、百度信息流等主流場景分發與掛載。真正實現應用開發出來后,就直接觸達用戶,打通從AI原生應用創建到開發再到分發的全流程。

(百度智能云千帆AppBuilder)

升級后的AppBuilder開放的工具組件多達55個。包括基于百度多年技術積累和自有業務沉淀的大模型組件、AI能力組件,也包括搜索等百度特色的業務組件、和多場景的第三方API工具,另外還提供了 RAG(知識檢索問答)、GBI(生成式數據分析)等根據典型應用場景深入調優的高級能力組件。

開發AI原生應用離不開云基礎設施,本次發布的基礎組件還包括了百度智能云全新推出的向量數據庫VDB 1.0。向量數據庫是企業不可或缺的知識庫核心組件,它針對傳統知識庫問答系統遇到的性能瓶頸、維護挑戰及規模限制等問題提供了有力解決方案。全新發布的百度向量數據庫VDB 1.0,不僅集成了全面的運維控制和安全防護能力,還兼容了千帆、LangChain等主流生態系統,能夠幫助企業輕松管理數以千萬計的文檔知識,最大支持百億向量存儲規模以及毫秒級的向量檢索速度。同時,相比同類型開源產品,VDB 1.0性能最高提升10倍。

在組件之上,千帆AppBuilder推出的Agent(智能體)應用框架,具備精準的任務自主規劃能力,對多種應用工具的自動編排準確率超過90%,這個數字還在不斷提升。AppBuilder還支持開發者接入自定義工具,通過將自動編排與手動編排相結合,實現更復雜場景應用的需求定制。Agent框架內的代碼解釋器能力,也在本次升級中大幅提升了40%的性能、在復雜的數據分析場景的生成結果可接受度高達95%,輕松應對各類數據分析與信息處理的場景。

此外,AppBuilder的代碼態開發工具也再添利器。AppBuilder SDK本次重磅發布了Agent API,支持開發者將Agent便捷集成到自己的業務系統中,同時AppBuilder SDK面向主流AI原生應用場景提供了豐富的應用樣例,目前已在Github開源,支持各個組件自由調用的靈活編排,幫助開發者實現應用的二次開發和便捷集成。

大會現場,還演示了如何在零代碼開發模式中,只用1分鐘構建一個“英語作文小幫手”Agent(智能體)應用,只需在AppBuilder中輸入應用名稱或希望開發的應用功能,平臺就可以自動生成應用,通過簡單的調整角色指令、添加所需工具組件,就可以快速生成一個英語作文批改小助手。發布后就可直接使用,三步完成應用創建與分發。

在百度智能云看來,隨著大模型技術的不斷演進和突破,工程化實踐與用戶需求適配正在變得愈發重要。只有深入場景,發掘、響應客戶的真實需求,才是釋放創新技術紅利的最佳路徑。

本文被轉載1次

首發媒體 速途網 | 轉發媒體

隨意打賞

提交建議
微信掃一掃,分享給好友吧。
主站蜘蛛池模板: 深圳装修_店面装修设计_餐厅设计_装修全包价格-尚泰装饰设计 | 全自动固相萃取仪_高通量真空平行浓缩仪-勤业永为 | 排烟防火阀-消防排烟风机-正压送风口-厂家-价格-哪家好-德州鑫港旺通风设备有限公司 | 压砖机_电动螺旋压力机_粉末成型压力机_郑州华隆机械tel_0371-60121717 | 井式炉-台车式回火炉-丹阳市电炉厂有限公司 | 泥沙分离_泥沙分离设备_泥砂分离机_洛阳隆中重工机械有限公司 | 德州网站制作 - 网站建设设计 - seo排名优化 -「两山建站」 | 广东青藤环境科技有限公司-水质检测 | 双相钢_双相不锈钢_双相钢圆钢棒_双相不锈钢报价「海新双相钢」 双能x射线骨密度检测仪_dxa骨密度仪_双能x线骨密度仪_品牌厂家【品源医疗】 | 工业铝型材生产厂家_铝合金型材配件批发精加工定制厂商 - 上海岐易铝业 | 粘度计NDJ-5S,粘度计NDJ-8S,越平水分测定仪-上海右一仪器有限公司 | 北京网络营销推广_百度SEO搜索引擎优化公司_网站排名优化_谷歌SEO - 北京卓立海创信息技术有限公司 | 书信之家_书信标准模板范文大全 最新范文网_实用的精品范文美文网 | 青州搬家公司电话_青州搬家公司哪家好「鸿喜」青州搬家 | 北京晚会活动策划|北京节目录制后期剪辑|北京演播厅出租租赁-北京龙视星光文化传媒有限公司 | 打孔器,打孔钳厂家【温州新星德牌五金工具】 | 沧州友城管业有限公司-内外涂塑钢管-大口径螺旋钢管-涂塑螺旋管-保温钢管生产厂家 | 阿尔法-MDR2000无转子硫化仪-STM566 SATRA拉力试验机-青岛阿尔法仪器有限公司 | 空气能暖气片,暖气片厂家,山东暖气片,临沂暖气片-临沂永超暖通设备有限公司 | 考勤系统_考勤管理系统_网络考勤软件_政企|集团|工厂复杂考勤工时统计排班管理系统_天时考勤 | 化工ERP软件_化工新材料ERP系统_化工新材料MES软件_MES系统-广东顺景软件科技有限公司 | 海尔生物医疗四川代理商,海尔低温冰箱四川销售-成都壹科医疗器械有限公司 | 儿童语言障碍训练-武汉优佳加感统文化发展有限公司 | 昆明挖掘机修理厂_挖掘机翻新再制造-昆明聚力工程机械维修有限公司 | 等离子空气净化器_医用空气消毒机_空气净化消毒机_中央家用新风系统厂家_利安达官网 | 执业药师报名时间,报考条件,考试时间-首页入口 | 在线悬浮物浓度计-多参数水质在线检测仪-上海沃懋仪表科技有限公司 | 国产离子色谱仪,红外分光测油仪,自动烟尘烟气测试仪-青岛埃仑通用科技有限公司 | 沉降天平_沉降粒度仪_液体比重仪-上海方瑞仪器有限公司 | 玻璃瓶厂家_酱菜瓶厂家_饮料瓶厂家_酒瓶厂家_玻璃杯厂家_徐州东明玻璃制品有限公司 | 镀锌角钢_槽钢_扁钢_圆钢_方矩管厂家_镀锌花纹板-海邦钢铁(天津)有限公司 | 天命文免费算命堂_自助算命_自由算命系统_长文周易 | 中式装修设计_室内中式装修_【云臻轩】中式设计机构 | 广州活动策划公司-15+年专业大型公关活动策划执行管理经验-睿阳广告 | 山东PE给水管厂家,山东双壁波纹管,山东钢带增强波纹管,山东PE穿线管,山东PE农田灌溉管,山东MPP电力保护套管-山东德诺塑业有限公司 | HDPE储罐_厂家-山东九州阿丽贝防腐设备 | 广州番禺搬家公司_天河黄埔搬家公司_企业工厂搬迁_日式搬家_广州搬家公司_厚道搬迁搬家公司 | 天津电机维修|水泵维修-天津晟佳机电设备有限公司 | 合肥办公室装修 - 合肥工装公司 - 天思装饰 | 【化妆品备案】进口化妆品备案流程-深圳美尚美化妆品有限公司 | 丁基胶边来料加工,医用活塞边角料加工,异戊二烯橡胶边来料加工-河北盛唐橡胶制品有限公司 |