关注热点
聚焦行业峰会

百度智能云两大根本设备再升级!打制AI时代最的
来源:安徽星谷云交通应用技术股份有限公司 时间:2025-04-27 21:36

  4月25日,以“模子的世界,使用的全国”为从题的Create 2025 百度AI开辟者大会正在湖北武汉召开。会上,百度集团施行副总裁、百度智能云事业群总裁沈抖分享了百度智能云正在智能根本设备扶植方面的最新,并正在算力、模子及使用等方面发布一系列全新产物。大模子的高效落地亟需从底层算力到使用的全栈、系统级支持既需高机能硬件取集群优化,也需矫捷的开辟东西链取场景化处理方案。基于多年正在大模子研发取财产落地的深挚堆集,百度智能云建立了新一代系统级智能根本设备,为企业大模子使用落地供给最佳处理方案。相关数据显示,2024全年百度智能云正在大模子相关中标项目数、行业笼盖数、央国企中标项目数三个维度均为第一,正在能源、政务、金融三个行业的中标项目数位于所有厂商第一。截止目前,千帆平台企业用户数量超40万,千帆平台组件数量超1000个,企业正在千帆平台上已开辟出了超100万个使用。沈抖暗示,系统的价值,不只是处理某一个问题,而是让企业具有创制“创制的能力”。企业能够连系本人的数据、流程、逻辑,操纵百度智能云的系统级能力打制企业专属AI根本设备。算力是AI时代的“新电力”。百度智能云通过自研昆仑芯P800芯片及百舸大规模推理加快能力,实现算力机能取成本的双沉冲破。本次大会,百度正式点亮了昆仑芯P800的三万卡集群。正在金融行业,招商银行取百度智能云基于昆仑芯P800展开算力合做,能不变支撑各类开源大模子,机能表示杰出,正在智能客服、多模态数据阐发等场景实现了显著效能提拔。目前,除了招商银行这类金融机构,昆仑芯P800算力已正在国度电网、中国钢研等央企,同济大学、大学等高校及一批互联网企业进行规模化摆设。昆仑芯超节点支撑把64张昆仑芯AI加快卡放到统一个机柜,实现单节点的超强机能,一个机柜就能顶过去100台机械。取以往的方案比拟,昆仑芯超节点用更快的机内通信替代机间通信,能够无效降低带宽成本,最终实现卡间互联带宽提拔8倍,单机锻炼机能提拔10倍,仅仅具有高机能芯片和大规模集群是远远不敷的,若何不变、高效地算力的实正价值才是环节所正在。沈抖认为,将来三年,推理降本,必然是企业最主要的工做。百度智能云全面升级百舸推理加快能力。通过大规模分布式推理的PD分手,百舸支撑客户按照分歧场景的营业特点,自顺应地设置PD配比,并做到token级此外PD负载平衡。针对MOE模子,百舸做到了大规模多机专家并行的极致优化,能够大幅降低MOE模子推理的通信开销。最初,百舸对焦点链上的每一个细节做了系统级的工程优化,大幅提拔GPU的无效操纵率。从百度内部实践来看,百舸推理加快的能力正正在做为千帆的算力底座,为40万客户供给办事。上线以来,千帆的推理吞吐提拔20倍,推理速度提拔50%以上。正在外部,百舸不止支撑着像招商银行、中国石化、长安汽车等企业的超大规模算力需求,也很好地支持着创企客户、伙伴的模子锻炼、推理需求。以人形机械人立异核心为例,百度百舸为立异核心建立了不变的超大算力集群,确保具身模子的锻炼和推理得以高效进行,支撑了人形机械人的快速迭代。正在近日全球首小我形机械人半程马拉松中,人形机械人立异核心旗下纯电驱全尺寸人形机械人“天工”,以2小时40分42秒的成就率先冲线一举夺冠。企业摆设大模子,不只需要高性价比的模子办事,更需要全面的模子东西。正在模子办事层面,目前千帆平台上有跨越100多个模子,不只包罗文心4。5Turbo、文心X1 Turbo等百度自研模子,还包罗DeepSeek、I、Vidu等第三方模子,办事不变、靠得住。正在模子开辟层面,千帆平台能够供给全面的模子开辟东西链,支撑深度思虑模子、多模态模子的定制、精调。以模子蒸馏为例,智联聘请正在人岗婚配场景利用了千帆平台的模子蒸馏东西链,用千亿参数的DeepSeek R1做为“教师模子”,用百亿参数的ERNIE Speed做为“学生模子”,颠末调优后的小参数模子,不只能够媲美“教师模子”的结果,成本也降低至3成。正在使用开辟上,本次大会千帆平台全面升级了企业级Agent开辟东西链,发布了全新推理式智能体智能体Pro,从快问快答升级到深图远虑,而且支撑每个企业定制本人的专属智能体。以污水宝为例,基于千帆Agentic RAG能力,让Agent连系企业本人的私域数据和企业学问库,能够基于对使命的理解去制定检索策略,大幅降低模子。同时,智能体Pro也支撑Deep Research深度研究模式,能让Agent自从完成复杂使命的步调规划、消息筛选和拾掇,支撑像人一样操控电脑浏览网页(computer use)进行摸索式学问收集,也支撑像人一样利用多种东西绘制图标、撰写,生成布局清晰、内容丰硕的专业演讲。基于DeepResearch能力,荣耀正正在操纵千帆平台,面向高校学生、职场白领等群体,打制一款科研场景深度研究的使用,将很快会正在荣耀笔记本上上线。帮帮开辟者和企业正在开辟Agent时,可以或许更好地操纵行业数据和东西。本次大会,百度智能云正式发布国内首个企业级MCP办事,第一批曾经有跨越1000个MCP Servers 供企业及开辟者矫捷选择。别的,开辟者也能够正在千帆上开辟本人的MCP Server,并发布到MCP广场,支撑免费托管,并且百度搜刮也会索引这些MCP Server,让它们被更多的开辟者援用。从模子办事到使用开辟,企业客户曾经正在千帆平台上做出了良多行业立异。平易近生银行取百度智能云合做,摸索大模子正在贸易银行的落地,完成了金融范畴第一个端到端涵盖算力、平台、模子、使用四层架构的项目落地。百度智能云打制的智能根本设备也支持着百度本人的使用立异。本次大会,百度智能云面向智能营销、升级了两大自研AI使用产物。金融营销场景需要高精准获客、“高情商”客服及高效的流失预警,百度智能云本次升级发布客悦ONE,正在上述焦点场景进行了全面优化,为客户供给全生命周期智能营销办事,帮力企业实现营销效能全面提拔。以理财撤单场景为例,保守模式下,用户需履历复杂的申明阅读和多层级菜单操做,效率低下。客悦通过AI驱动的智能交互,极大简化了这一流程。AI不只能识别并安抚用户焦炙,更能正在对话中间接指导处理问题,持续优化办事体验。目前客悦曾经办事银行、证券、安全等分歧细分范畴的金融企业50余家,落地金融行业10余个场景。为领会决视觉AI模子锻炼周期长、门槛高,需要大量人工干涉的问题。百度智能云升级发布一见5。0,正在尺度化高、法则清晰的使命中,仅需一句天然言语,即可秒级生成专业级视觉AI使用,一线营业人员也能轻松上手,借帮云边协同,使用成本大幅降低,加快了视觉智能规模化的落地。目前,百度智能云从算力、平台到使用的系统级能力,曾经正在多个企业场景中不变运转。中国钢研取百度智能云结合打制全栈智能根本设备,基于昆仑芯和百舸,搭建了专属的智算平台;正在千帆上做模子精调,利用大、小模子连系的体例获得最佳结果;连系一见视觉平台,快速完成了概况缺陷检测、金相阐发等焦点场景的使用开辟。

 

 

近期热点视频

0551-65331919