【b站】时隔2月,豆包大模型交出新成绩单:日均Tokens使用量破5000亿
- 发布时间:2024-09-08 07:42:06
- 访问量:
【概要描述】
【b站】时隔2月,豆包大模型交出新成绩单:日均Tokens使用量破5000亿
【概要描述】
- 发布时间:2024-09-08 07:42:06
- 访问量:
“自正式对外发布以来,时隔2月豆包大模型的豆包大模单日整体使用量已经有了一个井喷式的增长。”在7月25日的型交火山引擎2024“AI创新巡展”首站成都站上,火山引擎大模型服务算法架构师孙帆介绍了字节豆包大模型在发布2个月后的出新成绩调用情况。 数据显示,用量截至7月,破亿b站豆包大模型日均Tokens使用量已突破5000亿,时隔2月平均每家企业客户日均Tokens使用量较5月15日模型发布时期增长22倍。豆包大模单日 活动现场,型交火山引擎副总裁张鑫介绍,出新成绩在字节内部,用量有包括协同办公、破亿数据分析、时隔2月文案创作等超过50多个业务在使用豆包大模型,豆包大模单日基于豆包大模型打造的型交新技术引擎正在加速业务创新;其外部客户也已覆盖手机、汽车、金融、消费、互娱等30多个行业。 值得关注的还有,时隔2个月,豆包·文生图模型、知网语音合成模型和声音复刻模型在内的豆包模型家族迎来了升级。 同时,豆包模型家族官宣了“新成员”——豆包·图生图模型。据了解,该模型能力已经在抖音、剪映、豆包、星绘等字节系App中落地,并通过火山引擎服务了三星、努比亚等企业客户,目前日均图生图数量达到数千万张。 “火山方舟围绕更易落地提供核心的插件、智能体能力,以及全周期的数据安全方案,为企业的AI应用进行保驾护航。”孙帆表示,“豆包大模型未来将持续以更强模型、更低价格、更易落地的优势,助力企业AI转型、做好业务落地,优酷让企业能够把握好这次AI浪潮。” 据了解,豆包大模型由字节跳动自研,原名“云雀”,是国内首批通过算法备案的大模型之一,目前通过字节跳动旗下云服务平台火山引擎面向企业提供服务。自发布之初,豆包大模型便主打使用量大、应用场景丰富。 而在2个月后,这款国产大模型交出了一份成绩亮眼的新答卷。截至7月,豆包大模型日均Tokens使用量已突破5000亿,平均每家企业客户日均Tokens使用量较5月15日模型发布时期增长22倍。 张鑫表示,目前豆包大模型的客户已覆盖手机、汽车、金融、消费、互娱等30多个行业,并联合OPPO、vivo、荣耀、小米、三星、华硕等知名终端厂商和吉利汽车、长城汽车、捷途汽车、智己汽车等20余家汽车厂商分别成立了智能终端大模型联盟和汽车大模型生态联盟。 本次活动中,作为豆包大模型西南区域的企业客户典型,蓝领招聘平台鱼泡科技和智能客服企业晓多科技也各自分享了接入豆包大模型实现业务增长的案例经验。 其中,鱼泡科技的豆包大模型日均调用量已超1亿Tokens,覆盖了岗位要求识别、工种识别、求职意向识别等完整的大模型应用场景。 “在一个非常传统的行业里,我们通过两朵云降低了成本、提升了业务的精确程度。”鱼泡科技CDO徐飏指出,与豆包大模型合作后,相关业务场景精确度和效率均得到了提升,“这是技术平权的进步,让以前成本更高的事,如今变得唾手可得。” 晓多科技首席技术官向海指出,通过接入豆包大模型来模拟买家,客服工作人员的训练时间缩短了一半,“这样的大模型有助于让AI走进千家万户,帮助企业做成很多以前敢想但是做不到的事。” 为何豆包大模型可以在短时间内得到如此多客户的青睐?孙帆指出,企业选择大模型产品时往往关心的有三点:模型效果、使用成本,以及落地难度。 “要想做强、做好大模型,除了要有充沛的算力资源外,我们还需要有丰富的业务场景、需求来打磨模型。”他具体说明。 据张鑫介绍,在字节内部,有50多个业务在使用豆包大模型,覆盖了协同办公、数据分析、文案创作、辅助编程、内容审核、客服、游戏NPC、角色对话、教育等各种场景。 得益于超多业务场景的应用训练,豆包大模型的能力表现在一众国产模型里持续居于领先地位。孙帆透露,主力模型豆包通用模型pro自5月发布以来,在多个公开评测集以及专业的第三方评测中表现出众,是得分较高的国产大模型。 同时,豆包模型家族还在追求着“更强”,其主力模型和多个垂类模型均进行了升级迭代。例如,升级后的豆包·文生图模型具备更精准的中英文长文本理解能力,能够生成图文一致的高美感图片;豆包·语音合成模型在升级后实现了智能识别文本情绪并对语速、语调进行动态调整,使之情绪更加饱满;声音复刻模型仅需5秒就能高保真复刻人声,并支持多种小语种。 本次活动现场,基于文生图模型打造的豆包·图生图模型首次登场。据介绍,模型能实现高度还原人物特征,50多种风格场景自由转换,并提供多种富有创意的延展编辑。“该模型目前已在内外部多个业务上进行了大量验证,日均图生图数量已经达到了千万级。”孙帆表示。 为了让更多企业使用到强有力的大模型产品,火山引擎决定从成本端入手。“一个人现在创业,如果要花1万块钱调用大模型,可能会觉得有点贵。我们把价格降到1%都不到,100块钱就能用起来,他的想法也就更容易尝试。”火山引擎总裁谭待曾表示。 在5月的发布会上,他宣布,豆包主力模型的推理输入价格只有0.0008元/千Tokens,比行业便宜99.3%,“这样的超低定价,来自对技术的信心,火山引擎能通过技术手段实现大模型推理成本的优化。” “除了效果好、价格便宜,模型还需要有更强的承载力,才能让大家真正地用起来。”孙帆表示,豆包大模型给出了最高可达同梯队模型数倍的每分钟处理Tokens限额,让模型服务具备更强的承载力。 据了解,豆包通用模型pro为客户提供了业内最高标准的初始TPM(每分钟Tokens)和RPM(每分钟请求数),有助于企业的业务在高并发场景中落地。 “火山方舟拥有充沛的GPU训练资源池,并能通过潮汐、混部等方式实现高效的资源利用。同时其极致的弹性调度能力,可以在分钟级完成千卡扩缩容,能有效支撑突发流量和业务高峰。”在孙帆看来,团队有能力和信心以扎实的技术实力给客户更好的选择,帮助企业解除成本包袱,让客户更积极更大胆地尝试、迭代。 此外,联网插件、内容插件和RAG知识库插件这三大头条抖音同款插件能力再次升级,并新增了网页解析、计算器等插件,进一步扩宽模型能力的边界,支持企业多样的应用需求。 为帮助企业打通拥抱AI技术的“最后一公里”,火山引擎提供扣子专业版,支持低代码构建契合企业业务场景的专家型“AI Bot”;打造HiAgent企业专属AI应用创新平台,全方位赋能企业AI应用的快速落地与持续优化。 张鑫表示,火山引擎在高速自我迭代,走向更加智能化、行业化和区域化。他说:“通过针对性的行业方案、产品和优化服务,相信在未来,会有更多西南区域的企业借助豆包大模型和火山引擎的力量,实现业务创新,从而为经济发展注入新的活力。”客户使用量爆发式增长,豆包大模型交新卷
更强模型、更低价格、更易落地,豆包模型家族新升级
微信公众号
天猫旗舰店