“火山方舟”发布,字节跳动的大模型故事怎么讲?
来源:峰值财经 发布时间:2023-07-04 浏览量:次
随着大模型时代到来,企业们纷纷摩拳擦掌,涉足大模型领域。国内的大模型市场正在呈现一个如火如荼、百花齐放的状态。
6月28日,字节跳动旗下火山引擎发布大模型服务平台“火山方舟”,面向企业提供模型精调、评测、推理等全方位的平台服务(MaaS,即Model-as-a-Service)。
目前,“火山方舟”集成了百川智能、出门问问、复旦大学MOSS、IDEA研究院、澜舟科技、MiniMax、智谱AI(以拼音首字母排序)等多家AI科技公司及科研院所的大模型,并已启动邀测。
为大模型厂商提供服务
技术的革新,也会带来行业的变化。“十年前,中文互联网开始从PC时代转向移动时代,这其中最大的技术创新就是个性化推荐算法。五年前,4G技术开始普及,带宽不再成为瓶颈,以抖音为代表的短视频,也正是在这次技术变革期间涌现出来的新体验和新交互。时间来到现在,大模型已经当仁不让拿起了技术革新和体验创新的接力棒。”火山引擎总裁谭待在发布会上说到。 国内新闻网
火山引擎总裁谭待
大模型将渗透到千行百业,变革人机交互界面,影响人们获取信息/处理信息/学习和掌握知识的习惯, 最终深刻影响行业格局。火山引擎智能算法负责人吴迪表示,在B端的大模型供给,将长期呈现百花齐放的面貌。国内将有二十余个有影响力的通用基座模型和领域模型, 解决下游客户的实际问题,创造大量商业价值。
火山引擎智能算法负责人吴迪
据中国科学技术信息研究所等机构发布的《中国人工智能大模型地图研究报告》显示,截至今年5月,国内已公开披露的大模型数量达到79个。 济南热点网
此时入局,也是字节跳动对于技术变革带来新机遇的把握。谭待也谈了自己对于大模型市场的判断,他认为,未来的大模型市场将是一个百花齐放的多模型生态,在这个生态系统中,将同时并行存在几个少数的超大规模的大模型、多个中等规模的大模型和更多个行业的垂直模型;这是由安全信任、行业壁垒和成本因素共同决定的。反过来,开放的市场竞争和模型多样性,又会进一步促进整个技术发展。
“尤其是行业头部企业,自身对于大模型的应用,将会是一个“1 + N”的应用模式,即:企业通过自研或者与三方模型服务商的深度合作,形成企业自身的1个主力模型;在这个主力模型之外,在不同的场景中,企业还会同时应用N个外部模型。”谭待说。在会后接受采访时他也进一步强调,火山引擎自己是不做大模型的”,而是将接入多家大模型深度合作,为大模型厂商提供服务。 泰安新闻网
解决信任问题,打造高性价比大模型平台
与小模型“自产自用”不同的是,大模型的生产门槛很高,数据安全成为大模型时代的新命题。
企业使用大模型,最担心的是数据泄露;如果将大模型私有化部署,企业将承担更高的成本,模型生产方也会担心知识资产安全。所以火山方舟要解决的是信任问题。
吴迪介绍,“火山方舟”已上线了基于安全沙箱的大模型安全互信计算方案,利用计算隔离、存储隔离、网络隔离、流量审计等方式,实现了模型的机密性、完整性和可用性保证,适用于对训练和推理延时要求较低的客户。 海南旅游网
目前,抖音集团内部已有十多个业务团队试用“火山方舟”,主要用于代码纠错等研发提效场景,文本分类、总结摘要等知识管理场景,以及数据标注、归因分析等方面。
谭待介绍,在模型生产端,火山引擎已经通过优秀的算力系统和机器学习平台证明了自己,成为众多大模型企业的首选;在模型应用端,面对多模型生态和企业1+N应用模式,同样需要提供更好的产品和方案,解决计算、安全、成本等通用问题。“让交易成本足够低,让替代成本足够低,这样才能不断降低大模型的使用门槛,让众多企业可以更加高效地应用大模型技术。”
此外,在价格体系方面,吴迪透露,“火山引擎会把资源供应给大模型提供方,在供应里面就有一定的IaaS层面的利润。然后大模型供应方会刨除基本成本,在他们的基本成本上再叠加一个他们认为的合理利润,成为他们大模型在火山方舟上的定价。” 国际资讯网
而对于下游客户使用大模型时的费用,吴迪表示,“付钱是两部分,第一个是模型服务费。第二个是平台服务费,平台服务费在相当长的时间我们都会设置成零。”训练大模型很昂贵,但从长期来看,模型的推理开销会超过训练开销。效果和成本的矛盾永远存在,降低推理成本会是大模型应用落地的重要因素,“一个经过良好精调的中小规格模型,在特定工作上的表现可能不亚于通用的、巨大的基座模型,而推理成本可以降低到原来的十分之一。”
企业选择大模型会有很多因素,除了技术之外也要考虑到商务价格、对方服务好坏等因素。“我认为更重要就是把平台搭好,让买方和卖方在下面能够更低成本进行交易才是最重要的。”吴迪说。 国内热点网
大模型带来的创新浪潮已来,大厂都不想错过大模型创业潮。6月19日下午,腾讯云宣布推出MaaS大模型服务,依靠腾讯云TI平台建造行业大模型精选商店,基于腾讯HCC高性能计算集群和大模型能力,为客户提供一站式大模型服务。如今这个赛道又多了字节跳动,对于行业来说,将会加速大模型在各行各业的应用落地速度。
编辑:胡磊