在今日火山引擎AI创新巡展深圳站中,火山引擎总裁谭待宣告,截至今年9月,豆包大模型日均Tokens利用量超过1.3万亿(今年五月的日均调用量为1200亿次),日均天生图片5000万张、日均处理语音85万小时。
“下半年是全体AI运用的元年,这个数字也进一步印证了这一不雅观点。”谭待如是称。
火山引擎总裁谭待
“当价格降十分之一,量就可能涨十倍。”至于低价大模型是否可持续,谭待在接管《科创板日报》等媒体采访时表示,他们当前紧张关注的是运用覆盖,而不是收入。“要解锁新场景,意味着须要更强的模型能力,我们以为这更有代价”。
在谭待看来,只有大的利用量,才能打磨出好模型,大幅降落模型推理的单位本钱;而昔时夜模型价格从以分计价到以厘计价,也才能帮助企业以更低本钱加速业务创新。
不过,谭待也认为,面向B端市场的业务,首先其条件一定是要可持续,不能像2C业务一样考虑靠广告盈利。他并不认同外界对大模型厂商业务存在负毛利情形的意见,“2B产品要实现正毛利,我们有能力也有信心做到”。
火山引擎对大模型的定价策略,引来其他厂商的跟进。
以阿里云为例,继5月份将GPT-4级主力模型Qwen-Long价格直降97%之后,这次阿里云百炼平台上的三款通义千问主力模型也迎来了价格的大幅下调,个中Qwen-Turbo的价格降幅达到了85%
“阿里这次贬价挺好,第一次没降到底,现在和我们一样了。”谭待表示,以前本钱是创新的阻碍,现在贬价后,从调用量来看已不再是阻碍。“接下来要做的是在这个价格根本上,提高质量和性能。个中质量指的便是让模型能力更强、更多元。”
目前豆包大模型家族中,已经覆盖了豆包通用模型、角色扮演模型、向量化模型等大措辞模型,文生图模型、图生图模型等视觉大模型产品,以及语音识别模型、语音合成模型等语音大模型。
今日(9月24日),火山引擎宣告豆包大模型新增视频天生模型,还发布了豆包音乐模型和同声传译模型,实现对措辞、语音、图像、视频等全模态的覆盖。
个中,新发布的豆包视频天生模型包括PixelDance、Seaweed两款大模型产品,并开启面向企业市场的邀测。据悉,目前豆包视频天生模型已在即梦AI内测版小范围测试,并将于今年国庆节后上传至火山方舟平台开放预约利用。
豆包视频天生模型定价暂时还未确定。谭待表示,视频模型和措辞模型运用处景不同,定价逻辑也有所不同,比如要综合考虑新体验、老体验、迁移本钱,终极能否广泛运用还取决于是否比以前生产力ROI提升很多。
此前豆包主力模型公布在企业市场价格低于行业的99%,外界猜测字节跳动是否会进一步通过自研算力芯片实现降本。不过字节方面已对干系予以否认,并表示其在芯片领域探索还处于初期阶段。
据悉,火山引擎此前曾推出自研DPU产品,来供应更高的带宽能力,提升打算和存储的传输效率,开释单机GPU算力。
谭待接管《科创板日报》采访进一步明确,火山引擎从第一天做云就强调软硬件全栈优化,但不虞味着都由自己来做。个中硬件研发指的更多是打算、存储、网络,要做端到端优化,同时做好组合。
“比如DPU和视频编解码芯片我们自己做,CPU、GPU等和友商互助,通过工程能力做好稠浊级联调度提升性能和本钱。”谭待表示,豆包Token能实现可持续低价的缘故原由之一,便是他们在软硬件之间做了很多优化。
进入到AI时期,谭待关注到,B端市场的变革一方面是企业需求变得更慢了,并且核心需求便是降本增效;另一方面,AI运用从以前的自上而下方案,变为自下而上驱动创新。
因此,这对大模型厂商而言,寻衅变成从卷价格走向卷性能、卷更好的模型能力和做事。
谭待表示,大模型的运用本钱已经得到很好办理,价格已不再成为瓶颈,未来要保持性价比,进一步把能力做好。