火山引擎CEO谭待谈应用卡顿:不一定是算力不够用
2024-12-18 16:25:52 - 新浪科技
新浪科技讯12月18日下午消息,火山引擎FORCE大会期间,火山引擎CEO谭待向新浪科技介绍了在算力相关层面的规划。
谭待向新浪科技表示,“我们自己在(算力)储备上还是很充足的。也正是因为这个原因,我们现在可以提供业界最大的TPM和RPM(注,TPM和RPM是衡量AI模型处理能力的两个关键指标,分别代表每分钟处理的Tokens数量和每分钟的请求数)。包括今天发布的新的模型之后,后面增速会更快。因为视觉理解会解锁更多的场景,从火山引擎的角度,算力部分我们的储备是足够的。”
此外,他还表示,“一个新的功能上线,在用户使用的时候出现了卡顿或者阻碍,不一定是算力不够的原因。因为你毕竟用的是一个应用,用的是一套系统,可能比如说你的前端,接入端,包括中间,哪怕是用户验证或什么环节出了问题也会影响到整个系统的流畅性,包括工程上面一些优化等方面。所以我觉得如果出现卡顿其实不只是简单的算力问题。”(罗宁)