对话汤道生:AI下半场看真实付费的Token调用量

(图源:企业官方)

蓝鲸新闻10月30日讯(记者 卢思叶)AI办公产品的早期争夺还在继续,互联网大厂的主力产品几乎都在以每周更新的速度迭代,商业化进展也颇受关注。

10月29日,腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生在接受蓝鲸科技等媒体采访时表示,Agent市场还处于高速增长和持续迭代阶段,腾讯没有给WorkBuddy设定明确的商业化数字,现阶段的商业化更多是为了支撑产品服务和生态发展。

在当天的腾讯全球数字生态大会上,汤道生发布了以WorkBuddy为工作台的一体化套件Buddy One,腾讯将WorkBuddy Agent平台能力向企业开放,尤其围绕办公协同、数据管理与业务执行三大场景。

WorkBuddy从一开始定位的个人办公工具,逐渐成为腾讯面向企业端的Agent平台主力,也自然成为采访话题的绝对中心,汤道生还谈及了WorkBuddy在集团内的定位,组织变化以及与其他产品打通的逻辑。

在WorkBuddy之外,腾讯也在关注个人Agent的产品形态、AI时代的组织创新,以及模型能力与算力成本之间的平衡。面对快速变化的行业,汤道生认为,企业需要给探索和试错留出空间,但最终仍要回到用户价值和商业ROI上。

他表示,AI竞争的下半场,不再是模型参数和评测分数,大家都更关注价值,关注用AI在某个场景到底得到了什么,以及用户是不是愿意持续去使用和拥抱,需要真正付费的Token调用量可以作为一个粗略的衡量指标。

算力方面,汤道生表示腾讯会加快全球数据中心建设,腾讯云全球已部署超过200万台服务器,未来一年将拓展亚洲、中东、欧洲和美洲的布局,“全球算力都挺缺的,需求是暴增的。”

以下是采访部分实录,经编辑整理:

Workbuddy的商业化与开放战略

提问:WorkBuddy已经相对成功了,现在它在整个腾讯集团的定位是什么,未来的策略是什么?

汤道生:我觉得也不能太快下结论,这是一个高速增长的市场。WorkBuddy当前在市场确实在一个相对领先的位置吧,但是我相信未来几年,产品也要持续去迭代,这个行业或者这个赛道才刚开始。我们自己本身对产品有很多想法,未来的这段时间肯定也会持续去迭代,我相信我们友商也一样在不断地去迭代产品,对我们来说最重要还是给客户有选择,满足他们的需求。

提问:您之前有提到暂时不给WorkBuddy团队设商业化的目标,现在一个季度时间过去了,这个商业化的目标有没有一点概念了,或者说有没有更具体的下一阶段目标可以进一步披露的?

汤道生:今天WorkBuddy的商业化,我觉得是更多是从支撑这个产品服务发展的角度来考虑,不是定某一个数字要逼着团队去完成。因为随着我们建立生态,引进了很多第三方的合作伙伴,包括有一些合作伙伴去专门给客户做FDE,他们也需要商业模式,不能免费干活。打造这样的生态,服务的客户越来越多,规模带来的纯成本压力还是很高的,所以我觉得今天需要一定的商业化,尤其在企业侧满足企业在安全层面、可观测管理层面的一些需求,产生的一些收入也主要是来让这件事能够发展的更好。

提问:WorkBuddy接入腾讯内的应用,它的扩张边界您怎么看的?大家会不会各自为战,有自己的体系还是有大一统的?

汤道生:Agent跟Agent之间的联动未来会是一个很正常、很合理模式,尤其当要处理的是敏感数据,面向不同的员工有不同的权限,如果完全依赖WorkBuddy访问一个数据库,数据库本身没有带那么多业务逻辑和访问权限。企微在AI方面有它的聊天记录Agent,目的是为了保护用户隐私,保证WorkBuddy不能访问,现在这个架构设计,是充分考虑哪些数据用户可能有比较高的隐私保护需要,同时如果能充分授权,企微的Agent也能跟WorkBuddy的Agent信息互换,这是我们设计几个产品之间联动模式的思考。

微信确实是一个更独立的体系,比如小微,因为涉及到个人聊天的极度敏感信息,而且它要服务的是十几亿用户。所以它没有办法像WorkBuddy用一个T以上参数的模型,这肯定是不可持续的。我觉得针对微信的场景,他们需要最终建立一个用户用起来觉得放心,同时又能够规模化的技术体系,针对这样一些条件有自己的设计,我觉得这也是一个很合理的想法。

提问:WorkBuddy既与混元模型深度共建,又全域开放了主流的开源模型,同时支持一些企业自部署的模型,怎么平衡这些自研模型的战略站位以及第三方的开源生态的价值?

汤道生:WorkBuddy接入多个模型是今天产品的一个竞争优势,我们很多客户其实就不想在用Agent的时候强绑某一个模型,WorkBuddy最初的战略选择就是非常开放的方式,这对于发展也非常有利。因为模型的迭代都很快,可能每两个礼拜又刷新一个排行,而且每个模型针对不同的任务都会做一些相对的优化,价格也是有差异的,甚至哪怕同样的Token价格,也会带来不一样的效果。所以,我觉得提供多个模型给用户选择,让他能针对不同的任务使用不同的模型,这个是我们会持续坚持的一个战略方向。

个人Agent的产品规划和竞争看法

提问:腾讯如何判断Muse这类个人智能体在国内的前景?在用户入口习惯培养以及场景上,与WorkBuddy这样的生产力智能体会存在哪些关联?

汤道生:我觉得首先要理解Muse的底层逻辑,它连接了很多交易场景,获得很多context,比如邮件、短信。Chat Bot和WorkBuddy都是用户先提需求、布置任务,再获得反馈,Muse不一样的是自己会去看获得的信息、通知,然后主动去用户想可能需要什么。

在国内,WorkBuddy也会接入邮箱,这就让办公Agent有一定的基础,而在C端场景,大家的信息来源各种各样,不一定都是来自于邮箱。在这样的环境下,能不能做到像Muse一样的体验,很大程度取决于拿到的上下文是不是足够多,能不能有一个很好的环境让Agent可以主动去为用户去想需要的东西。

提问:您觉得承载腾讯个人Agent愿景的产品主要是什么?今天元宝搜索在现场有广泛应用,会是元宝吗?目前对元宝的定位和投入是否有一些调整?

汤道生:TO C侧的元宝、微信小微,都是腾讯在服务C端用户的重要平台,元宝肯定是我们的重点产品,元宝跟WorkBuddy也会有很多联动的地方。这一段时间我们在打造元宝的搜索能力,有比较大的提升,既能够支持元宝作为一个聊天机器人,也能成为消费者使用的智能体载体。

腾讯在AI Agent或者AI应用这一层,也是以这几个产品作为战略重点,当然因为用户的需求是各种各样的,有一些垂直场景会以某种不一样的产品形态来满足。如果有机会,我相信腾讯也会积极去推出合适的新产品。

提问:国内很多个人Agent是手机厂商在做,腾讯如果想做这一类Agent,可能需要跟手机厂商做竞争,您怎么看待这种情况?

汤道生:也不是说跟手机厂商竞争吧,首先每一家AI企业都可以做这样的产品,也不局限在某一类的某一个市场的玩家。像我刚才说的,要能做到Muse的这种能力,离不开从哪里拿上下文,我觉得AI这个课题,很多时候的挑战或者限制也在于能不能获得相关的上下文,把一件事所需要的信息、目标、指标或者路径能够都完整地拼出来,让大模型知道怎么去干。在这些基本条件平等的情况下,其实大家的起跑线差不多。

AI时代的组织变化与探索

提问:我们了解到WorkBuddy之前一直采用小团队、扁平化,快速试错、快速攻坚的模式,现在是不是已经有变化,如何支持这支团队创新?

汤道生:确实WorkBuddy的小团队管理模式,让它非常快速地迭代,在早期发展时我们充分受益于这个模式带来的效率提升。在这个过程中,我觉得任何一个组织方式肯定都是有优缺点的,我也说一下今天发现的可以改善的地方,比如当很多小团队并行跑,可能都是针对某一个功能领域的攻坚团队,但是到最后还是要合版本,让不同功能的代码回到基线,这个工作量或者复杂度,还是挺高的。

所以我们也需要用更多的工具,包括用好AI,让合版更顺畅,不会在过程中引入一些新的bug,甚至可能返工。另外我觉得做产品还是需要有一定的架构设计思路,比如有团队负责左侧,有团队负责右侧浏览编辑,有团队负责输入框,你会发现当各自不停迭代的时候,可能会相互踩踏,没有足够的协调产品可能会从终端用户的使用的角度不合理。

其实在WorkBuddy发展过程中,我们也有不断加入新的功能,后来发现两个功能应该整合考虑会更合理的情况,这在产品迭代过程中,都可能会出现。所以,今天AI带来组织的这种新模式,不同的团队也都在探索,我不觉得已经有一个很清晰的“菜谱”,跟着就一定对了。

提问:WorkBuddy是今年意外跑出来的产品,而且这个产品可能在前几年CSIG降本的时候差点被砍掉,想知道怎么在“自上而下清晰的战略”和“一线模糊潜在的创新”之间寻找到好的平衡、不断发现这种有可能跑出来的黑马?

汤道生:首先,探索性的项目肯定是很多的,能跑出来的一般是少数,所以我觉得企业需要一种对于试错的包容,这是比较重要的一点。另外,我们做不同的尝试,留什么项目或者什么项目坚持不下去,很大程度取决于有没有为用户创造价值,也就是用户能不能用起来。如果做一个探索要花好大的力气,用户才买单,比如是通过巨额的补贴,用户才用,不补贴就跑掉了,其实就等于没有找到实际用户认可的价值点。

这种探索首先需要团队有一个很清晰的“北极星”,就是要让用户觉得这个产品有价值,甚至到某一个阶段需要做商业化变现的时候,用户也愿意在一个合理的价格去付费。通过这种不同阶段的验证,用户愿意用、前期培养使用习惯或者认知、后面经营某种商业模式时愿意买单,又同时能覆盖运营成本,那这个业务就真正做到了健康、可持续。

腾讯这么多年,确实也有好多探索和走不下去的案例,也有一些探索一步一步获得用户的喜欢并建立商业模式,两边的案例都蛮多的。

提问:腾讯还有很多Agent产品,在什么情况下会做业务或团队整合,什么时候资源投入,因为用户可能不需要那么多的Agent入口?

汤道生:我们今天发布的Buddy One就是把WorkBuddy作为工作台,把几个有自己定位的产品能力结合起来。比如可以完全不考虑ima有一个独立版本,在WorkBuddy里面完成任务绝对没有问题,但是也有一些用户可能就是只需要ima做知识库管理,它本身的独立形态是有很明确的场景提供比较友好的体验满足用户的,有独立存在的理由。

如果最终我们发现大家慢慢不用比如说腾讯会议的独立版本,也许我觉得到时候自然产品就会做一个选择,到底要不要维护。短期内,一方面我觉得用户已经形成的习惯挺难改变的,没必要刻意用另外一个产品来替代,另一方面,腾讯还是比较重视给用户选择,针对不同的场景给到比较友好的用户体验,这才是我们做产品最终选择的导向。

提问:今年或者这几年,AI技术热点变化很快,这种不断变化的热点会给管理层带来判断上的焦虑吗?怎么抓住这种技术变化的主线,腾讯有没有提前探索或者提前知道下一代的重要产品是什么?

汤道生:我相信行业里面大家都在探索,WorkBuddy是一个例子,其他的探索在别的企业里面也一样有成功的,像Muse带给大家很多新的思路。在这种场景,作为一个产品负责人肯定要判断,这是一个全新的范式、跟以前的产品有互补性、需要建立新的产品来满足,还是这是服务用户在AI时代的某些新需求。

比如像元宝,可以从回答问题到主动完成任务,或者像WorkBuddy可以授权去访问某些通讯内容,允许主动发现用户需求。同样的产品,也一样可以去承载和满足新的需求。我觉得做TO C产品有趣的地方是,不同企业可以有不同的组合方式。就像内容产业,我们既有腾讯视频作为独立平台,也有微信视频号在微信生态体系里提供内容,都是能跑得通的。

新模型发布预告与算力部署

提问:混元基座模型接下来的迭代方向是什么,接下来是否还继续追求性能智能方面的领先还是会速度方面做一些追求?

汤道生:我觉得两条线都需要兼顾,大的模型肯定继续提升综合能力,怎么去解决更复杂的问题,包括同样的数量Token怎么去做更多,模型基本能力的提升还是有足够大的空间去继续努力的。但是确实也可以看到国内的主流模型,都有FLASH的版本,都是从大模型蒸馏出来更低价格、更低成本提供推理服务,我们混元4的FLASH版本也会在稍候发布,这都在我们计划里边。

提问:今天您有提到在加快全球数据中心建设,市场上有观点预测AI数据中心到2030年需要创收8.5万亿美元才可以覆盖成本,腾讯之前在财报也提及AI有增长潜力也有下行防护,您目前对AI供需情况的想法有没有改变或者更新?

汤道生:首先如果从非常宏观的角度看整个行业,很难套一个数字来衡量,因为其实每一个场景所需要花费的成本差异蛮大的,肯定也有预测未来需求的过度前置投入。但是我觉得毫无疑问,回到ROI,刚才我提到的成本作为分母,今天花在硬件上的成本是非常高的,这个当然是各种原因导致,如果这个成本能降下来,对于AI的可持续发展,或者覆盖到更多使用场景,用户能用得起,肯定是有帮助的。

提问:腾讯数据中心的扩张在海外市场是不是更倾向长期租赁的方式?在考虑算力中心是自持和租赁是怎么衡量的,包括国内。

汤道生:全球算力都挺缺的,如果能买到我们也是很愿意通过自建的方式管理算力,因为需求是爆增的,如果我们自建赶不上的话,当然租赁也是open的。

AI竞争的下半场趋势判断

提问:您之前提到AI竞争是一场马拉松,下半场才刚刚开始,从模型竞赛转向场景落地,AI进入下半场最鲜明特征是什么?如果给下半场设定一个标尺,不是参数,不是榜单,您会用一个什么样的标准去衡量一家企业在什么位置?

汤道生:下半场的相对明显感受是,上半场大家非常关注模型,不管是模型的参数,模型的评测分数,都是过去几年大家高度关注的点。但是我感觉今年其实大家就比较少提哪个模型得了多少分,这种体感还是挺明显的。所谓的下半场,我觉得也就是一种说法,没有一个非常严谨的定义,就是大家更关注价值,关注用AI在某个场景到底得到了什么,或者用户是不是愿意持续去使用和拥抱。

在WorkBuddy的智能办公体赛道上,我们看到一个比较粗的衡量指标,就是很多任务跑得越长,Token消耗越高。虽然很多时候Token的消耗量不是一个非常严谨的衡量方式,但是也代表了用户愿意为任务花多少钱、花多少Token,同时它能产生多少价值,我觉得比较粗略地可以通过Token调用量来作为一个指标。

提问:怎么判断企业AI生产力真的跑通了,有哪些具体指标,想听一下您的答案。

汤道生:我先抛回一个问题,在座的各位也都在某一个企业里面工作,你今天能再不用AI来做工作吗?我觉得挺难回去的,所以企业AI有没有跑通,第一是它所创造的价值会不会被放弃,如果放弃不了,那等于已经成为我们工作的一部分、生活的一部分。

再往下去看,企业为Token买单,是希望它通过降本增效、创造新收入,去抵消可能新产生的成本。回到ROI的简单理解,ROI的分母是投资,分子是你回报,首先是动态变化,如果用很贵的模型和非常低效的算力机制,那成本暴涨,对应的分子需要非常大才能跑通。

但如果像国内的模型,大家一直在针对性价比,让Token智能能够服务于大众,成本压低的话,对应的要求就没这么高了。我觉得今年很明显,国产的开源模型都各自推出FLASH的模型,都是奔着怎么样让智能变得更便宜、能够服务更多的用户来改变ROI。

回到分子的部分,今天其实已经有很多案例呈现出来,作为一个企业管理者,更快了解业务的状况、能够深度分析做出更及时的决策、发现新的商机或者更早发现经营上的问题,这个本身不是这么容易衡量,但是肯定是非常有价值,而且如果不做,竞争对手跑得比你快,就可能会丢掉机会或者丢掉市场份额。

所以我自己觉得,今天智能在办公场景,其实是跑通的,已经有很多公司都证明愿意投入和持续投入的价值。当然作为一个企业,如果没有抓住一些根本,比如没有很好地调整组织,支撑员工使用AI的话,可能会跟别人付同样的成本,但是没拿到同样的回报,自然体感就没跑通。

我反而觉得今天听到更多企业的反馈是,很想用AI,关键是怎么去建立一个安全的环境,大家也怕Agent自己执行会不会走偏。所以我们给客户提供的不仅仅是智能,还包括从安全管理的角度,建立一个大家比较放心的环境来执行,这是国内更多企业客户跟我们讨论的话题。

提问:除了办公场景,您认为AI最先颠覆和重塑的实体行业会是哪个?

汤道生:腾讯一直不喜欢用颠覆这个词。我觉得最明显看到变化的应该是程序员,今天的大模型对于程序代码的处理能力已经证明是非常强的。我们公司内部确实有很多研发的同学必须要拥抱AI,我们可能也属于互联网企业里面最早去拥抱大模型做研发的。在过程中,我们发现组织必须要变化,每个人在做的事也在变化。不断完善对于生成代码的架构约束,这些都是我们研发团队在用AI所面临的问题,需要解决的问题。

我相信在不同的岗位,也都会经历类似的一些过程,首先充分积极拥抱AI工具带来的便利和提效,然后发现新的问题,过程中也会筛选出谁用的好,谁用的不好,企业也会推出一些要求,让大家能够把AI用好的同时,避开一些潜在的坑,我相信每一个岗位可能都会经历这样一个过程。

提问:您之前文章中写过,跟AI长跑熬的久比起的早更重要,很多从业者也在看很多机会,但是他们其实不太知道自己熬的这个赛道到底对不对,您怎么看?

汤道生:在投资行业里面,投了十家企业可能只有一两家能够存活,一方面也许是没有足够资源坚持下去,另一方面可能方向不对,坚持也得不到正向的反馈。所以很多时候,我觉得底层逻辑是,第一,之前提到的,是不是真正在创造一个可持续的价值,而不是阶段性补贴去抢市场,这是一个指标。

第二个指标是,到底用户愿不愿意为我创造的价值买单,愿意付出的价格跟成本是不是匹配,如果这两者都是否定的话,我觉得可能真不一定值得去坚持。尤其如果涉及到边际成本不能打平,如果因为前期的固定投入太大,导致净利为负,可以通过规模产生更多的利润来覆盖,这样的赛道就值得去坚持投入。但是如果不是,根本就没有验证到位每获取一个用户的价值和成本,用户越多亏得越多,这就不是一个特别好的条件需要坚持。