智东西
编译 | 孙小雯
编辑 | 程茜
智东西11月20日消息,昨日,美国AI Infra创企Prime Intellect宣布推出模型训练平台Model Factory,企业可根据平台支持的模型和算力配置,更新现成模型的全部参数,或从零训练新模型。该公司称,其底层强化学习框架prime-rl支持在千张以上GPU集群上训练万亿参数以上的MoE模型。
Prime Intellect发布Model Factory(图源:X)
Model Factory将预训练、继续训练、监督微调、强化学习和模型推理纳入统一平台,并支持将模型上线后的执行记录用于后续训练。科学研究、芯片设计、金融等专业领域的团队,可以围绕自己的任务和数据训练、部署并持续改进模型。
据该公司透露,其训练规模可扩展至数千张GPU。基于Qwen3-235B-A22B模型,MoE训练融合内核Prime Mega MoE在H200显卡上实现了48%的模型浮点算力利用率(MFU)。
目前,Model Factory支持按需托管(On-demand)和专属部署(Dedicated)两种服务方式。其中,专属部署支持客户自定义训练框架,并通过Slurm、Kubernetes直接提交并安排计算任务。此外,专属部署还支持为训练团队检查机器健康状态、自动替换故障机器,并从最近存档恢复训练。
定价方面,按需托管的训练费根据GPU型号、数量和占用时间计算,按秒折算,该模式下的数据存储另按每GiB每月0.09美元(约合人民币0.60元)收费,平台在任务启动前显示并锁定训练单价,不收取排队、调度和下载运行环境期间的费用。专属部署方案定制化收费。
Prime Intellect成立于2023年,主要为企业和研究团队提供GPU算力租赁、模型训练、评测和部署服务,并以API方式提供模型推理服务。此前,该公司曾宣布完成累计超1.5亿美元(约合人民币10.07亿元)的三轮融资,英伟达风投、英特尔资本为其A轮投资方。
据该公司今年7月披露,其年化营收规模(ARR)在不到一年内超过1亿美元(约合人民币6.71亿元)。目前,该公司客户超过6000家,并曾与英伟达共建2500项经过验证的跨应用企业任务。
该公司称,此前,仅前沿实验室能够完成训练及改进模型的全过程闭环,而Model Factory将打破这一技术藩篱。通过Model Factory,任何从事科学发现、芯片设计、金融等专业领域的团队,都可以基于自己的任务和数据进行模型训练及部署。
一、支持数千张GPU训练,提供模型一键部署服务
Model Factory由该公司此前推出的模型训练平台Lab升级而来。Lab主打托管服务,主要支持用户通过LoRA微调开展强化学习。此次升级进一步扩大了训练范围,并为需要深入修改训练系统的团队提供专属部署服务。
Model Factory与此前Lab的功能对比(图源:Prime Intellect)
Model Factory支持预训练、继续训练、监督微调(SFT)和强化学习(RL)。用户提交训练配置后,可以按GPU小时付费使用托管训练,也可以选择专用部署,预留算力并调整底层系统。
在监督微调环节,用户可以从平台目录中选择现有开源模型,也可以导入自己已有的模型,再让上述模型学习成功案例、操作示范和专业领域回答。微调后的模型既可以直接使用,也可以继续接受强化学习训练。
开展强化学习时,用户需要设置训练环境,为模型提供练习任务、完成任务可用的工具,以及判断结果好坏的评分规则。开源平台Environments Hub中有超过2500个由社区开发者提供的现成训练环境,让模型在其中练习任务、接受评分,并按业务需求调整环境设置。研究人员可以跟踪奖励分数、检查执行过程;需要编写代码或调用工具的智能体还可使用隔离沙箱,平台支持数万个沙箱并发运行。
Model Factory强化学习训练演示(图源:Prime Intellect)
针对新模型开发和基座模型训练,平台支持预训练、继续训练,以及不同模型架构、训练目标和算法的实验。该公司称,训练规模可扩展至数千张GPU,基于Qwen3-235B-A22B模型,MoE训练融合内核Prime Mega MoE在H200显卡上实现了48%的模型浮点算力利用率(MFU)。
Model Factory预训练实验演示(图源:Prime Intellect)
模型评测方面,研究人员可以先测试模型的初始表现,再评测训练过程中保存的不同检查点,比较训练效果。
确定需要部署的版本后,用户可以在控制台中将相应检查点一键部署为推理接口,供应用调用,也可用于生成合成数据和开展后续评测。按需托管与专用部署均支持一键部署。
Model Factory模型部署演示(图源:Prime Intellect)
二、收集执行记录辅助模型改进,支持客户自有GPU部署
模型上线后,团队可以通过运行记录管理工具Prime Traces收集执行记录,查看智能体调用了哪些工具、经过哪些步骤,以及在哪一步失败。研究人员据此筛选下一轮训练样本,调整任务环境和评分规则。
Model Factory执行记录收集演示(图源:Prime Intellect)
在该公司的编程智能体案例中,研究人员可以检查模型是否找到正确文件、是否运行测试,以及是否真正修复问题,再据此补充监督微调示范、调整强化学习奖励,或加入更难的任务。
新一轮训练后,研究人员可以结合代码修改和测试结果检查模型表现,并使用未参与训练的另一组任务开展评测,确认模型在训练任务之外是否同样有所改善,再决定是否部署新版本。
对于需要修改底层训练框架的团队,Model Factory还提供专用部署,客户可使用该公司或自有GPU搭建专用集群。研究人员既可以使用托管训练和推理服务,也可以通过调度器Slurm和Kubernetes直接管理集群,并按实验需求修改底层框架、运行自定义任务。
为支持长时间运行的实验,平台还提供健康检查、故障节点自动替换和训练恢复功能。据该公司披露,系统可在节点故障后从最近保存的检查点恢复运行,团队也可通过prime factory命令行工具,在不同任务之间调配GPU。
三、累计融资超10亿,为6000多家客户提供算力与模型服务
据该公司官网展示,Prime Intellect目前有三条产品线:模型训练平台Model Factory,前身为Lab;推理服务Prime Inference,为客户提供现成模型的API,也为客户自己的模型配置专属运行服务;算力服务Prime Compute,为客户提供按需租用的GPU、专属集群及配套运维。
Prime Intellect的分布式AI训练构想(图源:Prime Intellect)
Prime Compute是一个GPU算力平台,用户可以根据模型训练、推理等任务的需求,选择GPU型号、数量和租用时长,支持按小时租用1至256张GPU,也可以预订由Prime Intellect负责运维的专属集群。该平台提供集群调度、运行监控和故障节点自动替换等功能,用户可通过API启动和管理算力资源。
Prime Inference则是模型推理服务平台,用户可以通过兼容OpenAI接口的API调用开放模型,也可以将自己训练的模型部署上线,接入应用。目前,平台支持按Token付费和预留专属算力,当某个数据中心的部署出现故障时,系统支持自动将请求转至其他正常运行的部署。
该公司透露,在正式对外发布前,Prime Inference仅处理公司内部的强化学习、合成数据生成、评测等任务,每天处理的Token量就已接近1万亿。
Prime Intellect的两位联合创始人此前分别有Web3及模型训练背景。该公司联合创始人兼CEO文森特·魏瑟(Vincent Weisser)曾参与创办去中心化科研组织VitaDAO,并在生物医药知识产权平台Molecule负责产品和AI业务。
其联合创始人兼CTO约翰内斯·哈格曼(Johannes Hagemann)硕士毕业于德国哈索·普拉特纳研究所IT系统工程专业,并于2022年初加入德国大模型公司Aleph Alpha,参与从零构建分布式训练框架。
2023年,哈格曼以第一作者身份完成《大规模分布式模型训练的高效并行化布局(Efficient Parallelization Layouts for Large-Scale Distributed Model Training)》论文,并获得NeurIPS 2023下属WANT研讨会最佳论文奖。
Prime Intellect联合创始人兼CTO约翰内斯·哈格曼(左)与联合创始人兼CEO文森特·魏瑟(右)(图源:Prime Intellect)
客户合作方面,Prime Intellect曾与英伟达合作开展企业任务训练。双方共同构建了2500项经过验证的跨应用企业任务,覆盖邮件、客户管理、工单和表格等场景。英伟达以完成监督微调的Nemotron 3.5 Super VL为起点,使用NeMo RL开展强化学习,共投入128张GB200 GPU。训练后,在考察企业跨应用自动化能力的AutomationBench-AA公开测试集中,该模型的得分从训练前的34.0%提高至57.7%。
在融资方面,2024年4月,该公司宣布完成550万美元(约合人民币3692万元)种子轮融资,由Distributed Global和CoinFund共同领投。2025年2月,该公司宣布完成1500万美元融资(约合人民币1.01亿元),由创始人基金领投。今年7月,该公司完成1.3亿美元(约合人民币8.73亿元)A轮融资,由Radical Ventures领投,英伟达风投、英特尔资本、戴尔科技资本等参投。
结语:模型平台争夺长期客户,训练实效影响客户去留
Model Factory将算力、训练、评测和部署整合起来,扩大了Prime Intellect能够承接的客户需求。美国AI云服务商Fireworks等同行也在提供训练与部署服务,模型定制平台的服务范围正逐渐重叠。Prime Intellect需要凭借训练环境、沙箱、运行记录和集群控制等差异化能力,争取需要持续开发模型的客户。
服务范围接近之后,平台能否帮助企业更快完成实验、更稳定地上线模型,将更直接地影响客户选择。供应商也需要将项目经验整理成可复用的工具和方案,减少每次交付中的人工投入。客户是否持续使用该平台、是否完成有效模型训练,将检验一站式平台的长期价值。
来源:Prime Intellect


