详情

首页手游攻略 Crusoe拓展AI平台:推出无服务器微调及自助推理部署

Crusoe拓展AI平台:推出无服务器微调及自助推理部署

佚名 2026-07-11 07:09:59

AI

Crusoe扩展AI平台:推出无服务器微调与自助推理部署

Crusoe正通过其Intelligence Foundry平台扩展托管AI服务,推出无服务器微调和自助推理部署功能,以满足企业AI团队在不自行管理GPU基础设施的前提下定制开源模型的需求。

新功能允许客户对开源基础模型进行微调,将其部署至托管推理端点,或将训练完成的模型权重导出至其他平台使用。

企业从GPU访问转向全栈AI平台

此次发布折射出AI数据中心市场更广泛的演变趋势。随着开源模型质量持续提升,市场竞争已从原始GPU算力供应,转向企业能否在控制成本、保留模型所有权的同时,从实验阶段顺畅过渡至生产部署。

IDC研究副总裁Dave McCarthy表示,竞争已远超GPU访问本身。"GPU访问是过去大约18个月的核心议题,但现在已经不是了,至少不再是全部。"他说,"我接触的每一家企业都意识到,原始算力只是基础门槛。真正的差异化在于微调流水线、评估机制、部署工具以及推理优化能否作为一个整体系统协同运作。"

McCarthy指出,仅专注于提供算力的服务商有被同质化的风险。"只卖芯片的供应商将被商品化。最终胜出的,是那些能够管理整个模型生命周期的平台——从训练数据到生产监控,而不仅仅是底层硬件。"他还强调,模型可移植性已成为企业采购的硬性要求,而非锦上添花的附加项。

开源模型驱动持续微调需求

Crusoe产品高级副总裁Erwan Menard表示,开源模型在质量上已明显跨越可用门槛,企业越来越希望拥有模型的自主控制权,而非依赖第三方专有API。

"团队可以基于自己的数据,衍生出专属版本的模型,并自主决定何时在智能体中停用该模型,而不是被动等待第三方供应商悄然更换底层模型。"Menard说道。

他表示,随着企业逐步从单纯调用API转向更深度的模型使用,持续微调的需求正在快速增长。许多AI原生企业不再将微调视为一次性的开发步骤,而是定期将生产环境数据反馈至开源模型,以提升性能并降低推理成本。

"微调需求的增速超出了我们的预期。对于正在构建生产级AI智能体的团队而言,模型生命周期的自主管控正在成为一项刚性需求,在模型可预测性和数据所有权被列为采购标准的企业环境中尤为如此。"

目前该平台支持一系列主流开源模型,包括Qwen、DeepSeek、Gemma及GPT-OSS。

动态调度降低GPU闲置成本

与需要预留GPU集群的传统AI训练环境不同,Crusoe采用动态调度方式,在其AI基础设施中灵活分配微调任务。

"微调工作负载本身具有波峰波谷的特性。"Menard说,"预留容量模式迫使团队为峰值负载超额购买资源,而在其余时间让昂贵的硬件闲置。"

该服务可自动重启中断的任务,在训练过程中保存检查点,并在模型停止改善时自动停止计费。客户获得的训练完成模型权重采用开放的.safetensors格式,可在Crusoe或其他平台上自由部署。

在生产推理方面,公司新推出的自助部署服务基于Nvidia H100和H200 GPU运行,支持客户在无需直接管理基础设施的情况下部署托管推理端点。

可移植性:通过可导出权重保留模型所有权

Menard表示,Crusoe的目标是消除模型定制与生产部署之间的操作摩擦。采用开源模型的企业越来越希望保留对微调模型的所有权,而不愿被锁定在单一推理平台上。

无服务器微调与自助部署服务计划于下周通过Crusoe Intelligence Foundry正式上线。微调服务将按每百万Token计费,推理部署则按GPU使用小时收费。

Q&A

Q1:Crusoe Intelligence Foundry平台的微调服务是如何收费的?

A:Crusoe的无服务器微调服务按每百万Token计费,推理部署则按GPU使用小时收费。与传统需要预留GPU集群的模式不同,该平台采用动态调度,在模型训练停止改善时自动停止计费,避免用户为闲置硬件付费,有效降低企业的AI开发成本。

Q2:Crusoe Intelligence Foundry目前支持哪些开源模型?

A:目前Crusoe Intelligence Foundry平台支持一系列主流开源模型,包括Qwen、DeepSeek、Gemma以及GPT-OSS。企业可以基于这些模型使用自有数据进行微调,生成专属模型版本,并以开放的.safetensors格式导出模型权重,部署在Crusoe或其他平台上。

Q3:为什么企业越来越重视AI模型的可移植性?

A:根据IDC研究副总裁Dave McCarthy的观点,模型可移植性已从"锦上添花"变为企业采购的硬性要求。企业不希望被锁定在单一推理平台,同时也越来越重视对微调模型的自主所有权,不愿因第三方供应商更换底层模型而被动受影响,这使得支持权重导出的平台更具竞争力。

点击查看更多
推荐专题
热门阅读