Inkling是什么

Inkling 是 Thinking Machines Lab 推出的开放权重多模态基础模型。模型原生支持文本、图像与音频输入，采用混合专家架构，在 410 亿激活参数下实现跨模态推理，支持开发者通过 Tinker 平台下载权重、按需微调。与追求单项 benchmark 冠军的模型不同，Inkling 追求在智能体、编程、视觉、音频等广泛任务中保持均衡表现，成为可嵌入不同工作流的后台推理引擎。

Inkling的主要功能

• 多模态原生理解：同时处理文本、图像与音频输入，支持语音转写、视觉问答、图表推理及长音频分析。
• 智能体与工具调用：内置多框架工具使用能力，可执行浏览器操作、代码生成、终端任务与多轮协作开发。
• 可控推理强度：支持调节推理深度（effort 参数），在 token 成本与性能间灵活权衡，低延迟场景下仍保持高效。
• 超长上下文处理：最高支持 100 万 token 上下文，适用于长文档分析、多轮对话与复杂工作流。
• 开放权重与微调：完整权重通过 Hugging Face 开放，配合 Tinker 平台提供端到端微调与自训练能力。

Inkling的技术原理

• MoE 稀疏架构：66 层解码器-only Transformer，256 位专家中每 token 激活 6 位专家 + 2 位共享专家，总参数 9750 亿、激活参数 410 亿。
• 无编码器多模态：图像经 40×40 像素块通过四层 hMLP 编码，音频以 dMel 频谱图离散 token 输入，所有模态投影至共享隐空间统一解码。
• 混合注意力机制：局部与全局注意力层交替，平衡长上下文记忆与计算效率。
• 量化部署：支持 BF16、MXFP8 与 NVFP4 精度，NVFP4 量化后仅需 600GB 显存即可运行。
• 训练数据：在 45 万亿 token 的文本、图像、音频与视频数据上预训练，数据经去重、过滤与合成增强。

微信关注回复“开源”，加入AI开源项目交流群

如何使用Inkling

• 在线体验：访问 Inkling Playground（Tinker 控制台）https://tinker.thinkingmachines.ai/playground直接与模型交互，测试风格与能力。
• API 调用：通过 Tinker 平台或第三方推理服务商接入 API，使用 tml-renderers 包快速集成。
• 本地部署：从 Hugging Face 下载权重，使用 SGLang、vLLM、TokenSpeed、Unsloth 或 Hugging Face 框架部署；BF16 需 2TB 显存，NVFP4 量化版需 600GB。
• 微调定制：在 Tinker 平台上传数据，编写微调任务并运行训练，可让模型参与自身迭代优化。
• 推理强度调节：通过 effort 参数控制生成 token 数量，匹配成本与性能需求。

Inkling的核心优势

• 高效推理曲线：在 Terminal Bench 等测试中，用 Nemotron 3 Ultra 三分之一的 token 达到同等性能，显著降低长流程成本。
• 均衡通才能力：不针对单一领域过拟合，在智能体、编程、视觉、音频、指令遵循等维度同时保持竞争力。
• 原生多模态：音频与视觉组件从零开始训练，非后期拼接，语音与图像理解在开放权重模型中处于第一梯队。
• 安全与可控：内置 FORTRESS 安全防护，误拒率低；支持 Llama Guard 等下游审核工具叠加，形成纵深防御。

Inkling的项目地址

• 项目官网：https://thinkingmachines.ai/news/introducing-inkling/
• HuggingFace模型库：https://huggingface.co/thinkingmachines/Inkling
• 技术论文：https://thinkingmachines.ai/model-card/inkling/

Inkling的同类竞品对比

维度InklingGLM 5.2权重协议Apache 2.0开放权重多模态支持文本 + 图像 + 音频（原生）文本 + 图像智能体编程Terminal Bench 2.1: 63.8%Terminal Bench 2.1: 82.7%视觉推理MMMU Pro: 73.5%MMMU Pro: 60.0%指令遵循IFBench: 79.8%IFBench: 73.3%安全对抗FORTRESS: 78.0%FORTRESS: 71.3%推理效率支持 effort 参数调节，低 token 高性价比固定推理模式

Inkling的应用场景

• 企业智能体中枢：作为后台推理模型，驱动客服、数据分析、代码生成等多工具协作的智能体系统，通过微调适配企业内部工作流。
• 多模态内容审核：同步分析文本、图片与音频内容，用于社交平台、直播平台的高效合规审查与风险识别。
• 交互式教育助手：基于语音与视觉输入，为学生提供实时解题、图表讲解与编程辅导，支持百万 token 长教材上下文。
• 低延迟编程助手：在 effort 参数调低模式下，以极低延迟完成代码补全、终端命令生成与轻量 bug 修复，嵌入 IDE 插件。
• 长文档法律/金融分析：用百万 token 上下文，对合同、研报、财报进行跨页关联推理，提取关键条款与风险点。