Together AI 上线 Thinking Machines Lab 多模态模型 Inkling

Together AI 在 X 平台宣布，正式上线来自 Thinking Machines Lab 的新模型 Inkling。这是一款面向「token 高效推理」设计的多模态 MoE 模型，原生支持文本、图像与音频三种模态的输入，并提供可控的推理深度（controllable inference effort）选项，允许开发者根据任务需求在推理质量与成本之间做权衡。

模型架构与多模态能力

Inkling 采用混合专家（Mixture of Experts, MoE）架构，是 Thinking Machines Lab 推出的又一款对外可见的模型。其最显著的卖点是多模态融合：

• 输入模态：原生支持 text、image、audio 三种输入，无需额外的编码器拼装。
• 推理范式：定位为「token-efficient reasoning」，强调在保持推理质量的同时降低 token 消耗。
• 可控性：提供 inference effort 控制接口，方便用户在延迟、成本与准确率之间灵活调节。

部署与底层优化

Inkling 并未由 Thinking Machines Lab 自有平台首发，而是选择托管在 Together AI 上。Together AI 在工程层面为其做了专门的推理内核优化：

• 计算内核：基于 Together 自研的 FlashAttention-4 kernel 进行优化，以提升注意力计算的吞吐与效率。
• 访问方式：开发者可通过 Together AI 平台调用 Inkling，享受云端推理服务。

信息有限，需关注后续披露

目前 Together AI 的官方公告仅以一条推文形式发布，未同步披露以下关键信息：

• 模型参数规模、专家数量、激活参数等架构细节；
• 在常见 benchmark（如 MMLU、MATH、AudioBench 等）上的表现数据；
• 上下文窗口长度、token 计费方式与速率限制；
• 是否开源权重、是否支持本地部署。

考虑到 Thinking Machines Lab 由前 OpenAI 高管 Mira Murati 创立，其一举一动在 AI 行业仍具备较高关注度。Inkling 的多模态 + MoE + 推理深度可控组合，使其在面向长文本、跨模态理解的轻量推理场景中具备一定想象空间。但其真实能力与定位，仍有待更多技术博客、论文或第三方测评披露后才能完整评估。