Character.ai 技术解析:让用户停留的工程学
文章梳理 Character.ai 的 Kaiju 模型、推理加速、记忆系统与安全管线等核心设计。
Character.ai 是面向消费者市场的角色对话平台,用户可与名人、虚构人物、自定义角色进行长轮次聊天,也可自行创建角色。与主打问答的通用聊天机器人不同,Character.ai 把「让一场虚构或陪伴式对话持续很长时间」作为核心产品命题,由此衍生出一整套围绕速度、记忆与角色一致性的工程方案。
创始团队与技术基因
Character.ai 由 Noam Shazeer 与 Daniel De Freitas 联合创立,二人均为前 Google 研究员,参与过 Transformer、Meena、LaMDA 等关键工作,在对话模型与低成本推理方面积累深厚。这一背景也解释了 Character.ai 选择「自建模型 + 强产品」路线,而非仅依赖第三方大模型 API 的原因。
模型架构:Kaiju 与训练管线
Character.ai 公开使用的核心模型为 Kaiju,参数规模覆盖 13B、34B、110B 三个档位,均为稠密 Transformer。模型在训练目标上明显偏向对话流畅度与角色沉浸感,而非单纯考试型基准。
为兼顾响应速度与生成质量,Kaiju 在架构与训练层面采用了多项工程优化:
- MQA(Multi-Query Attention):在注意力层共享 Key/Value,降低显存与计算开销。
- Sliding-Window Attention:限制注意力窗口,减少长上下文下的推理成本。
- 共享 KV Cache:跨请求复用已计算的 Key/Value,进一步压缩推理时延。
- INT8 + QAT(Quantization-Aware Training):训练阶段就为量化做准备,兼顾精度与吞吐。
- Sticky Sessions:将同一会话尽量调度到同一组 GPU,提升缓存命中率。
记忆与「黏性」机制
Character.ai 把「让用户停留」拆解成几个具体的产品机制:
- Story Memory:自动抽取并保留故事情节关键节点,避免长对话中情节断裂。
- Facts:持久化用户的偏好、身份等结构化信息。
- Lorebook:允许创作者为角色补充世界观、规则与背景设定,相当于外挂的世界设定数据库。
- Compelling Writing Scorecard:内部用于评估生成文本「是否足够像好故事」的写作质量评分体系,作为训练与筛选信号。
这一组合让模型在几十甚至上百轮对话后仍能保持角色口吻、记住前情,并容纳丰富的世界设定,是其与通用聊天机器人拉开差距的关键。
安全与生成控制
在内容安全方面,Character.ai 的公开方案分为三阶段:
- SFT(监督微调):用人工标注数据训练基础对话风格与安全基线。
- 在线 DPO:在用户交互过程中持续进行偏好优化,让模型更倾向被认可的回复。
- Classifier-Guided Beam Search:解码阶段用分类器对候选序列打分,引导模型在保持创造力的同时规避违规输出。
这套「训练 + 在线偏好 + 解码约束」的组合,被公司描述为兼顾开放性与安全性的主要技术路线。
信息来源与局限
需要指出的是,本文梳理的内容主要来自 Character.ai 官方 Research 板块下约十篇博客文章,并非独立审计或第三方测评。性能数字、训练细节与安全效果均以官方口径为准,缺少独立 benchmark 对比。读者在评估其实际表现时,仍需结合外部使用体验与第三方研究综合判断。
