把大模型的技术脉络拆成两条线:一条讲清原理与机制,一条沉淀论文精读与行业判断。所有文档都来自公开资料,标注出处,便于追溯。
不是年表罗列,而是每个阶段「解决了什么问题、付出了什么代价、留下了什么」。点开每一年,看到的是技术选择的因果链。
技术解释、原理解释、术语与机制拆解,面向工程与业务同学
从 RNN 的串行瓶颈讲起,拆解 Q/K/V、缩放点积注意力、多头机制与位置编码,并说明长上下文时代的工程代价。
RAG 解决的是「模型不知道你公司的事」。讲清索引、检索、重排、生成四段链路,以及切分粒度、跨文档冲突这些真实坑。
为什么预训练模型「会说不会做」?三阶段对齐如何把下一个词预测变成有用的助手,以及奖励劫持与可验证奖励的演进。
参数涨十倍、算力只涨一点,靠的是路由与稀疏激活。讲清 top-k 路由、负载均衡、容量因子,以及部署时的显存与通信账。
问答模型只输出文本,Agent 要对结果负责。规划、工具、记忆、校验四件套,加上权限、审计与降级,才构成可上线的闭环。
论文精读、技术路线评估与行业分析,面向决策与技术选型
2017 年那篇把序列建模从循环结构里解放出来的论文:为什么去掉 RNN 反而更好,实验结果说明了什么,又有哪些被后续工作修正。
「堆参数就变强」曾被写成幂律。但 Chinchilla 证明多数大模型训练不足,每参数约 20 token 才是更优配比。这篇讲清两版结论的差异与工程含义。
1.3B 的 InstructGPT 在人类偏好上胜过 175B 的 GPT-3,这篇论文给出了对齐范式的工程模板,也埋下了奖励模型的隐患。
行业分析:为什么 2023-2024 的「问答助手」项目大量停摆,2025 之后什么样的问题真正被解决,采购与自建的边界在哪。
一份英文技术简报(PDF 示例),梳理企业级 Agent 的分层架构、工具编排、权限模型与上线检查项,可直接作为对外材料模板。
留个联系方式,产品专家会在 1 个工作日内与您联系,结合业务场景做一次针对性演示。