
RoPE 位置编码通俗解读:大模型怎么知道”谁在前、谁在后”
Transformer 本身不懂顺序,位置编码就是给它装上的"时钟"。用旋转的视角理解 RoPE,以及它为什么成了主流大模型的共同选择。

KV Cache 通俗解读:长对话为什么又慢又贵,显存都被谁吃了
和同一个模型聊天,前几轮秒回,几十轮后却越来越慢、显存还上涨?这背后多半是 KV Cache 在作怪。本文讲清它的原理与常见优化思路。

商汤 Loop-9B 解读:让小模型「多想几轮」的循环复用层是怎么回事
据多家科技早报及 TechNode 报道,商汤 SenseNova Loop-9B 约 9B 参数,靠循环复用层把 32 个物理解码层扩展为 56 次层计算。本文解读这条「用计算换参数」的路线。

AI 代码审查工作流:让模型做 PR review 的正确姿势
把 PR 交给 AI 审查,用得好能挡住低级错误,用不好只会制造噪声。本文讲清哪些该交给 AI、哪些必须人工把关,以及一套可落地的工作流。

多模态提示词技巧:图片、表格、截图到底该怎么喂给模型
给模型发张图让它看图回答,看似简单,答案却常常很粗。本文按图片、表格、截图三类素材,讲清多模态提示词的正确写法与常见误区。

流式输出(SSE)从零实现:让 AI 应用「首字秒回」的体感优化
用户感受到的快慢,很多时候取决于第一个字多久出现。本文讲清流式输出的原理、SSE 与 WebSocket 的取舍,以及服务端和前端的实现要点。

RAG 检索对了答案却跑偏?重排(Rerank)这一层该补上了
明明召回了对的文档,模型答案却仍然跑偏。问题常出在「召回了但没排好序」。本文讲清重排模型在 RAG 链路中的位置、主流选型与落地调参。

用批处理 API 省一半钱:离线 AI 任务的正确打开方式
批量打标、离线摘要、夜间翻译这类「不急着要结果」的任务,用批处理 API 异步执行,往往能省下可观的调用成本。本文讲清适用场景与落地避坑。

OpenAI 用自家模型重新设计芯片电路:乘数器估算面积缩减约 15%
据 OpenAI 官方博客及媒体报道,OpenAI 把模型用于芯片设计,重新设计的乘数器估算面积缩减约 15%,并把一次计算从两个时钟周期压缩到一个。

谷歌 DeepMind 开放 Genie 4 世界模型:能用自然语言实时编辑的交互式 3D 世界
据多家科技媒体报道,Google DeepMind 向符合条件的 Google AI Ultra 订阅用户开放世界模型 Genie 4,可用自然语言实时修改生成的交互式 3D 世界,并首次支持原生音频。
小7分享网