历史晨报 · 2026-09-28

2026年9月28日 周一

生成:2026-09-28 00:32 · 发布模式:full

← 回今日
当日头条

求助验证:用 Pi 技巧让 27B 模型在不同会话间复用 prompt prefill

ea_man · 2026年9月28日

为什么值得读: 直击推理成本优化的工程点,跨会话 prefill 复用对 Agent 常驻场景收益明显,值得跟进验证。
Qwen3.8-Flash-Next 177B NVFP4(119GiB)在单张 16GB RTX 5060 Ti + 32GB 内存上以 9-10 tok/s 流式运行 — TypicalPudding6190
Laya:用一个 322M 参数决策引擎替代 LLM-as-a-judge(9 天 26639 stars,含实测) — AIFrontierReads
当日 Top 3 速览
  1. 求助验证:用 Pi 技巧让 27B 模型在不同会话间复用 prompt prefill
  2. Qwen3.8-Flash-Next 177B NVFP4(119GiB)在单张 16GB RTX 5060 Ti + 32GB 内存上以 9-10 tok/s 流式运行
  3. Laya:用一个 322M 参数决策引擎替代 LLM-as-a-judge(9 天 26639 stars,含实测)

当日阅读清单