Hacker News · pgr0ss / hacker_news ·
LLM 太大了,我的日志路由器不需要会唱歌
为什么值得读: 对“什么时候不该用 LLM”给出了务实的工程判断,与推理部署取舍相关;偏观点性,故未给更高分。
AI 摘要
工程随笔,作者主张在日志路由这类确定性任务上不要盲目上大模型,而应回到简单规则或小模型,并给出成本与可靠性对比。
相关事件与更多上下文见编辑部与归档页。
工程随笔,作者主张在日志路由这类确定性任务上不要盲目上大模型,而应回到简单规则或小模型,并给出成本与可靠性对比。