Reddit · DerTomsn / reddit ·
Tiel-Coder-35B-A3B-MLX-oQ4e:本地推理最高 121.4 tok/s,输出质量不错
为什么值得读: AI Coding 模型 + 本地推理速度双命中,量化参数与速度数据可直接用于你的编码模型选型与部署决策。
AI 摘要
llm-bench.io 实测 Tiel-Coder-35B-A3B 的 MLX oQ4e 量化版,本地推理速度最高 121.4 tok/s,编码输出质量良好。
相关事件与更多上下文见编辑部与归档页。