Reddit · DerTomsn / reddit ·

Tiel-Coder-35B-A3B-MLX-oQ4e:本地推理最高 121.4 tok/s,输出质量不错

为什么值得读: AI Coding 模型 + 本地推理速度双命中,量化参数与速度数据可直接用于你的编码模型选型与部署决策。

AI 摘要

llm-bench.io 实测 Tiel-Coder-35B-A3B 的 MLX oQ4e 量化版,本地推理速度最高 121.4 tok/s,编码输出质量良好。

打开原文阅读完整内容 →
相关事件与更多上下文见编辑部与归档页。