共计 643 个字符，预计需要花费 2 分钟才能阅读完成。
最近 Mistral AI 推出的 Small 3 模型引起了广泛关注。作为一个仅有 24B 参数的开源模型，它最大的亮点是能在普通 MacBook 上流畅运行，这让我想起去年在 Colab 上跑大模型时的痛苦经历。如今市面上动辄几百 B 参数的模型，对普通开发者来说确实是个不小的负担。
Small 3 主打 ’ 小而精 ’ 的路线，在代码生成、数学计算等领域表现出色。不过我更关心它在实际应用中的表现，毕竟之前使用的一些开源模型虽然 benchmark 分数亮眼，但在实际场景中往往不尽如人意。
Mistral 官方表示，Small 3 特别适合开发虚拟助手，尤其是在金融、法律等需要快速响应的领域。这让我想起之前参与的一个法律咨询项目，当时使用的模型经常卡顿，严重影响用户体验。如果 Small 3 真能在 32GB 内存的笔记本上流畅运行，那确实是个很有吸引力的选择。
作为开源模型，Small 3 最大的优势在于其可定制性。对于小型开发团队来说，经常需要针对特定场景微调模型，使用闭源模型就会遇到诸多限制。Small 3 基于 Apache 2.0 协议，这一点对开发者非常友好。
虽然现在就断言 Small 3 比 Llama 3.3 70B 等大模型表现更好还为时过早，但它确实为开发者提供了一个更轻量级的选择。毕竟不是每个项目都需要动用 ’ 核武器 ’ 级别的模型，有时候 ’ 瑞士军刀 ’ 反而更实用。
值得一提的是，Mistral 表示未来几周还会推出更多模型。希望他们能继续保持这种 ’ 小而美 ’ 的产品路线，而不是一味追求参数堆砌。对于开发者来说，实用性和易用性才是最重要的考量因素。
