MacMiniM432G运行mlx-community/gemma-3-2

南晴评科技 2025-03-13 12:23:43

MacMiniM4 32G 运行 mlx-community/gemma-3-27b-it-4bit 的速度:

4.23 tok/sec

11.32s to first token AI创造营

现在 LMStudio 运行 mlx 版本还有 bug,没有图片时会循环输出。得等官方修。 ​​​

PS:图片是《绝望先生》,完全没有认出来。[允悲] ​​​

0 阅读:0
南晴评科技

南晴评科技

感谢大家的关注