MacMiniM4 32G 运行 mlx-community/gemma-3-27b-it-4bit 的速度:
4.23 tok/sec
11.32s to first token AI创造营
现在 LMStudio 运行 mlx 版本还有 bug,没有图片时会循环输出。得等官方修。
PS:图片是《绝望先生》,完全没有认出来。[允悲]
MacMiniM4 32G 运行 mlx-community/gemma-3-27b-it-4bit 的速度:
4.23 tok/sec
11.32s to first token AI创造营
现在 LMStudio 运行 mlx 版本还有 bug,没有图片时会循环输出。得等官方修。
PS:图片是《绝望先生》,完全没有认出来。[允悲]
作者最新文章
热门分类
科技TOP
科技最新文章