Mac 跑 AI 真正具有性价比的是 Mac Mini M4 16G 跑14b 模型,能接近 10 Tokens。32G 跑 32b 就已经挺勉强了,5~6Token/s ,而且性价比已经开始不行了,现在看起来还行是因为有国补。
再高配感觉就不如直接买MiniPC+显卡了…
Mac的AI生态还是不行,搞了个mlx,但很多细节没铺好。以 Stable Diffusion XL 为例吧,官方搞了个 mlx 的版本,但只支持跑SD官方的两个模型,社区也不活跃,感觉苹果没把心思花到这块上。
Mac 跑 AI 真正具有性价比的是 Mac Mini M4 16G 跑14b 模型,能接近 10 Tokens。32G 跑 32b 就已经挺勉强了,5~6Token/s ,而且性价比已经开始不行了,现在看起来还行是因为有国补。
再高配感觉就不如直接买MiniPC+显卡了…
Mac的AI生态还是不行,搞了个mlx,但很多细节没铺好。以 Stable Diffusion XL 为例吧,官方搞了个 mlx 的版本,但只支持跑SD官方的两个模型,社区也不活跃,感觉苹果没把心思花到这块上。
作者最新文章
热门分类
科技TOP
科技最新文章