大神把DeepSeek部署在随身wifi上,首先把随身wifi的内存和存储芯片改装成2G内存和32G存储,然后安装debian系统和宝塔面板,再去ollama网站拉取软件和模型,成功运行迷你蒸馏版的DeepSeek。但是运行很慢,实测一分钟60个字左右,可以让遥控玩具、低成本无人机处理简单任务场景。
如果说deepseek是给英伟达的当头一棒,那清华团队的ktransformer
【6评论】【48点赞】
大神把DeepSeek部署在随身wifi上,首先把随身wifi的内存和存储芯片改装成2G内存和32G存储,然后安装debian系统和宝塔面板,再去ollama网站拉取软件和模型,成功运行迷你蒸馏版的DeepSeek。但是运行很慢,实测一分钟60个字左右,可以让遥控玩具、低成本无人机处理简单任务场景。
评论列表
猜你喜欢
【6评论】【48点赞】
【2评论】【2点赞】
【16评论】【82点赞】
【8评论】【28点赞】
【170评论】【173点赞】
【32评论】【43点赞】
【30评论】【32点赞】
作者最新文章
热门分类
科技TOP
科技最新文章
游击队长
牛13想法