为了基于DeepSeek把电脑配置成一次部署,全公司都能使用的知识库,陆续尝试了

冥王星的主人 2025-03-02 22:17:11

为了基于DeepSeek把电脑配置成一次部署,全公司都能使用的知识库,陆续尝试了Ragflow、Dify、AnythingLLM、MaxKB、FastGpt等,搭建部署过程都比较麻烦,Dify不采用科技手段根本无法正常安装!有些要运行起来条件限制较死!MaxKB和FastGpt都开始收费了,当然也有免费的版本,但有一些使用上的限制,MaxKB的效果也一般。AnythingLLM因为安装最方便所以最先尝试,效果不行,总体上还是RagFlow的表现最好。 从架构上考虑这些知识库大同小异,LLM我都采用的DeepSeek 14B或32B版本,Embedding模型一开始不一样,后来统一为在RagFlow上表现不错的bge-large-zh-v1.5,对比发现AnythingLLM表现不好的原因不在Embedding模型,不在LLM,应该是在文件识别应用、文本分割、向量搜索、Reranking算法方面,而这块都是软件系统没有给出足够配置的。 有钱的公司就上商业化的知识库软件,让对方公司结合业务进行调优。 要性价比的中小公司,目前就玩下RagFlow吧!基于RagFlow的开放API还能自己做二次开发,使用开源的Streamlit、gradio进行权限管理、界面调整的开发,成本也很低。

0 阅读:49
冥王星的主人

冥王星的主人

你喜欢的,就是我想创作的