OpenAI的建议靠谱：让RAG应用准确率提至98%
一只产品汪啊
2024-07-13 00:59:23
📍paper：A Survey of Techniques for Maximizing LLM Performance
🤝👍👏懒人阅读的关键点：主要把握两个点，一个从LLM出发考虑的是硬技能，openAI 建议的软技能提示工程开始和根据评估结果选择优化方向
✅LLM 优化
1⃣️提示工程： 通过设计更清晰、更明确的提示，引导模型生成符合预期的输出。
2⃣️微调： 使用特定任务的数据集对预训练模型进行进一步训练，使模型更适应特定任务。
3⃣️模型架构优化： 调整模型的架构或参数，提高模型的学习能力和泛化能力。
✅OpenAI 的建议
在这个框架下，OpenAI 建议开发者采用以下流程进行优化：
1⃣️从提示工程开始： 提示工程是快速测试和学习的最佳起点，它可以帮助开发者快速验证解决问题的可行性，并初步了解模型的能力和缺陷。
2⃣️根据评估结果选择优化方向： 通过评估模型的输出，开发者可以判断问题是出在内容上还是 LLM 本身。例如，如果模型经常给出与事实不符的答案，则可能是内容方面的问题；如果模型难以理解复杂指令，则可能是 LLM 本身的问题。
3⃣️迭代优化： 优化 LLM 性能是一个迭代的过程，开发者可能需要在不同的优化技术之间来回切换，不断尝试和调整，才能最终达到满意的效果。
📍案例❤️❤️❤️❤️❤️
案例一：基于特定文档的知识检索
案例二：文本生成 SQL
0
阅读：5
bb21bang
求，谢谢