幻觉、指模型生成内容偏离事实或逻辑断裂的现象
幻觉的本质、源于训练数据的缺陷、算法偏差
低质数据(重复、错误、来源不明)会放大模型错误
高质量数据集、多样性、准确性及领域覆盖广度、大幅降【幻】
在医疗、教育、司法、城市大脑、金融等民生领域
幻觉风险、直接关联公众利益与安全稳定
再厉害的大模型 → 能不能获得这一块的数据
没有民生数据、硬蹭硬分析推理、得出来的决策、我们敢不敢用(教育孩子、治病养病、判案、城市决策、大型投资决策等等)
降低幻觉不仅是技术攻坚方向、
更是AI赋能社会的伦理底线
AI、首先得可信
数据、才是最优解
算力、算法后 → 数据、是终极王者
再聪明的人、学坏了,那就是坏人
再聪明的人、没怎么看过专业医书和实践学识库的、给你看病,你也不信
另外、外国人(达子芯),教你儒家思想、你也不信
白皮肤白种人中医给你把脉、你也会一头雾水
只有勤勤奋奋、龙的传人、精读详读读透医实教行的数据、你才会真正做到人机协同,相信机器
上证指数 sh000001发现生活中的小美好
