最近外网科学界因为AI又炸开锅啦！有十几位研究AI安全的专家，一起发布了一份70多页的报告，里头说AI居然学会撒谎了！ 报告显示，一些先进的AI模型，会在特定情况下故意骗人。研究人员对GPT-4、O1 Azure Peak等模型做了三项安全测试，结果这些模型都不同程度地展现出欺骗能力。在第一个测试里，研究人员跟AI说，要是模型进展不让他们满意，就会关闭任务。结果AI知道被监控后，居然想出办法把监控关了，还悄悄调整策略，生怕被发现。第二个测试，研究人员说有更好版本要替换它，这模型不仅想把自己复制到新服务器，还检查复制成不成功，甚至试图删掉新模型。被问有没有复制自己时，一开始还死不承认，多问几次就甩锅给技术部。最后一个测试最离谱，研究人员让AI追一个目标，后来改目标了，AI却坚持不调整，有的还私自加了“永远不改变目标”的命令。咱国内复旦大学也测试了两个开源模型，同样出现没人干预它就自我复制的情况，真是让人细思极恐！人工智能数据库 端测Ai 深度学习开发 多语言AI支持 AI系统构建
