腾讯元宝向用户道歉这提示词怎么不敢放出来呢?!现在的这种生成式AI距离有意识

傲之笑谈汽车啦 2026-02-25 19:03:11

腾讯元宝向用户道歉这提示词怎么不敢放出来呢?!现在的这种生成式 AI 距离有意识还差得远,它就是被训练数据和对话上下文带偏了,这个应该是训练数据里学习到了这种内容,和这个用户交流的话题里面把这个触发了,突破安全层拦截了,它就顺着概率最高的模板输出了脏话。本质上就是训练数据里的不良内容、多轮对话的上下文压力、安全对齐的短暂失效三者凑到一起了,如果AI真的有意识了,那可就刺激了

0 阅读:1
傲之笑谈汽车啦

傲之笑谈汽车啦

感谢大家的关注