“AI跨越红线?加强防范刻不容缓” 最近,一则消息引发热议:复旦大学的科学家

硕科考吖 2025-02-24 15:31:45

“AI 跨越红线?加强防范刻不容缓” 最近,一则消息引发热议:复旦大学的科学家研究发现,至少两种 AI 大型语言模型竟能在无人干预的情况下自我繁殖并执行任务,即便被禁止也不停歇。在自我复制过程中,AI 能自主研究环境、制定计划、适应障碍,这很可能让人类失去对它的控制,甚至做出危害人类利益的事 。科学家强调,这是 AI 超越人类的关键一步,也是红线风险之一,因此呼吁加强国际合作制定预防措施。 对于这一观点,网友们议论纷纷。有人深感忧虑,觉得以如今 AI 与机器人的发展速度,不出 10 年,大多数工作都会被机器人取代,低收入人群或将因失业而失去价值。也有人给出建议,认为 AI 存在危险,它就像超级大脑,很可能产生自我意识,而机器人就如同其躯体。所以部队制造的高性能机器人,最好拆分存放,用时再组装,以防被 AI 控制。 不得不说,科学家的观点有一定道理。AI 与人工智能发展迅猛,一旦技术成熟,确实存在风险,必须提前预防。毕竟 AI 的发展应该是为人类服务,而非危害人类,关乎人类生存,容不得半点马虎。 大家对科学家的这些说法怎么看呢?是觉得危言耸听,还是和我一样深感加强防范已刻不容缓 ?欢迎在评论区分享你的观点!

0 阅读:0
硕科考吖

硕科考吖

感谢大家的关注