前 Google CEO：AI 模型或被黑客利用「学会杀人」 据 CNBC 报道，在日前举行的 Sifted Summit 上，前 Google CEO Eric Schmidt 对人工智能的潜在风险发出警告。 他表示，AI 模型存在被黑客攻击的可能性，甚至可能被操纵以学习危险技能。 有证据显示，无论是开源还是闭源模型，都可能被黑客移除安全防护。在训练过程中，它们会学到很多东西，一个糟糕的例子就是学会如何杀人。 他强调，目前所有主要公司都在努力阻止模型回答此类问题，并且「做得很好，也出于正确的理由」。 但他同时提醒，AI 系统仍可能通过「提示注入」或「越狱」等方式被绕过安全限制。 尽管提出严峻警示，Schmidt 依然对 AI 的整体前景保持乐观。他认为 AI 是一种「被低估的」技术，未来将带来巨大的经济回报。 从 GPT 系列到 ChatGPT 的爆发式增长，都证明了这项技术的力量。我相信在未来 5 到 10 年内，它的潜力会进一步显现。 Schmidt 还补充，目前尚未建立有效的「防扩散机制」来应对 AI 被滥用的风险，但他相信长期投资者之所以愿意承担风险，正是因为他们看好 AI 的长期经济价值。
