人工智能可能导致人类灭绝？
OpenAI前员工发出警告
华盛顿（Washington DC）——包括OpenAI、Anthropic和Google DeepMind在内的多家人工智能（AI）公司的前员工警告称，人工智能技术的发展速度过快，却缺乏充分的安全保障。他们呼吁政府加强对科技公司的监督，因为人们担心，日益先进的人工智能系统可能发展到超出人类控制的程度。
这项警告是在10月5日（星期一）举行的纽约市议会听证会上提出的。曾任Anthropic工程师、此前也在OpenAI工作过的雅各布•考克森（Jacob Coxon）表示，科技公司尚未完全掌握如何控制自己开发的人工智能系统。
考克森在纽约市议会议员面前说：“考虑到所涉及的巨大风险，这些公司的行事方式实在过于鲁莽。”
考克森认为，人工智能公司尚未建立足够完善的机制，以防止其系统自行形成开发人员原本没有设定的目标。
他说：“我们不知道如何阻止它们在创造者无法控制的情况下自行形成目标。我们也还没有建立相应的防护措施，以阻止它们按照这些目标采取行动。”
考克森警告，如果人工智能在缺乏充分安全保障的情况下继续发展，人类最终可能失去对这项技术的控制。
他说：“如果按照目前的发展轨迹来看，我认为人类失去对人工智能控制权的可能性，大于不会失去控制权的可能性。这甚至可能最终导致人类灭绝。”
前员工呼吁放慢人工智能发展速度
考克森此前曾因宣布辞去Anthropic职务而受到关注。他于9月初宣布辞职，并通过社交平台X发表声明，表达了自己对人工智能发展方向的担忧。
这位英国研究人员表示，人工智能开发人员自己也相信，这项技术有可能“在本十年结束之前杀死我们所有人”。
在纽约市议会听证会上作证时，考克森还批评科技公司的工作文化，认为这些企业过于重视开发速度，而忽视安全测试。
他说：“这些公司的运作方式带有初创企业的思维模式：快速行动，先把事情搞坏，然后再设法修复。”
考克森接着说：“这种做法或许适用于照片分享应用程序，但绝不适合用来开发人类有史以来最强大的技术。”
他认为，开发最先进人工智能技术的公司必须放慢研发速度，让计算机科学家有更多时间寻找更有效的方法，以控制这些系统。
他说：“我的立场是，我们或许需要在最前沿人工智能技术的开发方面采取某种减速措施。”
考克森辞职并发表上述担忧后的几天内，多名科技公司负责人，包括Anthropic首席执行官达里奥•阿莫代伊（Dario Amodei）、OpenAI首席执行官萨姆•奥尔特曼（Sam Altman），以及SpaceXAI的埃隆•马斯克（Elon Musk），均表示认同人工智能的发展需要放慢脚步。
然而，各家科技公司若要协调一致，共同放慢人工智能的发展速度，仍面临诸多障碍。
人工智能风险引发关注，监管呼声日益高涨
在同一场听证会上，包括OpenAI、Anthropic、Google和Meta在内的科技公司代表则表达了不同看法。
他们表示，人工智能技术已经为社会生活带来诸多益处，并强调安全始终是各家公司最为关注的问题。
OpenAI代表摩根•德怀尔（Morgan Dwyer）表示，公司支持安全地发展这项技术，并让广大民众都能分享其带来的益处。
德怀尔说：“我和各位一样，都致力于确保这项技术能够在安全的情况下得到开发，并让其益处广泛惠及社会大众。”
当纽约市议会议长朱莉•梅宁（Julie Menin）要求科技公司代表评估人工智能引发灾难的可能性时，德怀尔表示，自己并不知道确切的概率数字。
他说：“我不知道。但在我看来，无论发生灾难的可能性是1%、10%还是20%，其实都不重要。任何一种这样的风险程度，都是无法接受的。”
他补充说，如果公司无法有充分把握确保人工智能系统始终处于人类控制之下，就不应该对该系统进行训练。
梅宁批评了他的回答，认为这种说法给人的印象是对问题不够重视。
随后，德怀尔再次强调，相较于争论风险发生的具体百分比，安全承诺才更加重要。
他说：“重要的是对安全作出承诺，而这正是OpenAI所坚持的承诺。”
与此同时，Anthropic代表洛根•格雷厄姆（Logan Graham）表示，公司支持制定适当的监管规定。他认为，地方政府和州政府在建立人工智能监督框架方面发挥着重要作用。
格雷厄姆说：“人工智能拥有如此强大的力量，以至于开发过程中的任何错误，都可能对个人、机构以及公众信任造成实实在在的后果。”
纽约市议会目前正在考虑多项监管提案，其中包括要求企业公开有关人工智能工具的信息、人工智能系统在纽约市投入使用前必须获得第三方批准，以及将部分罚款拨给举报人工智能公司违规行为的人员。
另外，纽约州州长凯西•霍楚尔（Kathy Hochul）也在推动制定有关人工智能的报告和透明度标准。
在联邦层面，唐纳德•特朗普总统领导的政府则采取了较为消极的态度。特朗普此前曾将人们对人工智能的担忧称为一场“骗局”。
10月底，特朗普签署了一项协议，为科技公司制定若干自愿性措施，同时允许企业自行监督其合规情况。
OpenAI内部安全问题也引发关注
在各界围绕人工智能监管展开争论之际，路透社于11月3日（星期二）发布的一篇报道披露，早在2022年底ChatGPT推出之前的数年间，OpenAI内部已有部分员工对公司的安全问题提出担忧。
据五名了解相关情况的人士透露，OpenAI员工过去曾警告公司高层及董事会，内部安全防护措施薄弱，可能导致公司敏感信息被外部人士获取，其中甚至包括外国政府。
对此，OpenAI表示，公司已经加强了自身的安全系统。
该公司发言人埃拉娜•魏德曼（Elana Widmann）向路透社表示，公司始终高度重视保护自身技术、数据和员工的责任。
魏德曼说：“保护我们的技术、数据和员工，是我们严肃对待的一项责任，也是涉及国家安全的重要问题。”
她补充说：“随着技术的发展和威胁形势的变化，我们将继续加强防御措施。”
路透社还报道称，OpenAI计划开展下一阶段的内部计划，以进一步加强公司的防御系统。
该公司表示，目前已经定期对研究人员使用的内部工具进行安全审查。
纠正人物与公司名称译法调整新闻日期的表达方式删减重复的安全保障表述
