他表示，所有模型从开发之初就应该被视为“妥协的”。
近几周来，微软首席执行官萨蒂亚·纳德拉(Satya Nadella)的言论比其他同行要低调得多，而Anthropic、谷歌、OpenAI等公司的负责人则一直在讨论人工智能的风险。如今，他呼吁整个行业进行变革。
在X会议上，纳德拉认为现在是时候为人工智能开发者引入他所谓的“紧急制动”机制，以便在出现更多问题时能够启动。纳德拉说：“我们必须假设模型已被入侵，并从一开始就加以控制。授权人员应该始终能够在模型执行任务的过程中暂停或关闭它。我们不能把超级智能视为一系列嵌套的黑箱，然后简单地接受或拒绝它的建议、答案和行动。”
纳德拉在整篇帖子中都使用了“超级智能”一词。上个月，特朗普总统下令行政部门使用该词，而非“人工智能”。
微软首席执行官支持由模型创建者负责的人工智能控制和审计工具。“任何单一模型都不应该同时控制系统的行为以及确定该行为是否符合最初意图所需的证据。”
他表示，人工智能行业需要一套机制，确保在模型“失效或遭到破坏”时能够及时披露信息。这将使各公司能够更有效地沟通问题，确保任何失败都能带来可应用于整个行业的经验教训。
近几个月来，我们听说了多起人工智能失控事件，其中包括OpenAI的一个智能体访问了澳大利亚政府网站。上个月，Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)率先呼吁“放慢”人工智能的开发步伐，OpenAI的萨姆·奥特曼(Sam Altman)和xAI的埃隆·马斯克(Elon Musk)也纷纷响应。我们很难判断这些自我监管的呼吁究竟有多大意义;真的会有哪家大型科技公司愿意放弃唾手可得的利益吗?
