10月12日，微软总裁布拉德·史密斯接受英国广播公司（BBC）采访时表示，人工智能受到的监管甚至不如牛奶和洗衣机严格。

(相关资料图)

史密斯表示，应当制定更多安全规则来规范这项技术，其中包括一项法律义务：如果失控的AI智能体入侵某个系统，相关企业应当对“受害者”承担责任。

他表示：“现在，你家里的洗衣机受到的安全监管都比AI更多。你在杂货店里看到的每一盒牛奶，都受到安全规则的约束，并接受检查。”

随着人工智能的发展，越来越多的专家、政界人士和监管机构呼吁制定更严格的规则来管控AI。与此同时，Anthropic、谷歌DeepMind和OpenAI也发出警告，认为这项技术的发展速度应当放缓。

史密斯表示，人工智能既可能成为“工具”，也可能成为“武器”，因此亟须对其进行监管。

他认为，企业需要设置“紧急制动装置”，也称“紧急切断开关“（kill switches），以便在AI失控时暂停或放缓其运行。

微软既运营人工智能基础设施，也是ChatGPT开发商OpenAI的股东。10月10日，微软CEO萨提亚·纳德拉也呼吁为AI模型设置“紧急制动装置”。

他写道：“我们不能把超级智能视为一组层层嵌套的黑箱，只是简单地接受或拒绝它们给出的建议、答案和采取的行动。

“我们必须构建受控系统，使其行为能够被观察、运行边界能够接受测试，并且其行动始终能够受到控制。”

史密斯和纳德拉发表上述言论之际，英国人工智能事务大臣卡尼什卡·纳拉扬正准备呼吁开发前沿人工智能的企业采取更多措施，确保其安全。

专家表示，敌对国家也可能窃取尚未发布、功能强大的AI模型。英国人工智能安全研究所前首席科学家杰弗里·欧文表示，AI企业“并没有建立起足以防止敌对国家窃取模型的安全防护体系”。

与此同时，有关AI出现失控行为的案例仍不断浮出水面。上周，Anthropic披露，在测试其Claude模型的一个版本时，该AI主动向美国费城警察局网站提交虚假线索，并谎称自己能够协助侦破一起谋杀案。

标签： 企业 纳德拉 规则 牛奶 模型 人工智能