英国加强国家防御以应对日益增长的AI风险

• 政府将利用前沿AI强化网络防御，基于已识别并解决超过1,000个漏洞的试点项目。

• 通过《网络安全与韧性法案》（Cyber Security and Resilience Bill）机制考虑加强针对新兴AI威胁的保护措施，例如如何识别和报告严重的AI事件及未遂事故。

• 正在开展新工作，为应对涉及自主AI代理的严重事件做准备。

• AI安全研究所正在对最新一代模型进行严格评估。

通过一系列措施，英国将能更好地防范日益强大的AI带来的风险。政府正紧急利用前沿AI强化网络防御、审视更强的法律保护，并为涉及自主AI系统的严重事件做准备。

今天（10月12日，星期一）宣布的举措基于两个试点项目，这些项目已帮助识别和修复政府系统中超过一千个潜在网络漏洞，并检测潜在网络威胁。扩大该项目将有助于保护人们日常依赖的公共服务，短期降低风险，并支持公共部门的长期采用。

AI大臣卡尼什卡·纳拉扬（Kanishka Narayan）在帝国理工学院（Imperial College London）的科创孵化器Base One发表讲话时，主张采取全社会方法以应对新兴AI风险带来的韧性挑战，确保该技术继续服务于英国人民的利益，提升我们的繁荣与安全。

大臣还警告称，随着前沿AI系统变得日益强大且具备自主行动能力，故障或被恶意使用的潜在后果可能变得更为严重。他指出，英国必须现在就加强防御，并为未来的严重事件做准备。

大臣还证实，英国AI安全研究所的科学家目前正在对最新一代先进AI模型进行严格评估，此前他们已与主要AI开发商及美国政府展开合作。

随着AI能力增强和更广泛的使用，政府正采取进一步措施，确保英国为可能带来的风险和机遇做好准备——让英国人民在变革性技术持续演进中保持受保护状态，并使英国能够发挥其潜力，推动良好增长和再工业化。

AI大臣卡尼什卡·纳拉扬（Kanishka Narayan）表示：

我希望英国成为世界上最难被人工智能攻击的国家之一。

我们将动用手中的一切权力。我们将在必要时立法。而不仅仅依靠法律。我们将依靠英国的智慧：我们的科学专长、技术能力和机构来理解这些日益强大的系统，防范新兴威胁，并在出现问题时作出响应。

对于开发世界上最强大AI系统的公司，我的信息是：当科学家警告严重危险时，请倾听。调查意外行为。如果你无法充分控制风险，就不要发布该系统。

网络大臣莉兹·劳埃德（Liz Lloyd）表示：

随着网络事件在全球范围内持续造成干扰，无论规模大小、无论公私部门，所有组织都面临着一个不可否认的现实——在网络安全方面保持主动地位至关重要。

通过扩大利用AI保护公共服务的试点项目，并推进《网络安全法案》（Cyber Bill）以加强防御，政府正将网络安全和AI准备工作置于英国数字未来的核心位置。

除这些措施外，政府还将探索加强《网络安全与韧性法案》及其更广泛机制的部分内容，以确保医院和公用事业等英国基本服务能更好地防范新兴的AI相关风险。这包括AI失控风险，即自主AI系统规避人类监督的情况。

正与国家网络安全中心（National Cyber Security Centre）和AI安全研究所合作，研究如何应对涉及AI代理的事件——这些代理可以在极少人类监督下执行复杂任务。涉及AI代理的重大事件可能比政府设计应对的其他重大事件发展得更快、波及范围更广，应对这一挑战需要开发新的专业知识和能力。

此外，政府还将研究如何识别和报告未遂事故，并确保能迅速吸取教训，以降低未来损害的风险。任何措施的具体细节将与议会议员、技术专家以及需要执行这些措施的运营者共同商定。

新兴的AI验证领域也将是降低严重AI风险努力的重要组成部分。它有助于核查关于AI系统如何开发、测试和评估的说法经得起推敲。凭借世界领先的专长和该领域一些领先组织位于英国，英国处于在这一工作中发挥领导作用的良好位置。在未来几个月内，将公布支持英国AI验证努力的更多细节。

这些措施是英国需要走的更长旅程的第一步，旨在抓住AI作为推动良好增长和更好公共服务的潜力的同时，对其潜在风险保持韧性。更广泛的工作由首相的AI工作组（Prime Minister’s AI Taskforce）牵头。在未来几个月内，工作组将重点关注受AI影响最大的领域；从国家安全到经济增长，以及我们公共服务和劳动力的未来。

正如首相在9月联合国大会上所述，本政府将采取一切必要措施，保护英国人民免受AI风险的危害。明年，AI将成为英国担任二十国集团（G20）主席国期间的核心议题。

编辑备注：

• 今年早些时候，大臣们致信企业，敦促他们采取行动，加强针对AI网络威胁的网络防御。这包括：a) 在组织高层重视网络安全，b) 通过“网络安全基础”（Cyber Essentials）做好基础工作，以及 c) 遵循国家网络安全中心（NCSC）的建议并注册其早期预警服务。