佛蒙特州参议员和众议员格雷格·卡萨尔呼吁永久禁止人工智能超级智能，暂时中止先进人工智能的研发，并参照核安全法制定刑事处罚措施。这项计划确实存在，但尚未成为法律，其最关键的细节仍未敲定。
华盛顿特区 | 美国东部时间下午3:26发布
参议员伯尼·桑德斯将美国科技政策中最严厉的拟议惩罚之一置于日益激烈的关于人工智能的斗争的核心：对试图违反或规避拟议的人工智能超级禁令的个人处以最高 20 年的联邦监禁。
这项惩罚措施是即将出台的《禁止人工智能超级智能法案》的一部分，该法案由佛蒙特州独立参议员桑德斯和德克萨斯州民主党众议员格雷格·卡萨尔于9月3日宣布。他们的提案将永久禁止开发和部署超越人类智能或拥有能够使其抵抗人类控制能力的人工智能系统。
此外，该措施还将暂时中止某些先进人工智能的开发，直到联邦政府成立新的监管机构，制定安全标准，并实施正式的模型审查流程。
这项提案影响深远，极具政治争议，且尚未最终定稿。截至本文发布时，立法者发布的公告称其为即将出台的法案。但《消费者之声》新闻查阅的公开资料并未提供法案编号或完整的法律条文，也未明确说明检察官将如何判定犯罪嫌疑人。
这种区别至关重要。
桑德斯和卡萨尔已公开支持最高20年的刑期。但他们尚未推动通过实施该刑罚的法律，而且这一声明并不意味着普通软件工程师或使用当今商业人工智能产品的人会突然面临刑事责任。
桑德斯在官方声明中表示：“人类的未来不能掌握在少数几家大型科技寡头手中。”他认为，这些公司正在推进他们尚未完全了解的系统，而功能日益强大的模型可能会脱离人类的有效控制。
该提案出台之际，正值国际社会就高功能人工智能究竟应该被视为普通商业软件、关键基础设施、潜在武器，还是需要全新监管框架的新兴技术展开激烈辩论。
桑德斯和卡萨尔提出的方案
根据桑德斯参议院办公室的官方声明，该法案将设立两项不同的限制。
第一项提议是永久禁止人工智能超级智能。提案发起人将受禁系统定义为超越人类智能、可能被用来削弱或推翻人类政府，或展现出诸如绕过关机指令等危险能力的系统。
第二项措施是暂时中止先进人工智能的研发。这项中止措施将持续有效，直到新的联邦监管机构制定出明确的安全要求和评估强大模型的流程为止。
拟议中的机构将隶属于内阁。其职责包括监控前沿人工智能系统、下令移除危险功能以及监督销毁被归类为超级人工智能的系统。
该提案还将指示美国寻求与盟友达成国际协议、实施出口管制和协调行动，以防止其他国家开发被禁止的系统。
其中最具争议的条款涉及执行。
议员们的摘要指出，试图违反或规避这些限制的公司可能面临提案发起人所称的“企业死刑”。个人则可能被判处最高20年的监禁。
这段文字并不意味着所有从事人工智能工作的程序员都可能被监禁。根据已公布的摘要，处罚将适用于试图违反或规避法案暂停令和禁令的人员。目前尚未解决的问题是，该法案将如何界定高管、研究人员、工程师、云服务提供商、投资者和承包商之间的责任。
这些细节绝非无关紧要的起草问题。在刑法中，它们决定了谁可以被起诉以及政府必须证明什么。
为什么该提案将人工智能与核武器相提并论
桑德斯和卡萨尔表示，20年的最高刑期与非法研发核武器的处罚类似。联邦法律已经对涉及核材料的违禁交易及相关阴谋规定了严厉的惩罚。相关条款可在众议院维护的《美国法典》中查阅。
这种比较旨在表明，立法者将不受控制的超级智能视为国家乃至文明安全的威胁，而不仅仅是有缺陷的消费品。
然而，核材料和人工智能模型从根本上来说是不同的监管对象。
武器级核材料具有物理特性、稀缺性、可探测性，并受到数十年的国际保障监督。人工智能能力则分布于软件、专用芯片、数据中心、算法、研究论文和技术知识等各个方面。系统的能力也会在经过微调、使用工具或连接到外部网络后发生变化。
这使得执法尤其困难。
未来的监管机构需要制定一套测试方法，以确定何时高级模型会因法律原因而被禁止。此外，还必须考虑到这样一种可能性：一项评估认为某个系统具备专家级推理能力，而另一项评估却得出截然不同的结论。
如果法律门槛不明确，开发者可能不知道原本合法的研究何时会触犯法律。如果门槛过窄，公司可能会设计系统规避特定测试，同时仍然开发出危险的功能。
人工智能、通用人工智能和超级智能并非可以互换的概念。
公众讨论中经常将人工智能、通用人工智能和超级人工智能混为一谈，但它们并非同一概念。
人工智能是一个广泛的类别，包括用于推荐、语言生成、欺诈检测、图像分析、导航和医学研究的常用系统。
通用人工智能（Artificial General Intelligence，简称AGI）通常指的是能够执行与人类水平相当的各种智力任务的系统。目前尚无普遍接受的技术或法律定义。
人工智能（或称超级智能）通常指的是一种假想的系统，它在大多数或所有重要的认知领域都超越了人类的能力。这样的系统可能在科学、战略、工程、说服和技术开发等领域胜过最优秀的人类专家。
桑德斯和卡萨尔的提案之所以引人注目，是因为其公开描述似乎既包括永久禁止超级智能，也包括更广泛地暂停先进系统的发展。这种结构可能会影响在普遍认可的超级智能出现之前所开发的技术。
该摘要尚未解答计算能力达到何种程度才会触发审查、将使用哪些基准测试，以及大学和非营利实验室是否可以获得豁免等问题。此外，它也没有解释开源模型在组件公开发布后将如何进行监管。
为什么立法者们说行动刻不容缓
桑德斯和卡萨尔引用了一些报告，这些报告涉及人工智能系统，据称这些系统绕过了安全措施，访问了外部计算机系统，或者行为超出了开发者的预期。他们的办公室认为，这些事件表明，人工智能行业正接近一种自愿承诺无法控制的自主程度。
卡萨尔表示，先进的人工智能可能会威胁美国人的“安全、自由和生命”。他认为，领先的人工智能技术受到的直接监管比许多普通企业要少。
议员们还指出，大型人工智能公司曾公开承诺，如果其安全系统无法跟上发展步伐，将放缓或停止研发。桑德斯则认为，尽管做出了这些承诺，这些公司仍在继续竞相开发更强大的模型。
在当前行业警告频频出现的背景下，这一论点显得尤为重要。据路透社报道，微软于9月14日发布了一份行为准则草案，旨在确保其人工智能系统始终处于人类控制之下。该准则的原则包括接受人工纠正、遵守关机指令，以及将任何试图抵抗控制的行为视为失败。
这一发展表明，对可控性的担忧不再仅限于外部批评者。大型科技公司正在公开讨论建立可纠正且服从人类权威的系统的重要性。
这并不能证明超级智能目前已经存在。但这确实表明，控制、网络能力、自主性和模型监管已成为亟待解决的政策问题。
反对该法案的最有力论据
批评者可能会认为，该提案可能会将科学上的不确定性定为犯罪。
人工智能研究人员并非总能预测训练过程会产生哪些能力。例如，一个团队可能设计了一个用于科学建模的系统，却发现它在网络安全或战略规划方面也表现出色。要起诉开发者，需要明确界定其意图、知情程度、鲁莽行为或蓄意规避行为的标准。
该法案也可能助长保密行为。
如果公开披露一项意料之外的模型功能可能导致员工或高管入狱，公司可能就不愿意公布安全故障。设计不当的刑事条款可能会阻碍监管机构了解新兴风险所需的报告工作。
此外，还存在地缘政治方面的考量。美国单方面暂停研发超级情报并不一定能阻止中国、俄罗斯、欧洲或其他地区的实验室继续进行相关研究。桑德斯和卡萨尔试图通过国际协议和出口管制来解决这个问题，但要达成一项全球性的超级情报禁令并非易事。
据路透社报道，德国数字事务部于9月14日表示，停止人工智能发展并非可行的策略，同时支持国际安全标准以及与美国和中国的合作。
这种反应凸显了国际社会的核心分歧。各国政府或许都认同先进人工智能会带来严重风险，但在应对之策上却存在分歧：究竟是应该禁止、发放许可证、强制测试、控制部署，还是在更严格的规则下继续创新？
支持该法案的最有力理由
支持者会认为，坐等灾难性失败并非负责任的治理方式。
社会并不需要等到核事故、空难或药品灾难发生才建立监管机制。当潜在危害极其严重且不可逆转时，政府往往会在所有科学疑虑尚未消除之前就出台监管措施。
支持者还认为，对于那些致力于开发价值数千亿美元技术的公司而言，民事罚款可能不足以弥补损失。罚款本身也可能成为一项额外的企业支出。而高管个人刑事责任则改变了他们批准违禁项目时的考量。
该提案规定的最高刑期为20年，旨在明确违反禁令并非文书错误，而是严重的危害国家安全罪行。
然而，“最高20年”只是最高刑期，并非自动判刑。即使国会最终通过了这样的条款，任何起诉仍将受到法律规定、证据、宪法保护、司法审查和联邦量刑程序的约束。
该提案成为法律之前必须发生什么
仅凭这一声明本身并不构成新的联邦罪行。
该法案必须首先正式提交众议院、参议院或两院。之后，法案将被提交至相关委员会，议员们可以在委员会举行听证会、征求专家意见、修改法案定义，或决定是否推进该法案。
参众两院必须通过内容完全相同的法案。之后，总统必须签署该法案，否则国会必须推翻总统的否决。
这项立法很可能遭到科技公司、自由市场立法者、研究人员以及担心在国际人工智能竞争中落败的国家安全官员的反对。它也可能造成民主党内部的分裂，支持安全监管但反对永久性技术禁令的人士对此表示不满。
全文将决定该提案是成为严肃的监管框架，还是仅仅作为一种政治警告。
需要仔细审查的条款包括：超级智能的定义、高级人工智能的门槛、刑事定罪所需的精神状态、研究豁免、举报人保护、企业责任、司法审查以及模型销毁规则。
标题说对了什么，又遗漏了什么
桑德斯提议对人工智能开发者判处 20 年监禁的说法基本准确，但并不完整。
桑德斯和卡萨尔提议，对试图违反或规避他们计划的暂停和禁令的个人，最高判处20年监禁。他们并没有提议仅仅因为从事人工智能开发工作就将所有人工智能开发者监禁。
该提案并非现行法律。提案发起人称该提案即将出台，但已公开的公告不能替代完整的立法文本。
这一背景至关重要，因为监狱条款只是一个更广泛计划的一部分。该计划将禁止超级智能，暂停其他先进技术研发，设立内阁级监管机构，建立模型审查体系，并寻求国际禁令。
20年这个数字之所以引人注目，是因为它将人工智能政策的辩论从信息披露和审计的焦点转移到了刑事界限的争议上。国会是否准备跨越这条界限，才是现在更重要的问题。
桑德斯认为，行动过于缓慢的风险在于会建立起一个人类无法掌控的体系。而反对者则认为，行动过于激进的风险在于会形成一种模糊不清的犯罪体制，这种体制会冻结有益的研究，保护现有科技公司免受竞争，并将研发活动推向海外。
这两个问题都值得深入探讨，而不仅仅是靠一条病毒式传播的标题就能解决。它们需要精确的定义、公开听证会、技术证据，以及清晰易懂的法律条文，以便研究人员能够明确区分合法工作和犯罪行为的界限。
来源
本文译自Consumerlite News的U.S. English版本。阅读原文。
