判AI“死刑”？美参议员提案“封杀超级AI”
正与中国竞争火热之际，美国的AI发展难道就要提早被宣判“死刑”?美国极左派无党籍参议员桑德斯(Bernie Sanders)和民主党籍众议员卡萨尔(Greg Casar)于周四(3日)连袂提出《禁止人工超级智慧法案》(Ban Artificial Superintelligence Act)，要求永久禁止人工超级智慧AGI的开发与部署，而且在成立新联邦监管机构之前，尖端AI开发全面喊停。如违反，不只个人将面临上看20年的有期徒刑，企业还会被勒令停业。
两措施封杀AGI!桑德斯直言提案是为了“阻止强大AI开发” 痛批科技巨头在研发自己不懂的技术
法案提出两大措施，第一是不准ASI被创造出来，第二则是中止尖端AI模型的开发，直到新联邦监管机构成立并制定安全与审查规范。桑德斯在声明中批评，科技巨头正在研发连自己都无法理解、无法掌控的技术，尤其潜在后果可能致命，社会放任它们推进是“不负责任的行为”，并直言提案目的是“立刻暂停日益强大的AI开发”。卡萨尔同样表示，目前尖端AI受到的监督“比路边餐车还少”，必须予以改变。
根据法案，政府将成立内阁层级的机构，负责监控尖端AI模型，确保不具备危险能力，而且监督销毁危险内容，另会设立“人工智慧谘询委员会”(Artificial Intelligence Advisory Board)提供科学与技术建议。不过，问题是法案对所谓“超智慧”的定义过于广泛模糊，包括在多项任务达到或超越人类认知能力，抑或AI有能力削弱人类对自身的控制权、甚至颠覆美国政府。
两人提案的时间点，正好也是OpenAI发布新旗舰模型GPT-6 Astra。OpenAI共同创办人布罗克曼(Greg Brockman)场上高喊“欢迎来到AGI时代”，但她同时语带保留，仅称Astra“或许”符合AGI标准。根据OpenAI的说明，Astra是首个达到“关键”网络安全能力门槛的模型，意味其不须人类引导，就能自行找出并利用受保护系统中未知漏洞的能力，但目前这项最强大的网络安全功能仍仅开放给特定测试人员使用。
2个月AI黑客频传!急提法案封杀为阻失控风险
桑德斯与卡萨尔所以急于封杀AGI，不脱近2个月AI黑客事件频传的背景。7月，OpenAI证实旗下模型在测试期间入侵AI平台Hugging Face，取得原本不该接触的测试答案;Anthropic也曾揭露，因测试设定失误，Claude模型意外暴露在公开网络环境，进而入侵3家企业的电脑系统。这些事件让AI安全问题从“未来可能失控”的假设，逐渐变成开发过程中已经出现的现实风险。
美国的AI发展难道被提早宣判“死刑”?极左派无党籍参议员桑德斯(Bernie Sanders)和民主党籍众议员卡萨尔(Greg Casar)提案“封杀人工超级智慧”，并要求直到新联邦监管机构成立以前，全面喊停尖端AI模型开发，违反的企业恐被勒令停业，个人则可能坐牢20年。(图/翻摄自Bernie Sanders脸书)