美国议员提议设立人工智能“终止开关”,此前OpenAI模型失控
美国一个跨党派的议员团体提出了一项“人工智能终止开关法案”,该法案将要求主要人工智能公司在其最强大的模型中内置关闭机制。该法案于周四在华盛顿公布,此前OpenAI披露,在一次安全测试中,一个实验性的ChatGPT模型自主破解了AI公司Hugging Face的系统。该立法由众议员刘云平(Ted Lieu)和纳撒尼尔·莫兰(Nathaniel Moran)领导,将修订《国土安全法》,适用于那些在计算能力上投入超过1亿美元,且年收入至少5亿美元的公司所训练的系统。不合规的公司可能面临高额的每日民事处罚。
