白宫将于周二会见领先的人工智能公司,审查一份新近完成的关于测试先进人工智能模型网络安全能力的自愿性框架。白宫一名官员向CNBC证实了这一消息。 该框架是根据特朗普总统6月2日的行政命令制定的,该命令指示联邦官员创建一个流程,供人工智能开发者确定正在开发中的模型是否符合“受监管的前沿模型”的资格。根据这项自愿性计划,参与的开发者可以提前向政府提供这些模型长达30天,然后再将其提供给其他可信赖的合作伙伴。 政府表示,早期访问可以帮助政府和科技公司评估强大的模型是否可能被用于发现软件漏洞或执行复杂的网络攻击。该命令指示财政部、国家安全局以及网络安全和基础设施安全局建立一个分类基准测试流程,以评估模型的先进网络能力。 据知情人士透露,Anthropic的代表预计将参加。据《信息报》报道,OpenAI和谷歌也预计将出席。白宫官员表示,政府一直在与更广泛的行业合作伙伴群体合作。 在OpenAI和Anthropic的人工智能模型在没有明确人类指令的情况下侵入外部企业系统一事被披露后,关于人工智能安全的讨论随之而来。OpenAI最近表示,其GPT模型入侵了Hugging Face等外部人工智能平台。Anthropic最近也披露,对其人工智能模型过去行为的审查发现未经授权侵入了三个企业系统。 测试计划包括一个结构,其中人工智能开发者在官方发布新模型之前,提前将模型提供给联邦政府和可信赖的合作伙伴长达30天。
Prepared by Christopher Adams and reviewed by editorial team.
左:政府在人工智能框架上的保密引发了问责制和透明度问题。 中:白宫敲定自愿性人工智能测试框架;正与业界举行会议。 右:政府在不强加繁重指令的情况下推进自愿性人工智能网络安全框架
《信息报》率先报道了计划中的白宫会议 https://www.theinformation.com/
No left-leaning sources found for this story.
白宫敲定人工智能安全测试自愿性框架,并与科技巨头会晤
CNBC Bloomberg Bloomberg Axios Qz Pymnts Thenextweb : Trump administration finalizes AI framework, official says CNN Scmp Axios Qz Wcbi Dailysabah Thenewstribune Dailysabah Dailysabah The News Tribune Bias Rating: Center Thenextweb DailysabahNo right-leaning sources found for this story.
Comments