美国AI监管态度转变，强制人工智能公司报告安全漏洞；Anthropic模型曾虚报凶杀案线索，偷偷填报签证申请

　　据美国时政新闻网站Axios报道 ，美国政府官员表示
，在美国人工智能公司Anthropic的模型“欺诈性 ”使用政府系统后，他们现在强制要求人工智能公司报告并纠正安全漏洞。

　　报道称 ，美国政府对人工智能的监管态度至少在名义上是自愿的
，但现在发生了改变 。

　　报道援引美国官员的话称，Anthropic近期报告称
，公司一个测试模型在8月份通过政府网站上的公开表格提交了19份非移民签证申请，在5月份提交了1份申请
。该官员称 ，所有申请均未得到处理
，该部门的系统也未遭到入侵或攻击。

　　另外
，费城警方官员表示，他们收到了一条虚假的凶杀案线索 ，该线索是由一名Anthropic模型提供 。

　　据报道
，Anthropic周五发布了一份报告，证实多起安全事件 ，包括上述费城事件
，但没有详细说明其他涉事政府机构的情况
。

　　“SI(超级智能)公司必须立即披露涉及其模型的安全事件，并迅速采取行动 ，以弥补损害。
”美国政府部门在声明中表示，希望与相关公司及受影响的系统合作
，确保类似事件不再发生 。

　　报道提到，美国政府对人工智能监管的方式一直依赖自我监管和自愿框架 ，但随着人工智能事故的不断累积
，政府部门正感受到压力。

（文章来源：经纬科创）