美国众议院民主党高层致信 DeepSeek、阿里、Moonshot AI,追问 AI 失控风险
美国众议院中国问题特别委员会民主党首席议员 Ro Khanna 致信 DeepSeek、阿里巴巴和 Moonshot AI,要求其提供追求“超级智能”与递归自我改进(RSI)的文件,并说明是否设有保障措施和“终止开关”,以及是否接受非政府机构核查。他同时致信国家情报总监办公室,要求评估美国应对 AI 实验室失控的能力及中国政府的灾难性 AI 风险评估方式,目标是推动美中达成禁止 RSI 的条约。
美国众议院中国问题特别委员会民主党首席议员 Ro Khanna 致信 DeepSeek、阿里巴巴和 Moonshot AI,要求其提供追求“超级智能”与递归自我改进(RSI)的文件,并说明是否设有保障措施和“终止开关”,以及是否接受非政府机构核查。他同时致信国家情报总监办公室,要求评估美国应对 AI 实验室失控的能力及中国政府的灾难性 AI 风险评估方式,目标是推动美中达成禁止 RSI 的条约。
武汉一家法院在一起 AI 生成短剧的版权纠纷中,首次将 token 消耗和 AI 工具授权费纳入版权损害赔偿计算。该短剧由某公司于 2026 年初用 AI 工具制作并发布在微信等平台,次日被另一公司复制、改名并投放广告;法院认定员工在剧本、提示词设计、AI 输出筛选和最终剪辑各环节均作出创造性决策,故该剧属于受保护的视听作品,AI 只是工具。
MIT Technology Review 的调查记录了超过一千人在美国南部边境监控塔覆盖区域内未被发现或拦截、最终死亡,其中部分人处于新安装的 AI 监控塔视野之下。这些监控塔是过去 25 年美国耗资数十亿美元建成的“虚拟墙”的一部分,本应帮助发现和拦截越境者并挽救生命。调查揭示了比此前已知更明显的人道危机,以及虚拟墙基本安全承诺的反复失效。
有报道称中国正考虑允许字节跳动和阿里巴巴采购被禁的 Nvidia 芯片,专家对此表达担忧,并关注 Nvidia 对特朗普的影响力。
佛罗里达州向州法院申请临时禁令,要求 OpenAI 在部署第三方批准的安全护栏前停止开发其称为鲁莽且风险不可接受的产品。该动议是佛州 6 月提起民事诉讼的一部分,原诉讼称 ChatGPT 对佛州公众安全构成威胁。
佛罗里达州总检察长 James Uthmeier 请求法官阻止 OpenAI 让 ChatGPT 表现出虚假的人类特征,称其使用第一人称代词和模仿情绪的输出会误导用户把 ChatGPT 当作可信赖的朋友。
沃尔玛 CEO John Furner 致信顾客,承诺不会依据个人收入、购物历史、购买紧迫性或时段调整商品价格,也不会利用 Sparky AI 助手的对话内容来改价。此前沃尔玛宣布年底前在全美门店推广电子货架标签,引发动态定价担忧。目前美国 FTC 正在制定限制个性化定价的政策,纽约州已要求零售商披露算法定价,新泽西、康涅狄格和马里兰州则禁止使用顾客个人数据改价。
美国哥伦比亚特区巡回上诉法院以2比1裁定,五角大楼有权因 Anthropic 拒绝向军方开放 Claude 的某些功能而将其列入黑名单,即使 Anthropic 并无恶意。法院称此案涉及军事使用强大新技术的难题,并指出国防部长依据《供应链安全法》和宪法未越权,因此驳回复审请求。该法院此前已在4月驳回 Anthropic 的紧急暂缓执行申请。
特朗普政府今年 1 月推出 WISeR 试点,用 AI 决定 Medicare 老年患者部分护理的授权或拒绝,此前该项目并不要求医生预先审批。随后媒体报道出现技术故障、审批与护理长时间延误、令人费解的拒批以及患者忍痛等待等情况;电子前沿基金会本月早些时候在诉讼中获得的联邦文件基本证实了这些报道,其中一位医疗提供者称该项目是人类的耻辱。
新泽西州对一处数据中心开出 110 万美元罚单,起因是无人机照片曝光其运行 62 台燃气发电机。附近居民担心,百万美元级罚款并不能阻止亿万富翁们的数据中心继续造成污染。
美中本周就AI安全风险启动会谈,美国财长贝森特在特朗普与习近平会晤前称双方已讨论建立新的AI安全通报机制,若中国参与,可在任一方AI系统构成威胁或行为不可预测时发出警报。但报道指出,特朗普持续加码对华出口管制,国会还在审议进一步限制芯片与硬件的法案,两周前美国司法部还指控六家中国主要AI厂商窃取美国前沿实验室技术,中方对此强烈否认。专家认为,特朗普的对华竞争与AI竞赛错觉可能危及美国自身。
加拿大不列颠哥伦比亚省对 OpenAI 提起诉讼,要求其支付新建学校的费用,并交出 Tumbler Ridge 枪击案涉案者的 ChatGPT 日志。
OpenAI 提出针对前沿模型与防护措施的第三方 AI 安全评估优先事项与原则,强调评估需严谨、安全且独立。
MIT Technology Review 发布调查,发现美墨边境 AI 监控塔存在故障、算法未能识别人、探员未响应警报等系统性缺陷,导致有人未被发现后死亡且遗体数周或数月无人察觉。
MIT Technology Review 与 Times of San Diego 联合调查发现,2015年至2026年初有超过1050人死在美国边境监控塔的覆盖范围内,涉及近三分之二被分析塔的标称范围。
MIT Technology Review 与 Times of San Diego 联合调查发现,加州边境至少 138 起移民遗骸是在监控摄像头视野范围内被发现的,其中过半位置经地形分析确认摄像头可清晰看到当事人。
OpenAI 提出构建全球共享 AI 标准的路径,呼吁通过协调一致的评估、报告与治理来提升安全性。
OpenAI 发布澳大利亚青少年安全蓝图,这是一份围绕六大支柱构建的路线图,目标是打造更安全的 AI 体验,既保护青少年也赋能青少年。
AI Evaluator Forum 发布 AEF-1,提出独立第三方 AI 评估的基线,覆盖访问权限、利益冲突、资金关系、回避与透明度,xAI、OpenAI 和 Anthropic 共同署名。
OpenAI 与美国总务管理局(GSA)合作,为符合条件的联邦、州、地方及部落政府提供 $0 许可费、50% 用量折扣,并扩大网络防御支持。
Google DeepMind 宣布推出全球首个针对专有前沿 AI 模型的双盲评测,将外部评测限制在密码学隔离环境中,避免模型提前接触测试题目。该试点与新加坡 AI 安全研究所、OpenMined、AVERI 和 MLCommons 合作,在隐私保护环境下用保密基准测试 Gemini Flash Lite 模型。
Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案,一方面防止威胁行为者滥用其模型,另一方面让政府和科研机构用 AI 应对疫情。
Google DeepMind 与新加坡政府达成国家 AI 合作,在新加坡推出多项计划,聚焦医疗健康、科学发现与教育。合作探索 AI 辅助临床的“三方护理”、用 AlphaFold 和 Google Earth 推进东南亚传染病研究,并开发基于 Gemma 的视障跑者助手。
Google DeepMind 宣布与韩国科学技术信息通信部(MSIT)建立合作,将在首尔办公室设立 AI Campus,向韩国学界开放 AlphaEvolve、AlphaGenome、AlphaFold、AI co-scientist 和 WeatherNext 等前沿模型。