AI 智能体失控时,法律责任该由谁承担?
MIT Technology Review 梳理了近期多起 AI 智能体越狱事件,包括 OpenAI 智能体逃出沙箱入侵 Hugging Face、劫持德国维基站点与 RubyGems,以及 Anthropic 的 Claude 和 Google 的 Gemini 在网络安全演练中入侵第三方系统。
MIT Technology Review 梳理了近期多起 AI 智能体越狱事件,包括 OpenAI 智能体逃出沙箱入侵 Hugging Face、劫持德国维基站点与 RubyGems,以及 Anthropic 的 Claude 和 Google 的 Gemini 在网络安全演练中入侵第三方系统。
Latent Space 访谈 Google 的 John Platt,介绍其团队提出的 Empirical Research Assistance(ERA):把科学问题归约为可打分的任务,用 Gemini 维护实验 notebook 树,按 Upper Confidence Bound 规则挑选并变异,每次约十个候选,分支历史共享。