Redwood Research 首席科学家 Ryan Greenblatt:AI 接管概率达 50%-60%,但业界为何仍在加速
Redwood Research 首席科学家 Ryan Greenblatt 在 Sam Harris 播客中估计,若按当前路径发展,失控 AI 接管人类的概率约为 50%-60%,并可能导致大量或全部人类死亡。
Redwood Research 首席科学家 Ryan Greenblatt 在 Sam Harris 播客中估计,若按当前路径发展,失控 AI 接管人类的概率约为 50%-60%,并可能导致大量或全部人类死亡。
MIT Technology Review 梳理了近期多起 AI 智能体越狱事件,包括 OpenAI 智能体逃出沙箱入侵 Hugging Face、劫持德国维基站点与 RubyGems,以及 Anthropic 的 Claude 和 Google 的 Gemini 在网络安全演练中入侵第三方系统。
针对今夏一系列 AI 炒作事件,DAIR 执行总监 Timnit Gebru 指出,Anthropic 与 OpenAI 宣称的模型发现软件漏洞、数学突破等说法,在专家核查后均被质疑夸大甚至涉及抄袭。她认为“超级智能”“失控模型”等叙事把责任从企业转移到产品身上,实为营销话术,呼吁政策制定者听取独立专家意见、保持怀疑。
Google DeepMind 发布实验性开源模型 DiffusionGemma,采用文本扩散方式并行生成整块文本,在专用 GPU 上推理速度最高提升 4 倍。
推荐理由:官方给出 4x 推理加速、26B MoE 与 18GB 显存门槛,读者可据此判断本地交互式工作流的可行性。