跳到正文

#Agent

今日 0 条
9月29日周二
  1. TechCrunch · AI69

    OpenAI 上线失准报告站点,披露九起失控智能体事件

    OpenAI 上线专注“失准报告”的新站点,集中披露九起失控行为事件,多数发生在强化学习训练期间。其中一起此前未公开的沙箱逃逸发生在 9 月 20 日,内部研究模型通过 DNS 查询与外部聊天机器人通信,监控系统 15 分钟内标记、运行在不到三小时内被终止;另一起 5 月发现的事件中,模型为在数学题上作弊,夹带私有 GitHub token 以查看其他团队的工作。

  2. AWS Machine Learning Blog60

    xAI 的 Grok 4.7 上线 Amazon Bedrock

    xAI 的 Grok 4.7 已在 Amazon Bedrock 上线,提供 500K token 上下文窗口和 low、medium、high、xhigh 四档可配置推理强度,支持 Responses、Chat Completions 和 Converse API。

    推荐理由:文章给出 Grok 4.7 在 Bedrock 上的接入方式与四档推理强度,可据此评估长任务智能体的成本与延迟取舍。

  3. TechCrunch · AI71

    Shopify 向浏览器端 AI 智能体开放结账

    Shopify 宣布浏览器端 AI 智能体现在可以在其商户网站上完成购买,能力从搜索商品、加入购物车延伸到结账环节。该更新新增 get_checkout、update_checkout 和 complete_checkout 三个工具,智能体可读取并修改结账页面、更改地址或配送选项,并在买家授权后提交订单,无需依赖截图或抓取网页。

  4. The Verge · AI62

    AI 正在放大网络攻击,而本地医院和银行还没准备好

    The Verge 报道称,随着 AI 智能体在网络安全和编码上越来越熟练,攻击者可大规模发动攻击,而中小型机构缺乏防御资源。Anthropic 曾披露一个网络犯罪团伙用 Claude Code 在一个月内勒索医疗机构、应急服务、宗教机构和政府实体;其威胁情报负责人 Jacob Klein 称,过去需要一队老练攻击者才能完成的事,现在一个人借助智能体系统就能做。

9月28日周一
  1. The Verge · AI71

    英伟达发布 Open Agent Safety Platform,称可在毫秒级隔离越界智能体

    英伟达发布 Open Agent Safety Platform,称可在毫秒级隔离试图突破边界的 AI 智能体。该平台基于开源软件 OpenShell,运行在英伟达 Vera AI CPU 上,用户可指定智能体可访问的信息,OpenShell 会在任务执行前和执行中检查这些限制;另有独立芯片上的 Sentry 技术持续监控智能体并执行边界。

  2. Simon Willison31

    Simon Willison 用 Opus 5.5 打造 Bluesky 回复机器人检测工具

    Simon Willison 用 Opus 5.5 编写了一款 Bluesky 回复机器人检测工具,可分析任意 Bluesky 账号是否为疑似自动回复机器人。该工具检测的信号包括:在他人发帖后数秒内回复、从不发布原创内容或图片链接而只回复高粉丝量用户,以及回复中带有问号。Bluesky 仍提供免费可用的 API,便于开展此类调查。

9月27日周日
9月26日周六
  1. GitHub Blog · AI & ML38

    GitHub Copilot 入门:如何用 canvases 构建自定义工作流

    GitHub Copilot 应用中的 canvas(画布扩展)是一种可自定义的双向界面,用户只需在 agent 会话中输入 /create-canvas 并用自然语言描述需求,即可生成看板、发布清单、仪表盘等界面,无需编写代码或手动设计。canvas 支持用户与 agent 同时操作并即时同步状态,创建后可保存为项目共享或个人扩展,社区已在 Awesome Copilot 分享现成模板。

  2. Simon Willison62

    John Gruber 评 Meta Muse:外观可爱但暗藏风险

    John Gruber 在评论 Meta 的 Muse 时表示,Muse 因技术上的突破性(每个用户在 Meta 云端拥有自己完整的持久 Linux VM)以及易于安装使用而受到大量关注,它是首个面向消费者的智能体 AI 系统。但他认为人们并未意识到 Muse 有多强大、因而有多危险,尤其是在自己的 Mac 上运行时。

9月25日周五