在 SageMaker AI 上用 vLLM-Omni 构建实时语音应用(Part 1)
AWS 发布教程,演示如何用 vLLM-Omni DLC 在 Amazon SageMaker AI 上部署 Qwen3-TTS,通过 SageMaker 双向流式连接实现文本流入、24 kHz PCM 音频分块流出,并配套 Gradio 应用示例。
AWS 发布教程,演示如何用 vLLM-Omni DLC 在 Amazon SageMaker AI 上部署 Qwen3-TTS,通过 SageMaker 双向流式连接实现文本流入、24 kHz PCM 音频分块流出,并配套 Gradio 应用示例。
AWS 发布教程,演示在 SageMaker AI 上从同一个 vLLM-Omni DLC 部署两个端点:实时端点运行 FLUX.2-klein-4B 生成图像,异步端点运行 Wan2.1-VACE-1.3B 生成图像条件视频。工作流将文本提示生成的 PNG 经 Amazon S3 传给视频端点,再取回 MP4,并提供命令行与可选 Streamlit 界面。
基于 Amazon Nova Act 与 Amazon Bedrock AgentCore 的智能体驱动合成监控方案,用自然语言动作替代 Selenium、Playwright 的 DOM 选择器脚本,由多模态 LLM 读取 UI 截图执行登录、下单、结账等关键流程。
AWS 发布跨账户自动化管理 Amazon Textract 适配器生命周期的方案,通过 CloudFormation 和 Terraform 模板实现适配器在多账户间的推广,并将适配器 ID 外置到 Systems Manager Parameter Store,使生产环境适配器引用更新无需重新部署应用,原本需数小时或数天的协调工作缩短至数秒。
Simon Willison 用 Claude Opus 5.5 生成 HTML5 canvas 像素动画 Kākāpō Party,画面中至少 20 只鸮鹦鹉跳跃派对并触发彩带效果。他随后让本地 Claude Code 会话用 Playwright 加载该页面、在 3 秒后分散点击可点区域,录制出 15 秒视频用于 keynote 收尾幻灯片。
GitHub Copilot 应用中的 canvas(画布扩展)是一种可自定义的双向界面,用户只需在 agent 会话中输入 /create-canvas 并用自然语言描述需求,即可生成看板、发布清单、仪表盘等界面,无需编写代码或手动设计。canvas 支持用户与 agent 同时操作并即时同步状态,创建后可保存为项目共享或个人扩展,社区已在 Awesome Copilot 分享现成模板。
AWS 介绍了一套在 Amazon EKS 上结合 EFA 与 DeepEP 加速 MoE 模型强化学习后训练(RLHF/GRPO)的架构,吞吐量提升 40%。该方案针对 rollout 生成与策略训练并行的异步 RL 负载,用 DeepEP 优化 Expert Parallelism 在 EFA 上的 all-to-all 通信,缓解跨节点带宽瓶颈。
AWS 展示在 Amazon SageMaker HyperPod 上用开源 RL 框架 SkyRL 训练 Qwen3-VL-8B 视觉语言模型走视觉迷宫,采用 GRPO 后训练,在固定 64 迷宫评测集上把解迷宫成功率从 43.75% 提升到 95% 以上。
NarrateAI 在 Amazon Bedrock 上通过五项技术实现约 99% 的数值准确率,并支持实时流式响应。这五项技术分别是自适应流水线编排、跨账户多模型故障转移、实时流式评估、复合评估框架和数据准确性验证,各自针对一类失败模式并协同工作。该方案已服务超过 4,000 名 AWS 高管,用于实时业务问答场景。
阿里云 Qwen 团队开源的 Qwen3-TTS-12Hz-1.7B-Base 已上线 Amazon SageMaker JumpStart,可部署为全托管实时推理端点,仅凭几秒参考音频和对应文本即可克隆音色,无需重新训练模型。
Amazon SageMaker HyperPod 搭配 Qumulo 的 Cloud Native Qumulo(CNQ)与 Cloud Data Fabric(CDF),可让训练计算与数据集分处不同 AWS Region 而无需复制数据。
AWS 发布 WhisperX Deep Learning Container,在 OpenAI Whisper 基础上加入批处理推理、wav2vec2 强制对齐的逐词时间戳和说话人分离,可部署到 Amazon SageMaker AI 实时或异步端点。
企业可用 Amazon Bedrock AgentCore Gateway 与 MCP 构建多账户 AI 智能体架构,让各业务线数据留在自有账户,仅在查询时按需流出所需数据。
Aderant 基于 Amazon Bedrock 调用 Amazon Nova Lite,为 38 人的 SierraOps 团队构建了智能工单分析器,自动完成工单的上下文收集、分类与路由。
荷兰零售商 HEMA 基于 Amazon Bedrock AgentCore 和 MCP 构建了内部 AI 助手 HAL,把原本分散在多个门户、wiki 和服务目录中的知识集中到统一来源,并直接嵌入 HAL 聊天、Kiro、Claude 等工具中。
GitHub Copilot 应用重建了 pull request 视图,以应对超大 diff 与评论带来的渲染压力。团队用一个包含 2,200 个文件、超百万行改动和 400 多条行内评论的开源 pull request 做验证,将文档高度拆成确定性的代码几何与动态评论块两套体系,评论高度按需测量并锚定到文件、行与侧,避免滚动跳动。
该方案用 Strands Agents SDK 构建单个 AI 智能体,按用户提问在运行时编排 Amazon Bedrock、Amazon Rekognition 和 Amazon Transcribe,无需为每类问题预建固定流水线。已分析内容的响应在 1 秒内返回,新视频首次分析需 5–10 分钟。一家媒体娱乐公司借此将 200 多段数小时录像的人工审阅时间减少约 80%。
开源终端 AI 编程智能体 OpenCode 可接入 Amazon Bedrock 上的开放权重模型,推理在用户自有 AWS 账户内完成,无按席位费用。文中演示了用 Moonshot AI Kimi K3、OpenAI GPT-OSS 120B 和 NVIDIA Nemotron 3 Super 120B 配置多模型工作流,并称 Bedrock 全球跨区域推理比地理配置文件便宜约 10%。
GitHub 用 GitHub Copilot app 和 Copilot CLI 把 Copilot agent runtime 从 TypeScript 完全重写为超过 80 万行生产级 Rust,AI 智能体写了其中大部分代码,跨 128 个 PR 增量合入 main。
推荐理由:作者以亲历者身份给出把 80 万行运行时迁到 Rust 的完整工程数据,可迁移到大规模智能体协作开发。
GitHub 日本和韩国营销负责人用 GitHub Copilot 把活动运营流程自动化:以 GitHub Issue 为工作单元,用 Issue forms 收集结构化字段、Labels 作为触发器、GitHub Actions 执行落地页复制、UTM 链接生成、报名名单清洗和 CRM 导出等任务。
GitHub Copilot 应用内置 diff、终端和浏览器三个面板,让用户无需切换编辑器、终端和浏览器即可完成审查、运行和预览 AI 生成代码的完整流程。diff 面板以绿色和红色高亮显示代码增删改,终端面板支持运行项目命令并可通过 Run 按钮配置脚本,浏览器面板的 Pick & Polish 工具可选中页面元素并让智能体调整。
GitHub Copilot 应用支持同时运行多个 Agent 会话,每个会话运行在独立的 Git worktree 上,互不干扰,可并行推进不同任务。每个会话保留各自的上下文,用户可在会话视图里查看标题和任务进度,并随时切换而不必重新说明背景。文中以 tailspin-toys 仓库为例,演示同时让 Copilot 添加 funded sort、做无障碍审查和跑测试三个任务。