让 AI 成为资产而非开支:HPE 谈 AI 从按 token 消费转向自有算力
HPE 提出,当 AI 从试验走向客服、IT、研究等常驻生产负载,按 token 消费的模式会让支出变成难以预测的月度变量,企业需按自身负载测算"自持算力"的盈亏平衡点。
HPE 提出,当 AI 从试验走向客服、IT、研究等常驻生产负载,按 token 消费的模式会让支出变成难以预测的月度变量,企业需按自身负载测算"自持算力"的盈亏平衡点。
Atlassian 联合创始人兼 CEO Mike Cannon-Brookes 在 Decoder 播客中反驳“SaaSpocalypse”论调,认为 AI 不会摧毁 SaaS 这一品类。他表示 AI 实际上正在提升 Atlassian 工具的使用量,并强调 Jira 等产品是承载工作流程的“人类工作参照”,而非工作本身发生的地方。
GitHub 认为 chat 是大多数场景下错误的 AI 交互界面,并在 GitHub Copilot app 中推出 canvas——一种运行在应用内、无浏览器外壳的全栈应用,可与 agent 双向通信。
NVIDIA 提出 AI 安全是工程问题,需要明确的安全需求、可执行的管控、指定负责人和防护有效的证据。其开源安全运行时 NVIDIA OpenShell 在智能体触及范围之外执行策略并提供沙箱化执行,Cisco DefenseClaw 在其上增加治理层,JFrog 则集成 OpenShell 扫描和验证智能体技能。
伯克利 EPIC Data Lab 提出近零推理成本时代数据系统面临三大挑战:为智能体设计的数据系统、运行智能体集群的数据系统、由智能体合成的数据系统。GPT-4 级能力从 2023 年初约 $30/百万 token 降至如今不到 $1,部分厂商已低于 $0.10,推理价格年降幅在 9x 到 900x 之间,中位数约 50x。
伯克利 AI 研究团队梳理了并行推理领域进展,指出当前多数方法(如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS)的并行结构与分解策略由外部预设,而非模型自主决定。