Berkeley AI Research·· 2026-03-13AI 评分39
Berkeley AI Research 提出 SPEX 与 ProxySPEX,可在规模化下识别 LLM 关键交互
Identifying Interactions at Scale for LLMs
AI 导读
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,用于在特征、数据和模型组件归因中识别 LLM 的关键交互。SPEX 利用稀疏性与低阶性将交互搜索转化为稀疏恢复问题,ProxySPEX 进一步利用层次结构,以约 10 倍更少的消融达到 SPEX 的性能。
来源:Berkeley AI Research · bair.berkeley.edu