---
type: 研究概念
title: 可解释性
description: 解释模型行为和数据影响的概念页。
tags:
  - zh
  - research
  - concept
  - 研究概念
  - llm
timestamp: '2026-05-05T23:25:14+08:00'
modified: '2026-07-02T20:03:20+08:00'
content_hash: 'sha256:38652d8ab54846774d1fd3e44dae5f4d2323fbfc11a8f1e9d2494bb4e5ea8d74'
reviewed_at: '2026-07-02T20:03:20+08:00'
review_due: '2026-12-29'
language: zh
lifecycle:
  status: active
  confidence: 0.8
  review: periodic or when linked evidence changes
  retention: semantic memory with quality warnings
  reviewedAt: '2026-07-02T20:03:20+08:00'
  reviewDue: '2026-12-29'
  pendingReview: false
  overdue: false
retrieval:
  document_id: 'wiki:Interpretability_zh'
  chunking: markdown-heading-v1
source_ids: []
source_path: wiki/Interpretability_zh.md
---
**可解释性** 指帮助人理解模型为何产生某种行为的方法。在本 wiki 中，重点比整个可解释性领域更窄，主要关注数据影响、错误诊断，以及支持可信决策的解释。

## 在本 wiki 中的作用

可解释性是 [可信 AI](./Trustworthy_AI_zh.md) 和 [数据中心 ML](./Data_Centric_Machine_Learning_zh.md) 的支撑主题。模型可以准确但难以审计；如果研究者能说明哪些样本、群体或合成数据过程导致了某种行为，下一步就可以是数据选择、遗忘、修正或协作评估。可解释性因此把解释连接到干预。

## 与乔鑫宝工作的关系

本 wiki 主要通过 [影响函数](./Influence_Functions_zh.md) 和机器遗忘把可解释性连接到乔鑫宝的工作。[无 Hessian 在线认证遗忘](./Hessian_Free_Online_Certified_Unlearning_zh.md) 与 [超越二元擦除](./Soft_Weighted_Machine_Unlearning_zh.md) 都依赖对数据变化如何影响模型参数或预测的理解。合成数据研究也需要更广义的可解释性：当模型坍缩发生时，研究问题是退化由何种数据过程引起、分布式参与方如何发现它。

## 参见

- [影响函数](./Influence_Functions_zh.md)
- [可信 AI](./Trustworthy_AI_zh.md)
- [机器遗忘](./Machine_Unlearning_zh.md)
- [数据中心 ML](./Data_Centric_Machine_Learning_zh.md)
