Topic 1 Question #1
一家公司每季度都会进行预测,以决定如何优化运营来满足预期需求。该公司使用机器学习模型进行这些预测。
一名AI从业者正在撰写一份关于训练好的机器学习模型的报告,为公司利益相关者提供透明度和可解释性。
为满足透明度和可解释性要求,AI从业者应在报告中包含哪些内容?
答案: B
各选项分析:
A. 模型训练代码是开发细节,利益相关者难以通过它理解模型预测逻辑,不符合面向利益相关者的透明度可解释性要求,因此错误。
B. 部分依赖图(PDP)可以直观展示特征对模型预测结果的影响,能给非技术的利益相关者提供清晰的模型可解释性,因此正确。
C. 提供训练样本数据会带来数据隐私风险,也无法帮助利益相关者理解模型的决策逻辑,因此错误。
D. 模型收敛表只能说明模型训练过程的收敛情况,无法解释模型最终的预测逻辑,不符合要求,因此错误。
关键知识点:
AWS AI Practitioner考察对常见可解释性AI工具的适用场景,部分依赖图是用于解释机器学习模型特征影响的常用工具。
参考资料:
Interpreting machine learning models in Amazon SageMaker, https://docs.aws.amazon.com/sagemaker/latest/dg/clarify-model-explainability.html