文心等预训练模型以及下游任务的可解释性

[LangDaoAI]

paddlenlp支撑的预训练模型以及相关下游任务， 迫切需要可解释性作为工业落地的另一个支撑， 比如基于预训练的多分类模型， paddle是否提供了分类的可解释性， 看到https://github.com/PaddlePaddle/InterpretDL 似乎是这样一个目标，但是与paddlenlp并没有集成， 请给与一些建议，谢谢！

[LangDaoAI]

刚刚调查了一下，使用LIME去做分类的可解释性应该是可以的， LIME并关注内部的模型是否是基于预训练，marcotcr/lime#356

[LangDaoAI]

再次看了一下interpretdl， https://github.com/PaddlePaddle/InterpretDL/blob/master/tutorials/lime_tutorial_nlp_ERNIE.ipynb 应该解决了我的问题