【论文阅读-DL】《One Model To Learn Them All》阅读
摘要:概念:One/Zero-shot learning 训练集中没有样本的学习;和transfer learning/domain adoption有关 NN很成功,但是每个领域都有自己的model;本文尝试搞一个统一的模型 之前也有人尝试过NLP/语音识别/人脸检测的多任务学习,但是不是跨域地 目前的
阅读全文
【论文阅读-DL】《Understanding Black-box Predictions via Influence Functions》阅读
摘要:从模型角度出发解释模型: 1、在测试点周围拟合一个简单模型 2、扰动测试集,看预估值如何变化 如何解释模型如何产生呢? 使用影响函数来解释 使用困难在于: 1、影响函数需要求二阶导; 2、需要模型凸且可微分; 解决方案:二阶优化技术 Question:这篇文章里面的training point是指什
阅读全文
【论文阅读-DL】《Understanding Black-box Predictions via Influence Functions》阅读
摘要:摘要: 基于robust statistics中的影响函数的学习,提出一套方案: 1)只需要梯度和二阶导; 2)非凸不可微问题也有一定意义; 3)对于香型模型和CNN:理解模型行为;debug模型;检测数据错误; 如果发现文中有问题,敬请联系作者批评指正,真诚欢迎您的指教,谢谢! 微信: legel
阅读全文