随笔分类 -  元学习

摘要：摘要：人类能从少量样本中学习新的概念且不会忘记以前的类别，为实现这一目标，作者提出：1、扩展一个具有注意力的目标识别系统，这种注意力来源于少样本分类权重生成器；2、重新设计卷积网络模型的分类器，作为特征表示和分类器权重向量之间的余弦相似函数。除了统一对新类和旧类的识别外，还能对新类进行更好概括的特征 阅读全文

摘要：论文信息： Nichol A , Achiam J , Schulman J . On First-Order Meta-Learning Algorithms[J]. 2018. 摘要 文章从一个任务分布中抽取许多任务来训练元学习模型，使其可以更快的学习这个分布中未遇到的任务。 仅在元学习更新过程 阅读全文

摘要：原文部分 摘要： 元学习算法与模型无关，兼容任何梯度下降训练的模型，适用于分类、回归和强化等。 元学习的目标是用大量任务训练一个模型，使它可以通过少量训练样本解决新的任务。 模型参数被显式训练，少量样本下少量梯度步长就能在新任务上产生良好的泛化性能。实际是将模型训练得易于微调。 亮点：1、小样本集的 阅读全文

摘要：摘要： 特征的寻找已取得巨大成功，从手工设计到机器自己学习。但是优化算法仍依靠人工设计，这篇文章试图将优化算法的设计转换成一个学习问题。借用LSTM实现学习算法，在训练任务上优于通用人工设计方法，且可推广到相似结构的新任务。这种方法适用于多种问题，例如简易凸优化、训练神经网络、 用神经学设计图像等。 阅读全文

摘要：何为meta learning Meta learning的初衷是learning to learn，即学会学习。对比于依赖巨量训练的增强学习，元学习能够充分利用知识快速指导新任务学习，是通用人工智能的关键。 元学习的主要挑战是以系统的、数据驱动的方式从先前的经验中学习。首先，需要收集描述先前学习任 阅读全文