乌漆 WhiteMoon

摘要： 目录预备知识Q 函数排序矩阵局部特征掩码 L0 范数估计排列矩阵 P 的估计Lemma D.2.Definition D.1Theorem D.3. 在论文《ProtoGate: Prototype-based Neural Networks with Global-to-local Feature 阅读全文

摘要： ProtoGate 是一个针对高维低样本量（HDLSS）生物医学表格数据设计的创新型特征选择与分类框架，其核心在于通过一种解耦的、原型驱动的架构来同时实现高预测精度、高特征选择保真度以及内在的可解释性。首先使用全局到局部的特征选择器自适应地识别重要特征，它采用两阶段策略：先通过门控网络第一层的 L1 正则化进行“软全局选择”，快速筛选出所有样本共享的潜在重要特征集；再通过后续层的 L0 正则化进行“局部选择”，为每个样本生成个性化的稀疏特征掩码。接着使用非参数的原型预测器进行预测，该预测器将特征选择后的查询样本与训练阶段构建的“原型库”中的原型样本进行相似度比较，基于 K 个最近邻原型的多数投票得出预测结果。模型中仅特征选择器的参数是可训练的，训练损失函数由预测损失和特征选择正则化项加权构成，并通过可微排序技术使梯度能从原型预测损失顺畅地反向传播至特征选择器。 阅读全文