随笔分类 -  ml

简单记录一次dataloader低效运行DEBUG过程
摘要：key words: pytorch, dataloader, multiprocessing 问题描述 Dataset输入是一组对象，每个对象可以产生20-3000个训练样本。使用IterableDataset，用迭代的方式从每个对象中产生样本。为了支持多进程，预计算了每个对象会产生的样本数，使得 阅读全文
posted @ 2021-07-24 16:34 e-yi 阅读(22) 评论(0) 推荐(0)
Weisfeiler-Lehman图同构测试及其他
摘要：有问题欢迎留言讨论 Weisfeiler-Lehman图同构测试及其他 Weisfeiler-Lehman Test (WL Test) Boris Weisfeiler and Andrey Lehman, 1968 Graph Isomorphism 一个简单的同构图例子： 1-dimensio 阅读全文
posted @ 2021-03-22 15:06 e-yi 阅读(82) 评论(0) 推荐(0)
使用NNI进行自动超参数调优
摘要：使用NNI进行自动超参数调优 有中文文档 NNI (Neural Network Intelligence) 是一个工具包，可有效的帮助用户设计并调优机器学习模型的神经网络架构，复杂系统的参数（如超参）等。 NNI 的特性包括：易于使用，可扩展，灵活，高效。 易于使用：NNI 可通过 pip 安装。 阅读全文
posted @ 2020-12-01 17:30 e-yi 阅读(128) 评论(0) 推荐(0)
einops README: 如何优雅地操作张量维度（张量转置、张量池化等）
摘要：einops 通过灵活而强大的张量操作符为你提供易读并可靠的代码。 支持 numpy、pytorch、tensorflow 以及其他框架 In case you need convincing arguments for setting aside time to learn about einsu 阅读全文
posted @ 2020-10-18 15:42 e-yi 阅读(246) 评论(0) 推荐(0)
TransG翻译
摘要：Xiao H, Huang M, Zhu X. TransG: A generative model for knowledge graph embedding[C]//Proceedings of the 54th Annual Meeting of the Association for Com 阅读全文
posted @ 2020-03-05 18:56 e-yi 阅读(4) 评论(0) 推荐(0)
pytorch 自定义学习率衰减
摘要：def adjust_learning_rate(optimizer, epoch): """Sets the learning rate to the initial LR decayed by 10 every 30 epochs""" lr = args.lr * (0.1 ** (epoch 阅读全文
posted @ 2019-10-21 11:02 e-yi 阅读(16) 评论(0) 推荐(0)
hin2vec 异质信息网络表示学习 个人笔记
摘要：hin2vec想法其实挺巧妙的 它学习两种embedding，一种是对于节点的嵌入，一种是对于元路径（meta path）的嵌入 （ps 作者在文中说如果要强调路径的有向性，强调路径开始节点和终止节点的不同，那么可以扩展到三种embedding，对于路径起始节点的嵌入，对于路径终止节点的嵌入，对于元 阅读全文
posted @ 2019-05-15 15:54 e-yi 阅读(32) 评论(0) 推荐(0)