摘要：
References : https://towardsdatascience.com/dealing-with-class-imbalanced-datasets-for-classification-2cc6fad99fd9 https://www.cnblogs.com/massquantit 阅读全文
摘要：
直接把自己的工作文档导入的，由于是在外企工作，所以都是英文写的 chinese and english tokens result input: "我爱中国"，tokens:["我","爱","中","国"] input: "I love china habih", tokens:["I","lov 阅读全文
摘要：
直接把自己的工作文档导入的，由于是在外企工作，所以都是英文写的 Steps: modify code in run_classifier.py add a new processor add the processor in main function Train and predict train 阅读全文
摘要：
Transformer: https://jalammar.github.io/illustrated-transformer/ BERT: https://arxiv.org/pdf/1810.04805.pdf 进化史：https://zhuanlan.zhihu.com/p/49271699 阅读全文
摘要：
When training on GPU, the error "Model diverged with loss = NaN" is often caused by a sotmax that's getting a symbol larger than vocab_size 阅读全文
摘要：
>>> from collections import Counter>>> Counter(['apple','red','apple','red','red','pear'])Counter({'red': 3, 'apple': 2, 'pear': 1}) 阅读全文
摘要：
python中string自带的split不支持多个分隔符同时切分，用正则 import re line='hello,world' lineLists = re.split('[，,.。？?]',line.strip()) 阅读全文
摘要：
原因是使用Adam优化函数时，Adam函数会创建一个Adam变量，目的是保存你使用tensorflow创建的graph中的每个可训练参数的动量， words/_word_embeddings:0 bi-lstm/bidirectional_rnn/fw/lstm_cell/kernel:0 bi-l 阅读全文
摘要：
vars = tf.global_variables() net_var = [var for var in vars if 'bi-lstm_secondLayer' not in var.name and 'word_embedding1s' not in var.name and 'proj_ 阅读全文