摘要: 无论学习哪门计算机语言,只要把100例中绝大部分题目都做一遍,就基本掌握该语言的语法了。 【程序1】 题目:有1、2、3、4个数字,能组成多少个互不相同且无重复数字的三位数?都是多少? #Filename:001.py cnt = 0#count the sum of result for i in 阅读全文
posted @ 2012-11-05 14:40 ZH奶酪 阅读(133299) 评论(65) 推荐(16) 编辑
摘要: https://www.msra.cn/zh-cn/news/features/disentangled-self-attention-models 阅读全文
posted @ 2021-10-28 20:48 ZH奶酪 阅读(82) 评论(0) 推荐(0) 编辑
摘要: 此文不涉及技术,主要是一些观点,从以下几个角度讲述了对话系统的现状(1)B/C端市场(2)闲聊、问答、任务型对话(3)学术界和工业界的gap。 原文链接:https://mp.weixin.qq.com/s/d7Bt1gHIP_LXmMJuIKUL-A C端市场,对话产品成本巨大、盈利空间不明朗、市 阅读全文
posted @ 2021-03-13 11:52 ZH奶酪 阅读(173) 评论(0) 推荐(0) 编辑
摘要: 原文链接:https://mp.weixin.qq.com/s/iYQkwCs1xz2QIjRkg5nerg Retrieve, Rerank, Read, then Iterate: Answering Open-Domain Questions of Arbitrary Complexity f 阅读全文
posted @ 2021-03-13 11:38 ZH奶酪 阅读(349) 评论(0) 推荐(0) 编辑
摘要: 文章地址:https://zhuanlan.zhihu.com/p/94359189 笔记: 模型size=1/7; 推理耗时=1/9; 性能会轻微损失;GLUE下降3个点(BERT-PKD,DistilBERT下降7/8个点); 三个loss:embedding loss(输入,mes),tran 阅读全文
posted @ 2021-03-03 10:33 ZH奶酪 阅读(237) 评论(0) 推荐(0) 编辑
摘要: 原文链接:https://blog.maiot.io/12-factors-of-ml-in-production/ 译文转自:机器之心 公众号 过去二十年来,我们对软件开发的理解有了大幅提升。其中一大部分原因是 DevOps 概念的出现及其在软件开发行业的广泛应用。 领先的软件公司都遵循着同样的模 阅读全文
posted @ 2020-12-04 10:42 ZH奶酪 阅读(149) 评论(0) 推荐(0) 编辑
摘要: 原文链接:https://d2l.ai/chapter_optimization/lr-scheduler.html 在神经网络中,通常我们主要关注优化算法如何更新权重,而缺少关注更新的幅度,即学习率。适当的调整学习率和优化算法一样重要。可以从这些角度去考虑: 【学习率大小】最直观的就是学习率的粒度 阅读全文
posted @ 2020-10-22 18:50 ZH奶酪 阅读(1201) 评论(0) 推荐(0) 编辑
摘要: 小米铁人三项:硬件、新零售、互联网 小爱:知识图谱代表作品 知识图谱请求量 8000万/天? 【joint-model】 【NL2SQL】 【实体链接,BERT+CRF、BERT+Softmax】远程监督构造训练集【TODO】 概念图谱 【上位词判定】 【同义词挖掘】 阅读全文
posted @ 2020-09-26 17:27 ZH奶酪 阅读(610) 评论(0) 推荐(0) 编辑
摘要: 多跳,multi-hop boostraping 更新 结合KB的语料增强 Query->查询图 【intent论文】 【动态自适应模型】 阅读全文
posted @ 2020-09-26 16:24 ZH奶酪 阅读(554) 评论(0) 推荐(0) 编辑
摘要: human-in-the-loop,知识图谱链路长 entities、attributes、concepts、relationships Monitor ASR 自动加标点 知识图谱构建 set + pos dep-parser 规则方式(抱团规则) summarization(TF-IDF提取关键 阅读全文
posted @ 2020-09-26 15:36 ZH奶酪 阅读(811) 评论(0) 推荐(0) 编辑
摘要: 50亿实体、5500亿事实 事件有更强的知识表达能力 事件抽取比赛,发布了数据集 阅读全文
posted @ 2020-09-26 14:43 ZH奶酪 阅读(999) 评论(0) 推荐(0) 编辑
摘要: 搜狗知识图谱背景 价值清晰、被证明 收益明确 实现包括多个环节 多义项消歧 AI营养师【搜索+图谱+对话】!!!!! 同传 阅读全文
posted @ 2020-09-26 13:35 ZH奶酪 阅读(584) 评论(0) 推荐(0) 编辑
摘要: 16亿实体、48亿关系、1000亿SPO。 赋能搜索(搜索5层架构,策略及小模型层) 基于图谱路径召回 知识构建、知识计算、知识应用 问答场景 按答案来源划分:KBQA/(IR)FAQ/(Doc)MRC 方案对比 技术对比 技术全景图(实体约束理解) NLU 实体链接在NLU中的应用 意图识别(bo 阅读全文
posted @ 2020-09-26 12:27 ZH奶酪 阅读(791) 评论(0) 推荐(0) 编辑
摘要: 层级化概念网络 如何确定商品所属概念 BLC:Basic Level Concept; c=concept e=entity 如何表征商品关系、复合领域约束 场景体系、时效热点、产品次、概念、品牌、店铺、搭配、商品、实体。。。 用户知识图谱(基本属性、人群属性) 如何基于KG对用户兴趣建模? 基于K 阅读全文
posted @ 2020-09-26 11:33 ZH奶酪 阅读(1964) 评论(0) 推荐(0) 编辑
摘要: 达观数据 知识图谱平台 知识图谱构建与应用 知识图谱Schema 结构化数据->知识图谱 非结构化数据->知识图谱 NER NER方法 基于规则的NER 基于浅层模型的NER 基于BiLSTM-CRF的NER(14~18年) 基于BERT的NER 实体关系抽取 关系抽取方法 基于规则的关系抽取 基于 阅读全文
posted @ 2020-09-26 10:29 ZH奶酪 阅读(1339) 评论(0) 推荐(0) 编辑
摘要: ![](https://img2020.cnblogs.com/blog/323808/202009/323808-20200908131410195-1528445369.png)![](https://img2020.cnblogs.com/blog/323808/202009/323808-20200908131821132-228848317.png)![](https://img2020... 阅读全文
posted @ 2020-09-08 13:46 ZH奶酪 阅读(160) 评论(0) 推荐(0) 编辑
摘要: sigmoid会衰减输入的影响(大input,小output),层数过多的话,导致输入对cost的影响几乎为0 ReLU是Maxout的特例,Maxout比ReLU更灵活 如何训练Maxout 等价这个网络(不同的样本更新不同的参数) 优化器AdaGrad RMSProp local minima( 阅读全文
posted @ 2020-09-05 13:14 ZH奶酪 阅读(188) 评论(0) 推荐(0) 编辑
摘要: Contextual Query Understanding,根据上文补全当前Query 为了热更,只需新增一个intent cls。 对话策略配置 阅读全文
posted @ 2020-09-05 12:58 ZH奶酪 阅读(326) 评论(0) 推荐(0) 编辑
摘要: ![](https://img2020.cnblogs.com/blog/323808/202009/323808-20200905115624930-1311074372.png) ![](https://img2020.cnblogs.com/blog/323808/202009/323808-20200905120404850-817148045.png) ![](https://img20 阅读全文
posted @ 2020-09-05 12:29 ZH奶酪 阅读(408) 评论(0) 推荐(0) 编辑
摘要: 图神经网络,强化学习,对话策略 对话状态:food=chinese 置信状态(分布):food= chinese 0.6,italian 0.4 简单的聚合函数是平均,下边是两种改进方案: 【词级别信息引入网络?】 阅读全文
posted @ 2020-09-05 11:54 ZH奶酪 阅读(359) 评论(0) 推荐(0) 编辑
摘要: ![](https://img2020.cnblogs.com/blog/323808/202009/323808-20200905105740814-2060963162.png)![](https://img2020.cnblogs.com/blog/323808/202009/323808-20200905104625543-586842972.png)![](https://img2020... 阅读全文
posted @ 2020-09-05 11:08 ZH奶酪 阅读(316) 评论(0) 推荐(0) 编辑