12 2021 档案

摘要:获取关于参数的信息 HTTP微框架Bobo有个使用内省函数的例子 # Bobo直到hello需要person参数,并且从HTTP请求中获取它 import bobo @bobo.query('/') def hello(person): return 'Hello %s!' % person bob 阅读全文
posted @ 2021-12-31 13:06 里列昂遗失的记事本 阅读(77) 评论(0) 推荐(0)
摘要:使用不完整的线性自动编码器执行PCA 如果自动编码器仅使用线性激活,并且成本函数是均方误差MSE,则最后执行的是主成分分析(PCA) 以下代码构建了一个简单的线性自动编码器,来对3D数据集执行PCA,将其投影到2D: from tensorflow import keras encoder = ke 阅读全文
posted @ 2021-12-30 22:37 里列昂遗失的记事本 阅读(89) 评论(0) 推荐(0)
摘要:有效的数据表示 你发现以下哪个数字顺序最容易记忆? 40,27,25,36,81,57,10,73,19,68 50,48,46,44,42,40,38,36,34,32,30,28,26,24,22,20,18,16,14 乍一看,第一个序列似乎应该更容易些,因为它要短得多。但是,如果仔细看第二个 阅读全文
posted @ 2021-12-30 21:34 里列昂遗失的记事本 阅读(85) 评论(0) 推荐(0)
摘要:拟牛顿法(Python实现) 使用拟牛顿法(BFGS和DFP),分别使用Armijo准则和Wolfe准则来求步长 求解方程 $f(x_1,x_2)=(x_1^2-2)^4+(x_1-2x_2)^2$的极小值 import numpy as np # import tensorflow as tf d 阅读全文
posted @ 2021-12-30 11:55 里列昂遗失的记事本 阅读(1790) 评论(0) 推荐(0)
摘要:共轭梯度法(Python实现) 使用共轭梯度法,分别使用Armijo准则和Wolfe准则来求步长 求解方程 $f(x_1,x_2)=(x_1^2-2)^4+(x_1-2x_2)^2$的极小值 import numpy as np # import tensorflow as tf def gfun( 阅读全文
posted @ 2021-12-30 01:55 里列昂遗失的记事本 阅读(2317) 评论(0) 推荐(0)
摘要:最新语言模型的创新 2018年被称为”NLP的ImageNet时刻“:进展惊人,越来越大的LSTM和基于Transformer的架构在庞大的数据集上得到了训练 Matthew Peters撰写的ELMo论文介绍了从语言模型来的嵌入(Embeddings from Language Model,ELM 阅读全文
posted @ 2021-12-29 20:53 里列昂遗失的记事本 阅读(92) 评论(0) 推荐(0)
摘要:注意力机制 这是Dzmitry Bahdanai等人在2014年的突破性论文中的核心思想。他们介绍了一种技术,该技术允许编码器在每个时间步长中专注于适当的单词(由编码器编码)。例如,在编码器需要输出单词'lait'的时间步长上,它会把注意力集中在单词'milk'上。这意味着从输入单词到其翻译的路径变 阅读全文
posted @ 2021-12-29 19:55 里列昂遗失的记事本 阅读(906) 评论(0) 推荐(0)
摘要:重用预训练的嵌入 TensorFlow Hub项目可以轻松地在自己的模型中重用经过预训练的模型组件。这些模型组件称为模块。只需要浏览TF Hub储存库,就能找到需要的,然后将代码示例复制到下项目中,该模块将连同其预先训练的权重一起自动下载并包含在模型中: # 在情感分析模型中使用nnlm-en-di 阅读全文
posted @ 2021-12-19 14:42 里列昂遗失的记事本 阅读(92) 评论(0) 推荐(0)
摘要:掩码屏蔽 模型需要学习应该忽略掉填充令牌。可以设置告诉模型去忽略掉填充令牌,以便它可以专注于实际很重要的数据。实际上这很容易:在创建嵌入(Embedding)层时只需添加mask_zero=True。这意味着所有下游层都将忽略填充令牌(其ID为0) 这种工作方式是Embedding层创建一个等于K. 阅读全文
posted @ 2021-12-18 19:01 里列昂遗失的记事本 阅读(183) 评论(0) 推荐(0)
摘要:情感分析 如果MNIST是计算机视觉的“hello world”,那么IMDB评论数据集就是自然语言处理的“hello world”:它提取了来自著名的互联网电影数据库的50000条英文电影评论(其中25000条用于训练,25000条用于测试),每条评论的简单二元目标值表明了该评论是负面(0)还是正 阅读全文
posted @ 2021-12-18 12:51 里列昂遗失的记事本 阅读(373) 评论(0) 推荐(0)
摘要:从定位参数到仅限关键字参数 Python最好的特性之一是提供了极为灵活的参数处理机制,而且Python3进一步提供了仅限关键字参数(keyword-only argument)。与之密切相关的是,调用函数时使用*和**展开可迭代对象,映射到单个参数 # tag函数用于生成HTML标签;使用名为cls 阅读全文
posted @ 2021-12-18 10:44 里列昂遗失的记事本 阅读(63) 评论(0) 推荐(0)
摘要:函数内省 除了__doc__,函数对象还有很多属性。使用dir函数可以探知factorial具有下述属性: def factorial(n): return 1 if n < 2 else n * factorial(n - 1) dir(factorial) ['__annotations__', 阅读全文
posted @ 2021-12-18 10:20 里列昂遗失的记事本 阅读(70) 评论(0) 推荐(0)
摘要:用户定义的可调用类型 不仅Python函数是真正的对象,任何Python对象都可以表现得像函数。为此,只需要实现方法__call__ # 调用BingoCage实例,从打乱的列表中取出一个元素 import random class BingoCage: def __init__(self, ite 阅读全文
posted @ 2021-12-17 21:27 里列昂遗失的记事本 阅读(62) 评论(0) 推荐(0)
摘要:可调用对象 除了用户定义的对象,调用运算符(即())还可以应用到其他对象上。如果想判断对象能否调用,可以使用内置的callable()函数。 Python数据模型文档列出了7种可调用对象 1.用户定义的函数 使用def语句或lambda表达式创建 内置函数 使用C语言(CPython)实现的函数,如 阅读全文
posted @ 2021-12-17 21:04 里列昂遗失的记事本 阅读(74) 评论(0) 推荐(0)
摘要:匿名函数 lambda关键字在Python表达式内部创建匿名函数 然后,Python简单的语法限制了lambda函数的定义体只能使用纯表达式。lambda函数的定义体中不能赋值,也不能使用while和try等Python语句 在参数列表中最适合使用匿名函数 # 使用lambda表达式反转拼写,然后依 阅读全文
posted @ 2021-12-17 20:54 里列昂遗失的记事本 阅读(64) 评论(0) 推荐(0)
摘要:模拟生成微软序列号 描述 微软产品一般都一个25位的序列号,是用来区分每份微软产品的产品序列号。产品序列号由五组被“-”分隔开,由字母数字混合编制的字符串组成,每组字符串是由五个字符串组成。如: 36XJE-86JVF-MTY62-7Q97Q-6BWJ2 每个字符是取自于以下24个字母及数字之中的一 阅读全文
posted @ 2021-12-16 16:56 里列昂遗失的记事本 阅读(3939) 评论(0) 推荐(1)
摘要:校验身份证号码并输出个人信息 描述 中国目前采用的是18位身份证号,其第7-10位数字是出生年,11-12位是出生月份,13-14是出生日期,第17位是性别,奇数为男性,偶数为女性,第18位是校验位。 如果身份证号码的其中一位填错了(包括最后一个校验位),则校验算法可以检测出来。如果身份证号的相邻2 阅读全文
posted @ 2021-12-16 16:42 里列昂遗失的记事本 阅读(1969) 评论(0) 推荐(0)
摘要:高阶函数 接受函数为参数,或者把函数作为结果返回的函数是高阶函数(high-order function)。map函数就是一个,内置函数sorted也是:可选的key参数用于提供一个函数,它会应用到各个元素上进行排序 # 根据单词长度给一个列表排序 fruits = ['strawbery', 'f 阅读全文
posted @ 2021-12-16 12:50 里列昂遗失的记事本 阅读(745) 评论(0) 推荐(0)
摘要:一等函数 在Python中,函数是一等对象。编程语言理论家把“一等对象”定义为满足下述条件的程序实体: 在运行时创建 能赋值给变量或数据结构中的元素 能作为参数传递给函数 能作为函数的返回结果 在Python中,整数、字符串和字典都是一等对象 把函数视作对象 Python函数是对象 # 创建并测试一 阅读全文
posted @ 2021-12-16 12:23 里列昂遗失的记事本 阅读(82) 评论(0) 推荐(0)
摘要:支持字符串和字节序列的双向API 标准库中的一些函数能接受字符串或字节序列作为参数,然后根据类型展现不同的行为。re和os模块中就有这样的函数 正则表达式中的字符串和字节序列 如果使用字节序列构建正则表达式,\d和\w等模式只能匹配ASCII字符;相比之下,如果是字符串模式,就能匹配ASCII之外的 阅读全文
posted @ 2021-12-16 11:23 里列昂遗失的记事本 阅读(80) 评论(0) 推荐(0)
摘要:Unicode文本排序 Python比较任何类型的序列时,会一一比较序列里的各个元素。对字符串来说,比较的是码位,可是在比较非ASCII字符时,得到的结果不如人意。 fruits = ['caju', 'atemoia', 'caja', 'acai', 'acerola'] sorted(frui 阅读全文
posted @ 2021-12-16 10:52 里列昂遗失的记事本 阅读(176) 评论(0) 推荐(0)
摘要:创建训练数据集 首先,使用Keras的get_file()函数来下载莎士比亚的所有作品,并从Andrej Karpathy的Char-RNN项目中下载数据: import tensorflow as tf from tensorflow import keras shakespeare_url = 阅读全文
posted @ 2021-12-15 23:24 里列昂遗失的记事本 阅读(585) 评论(0) 推荐(0)
摘要:处理长序列 在长序列上训练一个RNN,必须运行很多时间步长,从而展开的RNN成为一个非常深的网络。就像任何深度神经网络一样,它可能会遇到不稳定的梯度问题:它可能永远在训练,或者训练可能会不稳定。此外,当RNN处理一个长序列时,它会逐渐忘记序列中的第一个输入。 应对不稳定梯度问题 在深度网络中用于应对 阅读全文
posted @ 2021-12-13 16:29 里列昂遗失的记事本 阅读(412) 评论(0) 推荐(0)
摘要:极值充分条件 设二元函数$f$在点$P_0(x_0,y_0)$的某邻域$U(P_0)$上具有二阶连续偏导数,且$P_0$是$f$的稳定点。则当$H_f(P_0)$是正定矩阵时,$f$在点$P_0$处取得极小值;当$H_f(P_0)$是负定矩阵时,$f$在点$P_0$处取得极大值;当$H_f(P_0) 阅读全文
posted @ 2021-12-11 10:53 里列昂遗失的记事本 阅读(534) 评论(0) 推荐(0)
摘要:只是用位级和逻辑运算,编写一个C表达式,它等价于x==y。当x和y相等时返回1,否则返回0 int main(void) { int x = 32, y = 32; printf("%d\n", !((~x & y) | (~y & x))); //若x与y相等,则对x取反后与y做位与运算全为0,对 阅读全文
posted @ 2021-12-07 15:15 里列昂遗失的记事本 阅读(463) 评论(0) 推荐(0)
摘要:import wx class MyFrame(wx.Frame): def __init__(self, parent, id): super(MyFrame, self).__init__(parent, id, title='用户登录', size=(400, 300)) panel = wx 阅读全文
posted @ 2021-12-07 14:49 里列昂遗失的记事本 阅读(45) 评论(0) 推荐(0)
摘要:循环神经元和层 到目前为止,我们只关注前馈神经网络,其中激活仅在一个方向上流动,从输入层流向输出层。循环神经网络看起来非常像前馈神经网络,除了它还具有指向反向的连接。最简单的RNN由一个神经元接收输入,产生输出并将该输出返送回自身组成。在每个时间步长$t$(也称为帧),该循环神经网络接收输入$x_{ 阅读全文
posted @ 2021-12-06 23:30 里列昂遗失的记事本 阅读(299) 评论(0) 推荐(0)
摘要:使用RNN和CNN处理序列 击球手将球击出。外野手立即开始奔跑,预测球的轨迹。他跟踪它,调整自己的运动,最后抓住球。不管你是在听完朋友的话还是在早餐时期待咖啡的味道,预测都是你一直在做的事情。循环神经网络(RNN),这是一类可以预测未来的网络(在一定程度上)。它们可以分析时间序列数据(例如股票价格) 阅读全文
posted @ 2021-12-06 15:22 里列昂遗失的记事本 阅读(228) 评论(0) 推荐(0)
摘要:语义分割 在语义分割中,每个像素根据其所属物体的类别(例如,道路、汽车、行人、建筑物等)进行分类。例如分割图像右侧的所有自行车都变成了一大块像素。此任务的主要困难在于,当图像通过常规CNN时,它们会逐渐失去其空间分辨率(由于步幅大于1的层),因此常规的CNN可能最终会知道在图像的左下角有一个人,但不 阅读全文
posted @ 2021-12-06 15:15 里列昂遗失的记事本 阅读(207) 评论(0) 推荐(0)
摘要:YOLO YOLO是Joseph Redmon等人在2015年的论文中提出的一种极其快速、准确的物体检测架构随后在2016年(YOLOv2)和2018(YOLOv3)中进行了改进。 YOLOv3的架构和全卷积网络的架构非常相似,但有一些重要的区别: 它为每个网格单元输出5个边界框(而不是一个),并且 阅读全文
posted @ 2021-12-06 14:53 里列昂遗失的记事本 阅读(713) 评论(0) 推荐(0)