文章分类 - 类脑人工智能科学(AI)
人工智能是一门极富挑战性的科学,从事这项工作的人必须懂得计算机知识,心理学和哲学。人工智能是包括十分广泛的科学,它由不同的领域组成,如机器学习,计算机视觉等等,总的说来,人工智能研究的一个主要目标是使机器能够胜任一些通常需要人类智能才能完成的复杂工作。但不同的时代、不同的人对这种“复杂工作”的理解是不同的。 [1] 2017年12月,人工智能入选“2017年度中国媒体十大流行语”。 [2] 2021年9月25日,为促进人工智能健康发展,《新一代人工智能伦理规范》发布
摘要:摘要 2024-03-01 周五 杭州 阴雨绵绵 过年回来杭州以后,Sora 就放大招了,我对于生成效果也是感觉惊讶,但是没有像其他人那样吹的天花乱坠,因为我自己体验和试验过 Sora 相关的技术,SD 文生图,大语言模型和视频解码都了解那么一点点,底层确实不很清楚,这次我就要好好学习下,这种东西肯
阅读全文
摘要:摘要 2024-02-14 周三 桑梓 晴 小记: 中文大语言模型训练 课程内容 总结
阅读全文
摘要:摘要 2024-02-11 周日 桑梓 晴 小记: 明知道 AI 将会颠覆一切,但是目前又是风平浪静。 课程内容 1. 大模型三要素 算法: 模型结构,训练方法; 数据: 数据和模型效果之间的关系,token 分词方法; 算力: 英伟达 GPU ,模型量化; 2. 大模型对话系统架构 3. 提示学习
阅读全文
摘要:摘要 2024-02-08 周四 桑梓 小雾 课程内容 1. 基础原理 关键点: 因为技术认知存在问题,所以之前的研究会把 NLP 和 CV 区分开;随着 Transfomer 技术的发展,NLP 和 CV 将会融合在一起。 2. 应用场景 图文匹配 DELL-E 关键词: a. 文字 token
阅读全文
摘要:摘要 2024-02-07 周三 桑梓 晴 小记: 人生如戏,全靠演技; 课程内容 1. 机器学习三大任务 匹配 识别 生成 关键点: 生成模型是下一个 5 年最重要的增长点(工业和学术);生成模型的核心能力可以无中生有,源源不断的进行内容生产,这是一种高级智能。 2. 生成模型的发展路径 难点:
阅读全文
摘要:摘要 课程内容 1. 整体目标 2. 图像编码器 3. 扩散学习: 从噪声到图片 前向扩散 训练样本生成 降噪还原 图像的重建 模型结构 Unet 文生图 总结
阅读全文
摘要:摘要 2024-02-06 周二 桑梓 阴 课程内容 1. 计算机视觉的任务 技术路线: 目标分割 -> 目标检测 -> 目标识别 -> 目标跟踪 目标分割: 像素级别的对前景与背景进行分类,将背景剔除; 目标检测: 定位目标,确定目标位置及大小; 目标识别: 定性目标,确定目标是什么; 目标跟踪:
阅读全文
摘要:摘要 2024-02-05 周一 桑梓地 阴 小记: 多模态大模型搞的脑子有点炸呀!!! 课程内容 1. 基础常识 Transformers 在视觉领域中的应用 模型 detr 目标检测 目标: 目标检测 优点: zero-shot,目标检测的类就可以不在训练样本中出现; yolos和detr共同的
阅读全文
摘要:摘要 一切皆有可能!!! 课程内容 1. 经典分类模型(例如 renet)的问题: a. 类别固定 b. 当前的模型只能胜任一个任务,迁移到新任务上非常困难; c. 类别互斥(softmax) d. 当前的 CV 数据集标注劳动密集,成本高昂; e. 当前的模型泛化能力较差; 2. 双塔架构 0 样
阅读全文
摘要:摘要 2024-02-05 周一 老家 晴 小记: 多模态大语言模型才是未来,多模态不过也是各个模态的组合,未来已来。 课程内容 1. 多模态入门: vit 模型 vit: Vision Transforms 2. CNN vs Transforms 用神经网络对图像进行分类; 越靠近输入的网络,越
阅读全文
摘要:摘要 2024-02-05 周一 老家 阴晴不定 课程内容 1. ChatGLM-6B 简介 关键词: 1B = 10 亿 2. ChatGLM-6B 资源规格 3. ChatGLM-6B 微调代码 4. Lora 技术原理 关键词: 模型公式为 Z=WX+wX ,因为 W 相对来说比较大,因此通过
阅读全文
摘要:摘要 2024-02-05 周一 老家 阴转晴 小记: llama与gpt的关系,如何做一个属于自己的大模型,对于业务没啥兴趣,业务就是动态变化的,但是大模型想要落地还是要和业务结合才可以。 课程内容 1. 羊驼简介 a. 羊驼是开源的大语言模型,相当于移动互联网时代的安卓(os: 工程师不小心放出
阅读全文
摘要:摘要 2024-02-04 周日 老家 阴 小记: 继续学习机器学习相关的知识 课程内容 1. 数据的位宽 32bit float 可以作为弱基线; 对于训练使用 FP16,BF16,TF32; 推理 CV 任务以 int8 为主,NLP 以 FP16 为主,大模型 int8/FP16混合; 2.
阅读全文
摘要:摘要 2024-02-04 周日 老家 阴 小记: 昨天大扫除,搞到灰头土脸,今天乖乖的学习大模型。 课程内容 1. 主流大模型一览 2. 大模型对比一览 3. 产品全线对标 4. 国内大模型流派 关键点: 国内大模型三大流派 清华 glm 百度 各类套壳(只要套llama,版权诉讼考量) 5. 轻
阅读全文
摘要:摘要 2024-02-03 周六 家 阴 小记: 大模型微调开始,每天学习几课时; 课程内容 1. 为什么需要 AI Agent 大模型 + 插件 + 执行流程 = Agent LLM 与 LangChain 等工具结合,释放了内容生成,编码和分析等方面的多种和可能性,目前在 ChatGPT插件中有
阅读全文
摘要:摘要 2024-02-03 周日 家 阴 小记: 本来想着学一些奇技淫巧,纠结了好久还是吃点苦头吧,认真的从基础开始学起,这样后面做自己的应用项目才能游刃有余。 课程内容 1. 人工智能与机器学习 人工智能:广义,人造智能 机器学习:狭义,通过计算机模拟人的智能 强人工智能vs弱人工智能: 强人工智
阅读全文
摘要:摘要 2024-02-03 周六 快乐老家 暴雪 小记: 飞雪,灯火,小年夜 课程内容 1. 模型基础(transformer) 2. 为什么要学数学 关键词(高数,线性代数,概率论,数字逻辑): a. 加深对问题的理解; b. 可以更好的进行创新 c. 面试需要 3. 学数学学哪些? 线性代数 微
阅读全文
摘要:摘要 2022-02-02 周五 快乐老家 阴 小记: 陪我爸下象棋,我输了;陪我妈下围棋,我又输了;但有些事情我是赢的。 课程内容 1. 人工智能是什么? 个人理解: 机器模仿的行为和倾向都是人工智能的范畴; 2. 人工智能和大数据的关系 个人理解: 人工智能是在大数据之上的具备更高智能决策的行为
阅读全文
摘要:摘要 2024-02-02 周五 老家 阴 小记: 静下来,学而思,不要高谈阔论,成长是需要时间的,不急了会有骨质增生的。 课程内容 1. NLP 发展4阶段 关键词: chatgpt 的出现都是有迹可循的必然过程,量变到质变是存在大量积累才会有的突破,因为足够大,所以不容易,创世的产品只要一次就够
阅读全文
摘要:摘要 2023-02-02 周五 老家 阴 2023 年是 AI 元年,2024年6月也是自己工作5年左右的时间,经验和各种技术积累的也差不多了,23年做了些 AIGC 的生成实验,24年初系统的学习下相关技术并且用于生产生活中,传统的业务应用开发终会被取代的,或早或晚。如果自己还算年轻就不要再一些
阅读全文