摘要：一 前置知识 1. Embedding表示语义 想想两一百多年前，第一位西方传教士来到中国清朝，面对完全陌生的汉字体系，他该如何与中国人进行初步的沟通呢？最简单的方法是：根据中间实物对应。比如，他面前有一个苹果，中国人指着苹果说“苹果”，他就把“苹果”这个词和实物苹果，以及英文单词apple对应起来 阅读全文

摘要：求解大规模QPP问题，几乎是是每一种基于核方法的机器学习算法最终要面对的问题，求解器的发展也有及其长的历史，本文记录笔者学习过程中遇到的几种代表性，重要的方法。 接着，本文将继续推导其他不限于QPP的经典solver的实现细节。包括内点法等经典方法，以及现代神经网络训练使用到的adam等主流优化器。 阅读全文

摘要：title: 经典优化算法 math: true date: 2024-8-2 tags: - 机器学习 categories: - 机器学习 - 白板推导 优化算法概论 理想的优化算法有以下几个特点 数值解 \(\{x_k\}_{k=0}^{\infty}\)的迭代，实际中操作使用有限次，满足一定 阅读全文