摘要：
Coconut（连续思维链）提出了一种新的大语言模型推理范式，该范式在潜在空间中进行运算，利用模型隐藏层生成的连续思维状态取代传统的基于文本的推理方式。系统将这些状态以输入嵌入的形式反馈至模型，通过广度优先搜索方法同时探索多条推理路径，避免了单一路径推理的局限性。通过规避基于自然语言推理的固有效率瓶 阅读全文
摘要：
在现代数据分析领域，时间序列数据的处理和预测一直是一个具有挑战性的问题。随着物联网设备、金融交易系统和工业传感器的普及，我们面临着越来越多的高维时间序列数据。这些数据不仅维度高，而且往往包含复杂的时间依赖关系和潜在模式。传统的时间序列分析方法如移动平均等，在处理此类数据时往往显得力不从心。 基于矩阵 阅读全文
摘要：
超参数优化是深度学习模型开发过程中的一个核心技术难点。合适的超参数组合能够显著提升模型性能，但优化过程往往需要消耗大量计算资源和时间。本文介绍TorchOptimizer，这是一个基于贝叶斯优化方法的超参数优化框架，专门用于优化PyTorch Lightning模型的超参数配置。 TorchOpti 阅读全文
摘要：
Aeon 是一个专注于时间序列处理的开源Python库，其设计理念遵循scikit-learn的API风格，为数据科学家和研究人员提供了一套完整的时间序列分析工具。该项目保持活跃开发，截至2024年仍持续更新。 Aeon提供了以下主要功能模块： 时间序列分类- 支持多种分类算法实现- 包含基于间隔、 阅读全文
摘要：
深度学习作为当前计算机科学领域最具前沿性的研究方向之一，其应用范围涵盖了从计算机视觉到自然语言处理等多个领域。本文将探讨深度学习在游戏领域的一个具体应用：构建一个能够自主学习并完成超级马里奥兄弟的游戏的智能系统。 强化学习基础 强化学习是机器学习的一个重要分支，研究智能体如何通过与环境的交互学习来优 阅读全文
摘要：
本文将详细解读NeurIPS 2024最佳论文：**"Visual Autoregressive Modeling: Scalable Image Generation via Next-Scale Prediction（视觉自回归建模：基于下一尺度预测的可扩展图像生成）"**。 该论文提出了视觉自 阅读全文
摘要：
在深度学习模型部署和优化领域，计算效率与资源消耗的平衡一直是一个核心挑战。PyTorch团队针对这一问题推出了创新性的技术方案——在其原生低精度计算库TorchAO中引入低位运算符支持。这一技术突破不仅实现了1至8位精度的嵌入层权重量化，还支持了具有8位动态量化激活的线性运算符，为解决资源受限环境下 阅读全文
摘要：
循环状态空间模型（Recurrent State Space Models, RSSM）最初由 Danijar Hafer 等人在论文《Learning Latent Dynamics for Planning from Pixels》中提出。该模型在现代基于模型的强化学习（Model-Based 阅读全文
摘要：
特征选择是一个识别数据集中最具相关性变量的过程，其主要目标是提升模型性能并降低系统复杂度。传统特征选择方法存在一定局限性。变量之间往往存在相互依存关系，移除某一变量可能会削弱其他变量的预测能力。 这种方法容易忽视某些变量只有在与其他变量组合时才能提供有效信息的情况。这种局限性可能导致模型性能次优。为 阅读全文
摘要：
我们在工作中经常会遇到一个问题，数据基础设施的设计往往没有充分考虑数据科学的需求。数据仓库或数据湖仓中的大量表格（主要是事实表和维度表）缺乏构建高性能机器学习模型所需的关键字段或结构。其中最显著的局限性在于，大多数表格仅记录观测值的当前状态，而未保留历史记录。 本文将通过缓慢变化维度（Slowly 阅读全文