Kronos将K线token化的方法

1、概述

        清华大学推出的开源K线模型Kronos，是第一款金融领域的K线基础大模型。其提出将K线token化的方法，值得借鉴和研究。

2、总体流程

        图1 描述了Kronos将K线token化的流程，包含两个阶段：第一个阶段，将K线抽象为open、close、high、low四个特征，然后经由Encoder将K线的四个特征，映射到潜空间(Latent Space)，随后采用BSQ(Binary Spherical Quantization)，将映射后的K线特征转化为token; 第二个阶段，将K线对应的token，经由Decoder反向映射回open、close、high、low四个特征。

 

 

图1 Kronos将K线token化的流程

 

3、BSQ原理

        图2 描述了BSQ原理，在open、close、high、low四个特征，然后经由Encoder映射到Latent Space后，根据映射后的特征正负进行量化，比如映射后的特征向量为[1.2, 2.0, -1, 3, …, -2.0]，根据特征向量元素取值的正负进行量化，即[+, +, -, +, …, -]。

        图3为BSQ量化部分实现的源码。

 

图2 BSQ原理

 

 

图3 BSQ量化部分实现源码

        在Kronos里，K线量化后的token包含两部分内容：Coarse parts和Fine parts。如图2所示，一个token总共k位，这k位包含k_c个Coarse parts信息和k_f个Fine parts信息。Coarse parts相当于缩略图，Fine parts等价于原图。

　　Kronos在预训练阶段，会用Coarse parts和Coarse parts + Fine parts分别尝试还原原来的K线信息。

 

4、小结

        Kronos试图将股价信息token化，后绪就像NLP里处理文本那样去处理股价信息，这个思路比较新颖，另外，Kronos也展示出如何融合股价信息的一种思路。

 

关注更多安卓开发、AI技术、股票分析技术及个股诊断等理财、生活分享等资讯信息，请关注本人公众号(木圭龙的知识小屋)