Kronos:让K线图说Transformer语言的基础模型

Kronos评测 - - OHLCV蜡烛图预测基础模型。BSQ分词器、层次化解码器、两阶段采样、Qlib训练管线。模型如何学习交易所的'语言'。

Kronos — 蜡烛图分词

Kronos的作者提出了一个激进的方法:将交易所K线转换为离散token并训练Transformer预测"下一个词"——即下一根K线。

核心思想:K线 = 语言

就像ChatGPT学习预测文本中的下一个词一样,Kronos学习预测价格序列中的下一根K线。

BSQ分词器:如何将一根K线压缩为两个数字

BSQ分词器

  • 连续K线向量投影到球面上
  • 量化为二进制编码
  • 编码分为两个层级:粗略(S1)和精细(S2)

层次化解码器:先场景后细节

  1. 先预测S1 — "粗略场景"
  2. 在S1固定的情况下细化S2 — 细节

链接