Kronos: свеча графиктерін трансформер тілінде сөйлеуге үйрететін негіздемелік модель

Kronos шолуы - OHLCV свечаларын болжауға арналған негіздемелік модель. BSQ токенизаторы, иерархиялық декодер, екі кезеңді сэмплинг, Qlib оқыту құбыры. Модель биржаның 'тілін' қалай үйренеді.

Kronos — candlestick tokenization

Егер нарық шу болса, келесі свечаны болжауға деген кез келген әрекет радио статикасын декодтауға ұқсайды. Kronos авторлары түбегейлі тәсіл ұсынады: биржа свечаларын дискретті токендерге айналдыру (тілдегі сөздер сияқты) және трансформерді "келесі сөзді" — яғни келесі свечаны — болжауға үйрету.

Бұл "барлық жағдайларға арналған" әмбебап уақыттық қатар трансформері емес, календарлық белгілері бар көпөлшемді K-сызықтарға (OHLCV) арналған мамандандырылған модель. shiyu-coder/Kronos репозиторийі MIT лицензиясымен ашық, салмақтар Hugging Face платформасында, ал мақала AAAI 2026 конференциясында қабылданды.

Негізгі идея: свечалар = тіл

ChatGPT мәтіндегі келесі сөзді болжауды үйренетіні сияқты, Kronos баға қатарындағы келесі свечаны болжауды үйренеді. Бірақ алдымен негізгі мәселені шешу керек: свеча — үздіксіз вектор (ашылу, ең жоғары, ең төмен, жабылу, көлем), ал трансформерлер дискретті токендермен жұмыс істейді.

Шешім — екі деңгейлі архитектура:

  1. Токенизатор (BSQ) — үздіксіз свечаны дискретті кодқа сығымдайды
  2. Декодер (трансформер) — келесі кодты авторегрессивті түрде болжайды

BSQ токенизаторы: свечаны екі санға қалай сығымдауға болады

BSQ tokenizer Kronos

Негізгі модуль — Binary Spherical Quantizer (BSQ):

  • Үздіксіз свеча векторы сфераға проекцияланады (F.normalize)
  • Содан кейін ол бинарлық кодқа квантталады
  • Код екі деңгейге бөлінеді: болжамды (S1) және егжей-тегжейлі (S2)

Бұл — сөздік факторизациясы: S1 × S2 өлшемді бір үлкен сөздіктің орнына модель екі кіші эмбеддинг кестесін қолданады — бұл әлдеқайда тиімдірек.

Иерархиялық декодер: алдымен сценарий, содан кейін детальдар

Қос бас (DualHead) кезекпен жұмыс істейді:

  1. Алдымен модель S1-ді болжайды — "болжамды сценарий" (өседі ме? төмендейді ме? шамамен қаншаға?)
  2. Содан кейін S1 бекітілген күйде S2-ні нақтылайды — детальдар (нақты бағалар, көлем)

Сілтемелер

Қорытынды

Kronos "уақыттық қатарларға арналған тағы бір трансформер" емес, ол — біртұтас құбыр: кодбук бақылауы бар BSQ токенизаторы, екі дискретизация деңгейі бар иерархиялық тілдік модель, екі кезеңді сэмплингі бар авторегрессия, локалды терезелік нормализация. Бұл "свечалар = тіл" идеясының ашық іске асырылуы.