Kronos: sham (candlestick) grafiklarini transformer tilida gapirishga o'rgatuvchi asos model

Kronos sharhi - OHLCV shamlarini bashorat qilish uchun asos model. BSQ tokenizatori, ierarxik dekoder, ikki bosqichli sempling, Qlib o'qitish quvur liniyasi. Model birjaning 'tilini' qanday o'rganadi.

Kronos — candlestick tokenization

Agar bozor shovqin bo'lsa, keyingi shamni bashorat qilishga har qanday urinish radio statikasini dekodlashga o'xshaydi. Kronos mualliflari tubdan farqli yondashuvni taklif qilishadi: birja shamlarini diskret tokenlarga aylantirish (til so'zlari kabi) va transformerni "keyingi so'zni" — ya'ni keyingi shamni — bashorat qilishga o'rgatish.

Bu "har qanday holat uchun" universal vaqt qatori transformeri emas, balki kalendar xususiyatlariga ega ko'p o'lchamli K-chiziqlar (OHLCV) uchun ixtisoslashgan model. shiyu-coder/Kronos repozitoriysi MIT litsenziyasi ostida ochiq, og'irliklar Hugging Face'da joylashgan, maqola esa AAAI 2026ga qabul qilingan.

Asosiy g'oya: shamlar = til

Xuddi ChatGPT matnda keyingi so'zni bashorat qilishni o'rganganidek, Kronos narx qatorida keyingi shamni bashorat qilishni o'rganadi. Ammo avval asosiy muammoni hal qilish kerak: sham — bu uzluksiz vektor (ochilish, eng yuqori, eng past, yopilish, hajm), transformerlar esa diskret tokenlar bilan ishlaydi.

Yechim — ikki bosqichli arxitektura:

  1. Tokenizator (BSQ) — uzluksiz shamni diskret kodga siqadi
  2. Dekoder (transformer) — keyingi kodni avtoregressiv tarzda bashorat qiladi

BSQ tokenizatori: shamni ikkita songa qanday siqish mumkin

BSQ tokenizer Kronos

Asosiy modul — Binary Spherical Quantizer (BSQ):

  • Uzluksiz sham vektori sferaga proyeksiyalanadi (F.normalize)
  • Keyin u binar kodga kvantlanadi
  • Kod ikki darajaga bo'linadi: taxminiy (S1) va batafsil (S2)

Bu — lug'at faktorizatsiyasi: S1 × S2 o'lchamdagi ulkan lug'at o'rniga model ikkita kichik embedding jadvalidan foydalanadi — bu ancha samaraliroq.

Ierarxik dekoder: avval stsenariy, keyin tafsilotlar

Ikkilangan bosh (DualHead) ketma-ket ishlaydi:

  1. Avval model S1ni bashorat qiladi — "taxminiy stsenariy" (ko'tariladimi? tushadimi? taxminan qanchaga?)
  2. Keyin S1 qat'iylashtirilgan holda S2ni aniqlashtiradi — tafsilotlar (aniq narxlar, hajm)

Havolalar

Xulosa

Kronos "vaqt qatorlari uchun yana bir transformer" emas, balki izchil quvur liniya: kodbukni boshqarish imkoniyatiga ega BSQ tokenizatori, ikki diskretlashtirish darajasiga ega ierarxik til modeli, ikki bosqichli sempling bilan avtoregressiya, lokal oyna normalizatsiyasi. Bu "shamlar = til" g'oyasining ochiq amalga oshirilishi.