Kronos: एक फाउंडेशन मॉडल जो कैंडलस्टिक चार्ट को ट्रांसफॉर्मर की भाषा में बोलना सिखाता है

Kronos की समीक्षा - OHLCV कैंडल पूर्वानुमान के लिए एक फाउंडेशन मॉडल। BSQ टोकनाइज़र, पदानुक्रमित डिकोडर, दो-चरण सैंपलिंग, Qlib ट्रेनिंग पाइपलाइन। एक मॉडल एक्सचेंज की 'भाषा' कैसे सीखता है।

Kronos — candlestick tokenization

अगर बाज़ार शोर है, तो अगली कैंडल की भविष्यवाणी करने की कोई भी कोशिश रेडियो स्टैटिक को डिकोड करने जैसी है। Kronos के लेखक एक क्रांतिकारी तरीका सुझाते हैं: एक्सचेंज कैंडल्स को डिस्क्रीट टोकन में बदलना (जैसे किसी भाषा के शब्द) और एक ट्रांसफॉर्मर को "अगला शब्द" — यानी अगली कैंडल — पूर्वानुमान करने के लिए प्रशिक्षित करना।

यह "हर मौके के लिए" कोई सार्वभौमिक टाइम-सीरीज़ ट्रांसफॉर्मर नहीं है, बल्कि कैलेंडर फीचर्स के साथ बहुआयामी K-लाइन्स (OHLCV) के लिए एक विशेष मॉडल है। रिपॉज़िटरी shiyu-coder/Kronos MIT के तहत ओपन है, वेट्स Hugging Face पर हैं, और पेपर को AAAI 2026 में स्वीकार किया गया है।

मूल विचार: कैंडल्स = भाषा

जिस तरह ChatGPT टेक्स्ट में अगले शब्द की भविष्यवाणी करना सीखता है, उसी तरह Kronos प्राइस सीरीज़ में अगली कैंडल की भविष्यवाणी करना सीखता है। लेकिन पहले एक मुख्य समस्या हल करनी होती है: कैंडल एक कंटीन्यूअस वेक्टर होती है (open, high, low, close, volume), जबकि ट्रांसफॉर्मर डिस्क्रीट टोकन के साथ काम करते हैं।

समाधान — दो-स्तरीय आर्किटेक्चर:

  1. टोकनाइज़र (BSQ) — कंटीन्यूअस कैंडल को एक डिस्क्रीट कोड में संपीड़ित करता है
  2. डिकोडर (ट्रांसफॉर्मर) — अगले कोड की ऑटोरिग्रेसिव भविष्यवाणी करता है

BSQ टोकनाइज़र: एक कैंडल को दो संख्याओं में कैसे संपीड़ित करें

BSQ tokenizer Kronos

मुख्य मॉड्यूल — Binary Spherical Quantizer (BSQ):

  • कंटीन्यूअस कैंडल वेक्टर को एक स्फीयर पर प्रोजेक्ट किया जाता है (F.normalize)
  • फिर इसे एक बाइनरी कोड में क्वांटाइज़ किया जाता है
  • कोड को दो स्तरों में विभाजित किया जाता है: मोटा (S1) और विस्तृत (S2)

यह वोकैबुलरी फैक्टराइज़ेशन है: S1 × S2 आकार की एक विशाल डिक्शनरी के बजाय, मॉडल दो छोटी एम्बेडिंग टेबल्स का उपयोग करता है — कहीं अधिक कुशल।

पदानुक्रमित डिकोडर: पहले परिदृश्य, फिर विवरण

डुअल हेड (DualHead) क्रमिक रूप से काम करता है:

  1. पहले मॉडल S1 की भविष्यवाणी करता है — "मोटा परिदृश्य" (ऊपर जाएगा? नीचे जाएगा? लगभग कितना?)
  2. फिर S1 को फिक्स रखते हुए S2 को परिष्कृत करता है — विवरण (सटीक कीमतें, वॉल्यूम)

लिंक

निष्कर्ष

Kronos "टाइम सीरीज़ के लिए एक और ट्रांसफॉर्मर" नहीं है, बल्कि एक सुसंगत पाइपलाइन है: कोडबुक नियंत्रण के साथ BSQ टोकनाइज़र, दो डिस्क्रीटाइज़ेशन स्तरों वाला पदानुक्रमित भाषा मॉडल, दो-चरण सैंपलिंग के साथ ऑटोरिग्रेशन, लोकल विंडो नॉर्मलाइज़ेशन। यह "कैंडल्स = भाषा" विचार का एक ओपन इम्प्लीमेंटेशन है।