iota Kurs (SN9)

iota (SN9) ist nach Projektangaben die Subnetz-9-Initiative von Macrocosmos im Bittensor-Ökosystem. Hinter dem Projekt steht Macrocosmos, ein im März 2024 gegründetes Team, das laut eigener Darstellung aus dem ursprünglichen Bittensor-Umfeld hervorgegangen ist. IOTA steht für „Incentivised Orchestrated Training Architecture“ und beschreibt keine klassische Einzelkryptowährung, sondern eine Infrastruktur, die Rechenleistung, Modelltraining und ökonomische Anreize in einem gemeinsamen Prozess bündelt. Über das Projekt hinaus verweist Macrocosmos mit „Train at Home“ auf einen Zugang, der auch außerhalb professioneller Rechenzentren Mitwirkung ermöglichen soll.

Technisch setzt das System auf daten- und pipelineparalleles Training. Nach den offiziellen Unterlagen verteilt ein Orchestrator Modellschichten auf heterogene Miner, streamt Aktivierungen zwischen ihnen, speichert Zwischenstände in einem gemeinsamen S3-Bucket und lässt Validatoren die ausgeführten Arbeiten stichprobenartig prüfen. So soll sich das Netzwerk auch mit uneinheitlicher, störanfälliger Hardware betreiben lassen, ohne dass jeder Teilnehmer das gesamte Modell lokal vorhalten muss. Für den Betrieb empfiehlt das Repository laut README eine CUDA-GPU mit mindestens 16 GB VRAM und Ubuntu 22.04.

Adressiert wird damit vor allem das Spannungsfeld zwischen Skalierung, Zugänglichkeit und Effizienz im dezentralen KI-Training: Klassische Ansätze verlangen oft zu viel lokale Rechenleistung oder verschwenden wertvolle Arbeit durch Winner-takes-all-Mechaniken. IOTA versucht, diese Hürde zu senken und auch kleinere oder nur zeitweise verfügbare Systeme in den Trainingsprozess einzubinden. Gerade darin liegt der Reiz des Modells: Es will brachliegende Kapazität produktiv machen, statt sie ungenutzt zu lassen. Laut GitHub-Repository läuft derzeit ein Llama-inspiriertes Modell mit 1,5 Milliarden Parametern und drei Trainingsabschnitten; künftige Ausbaustufen bis 15, 50 und 100 Milliarden Parametern sind bereits skizziert.