Ich suche keinen Käufer für drei Macs.
Ich suche jemanden, der mit mir daraus ein Geschäft macht.
Die These dahinter ist einfach:
Unternehmen werden ihre KI ins eigene Haus holen wollen.
Nicht jede KI. Nicht jede Anwendung.
Aber genau die Systeme, die mit internem Wissen arbeiten, Code schreiben, Dokumente verarbeiten, Entscheidungen vorbereiten und irgendwann einen erheblichen Teil der digitalen Arbeit eines Unternehmens erledigen.
Heute schicken wir dafür Daten zu einer API.
Morgen könnte die KI einfach wieder dort stehen, wo auch die Firma steht.
Die Idee: Fable Class
Die erste Fable Class soll aus drei leistungsfähigen Mac Studio Ultra bestehen.
Maximaler Unified Memory. Direkte Verbindung der Maschinen. Darauf ein großes Open-Weight-Modell.
Als Extremtest nehmen wir Kimi K3 mit rund 2,8 Billionen Parametern.
Warum ein solches Monster?
Weil ich nicht beweisen möchte, dass wir ein kleines 30B- oder 70B-Modell lokal ausführen können.
Das können wir längst.
Mich interessiert die Grenze.
Wie viel KI kann ein Unternehmen heute bereits selbst besitzen?
Die Rechnung wird interessant
Bei drei Maschinen mit jeweils 512 GB Unified Memory hätten wir:
3 × 512 GB = 1.536 GB
also rund 1,5 TB Unified Memory im Cluster.
Ein Modell mit 2,8 Billionen Parametern benötigt überschlägig:
16 Bit → ~5,6 TB
8 Bit → ~2,8 TB
4 Bit → ~1,4 TB
3 Bit → ~1,05 TB
2 Bit → ~700 GB
Damit liegt ein K3 in einer Quantisierung um 3 Bit plötzlich in einer Größenordnung, die auf drei Maschinen interessant wird.
Etwa:
1.050 GB Modellgewicht
verteilt auf:
1.536 GB verfügbaren Speicher.
Es blieben rechnerisch knapp 500 GB Reserve für Runtime, Context, KV-Cache und andere Komponenten.
Das ist zunächst eine Simulation und eine technische These.
Jetzt muss daraus ein realer Benchmark werden.
Warum ausgerechnet Macs?
Weil wir NVIDIA nicht darin schlagen wollen, NVIDIA zu sein.
Wer maximale GPU-Rechenleistung benötigt, eine bestehende CUDA-Infrastruktur besitzt oder höchste Tokenraten erreichen muss, hat gute Gründe für NVIDIA.
Mich interessiert eine andere Eigenschaft:
sehr großer Unified Memory.
CPU und GPU greifen auf denselben Speicher zu. Wir müssen nicht versuchen, gigantische Modelle in vergleichsweise kleine einzelne VRAM-Pools zu pressen.
Dann kommt die Verbindung der Maschinen ins Spiel.
Die Idee ist, das Modell über mehrere Nodes zu verteilen und die Kommunikation zwischen ihnen über eine schnelle Thunderbolt-Verbindung abzuwickeln.
Ob die Bridge schnell genug ist und welche Aufteilung optimal funktioniert, ist eine der zentralen Fragen des Projekts.
Genau deshalb muss Fable Class gebaut werden.
Nicht als PowerPoint.
Als Maschine.
Das eigentliche Produkt ist nicht Kimi K3
Das ist wichtig.
K3 ist ein Testmodell. Fable Class wäre die Plattform.
Heute läuft darauf Kimi.
Morgen vielleicht ein anderes großes Open-Weight-Modell.
Daneben könnten kleinere spezialisierte Modelle laufen:
ein Coding-Modell,
ein internes Wissensmodell,
ein Dokumentenmodell,
Vision,
Speech,
Agenten,
Datenanalyse,
RAG,
oder kleine Operator-Modelle, die andere Modelle und Werkzeuge steuern.
Das Unternehmen kauft also nicht „Kimi K3“.
Es kauft seine eigene KI-Infrastruktur.
Stellen wir das Ding einfach in die Firma
Genau hier sehe ich die mögliche Produktkategorie.
Keine Halle voller Server.
Kein eigenes Rechenzentrum.
Keine sechsstellige Spezialinstallation als zwingende Voraussetzung.
Eine vorkonfigurierte Appliance kommt ins Unternehmen.
Anschließen.
Netzwerk konfigurieren.
Unternehmensdaten anbinden.
Modelle laden.
Agenten starten.
Fertig ist die private KI.
Natürlich ist die Realität technisch komplizierter.
Aber genau diese Komplexität darf nicht das Problem des Kunden sein.
Das wäre unser Problem.
Und damit unser Produkt.
Verkauft wird nicht Hardware
Die Macs kann jeder bei Apple kaufen.
Der Wert liegt woanders:
Fable OS / Runtime
Cluster-Konfiguration.
Model Deployment.
Quantisierung.
Routing.
Agent Runtime.
Unternehmens-RAG.
Berechtigungen.
Monitoring.
Backups.
Updates.
Security.
Integration bestehender Unternehmenssysteme.
Und vor allem:
ein System, das nach der Installation funktioniert.
Damit verändert sich auch das Geschäftsmodell.
Wir könnten Hardware inklusive Installation verkaufen.
Wir könnten die Software lizenzieren.
Wir könnten Wartungsverträge anbieten.
Wir könnten Modelle für bestimmte Branchen vorbereiten.
Wir könnten Unternehmen komplette private Agenteninfrastrukturen installieren.
Die Hardware wäre nur das Fundament.
Warum sollten Unternehmen das wollen?
Weil Cloud-KI einen fundamentalen Nachteil besitzt:
Sie gehört dem Unternehmen nicht.
Bei einer API bestimmt ein anderer über Preise, Limits, Modelle und Produktlebenszyklen.
Und sensible Daten müssen zumindest für die Verarbeitung die eigene Infrastruktur verlassen, sofern keine spezielle abgeschottete Cloudarchitektur eingesetzt wird.
Bei Fable Class wäre die Ausgangslage umgekehrt.
Die Hardware gehört dem Kunden.
Die Modelle liegen beim Kunden.
Die Unternehmensdaten bleiben beim Kunden.
Der Kunde entscheidet, wann ein Modell aktualisiert wird.
Und interne Anwendungen können so gebaut werden, dass sie vollständig lokal funktionieren.
Keine API ist für die eigentliche Inferenz notwendig.
Und wenn das Internet ausfällt?
Dann arbeitet die KI weiter.
Das halte ich für einen unterschätzten Punkt.
Wir bauen gerade immer wichtigere Unternehmensprozesse auf Infrastruktur auf, die außerhalb des Unternehmens betrieben wird.
Fable Class dreht das Prinzip um.
Internet weg?
Die lokale KI läuft.
Cloudanbieter hat eine Störung?
Die lokale KI läuft.
API wird verändert?
Die lokale KI interessiert das nicht.
Das ist keine vollständige Unabhängigkeit – Strom, Hardware, Software und Wartung bleiben natürlich notwendig.
Aber die Abhängigkeiten verändern sich fundamental.
Die Maschine könnte zehn Jahre arbeiten
Auch deshalb finde ich das wirtschaftlich interessant.
Ich behaupte nicht, dass ein heutiger Mac Studio in zehn Jahren noch Frontier-Hardware sein wird.
Natürlich nicht.
Aber 512 GB RAM werden nicht plötzlich zu 0 GB RAM.
Drei Maschinen mit insgesamt rund 1,5 TB Speicher bleiben Maschinen mit rund 1,5 TB Speicher.
Neue Modelle werden effizienter.
Quantisierung wird besser.
Inference Engines werden besser.
Und irgendwann übernimmt eine neue Generation die schwierigsten Aufgaben.
Was passiert dann mit der alten Fable Class?
Sie wird Worker.
RAG-Server.
Coding-Cluster.
Batch-Inference.
Embedding-Maschine.
Archiv-KI.
Entwicklungscluster.
Oder sie übernimmt die hundert kleineren Modelle, für die die neue Hardware zu schade ist.
Damit entsteht eine weitere interessante Idee:
Fable Class könnte wachsen
Heute:
3 Nodes.
In drei Jahren vielleicht:
3 neue Nodes + 3 alte Worker.
Später:
weitere Generationen.
Statt alle paar Jahre die gesamte KI-Infrastruktur wegzuwerfen, könnte ein Unternehmen einen lokalen Compute-Pool aufbauen.
Neue Hardware übernimmt die Spitze.
Alte Hardware wandert nach hinten.
Damit wäre Fable nicht einfach ein Computer.
Es wäre eine wachsende private KI-Infrastruktur.
Und genau dafür suche ich jemanden
Ich suche nicht primär jemanden, der drei Macs herumstehen hat.
Ich suche einen Partner, Förderer oder Investor, der die größere Idee versteht.
Wir müssen zunächst herausfinden:
Wie gut skaliert ein Multi-Trillion-Parameter-MoE tatsächlich über drei dieser Maschinen?
Wo liegt der Flaschenhals der Bridge?
Welche Quantisierung liefert das beste Verhältnis aus Qualität, Geschwindigkeit und Speicher?
Wie sieht eine robuste Cluster-Runtime aus?
Wie installieren wir das so, dass ein mittelständisches Unternehmen keinen ML-Ingenieur dafür einstellen muss?
Und schließlich:
Was muss eine lokale Unternehmens-KI können, damit jemand nicht drei Macs kauft – sondern eine Fable Class?
Daraus kann ein Produkt entstehen.
Hardware.
Software.
Installation.
Wartung.
Modelle.
Agenten.
Integration.
Security.
Alles aus einer Hand.
Meine These
Wir haben die letzten Jahre darüber gesprochen, wie Unternehmen KI aus der Cloud beziehen.
Die nächste Frage könnte viel interessanter werden:
Was passiert, wenn leistungsfähige KI-Infrastruktur so klein und bezahlbar wird, dass Unternehmen sie einfach selbst besitzen können?
Dann verändert sich der Markt.
KI wird vom gemieteten Dienst wieder zum Produktionsmittel.
Eine Maschine im eigenen Gebäude.
Mit dem Wissen des Unternehmens.
Mit seinen Agenten.
Mit seinen Regeln.
Und mit einem simplen Unterschied:
Sie gehört ihm.
Das möchte ich ausprobieren.
Die Rechnungen und Simulationen sind gemacht.
Als Nächstes müssen wir die Maschine bauen.
Ich suche dafür einen Partner, der Fable Class gemeinsam mit mir vom Experiment zum Produkt entwickeln will.
Leave a Reply