Software & Arbeitsweise

Vom Modell
zum überprüften Entwurf.

Unsere Forschungssoftware verbindet ausführbare Modelle, Hardwareverträge und offene Chipdesign-Werkzeuge. So wird aus einer Idee ein Vergleich mit überprüfbaren Ergebnissen.

Kompaktes Beschleunigermodul mit zentralem Metallpackage und umliegender Versorgungselektronik.

Der durchgängige Pfad

Eine Operation.
Über alle Ebenen verbunden.

PyTorch
Graph & Gewichte
→HAL / Runtime
Aufträge & Daten
→RTL-Kachel
Rechnen & Weitergabe
→Referenzprüfung
Bits & Flags

Der ausgeführte Vertrag tile-graph-v1 verbindet zwei Linear-Operationen mit ReLU und BF16-Zwischenrundung. Unterstützt werden Batch 1, K von 1 bis 64 und vier Zwischen- beziehungsweise Endwerte. Modellgewichte lassen sich ohne Reset wechseln. Weitere Graphen erhalten eigene geprüfte Verträge.

Den Softwarebericht lesen

Unsere Arbeitsweise

Sechs Schritte.
Ein gemeinsamer Nachweis.

Entwickler an einem sachlichen Arbeitsplatz mit Code- und Vergleichsansicht auf dem Monitor.
01 / WORKFLOW

Frage und Referenz festlegen

Eine Aufgabe, gleiche Numerik, starke Vergleichsausführung und ein vorab definierter Lastfall. Erfolgsmaße, Abbruchregeln und Ressourcenbudget werden gemeinsam festgehalten.

160 simulierte Speicherkanäle versorgen endliche Antwortpuffer und ein Rechenarray über kanallokale Gewichtsports. Antwortplätze, Ports und Rückstau begrenzen den Datenfluss. Gemessene Simulationszähler: 5,421 TB/s für Q und 2,385 TB/s für MLP-down. Die gezeichneten Kanal- und Zellgruppen sind schematisch.
02 / WORKFLOW

Modell und Datenbewegung ausführen

PyTorch liefert Operationen und Testeingaben. Port- und Ereignismodelle zählen tatsächliche Bewegungen, Puffer, Gewichte, Summen und Rückstau.

Der getestete Ablauf serialisiert vier FP32-Ergebnisregister per Ready/Valid. ReLU und BF16-Rundung liefern vier Werte in einem 64-Bit-Packer mit Empfangsmaske. Wenn alle vier Werte vorliegen und Kachel 1 fertig ist, folgt ein A-SRAM-Write und der Start von Kachel 2. Es gibt keine FIFO und kein direktes FMA-zu-FMA-Pipelining. Nur die C-SRAM-Zugriffe der ersten Kachel entfallen; die Speichermakros bleiben erhalten.
03 / WORKFLOW

Den Rechenpfad in RTL beschreiben

Die Laufzeitsoftware übersetzt den unterstützten Graphen in Kachelaufträge. BF16-Operanden, FP32-Summen und Kontextwechsel haben einen expliziten Vertrag.

Präzises Prüfobjektiv über einer regelmäßigen Die-Matrix auf einem Siliziumwafer.
04 / WORKFLOW

Funktion unabhängig prüfen

Ganzzahlreferenzen, bitgenaue Ausgaben, Flags und Gegenfälle prüfen die Numerik. Rückstau, unregelmäßige Wechsel und absichtlich fehlerhafte Kontrollen prüfen den Ablauf.

Geschlossene Präzisionsanlage in einem hellen Reinraum.
05 / WORKFLOW

Platzieren, verdrahten, analysieren

Synthese und OpenROAD führen von RTL zu physischen Daten. Extrahierte Leitungen, Timing und verzögerte Aktivität liefern die lokale Zeit-, Flächen- und Energiebilanz.

Die getestete Matrix schrumpft von 178.257.920 auf 136.369.536 Byte. Nach Dekodierung sind alle 89.128.960 BF16-Werte bitgenau identisch. Der gemessene GPU-Kern wird dadurch nicht schneller.
06 / WORKFLOW

Belege zusammenführen und veröffentlichen

Konfigurationen, Quellstände, Rohberichte und Hashes bleiben erhalten. Forschungsberichte erklären die Ergebnisse. Offene Datensätze machen die Kennzahlen nachrechenbar.

Eigener Beitrag & offene Werkzeuge

Die Software hinter den Ergebnissen.

SchichtUnsere ArbeitWerkzeugbasis
Modell & NumerikAufgabenverträge, Referenzoperatoren, Graphübersetzung, BF16/FP32-PrüfungenPyTorch, Python
SpeichersystemGekoppelte Requests, endliche Puffer, Ports und RechenabhängigkeitenRamulator 2, native Ereignismodelle
RechenkachelKontextsteuerung, aktive Summen, direkte Weitergabe, TestbenchesVerilog/SystemVerilog, Berkeley HardFloat
Physischer EntwurfVergleichskonfiguration, SRAM-Anschlüsse, Abnahme und AuswertungsadapterYosys, OpenROAD, IHP Open PDK, Timing- und Netzlistensimulation
KI im ProzessZurückgehaltene Aufgaben, feste Kontrollstrategien, Reparaturen mit und ohne FeedbackLernverfahren, Codex, Gemini über Vertex
NachweisQuell- und Rohdatenbindung, Offlineaudits, öffentliche RechenchecksGit, Python, begrenzte CI- und Cloud-Run-Läufe

Die aufgeführten Projekte sind Werkzeuggrundlagen. Daraus folgt keine Partnerschaft oder Unterstützung durch deren Anbieter.

Silhouette einer forschenden Person am Bildschirm in einem lichtdurchfluteten Labor.

KI im Entwurfsprozess

Vorschlagen.
Ausführen.
Überprüfen.

KI hilft beim Formulieren, Programmieren und Untersuchen von Entwürfen. Ihre Vorschläge durchlaufen dieselben Funktions- und Ressourcenprüfungen wie feste Regeln. In unseren bisherigen kleinen Syntheseaufgaben erreichten zwei Regeln und ein Entscheidungsbaum dieselbe Zahl von Werkzeugaufrufen. Ein allgemeiner KI-Aufwandsvorteil folgt daraus noch nicht.

Den KI-Vergleich nachvollziehen

Einblick in die Codebasis

Kleine Verträge.
Explizite Übergänge.

experiments/
  tile_forward_graph/   PyTorch → HAL → verbundene RTL-Kacheln
  tile_chain/           Referenznumerik und Kachelverbindung
  context_swap/         aktive Summen, Kontextwechsel, Layoutaudit
tests/                  Funktions- und Abnahmekontrollen
docs/                   Forschungsberichte und Vergleichsprotokolle

Quellcodeauszüge, Vergleichsdaten und ausführbare Prüfungen sind direkt auf dieser Website als ZIP verfügbar. Die Downloadseite nennt genau, welche Schritte sich damit wiederholen lassen und welche externen Werkzeuge zusätzliche Voraussetzungen haben.

Verfügbare Daten und Code öffnen