Journal / Architektur · 5 Minuten

Was 7,17 % kürzere Laufzeit konkret bedeuten

Die Geschichte eines kurzen Datenwegs, und warum die Vergleichsbasis zu jeder Zahl gehört.

Prozessor auf grüner Leiterplatte in Makroaufnahme

Die Summe an ihrem Platz halten

Die Rechenwerke müssen bei jedem Schritt auf die fortlaufende FP32-Summe zugreifen. In einer früheren Mehrkontextvariante lag die Auswahl zwischen mehreren Summen auf diesem zeitkritischen Weg. Der neue Entwurf hält die aktive Summe fest am Rechenwerk und tauscht sie nur an Blockgrenzen aus.

41 Takte machen den Unterschied

Im vorab definierten Hauptfall benötigt unsere Ein-Kontext-Referenz 572 Takte. Der neue Entwurf braucht 531. Bei denselben 50 ns pro Takt werden aus 28,60 µs genau 26,55 µs. Die relative Verkürzung beträgt 7,167832 Prozent.

Der Ressourcenpreis ist bekannt

Die modellierte Energie steigt um 1,97 Prozent, die aktive Instanzfläche um 6,80 Prozent. Wer den Entwurf weiterverwendet, kann diesen Tausch zwischen Laufzeit, Energie und Fläche konkret beurteilen.

Vom Versprechen zum Forschungsbericht

Der Vergleich verbindet gleiche Numerik, Bitprüfung, Detailverdrahtung, extrahierte Zeitgrenzen und Aktivitätsauswertung. Die kürzere Laufzeit ist damit ein dokumentiertes Architekturergebnis des kleinen Blocks. Seine Übertragung auf vollständige Modelle ist eine separate Aufgabe.

Eine von vier Lanes: BF16-Eingabe a und BF16-Gewicht b gehen in die FMA. Ihr FP32-Ergebnis wird im aktiven Register gespeichert und auf den Summeneingang zurückgeführt. Drei weitere FP32-Summen liegen in lokalen Registern. Nur an Blockgrenzen tauscht die Steuerung den aktiven und einen inaktiven Kontext; der Austausch kostet einen zusätzlichen Takt. Die vier Lanes enthalten zusammen 128 aktive und 384 inaktive Summenbits. Auch die Referenz besitzt aktive Register, nutzt jedoch SRAM für Kontextwechsel. Operandenspeicher bleiben nötig.