Quanten / Forschungsbericht

Lässt sich eine Qwen-Projektion in einen kompakten Quantenschüler übertragen?

Eine Transformation allein macht ein Sprachmodell noch nicht quantengeeignet. Wir trainieren deshalb zunächst einen kleinen Schüler auf einer realen Qwen-Teilmatrix. Der Versuch prüft Darstellungsfehler, klassische Vergleichsmodelle und die Kosten, die eine spätere Quantenimplementierung zusätzlich berücksichtigen müsste.

AR-00407. November 2026Training im SimulatorNicht weiterverfolgt
Konzeptdarstellung eines flachen, annähernd quadratischen vergoldeten Trägers mit blauem Substrat und kompakter zentraler Silberplatte mit Chipaperturen. Keine Fotografie tatsächlich gebauter Feldra-Hardware.

Eine kleine lineare Funktion als erster Filter

Aus der Gate-Projektion der ersten Qwen-Schicht wird eine unveränderte Teilmatrix mit vier Ausgängen und 16 Eingängen verwendet. Die Herkunft der BF16-Gewichte ist über einen gespeicherten Hash geprüft. Die Zielwerte werden mit den daraus rekonstruierten Gewichten in FP64 berechnet. Es handelt sich um eine echte Gewichtsstichprobe, aber um künstliche Eingaben und keine ausgeführten Sprachmodellantworten.

Die Aufgabe ist bewusst klein. Vor einem großen Quantenschüler muss zunächst geklärt werden, ob die vorgeschlagene Schaltungsfamilie überhaupt eine bekannte lineare Funktion hinreichend genau darstellen kann. Das vorab gesetzte Ziel beträgt höchstens 5 % relative numerische Testabweichung in allen drei Zufallsstarts. Ein Bestehen wäre erst der Einstieg in eine Ressourcenprüfung, nicht bereits ein Beschleunigungsnachweis.

Wie der Schüler die Eingabe verarbeitet

Der Schüler nutzt fünf Qubits. Ein 16-dimensionaler Eingabevektor wird normiert und mit Nullen auf einen 32-dimensionalen Zustandsvektor ergänzt. Darauf wirkt eine trainierbare Schaltung aus RY-Rotationen und CX-Verbindungen. Die ersten vier Ausgangsamplituden werden mit der Eingabenorm und vier trainierbaren Ausgangsskalierungen multipliziert. Verglichen werden vier und acht Schaltungslagen.

Diese Amplituden sind im Simulator direkt zugänglich. Eine reale Quantenhardware müsste ihre gewünschte klassische Ausgabe durch ein passendes Messverfahren gewinnen. Dieser Ausleseaufwand wird durch den Lernversuch nicht kostenlos gelöst. Weil die Normierung am Ausgang wieder aufgehoben wird und die Schaltung linear auf den Zustandsvektor wirkt, bleibt die gesamte geprüfte Abbildung eine klassische lineare Funktion der ursprünglichen Eingabe.

Training und Auswahl vom Test trennen

Reproduzierbar erzeugte gaußverteilte Eingaben werden in 256 Trainings-, 128 Validierungs- und 256 Testvektoren aufgeteilt. Beide Schaltungstiefen werden mit drei Seeds und zwei Lernraten trainiert. Jeder Lauf erhält höchstens 160 Updates. Alle 20 Updates wird die Validierungsleistung geprüft. Checkpoint und Lernrate werden ausschließlich anhand dieser Validierung gewählt.

Der Testwert ist die Quadratwurzel aus der gesamten quadrierten Vorhersageabweichung geteilt durch die gesamte quadrierte Zielgröße. Er beschreibt einen relativen Vektorfehler. Er ist keine Perplexität und kein Maß für Sprachverständnis. Der feste Aufbau vermeidet, nachträglich nur günstige Eingaben oder Trainingsstarts zu berichten. Zugleich bleibt die Aussage auf die kleine Matrix und die untersuchte synthetische Eingabeverteilung beschränkt.

Mehr Tiefe verbessert die Näherung, erreicht aber das Ziel nicht

Die Ausführung mit vier Lagen erreicht im Mittel 58,92 % relativen Testfehler. Mit acht Lagen sinkt er auf 27,59 %. Die drei Werte des tieferen Schülers liegen bei etwa 21,02 %, 36,54 % und 25,20 %. Die Verbesserung durch die größere Schaltung ist damit sichtbar. Keiner dieser drei Testwerte erfüllt jedoch das festgelegte 5-%-Ziel.

Eine klassische Rang-2-SVD erreicht etwa 54,80 % Fehler bei 40 gespeicherten Koeffizienten. Der tiefere Quantenschüler besitzt 44 trainierbare Parameter und approximiert die Matrix unter diesem Budget besser. Das ist kein exakt gleicher Parametervergleich. Vor allem bleibt eine starke Kontrolle bestehen: Die ursprüngliche dichte 4-mal-16-Matrix benötigt 64 Koeffizienten und 64 MACs, ohne den zusätzlichen Approximationsfehler des Schülers.

Die klassische Kompilierung ist eine notwendige Kontrolle

Nach dem Training wird der Schüler auf sämtliche 16 Basisvektoren angewendet. Daraus entsteht eine gewöhnliche klassische Matrix, die seine gesamte lineare Funktion beschreibt. Auf den Testeingaben wird geprüft, dass diese kompilierte Matrix denselben Ausgang wie die Schaltung liefert. Damit ist die geringe Zahl trainierbarer Winkel allein kein Argument dafür, die Funktion später auf einem Quantenprozessor auszuführen.

Die gemeinsame Lernserie prüft zudem Gradientenpfad und Schaltungsfunktion unabhängig. Gespeicherte Checkpoints reproduzieren ihre Testscores. Ein separater Qiskit-Prozess kontrolliert ausgewählte trainierte Schaltungen. Diese Prüfungen sichern die Simulation ab. Sie messen weder physische Zustandspräparation noch klassische Amplitudenrekonstruktion, Fehlerkorrektur oder Energieverbrauch einer realen QPU.

Welche Transformation einen neuen Versuch rechtfertigen würde

Der geprüfte Projektionsschüler wird nicht zu einer Hardwareauslegung hochskaliert. Er verfehlt das numerische Ziel, und seine kleine lineare Funktion besitzt eine unmittelbare klassische Realisierung. Längeres Training könnte die Näherung verändern. Es würde die Frage nach dem passenden Ein- und Ausgabevertrag aber nicht automatisch lösen.

Eine neue Hypothese müsste erklären, welche nichttriviale Struktur ein größerer Schüler ausnutzt, wie die Eingangsdaten vorbereitet werden und welche Ausgabe tatsächlich benötigt wird. Wird statt eines vollständigen Zahlenvektors nur ein Symbol oder eine Entscheidung gebraucht, verändert sich die Auslesefrage grundlegend. Genau diese Art von Aufgabenwechsel ist separat prüfbar. Eine vollständige Transformation von Qwen oder unveränderte Sprachmodellfähigkeit ist durch den vorliegenden Teilmatrixversuch nicht nachgewiesen.

Kryostat und Chippackage · zweiteilige Vorlage

Konsequenz für den nächsten Entwurf

Diesen Schüler nicht zur Hardwareauslegung hochskalieren.

Daten und Methode ansehen