MoCoP: Modular Contextual Processing
Neuronale Architektur · 2026
Modellübergreifender Speichertransfer durch Injektion von Mamba-Hidden-States in Transformer-LoRA-Gewichte. Zerlegung großer Sprachmodelle in spezialisierte, kontextbewusste Module, die auf Consumer-Hardware lokal ausführbar sind.
MoCoP untersucht, ob ein Hypernetwork die Repräsentationslücke zwischen rekurrenten State-Space-Modellen und aufmerksamkeitsbasierten Transformern überbrücken kann — und dabei persistenten Speicher ohne vollständige Kontextserialisierung ermöglicht. Phase 1 etablierte einen messbaren Signalpeak in Layer 3 (55,7 % Probe-Genauigkeit gegenüber 22 % Rauschboden). Phase 2 zielt auf architekturübergreifende Gewichtsinjektion ab.
Speichersignal-Peak
Probe-Genauigkeit
Aktuelle Phase