Skip to main content

ARCA — Adaptive Resonant Cortical Architecture

Project description

ARCA: Advanced Recurrent Cognitive Architecture

Version License Build

ARCA est une architecture hybride de modèle de langage haute performance (wgpu / Rust) qui combine :

  • Un Réservoir Dynamique (LSM) de 4096 unités pour la dynamique temporelle locale.
  • Une Mémoire Hebbienne Plastique (Bio-Inspired) avec des couches gérées par contrôle homéostatique.
  • Un mécanisme d'Attention Hybride avec KV-Cache pour la récupération à long terme (In-Context Learning).
  • Un Pipeline GPU "Zero-Sync" Extrême conçu pour une exécution 100% VRAM-first (WGSL), avec compression FP16 et exécution par lots (Batching).

🚀 Fonctionnalités Clés (v2.5.0)

ARCA est spécifiquement optimisé pour éliminer le goulot d'étranglement des architectures hybrides : les transferts sur le bus PCIe et la bande passante mémoire.

⚡ Inférence "GPU-First" & "Batched"

Lors de l'inférence, zéro synchronisation CPU-GPU n'a lieu pour le calcul du graphe de l'encodeur jusqu'à l'échantillonnage.

  1. Pipeline VRAM Intégral : Encodeur -> Attention KV-Cache -> Reservoir -> Projections -> Agrégation -> Logits -> Top-K Sampling.
  2. Exécution Matrice-Matrice (Batching GEMM) : Le GPU gère B séquences d'inférence en parallèle massif.
  3. Zéro Readback : Les états internes (s_t, KV-Cache, mémoire hebbienne) ne quittent jamais la VRAM.
  4. Précision Mixte FP16 : Toutes les matrices statiques (Reservoir, Embeddings, Attention) sont stockées compressées en f16 et dézippées (unpack2x16float) à la volée par les shaders WGSL, doublant virtuellement la Memory Bandwidth.

🎲 Échantillonnage Top-K VRAM

La sélection probabiliste est assistée par le GPU : Un shader de réduction multi-passes trouve les K meilleurs tokens et masque les logits. Le CPU ne lit que B * K paires (Token, Logit) (une poignée d'octets) pour appliquer la Température et un Tirage Pondéré (Softmax).

🏋️‍♂️ Entraînement Haute Performance (Zero-Sync Orchestré)

  • Orchestration Explicite : Le CPU orchestre le graphe d'apprentissage via des dispatches WGSL précis.
  • Clean Swap Buffers : L'état s_t et les matrices de mémoire Hebbiennes utilisent des "ping-pong buffers" gérés de façon zero-copy sur la VRAM.
  • Readback Minimal Stable Point : Les états s_t et les logits sont rappatriés en un seul appel synchronisé.

🛠️ Architecture Hybride

1. ArcaSystem (Orchestrateur Principal)

L'objet central qui gère le graphe global, le dictionnaire BPE, et les flux de tokens.

// Exemple d'inférence batch extrême
let token_ids = system.forward_step_extreme_inference(&bytes_batch, &t_batch, &bpe_batch, 0.8);

2. GpuInferenceContext (Vulkan/Metal/DX12)

Moteur wgpu contenant tous les compute pipelines compilés et les buffers persistants FP16 :

  • encoder.wgsl : Hachage des n-grams, lookup BPE et convolution causale.
  • attention.wgsl : Mécanisme d'attention hybride avec gestion dynamique du KV-Cache.
  • reservoir_update.wgsl : Calcule tanh(R * s_{t-1} + W_in * x) en matrice-matrice (batch).
  • projections.wgsl : Projections locales pour la mise à jour plastique.
  • hebbian_plasticity.wgsl : Règle de Hebb (outer-product) avec clamp homéostatique.
  • aggregate.wgsl : Combinaison holographique des mémoires.
  • logit_compute.wgsl : Produit scalaire massif sur la table d'embedding.
  • top_k_sampling.wgsl : Réduction K-passes pour l'échantillonnage inférence.

3. Contrôleur Métabolique (CPU)

Gère le "climat" (macro-variables) qui module la plasticité selon l'erreur de prédiction : $\beta$ (tension), $\lambda$ (oubli), $\sigma$ (homéostasie).


📦 Installation & Compilation

ARCA nécessite Rust (Edition 2021) et un GPU compatible avec les backends wgpu.

# Cloner le projet
git clone https://github.com/corbac10099/ARCA.git
cd ARCA

# Compiler avec support GPU natif (Recommandé)
cargo build --release --features gpu

# Lancer les tests unitaires
cargo test --release --features gpu

ARCA est conçu pour la recherche en apprentissage hebbien et le calcul hybride (Liquid State Machine + Deep Learning) aux limites du matériel moderne.

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

arca_core-0.1.0.tar.gz (5.5 MB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

arca_core-0.1.0-cp311-cp311-win_amd64.whl (2.8 MB view details)

Uploaded CPython 3.11Windows x86-64

File details

Details for the file arca_core-0.1.0.tar.gz.

File metadata

  • Download URL: arca_core-0.1.0.tar.gz
  • Upload date:
  • Size: 5.5 MB
  • Tags: Source
  • Uploaded using Trusted Publishing? No
  • Uploaded via: maturin/1.13.3

File hashes

Hashes for arca_core-0.1.0.tar.gz
Algorithm Hash digest
SHA256 882310cdd618d9d11a7b21f9f3594e64c054ff3638b217e0cdf615d81205faba
MD5 87642249790c910f9ea275f170e7033d
BLAKE2b-256 105fc316564e576d340be9e1041afca82406c7ec6728cc9739870c0995ce7216

See more details on using hashes here.

File details

Details for the file arca_core-0.1.0-cp311-cp311-win_amd64.whl.

File metadata

File hashes

Hashes for arca_core-0.1.0-cp311-cp311-win_amd64.whl
Algorithm Hash digest
SHA256 2d937ad7a1cdbc06f20eb2d2156cec0773f755d01cd2ab4e4d2937c511bcecc2
MD5 06a81c9443c35ebd9c6a460b21569b9c
BLAKE2b-256 28f576bce3668f25099a310d5c2bc11101d76e01b609a23fe5e2145c3fc9e689

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page