Skip to main content

ARCA — Adaptive Resonant Cortical Architecture

Project description

ARCA: Advanced Recurrent Cognitive Architecture

Version License Build

ARCA est une architecture hybride de modèle de langage haute performance (wgpu / Rust) qui combine :

  • Un Réservoir Dynamique (LSM) de 4096 unités pour la dynamique temporelle locale.
  • Une Mémoire Hebbienne Plastique (Bio-Inspired) avec des couches gérées par contrôle homéostatique.
  • Un mécanisme d'Attention Hybride avec KV-Cache pour la récupération à long terme (In-Context Learning).
  • Un Pipeline GPU "Zero-Sync" Extrême conçu pour une exécution 100% VRAM-first (WGSL), avec compression FP16 et exécution par lots (Batching).

🚀 Fonctionnalités Clés (v2.5.0)

ARCA est spécifiquement optimisé pour éliminer le goulot d'étranglement des architectures hybrides : les transferts sur le bus PCIe et la bande passante mémoire.

⚡ Inférence "GPU-First" & "Batched"

Lors de l'inférence, zéro synchronisation CPU-GPU n'a lieu pour le calcul du graphe de l'encodeur jusqu'à l'échantillonnage.

  1. Pipeline VRAM Intégral : Encodeur -> Attention KV-Cache -> Reservoir -> Projections -> Agrégation -> Logits -> Top-K Sampling.
  2. Exécution Matrice-Matrice (Batching GEMM) : Le GPU gère B séquences d'inférence en parallèle massif.
  3. Zéro Readback : Les états internes (s_t, KV-Cache, mémoire hebbienne) ne quittent jamais la VRAM.
  4. Précision Mixte FP16 : Toutes les matrices statiques (Reservoir, Embeddings, Attention) sont stockées compressées en f16 et dézippées (unpack2x16float) à la volée par les shaders WGSL, doublant virtuellement la Memory Bandwidth.

🎲 Échantillonnage Top-K VRAM

La sélection probabiliste est assistée par le GPU : Un shader de réduction multi-passes trouve les K meilleurs tokens et masque les logits. Le CPU ne lit que B * K paires (Token, Logit) (une poignée d'octets) pour appliquer la Température et un Tirage Pondéré (Softmax).

🏋️‍♂️ Entraînement Haute Performance (Zero-Sync Orchestré)

  • Orchestration Explicite : Le CPU orchestre le graphe d'apprentissage via des dispatches WGSL précis.
  • Clean Swap Buffers : L'état s_t et les matrices de mémoire Hebbiennes utilisent des "ping-pong buffers" gérés de façon zero-copy sur la VRAM.
  • Readback Minimal Stable Point : Les états s_t et les logits sont rappatriés en un seul appel synchronisé.

🛠️ Architecture Hybride

1. ArcaSystem (Orchestrateur Principal)

L'objet central qui gère le graphe global, le dictionnaire BPE, et les flux de tokens.

// Exemple d'inférence batch extrême
let token_ids = system.forward_step_extreme_inference(&bytes_batch, &t_batch, &bpe_batch, 0.8);

2. GpuInferenceContext (Vulkan/Metal/DX12)

Moteur wgpu contenant tous les compute pipelines compilés et les buffers persistants FP16 :

  • encoder.wgsl : Hachage des n-grams, lookup BPE et convolution causale.
  • attention.wgsl : Mécanisme d'attention hybride avec gestion dynamique du KV-Cache.
  • reservoir_update.wgsl : Calcule tanh(R * s_{t-1} + W_in * x) en matrice-matrice (batch).
  • projections.wgsl : Projections locales pour la mise à jour plastique.
  • hebbian_plasticity.wgsl : Règle de Hebb (outer-product) avec clamp homéostatique.
  • aggregate.wgsl : Combinaison holographique des mémoires.
  • logit_compute.wgsl : Produit scalaire massif sur la table d'embedding.
  • top_k_sampling.wgsl : Réduction K-passes pour l'échantillonnage inférence.

3. Contrôleur Métabolique (CPU)

Gère le "climat" (macro-variables) qui module la plasticité selon l'erreur de prédiction : $\beta$ (tension), $\lambda$ (oubli), $\sigma$ (homéostasie).


📦 Installation & Compilation

ARCA nécessite Rust (Edition 2021) et un GPU compatible avec les backends wgpu.

# Cloner le projet
git clone https://github.com/corbac10099/ARCA.git
cd ARCA

# Compiler avec support GPU natif (Recommandé)
cargo build --release --features gpu

# Lancer les tests unitaires
cargo test --release --features gpu

ARCA est conçu pour la recherche en apprentissage hebbien et le calcul hybride (Liquid State Machine + Deep Learning) aux limites du matériel moderne.

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

arca_core-0.1.1.tar.gz (5.5 MB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

arca_core-0.1.1-cp311-cp311-win_amd64.whl (2.8 MB view details)

Uploaded CPython 3.11Windows x86-64

File details

Details for the file arca_core-0.1.1.tar.gz.

File metadata

  • Download URL: arca_core-0.1.1.tar.gz
  • Upload date:
  • Size: 5.5 MB
  • Tags: Source
  • Uploaded using Trusted Publishing? No
  • Uploaded via: twine/6.2.0 CPython/3.11.1

File hashes

Hashes for arca_core-0.1.1.tar.gz
Algorithm Hash digest
SHA256 cc4b423f7a0ab1e5dec69796142e5c7ee1845db20dffb586d47f9bc624205902
MD5 192424b6cc753a21d3d20d869663c632
BLAKE2b-256 e622e9b6535478cdac14475b4286dd35d5dbbafe433a518457fc08942dfb5922

See more details on using hashes here.

File details

Details for the file arca_core-0.1.1-cp311-cp311-win_amd64.whl.

File metadata

  • Download URL: arca_core-0.1.1-cp311-cp311-win_amd64.whl
  • Upload date:
  • Size: 2.8 MB
  • Tags: CPython 3.11, Windows x86-64
  • Uploaded using Trusted Publishing? No
  • Uploaded via: twine/6.2.0 CPython/3.11.1

File hashes

Hashes for arca_core-0.1.1-cp311-cp311-win_amd64.whl
Algorithm Hash digest
SHA256 53b8e28d0fdefa71be6a29ae47a24b239bbef0da778a69d12e47d39fb93a3bf8
MD5 f9fbd4d1c0066263da8f81720c83ab67
BLAKE2b-256 2ec6d68d305373d094389475a4da6afda515a330b3b1565e809d3e787f00a31f

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page