ARCA — Adaptive Resonant Cortical Architecture
Project description
ARCA: Advanced Recurrent Cognitive Architecture
ARCA est une architecture hybride de modèle de langage haute performance (wgpu / Rust) qui combine :
- Un Réservoir Dynamique (LSM) de 4096 unités pour la dynamique temporelle locale.
- Une Mémoire Hebbienne Plastique (Bio-Inspired) avec des couches gérées par contrôle homéostatique.
- Un mécanisme d'Attention Hybride avec KV-Cache pour la récupération à long terme (In-Context Learning).
- Un Pipeline GPU "Zero-Sync" Extrême conçu pour une exécution 100% VRAM-first (WGSL), avec compression FP16 et exécution par lots (Batching).
🚀 Fonctionnalités Clés (v2.5.0)
ARCA est spécifiquement optimisé pour éliminer le goulot d'étranglement des architectures hybrides : les transferts sur le bus PCIe et la bande passante mémoire.
⚡ Inférence "GPU-First" & "Batched"
Lors de l'inférence, zéro synchronisation CPU-GPU n'a lieu pour le calcul du graphe de l'encodeur jusqu'à l'échantillonnage.
- Pipeline VRAM Intégral :
Encodeur -> Attention KV-Cache -> Reservoir -> Projections -> Agrégation -> Logits -> Top-K Sampling. - Exécution Matrice-Matrice (Batching GEMM) : Le GPU gère
Bséquences d'inférence en parallèle massif. - Zéro Readback : Les états internes (
s_t, KV-Cache, mémoire hebbienne) ne quittent jamais la VRAM. - Précision Mixte FP16 : Toutes les matrices statiques (Reservoir, Embeddings, Attention) sont stockées compressées en
f16et dézippées (unpack2x16float) à la volée par les shaders WGSL, doublant virtuellement la Memory Bandwidth.
🎲 Échantillonnage Top-K VRAM
La sélection probabiliste est assistée par le GPU :
Un shader de réduction multi-passes trouve les K meilleurs tokens et masque les logits. Le CPU ne lit que B * K paires (Token, Logit) (une poignée d'octets) pour appliquer la Température et un Tirage Pondéré (Softmax).
🏋️♂️ Entraînement Haute Performance (Zero-Sync Orchestré)
- Orchestration Explicite : Le CPU orchestre le graphe d'apprentissage via des
dispatchesWGSL précis. - Clean Swap Buffers : L'état
s_tet les matrices de mémoire Hebbiennes utilisent des "ping-pong buffers" gérés de façon zero-copy sur la VRAM. - Readback Minimal Stable Point : Les états
s_tet leslogitssont rappatriés en un seul appel synchronisé.
🛠️ Architecture Hybride
1. ArcaSystem (Orchestrateur Principal)
L'objet central qui gère le graphe global, le dictionnaire BPE, et les flux de tokens.
// Exemple d'inférence batch extrême
let token_ids = system.forward_step_extreme_inference(&bytes_batch, &t_batch, &bpe_batch, 0.8);
2. GpuInferenceContext (Vulkan/Metal/DX12)
Moteur wgpu contenant tous les compute pipelines compilés et les buffers persistants FP16 :
encoder.wgsl: Hachage des n-grams, lookup BPE et convolution causale.attention.wgsl: Mécanisme d'attention hybride avec gestion dynamique du KV-Cache.reservoir_update.wgsl: Calculetanh(R * s_{t-1} + W_in * x)en matrice-matrice (batch).projections.wgsl: Projections locales pour la mise à jour plastique.hebbian_plasticity.wgsl: Règle de Hebb (outer-product) avec clamp homéostatique.aggregate.wgsl: Combinaison holographique des mémoires.logit_compute.wgsl: Produit scalaire massif sur la table d'embedding.top_k_sampling.wgsl: Réduction K-passes pour l'échantillonnage inférence.
3. Contrôleur Métabolique (CPU)
Gère le "climat" (macro-variables) qui module la plasticité selon l'erreur de prédiction : $\beta$ (tension), $\lambda$ (oubli), $\sigma$ (homéostasie).
📦 Installation & Compilation
ARCA nécessite Rust (Edition 2021) et un GPU compatible avec les backends wgpu.
# Cloner le projet
git clone https://github.com/corbac10099/ARCA.git
cd ARCA
# Compiler avec support GPU natif (Recommandé)
cargo build --release --features gpu
# Lancer les tests unitaires
cargo test --release --features gpu
ARCA est conçu pour la recherche en apprentissage hebbien et le calcul hybride (Liquid State Machine + Deep Learning) aux limites du matériel moderne.
Project details
Release history Release notifications | RSS feed
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.
Source Distribution
Built Distribution
Filter files by name, interpreter, ABI, and platform.
If you're not sure about the file name format, learn more about wheel file names.
Copy a direct link to the current filters
File details
Details for the file arca_core-0.1.1.tar.gz.
File metadata
- Download URL: arca_core-0.1.1.tar.gz
- Upload date:
- Size: 5.5 MB
- Tags: Source
- Uploaded using Trusted Publishing? No
- Uploaded via: twine/6.2.0 CPython/3.11.1
File hashes
| Algorithm | Hash digest | |
|---|---|---|
| SHA256 |
cc4b423f7a0ab1e5dec69796142e5c7ee1845db20dffb586d47f9bc624205902
|
|
| MD5 |
192424b6cc753a21d3d20d869663c632
|
|
| BLAKE2b-256 |
e622e9b6535478cdac14475b4286dd35d5dbbafe433a518457fc08942dfb5922
|
File details
Details for the file arca_core-0.1.1-cp311-cp311-win_amd64.whl.
File metadata
- Download URL: arca_core-0.1.1-cp311-cp311-win_amd64.whl
- Upload date:
- Size: 2.8 MB
- Tags: CPython 3.11, Windows x86-64
- Uploaded using Trusted Publishing? No
- Uploaded via: twine/6.2.0 CPython/3.11.1
File hashes
| Algorithm | Hash digest | |
|---|---|---|
| SHA256 |
53b8e28d0fdefa71be6a29ae47a24b239bbef0da778a69d12e47d39fb93a3bf8
|
|
| MD5 |
f9fbd4d1c0066263da8f81720c83ab67
|
|
| BLAKE2b-256 |
2ec6d68d305373d094389475a4da6afda515a330b3b1565e809d3e787f00a31f
|