NINMENI — Framework Model Bahasa Native Indonesia
NINMENI adalah kerangka riset dan rekayasa untuk membangun model bahasa yang native terhadap bahasa Indonesia, dari lapisan paling dasar.
Hierarki: framework NINMENI → paradigma NMU → model (contoh: Veyra).
- NMU (ninmeni meaning unit) — paradigma representasi: satu karakter = satu identitas tetap, di ruang karakter statis universal. Tanpa segmentasi sub-kata, tanpa UNK. Bahasa Indonesia hidup dari imbuhan; dengan membaca per karakter, akar kata selalu tampak utuh di setiap turunannya — model menemukan pola imbuhan sendiri.
- Veyra — model pertama yang lahir dari kerangka ini (beta).
Isi repo
nmu/ codec NMU (paket paradigma) (encode/decode 1 karakter = 1 ID, registry-driven)
registry/ ruang karakter statis (nmu_v1.json)
model/ model REFERENSI (decoder polos) — titik colok arsitektur Anda; BUKAN arsitektur Veyra
training/ loop pelatihan unified (pretraining + SFT satu loop) + sampler shard
pipeline/ build_shards.py — teks JSONL -> shard ids (mmap-able)
configs/ contoh konfigurasi
docs/ panduan kurikulum data
examples/ contoh format kurikulum (pretraining & SFT)
Mulai cepat
- Siapkan korpus JSONL
{"teks": "..."}(lihatexamples/curriculum/). - Shardize:
python pipeline/build_shards.py --inputs korpus.jsonl --out data/shards - Latih:
python -m training.train_unified_native --config configs/contoh_75m.yaml \ --shards data/shards/train --sft data/sft_train.jsonl --registry registry/nmu_v1.json
Status & batas yang jujur
Proyek ini dibuka bertahap. Kode di sini adalah pipeline yang benar-benar dipakai membangun Veyra 75M (beta) — bukan kode demonstrasi. Yang TIDAK ada di repo ini: bobot model, arsitektur internal Veyra (model/ berisi referensi polos sebagai titik colok — lihat docs/antarmuka-model.md), korpus pelatihan, dan catatan riset internal. Evaluasi menyeluruh menunggu dokumentasi teknis rilis penuh.
Kontribusi & lisensi
Kode di repo ini dilisensikan di bawah Apache License 2.0 (lihat LICENSE).
Kontribusi dipersilakan melalui issue / pull request.
Kontak
Emylton Leunufna — pencipta framework NINMENI & paradigma NMU — emylleons8@gmail.com
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.
Source Distribution
Built Distribution
Filter files by name, interpreter, ABI, and platform.
If you're not sure about the file name format, learn more about wheel file names.
Copy a direct link to the current filters
File details
Details for the file ninmeni-0.1.4.tar.gz.
File metadata
- Download URL: ninmeni-0.1.4.tar.gz
- Upload date:
- Size: 56.0 kB
- Tags: Source
- Uploaded using Trusted Publishing? No
- Uploaded via:
twine/6.2.0 CPython/3.11.7
File hashes
| Algorithm | Hash digest | |
|---|---|---|
| SHA256 |
c1944fb454b1afc05d0149395662ea55f8b7a9976e3f7dc67247ee9c62b74453
|
|
| MD5 |
0d728ea2c13544d3a6586630cfb7262f
|
|
| BLAKE2b-256 |
d712ddd6587226f7e71197e70a0d2cd97b5a6cf86e723c820c729f0550834db6
|
File details
Details for the file ninmeni-0.1.4-py3-none-any.whl.
File metadata
- Download URL: ninmeni-0.1.4-py3-none-any.whl
- Upload date:
- Size: 20.7 kB
- Tags: Python 3
- Uploaded using Trusted Publishing? No
- Uploaded via:
twine/6.2.0 CPython/3.11.7
File hashes
| Algorithm | Hash digest | |
|---|---|---|
| SHA256 |
5e7fb9b69f9d97a56bbc3cb683000ccaaed4ace5e923072d9bc3dbc27145d13e
|
|
| MD5 |
6f9ede89d8e3ab631cccd3fb708b9e00
|
|
| BLAKE2b-256 |
6dfb017452bae58d4256f03c9ddd3377086d21e5c4eb9a9a40703ac73b319eb2
|