Tree-AI-lab/smollm-corpus-multilingue

SmolLM-Corpus Multilingue (EN • FR • BCI) — Tree AI Lab

Corpus multilingue de pré-entraînement dérivé de HuggingFaceTB/smollm-corpus et enrichi avec des piliers de raisonnement mathématique et déductif (HuggingFaceTB/finemath, open-thoughts/OpenThoughts-114k). Produit par Tree AI Lab dans le cadre du projet BABA (IA souveraine africaine).

Chaque sous-ensemble est organisé dans son dossier spécifique et directement chargeable individuellement via l'API Hugging Face :

`python from datasets import load_dataset

Charger Cosmopedia-v2 (Parquet : EN, FR, Baoulé)

ds_cosmo = load_dataset('Tree-AI-lab/smollm-corpus-multilingue', 'cosmopedia-v2', split='train')

Charger FineWeb-Edu (Parquet : EN, FR, Baoulé)

ds_fineweb = load_dataset('Tree-AI-lab/smollm-corpus-multilingue', 'fineweb-edu-dedup', split='train')

Charger FineMath (Parquet : Raisonnement mathématique EN, FR, Baoulé)

ds_finemath = load_dataset('Tree-AI-lab/smollm-corpus-multilingue', 'finemath', split='train')

Charger OpenThoughts (Parquet : Traces de raisonnement & Chaînes de pensée CoT ...)

ds_thoughts = load_dataset('Tree-AI-lab/smollm-corpus-multilingue', 'open-thoughts', split='train')

Charger Python-Edu (Parquet : code source brut préservé)

ds_python = load_dataset('Tree-AI-lab/smollm-corpus-multilingue', 'python-edu', split='train') `

Architecture des dossiers

Dossier	Type	Shards / Documents	Format	Description
cosmopedia-v2/	Synthétique éducatif	Shards 001 à 005	Parquet Snappy & JSONL	Textes synthétiques traduits en Français et Baoulé
ineweb-edu-dedup/	Web éducatif filtré	Shard 006 (150K docs)	Parquet Snappy	Pages web éducatives traduites en Français et Baoulé
python-edu/	Code informatique	Shard 007	Parquet Snappy	Code Python source intact (préservation stricte de la syntaxe)
inemath/	Raisonnement mathématique	12 Shards (120 904 docs)	Parquet Snappy	Raisonnement formel, équations LaTeX et résolutions multilingues
open-thoughts/	Traces CoT & Backtracking	2 Shards (30 000 docs)	Parquet Snappy	Traces de raisonnement profond avec balises ... préservées

Schéma des colonnes

Colonne	Type	Description
id	string	Identifiant unique du document
source	string	Sous-ensemble d'origine (ex: cosmopedia-v2, inemath, open-thoughts)
parquet	string	Fichier source d'origine
lang	string	Code ISO de langue (n, r, ci)
ext	string	Contenu textuel dans la langue spécifiée