Sadou/medai-rural-fr-mix

MedAI Rural FR — Dataset médical pour fine-tuning LLMs (Mix gpt-4o-mini + Gemini)

Date : 2026-05-23 Auteur : Sadou Barry Version : 2.0

Description

Dataset de 6434 raisonnements cliniques structurés (Chain-of-Thought) en français, conçu pour entraîner des modèles d'IA assistants médicaux destinés aux soignants en zone rurale d'Afrique sub-saharienne francophone.

Chaque entrée contient :

• Une question médicale clinique
• 5 passages extraits du corpus MSF (Médecins Sans Frontières)
• Un raisonnement en 4 étapes (Chain-of-Thought) avec citations explicites

Cas d'usage

• Fine-tuning de modèles LLM compacts (Qwen 2.5-1.5B, Phi-3, Llama 3.2) pour déploiement local
• Évaluation de modèles sur questions médicales en contexte africain francophone
• Recherche sur les Retrieval-Augmented Generation (RAG) médicaux
• Benchmark pour systèmes d'assistance aux soignants en zone rurale

Composition

Distribution par type de cas

• Cas_0 (Réponse directe disponible dans le corpus) : 5603 (87.1%)
• Cas_1 (Information absente du corpus (refus structuré)) : 650 (10.1%)
• Cas_3 (Combinaison de plusieurs passages nécessaire) : 175 (2.7%)
• Cas_4 (Information ambiguë (réponse conditionnelle)) : 6 (0.1%)

Distribution par type de question

• criteres_decision : 1644 (25.6%)
• signes_diagnostic : 1277 (19.8%)
• protocole_procedure : 1218 (18.9%)
• choix_therapeutique : 1099 (17.1%)
• posologie : 671 (10.4%)
• adaptation_thera : 415 (6.5%)
• mecanisme_definition : 110 (1.7%)

Modèles utilisés pour la génération

• gemini-2.5-flash : 3598 (55.9%)
• gpt-4o-mini : 2836 (44.1%)

Statistiques

• Longueur moyenne CoT : 1119.8 caractères
• Citations moyennes par CoT : 1.9

Splits & Reproductibilité scientifique

Ce dataset est publié avec 2 structures pour s'adapter à vos besoins :

Structure 1 — Fichier complet (recommandé pour fine-tuning)

from datasets import load_dataset
ds = load_dataset("Sadou/medai-rural-fr-mix", data_files="data/full.jsonl")
# 6434 entries pour faire votre propre split

Structure 2 — Splits standards (recommandé pour benchmarks)

ds = load_dataset("Sadou/medai-rural-fr-mix")
# ds["train"], ds["validation"], ds["test"]

Le dataset est divisé en :

• Full : 100% (6434 entries) — fichier complet
• Train : 80% (5147 entries)
• Validation : 10% (643 entries)
• Test : 10% (~644 entries)

🔬 Reproductibilité du split

Pour garantir une comparaison juste entre modèles, le fichier split_metadata.json contient :

• ✅ La seed utilisée (42)
• ✅ La méthode de stratification (par cas_cible_estime)
• ✅ La liste exacte des IDs dans chaque split (train_ids, validation_ids, test_ids)

import json
import requests

# Charger les IDs des splits
url = "https://huggingface.co/datasets/Sadou/medai-rural-fr-mix/raw/main/split_metadata.json"
meta = requests.get(url).json()

print(f"Train IDs: {len(meta['train_ids'])}")
print(f"Seed used: {meta['split_config']['seed']}")

→ Tout chercheur peut reproduire exactement le même split ou utiliser sa propre seed s'il veut explorer.

Algorithme de split (reproductible)

import random
import json

# 1. Charger le dataset complet
data = [json.loads(l) for l in open("data/full.jsonl")]

# 2. Grouper par cas_cible (stratification)
by_cas = {"Cas_0": [], "Cas_1": [], "Cas_3": [], "Cas_4": []}
for d in data:
    cas = d["metadata"]["cas_cible_estime"]
    by_cas[cas].append(d)

# 3. Split stratifié avec seed=42
random.seed(42)
train, val, test = [], [], []
for cas, items in by_cas.items():
    random.shuffle(items)
    n_train = int(len(items) * 0.80)
    n_val = int(len(items) * 0.10)
    train.extend(items[:n_train])
    val.extend(items[n_train:n_train+n_val])
    test.extend(items[n_train+n_val:])

# 4. Re-shuffle global
random.shuffle(train); random.shuffle(val); random.shuffle(test)

Format

Format ChatML standard pour fine-tuning :

{
  "id": "Q12345",
  "messages": [
    {"role": "system", "content": "Tu es un assistant médical expert..."},
    {"role": "user", "content": "Question + 5 passages disponibles"},
    {"role": "assistant", "content": "{...JSON CoT 4 étapes...}"}
  ],
  "metadata": {
    "cas_cible_estime": "Cas_0",
    "type_question": "posologie",
    "mode_interrogation": "patient",
    "_generated_by": "gemini-2.5-flash"
  }
}

Structure du Chain-of-Thought (output assistant)

{
  "etape_1_decomposition": "Reformulation + identification du type clinique",
  "etape_2_localisation": "Citations des passages pertinents [N] avec extraits",
  "etape_3_application": "Application au cas précis",
  "etape_4_conclusion": {
    "reponse": "Réponse médicale concrète",
    "posologie": "Dose/voie/fréquence ou null",
    "precautions": "Contre-indications ou null",
    "quand_referer": "Critères d'escalade ou null",
    "citations": [1, 2]
  }
}

Sources du corpus

3 guides Médecins Sans Frontières :

1. Guide clinique et thérapeutique MSF (médecine tropicale, urgences, infections)
2. Guide MSF Tuberculose 2025 (TB sensible, MDR, XDR, pédiatrique, VIH+)
3. Guide MSF Management of a Cholera Epidemic

Méthodologie de création

1. Génération de questions : 6574 questions médicales taguées par taxonomie V2 (5 modes / 7 types / 3 catégories)
2. Chunking : 2387 chunks atomiques avec préservation des tableaux (276)
3. Embeddings : OpenAI text-embedding-3-small (1536 dim)
4. Retrieval RAG : top-5 chunks avec boost +15% sur tableaux pour posologie/protocole
5. Génération CoT : Mix gpt-4o-mini + Gemini avec validation 3 niveaux (JSON Schema strict + Pydantic + règles métier)
6. Validation médicale : règles d'hallucination, vérification citations, cohérence cas_cible

Limitations connues

• Corpus restreint : se limite à 3 guides MSF (pas exhaustif sur la médecine spécialisée)
• Cas_1 sous-représenté : ~10% de questions hors corpus (limites de couverture)
• Validation médicale automatique : pas de revue humaine systématique de chaque CoT
• Biais de génération : les LLMs ont leurs propres biais qui se reflètent dans le dataset
• Pas de PII : aucune donnée personnelle de patient, mais à utiliser avec prudence

Considérations éthiques

⚠️ Avertissement : Ce dataset est destiné à la recherche et à la formation de modèles d'IA. Il ne doit en aucun cas remplacer le jugement clinique d'un professionnel de santé qualifié. Les CoT générés peuvent contenir des erreurs malgré la validation automatique.

Citation

Si vous utilisez ce dataset, merci de citer :

@dataset{barry_medai_rural_2026,
  author       = {Barry, Sadou},
  title        = {MedAI Rural FR: French Medical Chain-of-Thought Dataset for Rural Healthcare in Sub-Saharan Africa},
  year         = {2026},
  publisher    = {HuggingFace},
  version      = {2.0},
  url          = {https://huggingface.co/datasets/Sadou/medai-rural-fr-mix}
}

Licence

Ce dataset est publié sous licence cc-by-sa-4.0.

Le corpus source MSF reste la propriété de Médecins Sans Frontières et est utilisé dans un but de recherche et d'aide humanitaire.

Contact

• HuggingFace : @Sadou
• LinkedIn : https://www.linkedin.com/in/sadou-barry/

Changelog

• v2.0 (2026-05-23) : Génération avec validation 3 niveaux (JSON Schema + Pydantic + règles métier)