procesaur/Wiki.mk

Вики корпуси на македонски јазик Свежа верзија, 1 мај 2026! Исчистен и филтриран сет од три проекти: Википедија, Викиизвор и Викикниги Над 100.000 курирани статии, со над 50 милиони зборови. Секој документ е во посебна JSON линија. Нови метаподатоци! Категории, број на зборови и процент на кириличен текст Можно е да се филтрира сет по јазик или проект.	Wiki corpora in Macedonian Fresh version, 1. May 2026! Cleaned and filtered set of three projects: Wikipedia, Wikisource and Wikibooks. Over 100,000 curated articles, with over 50 million words. Each document is in a separate JSON line. New metadata! Categories, number of words and percentage of Cyrillic text Possible to filter the set by language or project.
Број на документи Doc. count Википедија Wikipedia Викиизвор Wikisource Викивести Wikinews Викицитати Wikiquotes Викикниги Wikibooks Вкупно Total Македонски 🇲🇰 101,111 2,028 99 103,238
Број на зборови Word count Википедија Wikipedia Викиизвор Wikisource Викивести Wikinews Викицитати Wikiquotes Викикниги Wikibooks Вкупно Total Македонски 🇲🇰 53,249,522 1,173,304 29,739 54,452,563

# Učitavanje samo Wikibooks
dataset = load_dataset("procesaur/WikiSonce", split="wikibooks")
print(dataset[9]["text"])

Викимедиин Готвач''Збирка рецепти од целиот свет.''''Забелешка: Секоја од статите во содржинава...

# Filtriranje prema metapodacima
filtered = dataset.filter(lambda example: example["subject"] == "Рецепти за тестенини")
print(f"{filtered[0]["title"]}\n{filtered[0]["text"]} )

Готвач:Рецепти за тестенини
Готвач | Индекс на рецепти Тестениини или паста се вид на јадење направена од брашно, вода и понекогаш јајца, која се меша,...

Cite

@misc{škorić2026wikidumpstrainingcorpora,
      title={Wiki Dumps to Training Corpora: South Slavic Case}, 
      author={Mihailo Škorić},
      year={2026},
      eprint={2604.25384},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2604.25384}, 
}

Editor

Mihailo Škorić

@procesaur