Wikipedia Dataset (Tiếng Việt)
📖 Giới thiệu
Bộ dữ liệu này được tải từ Wikipedia tiếng Việt, nhằm phục vụ cho các bài toán xử lý ngôn ngữ tự nhiên (NLP) như:
- Huấn luyện mô hình ngôn ngữ (Language Model).
- Tiền xử lý cho bài toán dịch máy (Machine Translation).
- Nghiên cứu về ngôn ngữ tiếng Việt.
Mô tả data
- id: định danh của bài viết
- revid: revision ID của Wikipedia
- url: đường dẫn trực tiếp đến bài viết
- title: tiêu đề bài viết
- text: nội dung văn bản trích xuất
- ppl: perplexity (chỉ số đánh giá chất lượng mô hình ngôn ngữ trên văn bản đó)
📂 Cấu trúc dữ liệu
viwiki-latest-pages-articles.xml.bz2– dump gốc từ Wikipedia.wiki_text.txt– văn bản thô đã được tách từ XML (nếu bạn đã xử lý).tokenized.txt– dữ liệu đã được tokenization (nếu có).vi.sp.model– mô hình SentencePiece dùng để tokenize dữ liệu (nếu có).vi.arpa.bin– mô hình ngôn ngữ KenLM đã huấn luyện (nếu có).
⚙️ Nguồn dữ liệu
- Tải trực tiếp từ Wikimedia Dumps (https://dumps.wikimedia.org/)
- Phiên bản:
viwiki-YYYYMMDD(hãy thay bằng ngày bạn tải) - Ngôn ngữ: Tiếng Việt
📏 Thống kê (ví dụ mẫu)
- Số bài viết: ~X triệu.
- Số câu: ~Y triệu.
- Số token: ~Z triệu.
- Downloads last month
- 22