Add YAML metadata for dataset viewer
Browse files
README.md
CHANGED
|
@@ -1,7 +1,43 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
# 📚 BIM5021 - Nhà kho dữ liệu và Tích hợp (Data Warehousing and Integration)
|
| 2 |
|
| 3 |
[](https://huggingface.co/datasets/thanhtai435/data-warehousing-course)
|
| 4 |
-
|
|
|
|
| 5 |
|
| 6 |
## 🏫 Thông tin học phần
|
| 7 |
|
|
@@ -12,174 +48,27 @@
|
|
| 12 |
| **Khoa** | Hệ thống Thông tin |
|
| 13 |
| **Số tín chỉ** | 3 (2 lý thuyết + 1 thực hành) |
|
| 14 |
| **Giảng viên** | TS. Nguyễn Thôn Dã, NCS. ThS Nguyễn Văn Hồ |
|
| 15 |
-
| **Ngôn ngữ** | Tiếng Việt |
|
| 16 |
-
| **Dataset minh họa** | [Olist Brazilian E-commerce](https://www.kaggle.com/datasets/olistbr/brazilian-ecommerce) |
|
| 17 |
-
|
| 18 |
-
## 🎯 Mục tiêu môn học
|
| 19 |
-
|
| 20 |
-
Môn học cung cấp cái nhìn toàn diện về **hệ sinh thái dữ liệu trong kỷ nguyên AI-Native**:
|
| 21 |
-
|
| 22 |
-
1. **CO1** - Làm chủ nền tảng kiến trúc và mô hình hóa (Lakehouse, Mesh, Fabric)
|
| 23 |
-
2. **CO2** - Vận dụng kỹ thuật tích hợp và vận hành hệ thống (Data Pipelines, Cloud, Graph, Blockchain)
|
| 24 |
-
3. **CO3** - Thực thi phân tích và khai phá tri thức (Data Mining, In-Database ML)
|
| 25 |
-
4. **CO4** - Phát triển giải pháp AI và BI thế hệ mới (Generative AI, RAG, Agentic BI)
|
| 26 |
-
5. **CO5** - Trách nhiệm nghề nghiệp và tuân thủ quản trị (AI Act 2026, Data Governance)
|
| 27 |
-
|
| 28 |
-
## 📋 Cấu trúc Repo
|
| 29 |
-
|
| 30 |
-
```
|
| 31 |
-
data-warehousing-course/
|
| 32 |
-
│
|
| 33 |
-
├── README.md # File này
|
| 34 |
-
├── syllabus.md # Đề cương chi tiết học phần
|
| 35 |
-
│
|
| 36 |
-
├── chapter-01-data-architecture/ # Chương 1: Chiến lược & Kiến trúc dữ liệu hiện đại
|
| 37 |
-
│ ├── README.md # Lý thuyết chương 1
|
| 38 |
-
│ ├── lab-01-compare-architectures.py # Lab: So sánh Mesh/Fabric/Lakehouse
|
| 39 |
-
│ └── slides/ # Slides bài giảng
|
| 40 |
-
│
|
| 41 |
-
├── chapter-02-data-modeling/ # Chương 2: Mô hình hóa dữ liệu cho Cloud
|
| 42 |
-
│ ├── README.md # Lý thuyết chương 2
|
| 43 |
-
│ ├── lab-02-star-schema.sql # Lab: Thiết kế Star Schema
|
| 44 |
-
│ ├── lab-02-medallion.py # Lab: Medallion Architecture
|
| 45 |
-
│ └── lab-02-scd.sql # Lab: Slowly Changing Dimensions
|
| 46 |
-
│
|
| 47 |
-
├── chapter-03-data-pipelines/ # Chương 3: Tích hợp dữ liệu & Pipeline
|
| 48 |
-
│ ├── README.md # Lý thuyết chương 3
|
| 49 |
-
│ ├── lab-03-elt-pipeline.py # Lab: ELT Pipeline với Python
|
| 50 |
-
│ ├── lab-03-cdc-simulation.py # Lab: Change Data Capture
|
| 51 |
-
│ ├── lab-03-dbt-project/ # Lab: dbt project mẫu
|
| 52 |
-
│ └── lab-03-streaming.py # Lab: Batch vs Streaming
|
| 53 |
-
│
|
| 54 |
-
├── chapter-04-data-preprocessing/ # Chương 4: Tiền xử lý dữ liệu
|
| 55 |
-
│ ├── README.md # Lý thuyết chương 4
|
| 56 |
-
│ ├── lab-04-data-cleaning.py # Lab: Làm sạch dữ liệu
|
| 57 |
-
│ ├── lab-04-normalization.py # Lab: Chuẩn hóa (Min-Max, Z-score)
|
| 58 |
-
│ ├── lab-04-dimensionality.py # Lab: Giảm số chiều (PCA)
|
| 59 |
-
│ └── lab-04-feature-engineering.py # Lab: Feature Engineering
|
| 60 |
-
│
|
| 61 |
-
├── chapter-05-data-mining/ # Chương 5: Thuật toán khai thác dữ liệu
|
| 62 |
-
│ ├── README.md # Lý thuyết chương 5
|
| 63 |
-
│ ├── lab-05-apriori.py # Lab: Apriori & FP-Growth
|
| 64 |
-
│ ├── lab-05-decision-tree.py # Lab: Decision Tree (ID3, C4.5)
|
| 65 |
-
│ ├── lab-05-naive-bayes.py # Lab: Naive Bayes
|
| 66 |
-
│ ├── lab-05-kmeans.py # Lab: K-Means Clustering
|
| 67 |
-
│ └── lab-05-dbscan.py # Lab: DBSCAN
|
| 68 |
-
│
|
| 69 |
-
├── chapter-06-in-database-ml/ # Chương 6: In-Database ML & MLOps
|
| 70 |
-
│ ├── README.md # Lý thuyết chương 6
|
| 71 |
-
│ ├── lab-06-sql-ml.sql # Lab: ML bằng SQL (BigQuery ML style)
|
| 72 |
-
��� ├── lab-06-feature-store.py # Lab: Feature Store
|
| 73 |
-
│ ├── lab-06-mlops-pipeline.py # Lab: MLOps Pipeline
|
| 74 |
-
│ └── lab-06-model-drift.py # Lab: Model Drift Detection
|
| 75 |
-
│
|
| 76 |
-
├── chapter-07-governance-security/ # Chương 7: Quản trị, Bảo mật & Đạo đức
|
| 77 |
-
│ ├── README.md # Lý thuyết chương 7
|
| 78 |
-
│ ├── lab-07-data-lineage.py # Lab: Data Lineage Tracking
|
| 79 |
-
│ ├── lab-07-rls-masking.sql # Lab: Row-Level Security & Masking
|
| 80 |
-
│ ├── lab-07-anonymization.py # Lab: Anonymization & Differential Privacy
|
| 81 |
-
│ └── lab-07-audit-compliance.py # Lab: Audit & Compliance
|
| 82 |
-
│
|
| 83 |
-
├── chapter-08-generative-bi/ # Chương 8: Generative BI & Agentic BI
|
| 84 |
-
│ ├── README.md # Lý thuyết chương 8
|
| 85 |
-
│ ├── lab-08-rag-warehouse.py # Lab: RAG cho dữ liệu doanh nghiệp
|
| 86 |
-
│ ├── lab-08-chat-with-data.py # Lab: Chat-with-your-data
|
| 87 |
-
│ ├── lab-08-agentic-bi.py # Lab: Agentic BI với AI Agents
|
| 88 |
-
│ └── lab-08-data-storytelling.py # Lab: Data Storytelling Dashboard
|
| 89 |
-
│
|
| 90 |
-
├── chapter-09-multimodel-integration/ # Chương 9: Tích hợp đa mô hình
|
| 91 |
-
│ ├── README.md # Lý thuyết chương 9
|
| 92 |
-
│ ├── lab-09-knowledge-graph.py # Lab: Knowledge Graph
|
| 93 |
-
│ ├── lab-09-vector-search.py # Lab: Vector Search & Indexing
|
| 94 |
-
│ ├── lab-09-blockchain-audit.py # Lab: Blockchain Audit Logs
|
| 95 |
-
│ └── lab-09-federated-query.py # Lab: Federated Querying
|
| 96 |
-
│
|
| 97 |
-
├── midterm-project/ # Đồ án giữa kỳ (Bài tập lớn A2.1)
|
| 98 |
-
│ ├── README.md # Hướng dẫn đồ án
|
| 99 |
-
│ ├── rubric.md # Rubric đánh giá
|
| 100 |
-
│ ├── sample-project/ # Đồ án mẫu → link repo agentic-bi-ecommerce
|
| 101 |
-
│ └── templates/ # Templates báo cáo
|
| 102 |
-
│
|
| 103 |
-
├── datasets/ # Dữ liệu minh họa
|
| 104 |
-
│ ├── README.md # Hướng dẫn tải dataset
|
| 105 |
-
│ └── sample/ # Dữ liệu mẫu nhỏ cho labs
|
| 106 |
-
│
|
| 107 |
-
├── docs/ # Tài liệu bổ sung
|
| 108 |
-
│ ├── images/ # Sơ đồ kiến trúc
|
| 109 |
-
│ ├── references.md # Tài liệu tham khảo
|
| 110 |
-
│ └── glossary.md # Bảng thuật ngữ
|
| 111 |
-
│
|
| 112 |
-
└── exams/ # Đề thi tham khảo
|
| 113 |
-
├── quiz-samples.md # Câu hỏi trắc nghiệm mẫu
|
| 114 |
-
└── practice-problems.md # Bài tập thực hành
|
| 115 |
-
```
|
| 116 |
-
|
| 117 |
-
## 📅 Lịch trình 10 tuần
|
| 118 |
-
|
| 119 |
-
| Tuần | Chương | Nội dung | CLOs | Đánh giá |
|
| 120 |
-
|------|--------|----------|------|----------|
|
| 121 |
-
| 1 | Ch.1 | Chiến lược & Kiến trúc dữ liệu hiện đại (MDW, Lakehouse, Mesh, Fabric) | CLO1 | A1.1 |
|
| 122 |
-
| 2 | Ch.2 | Mô hình hóa dữ liệu cho Cloud (Star Schema, Medallion, SCD) | CLO1 | A1.1 |
|
| 123 |
-
| 3 | Ch.3 | Tích hợp dữ liệu & Pipeline tự động (ELT, CDC, dbt, Streaming) | CLO2, CLO3, CLO9 | A1.1, A2.1 |
|
| 124 |
-
| 4 | Ch.4 | Tiền xử lý dữ liệu (Cleaning, Normalization, Dimensionality Reduction) | CLO1, CLO2, CLO3 | A1.1, A2.1 |
|
| 125 |
-
| 5 | Ch.5 | Thuật toán khai thác dữ liệu (Apriori, Decision Tree, K-Means, DBSCAN) | CLO3-CLO5, CLO7-CLO8 | A1.1, A2.1 |
|
| 126 |
-
| 6 | Ch.6 | In-Database ML & MLOps (SQL ML, Feature Store, Model Drift) | CLO5-CLO6, CLO8-CLO9 | A1.1, A2.1 |
|
| 127 |
-
| 7 | Ch.7 | Quản trị, Bảo mật & Đạo đức dữ liệu (AI Act 2026, Lineage, Privacy) | CLO5-CLO6, CLO8-CLO9 | — |
|
| 128 |
-
| 8 | Ch.8 | Generative BI & Agentic BI (RAG, Chat-with-data, AI Agents) | CLO5-CLO6, CLO8-CLO9 | — |
|
| 129 |
-
| 9 | Ch.9 | Tích hợp đa mô hình (Graph, Vector, Blockchain) | CLO5-CLO6, CLO8-CLO9 | — |
|
| 130 |
-
| 10 | — | **Báo cáo đồ án giữa kỳ** | Tất cả CLOs | A2.1 |
|
| 131 |
-
|
| 132 |
-
## 🔗 Liên kết với Đồ án Agentic BI
|
| 133 |
|
| 134 |
-
|
| 135 |
|
| 136 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 137 |
|
| 138 |
-
|
| 139 |
-
- **Repo này** (`data-warehousing-course`): Lý thuyết + Labs từng chương → Nền tảng kiến thức
|
| 140 |
-
- **Repo kia** (`agentic-bi-ecommerce`): Đồ án tích hợp → Ứng dụng toàn bộ kiến thức vào 1 hệ thống
|
| 141 |
|
| 142 |
-
|
| 143 |
|
| 144 |
-
|
| 145 |
-
2. James Serra (2024). *Deciphering Data Architectures*. O'Reilly Media.
|
| 146 |
-
3. Ganesh Bharathan (2024). *Ultimate Snowflake Architecture for Cloud Data Warehousing*. Orange Education.
|
| 147 |
-
4. Kele Xu (2026). *Data Mining Competition Practices: Methods and Cases*. Springer.
|
| 148 |
-
|
| 149 |
-
## 📊 Đánh giá
|
| 150 |
-
|
| 151 |
-
| Thành phần | Tỷ lệ | Mô tả |
|
| 152 |
-
|------------|--------|-------|
|
| 153 |
-
| A1 - Đánh giá quá trình | 20% | Bài kiểm tra quá trình (10 phút/bài) |
|
| 154 |
-
| A2 - Giữa kỳ | 30% | **Bài tập lớn** (Đồ án nhóm) |
|
| 155 |
-
| A3 - Cuối kỳ | 50% | Trắc nghiệm |
|
| 156 |
-
|
| 157 |
-
### Rubric Đồ án Giữa kỳ
|
| 158 |
-
|
| 159 |
-
| Tiêu chí | 9-10 | 7-8 | 5-6 | <5 |
|
| 160 |
-
|----------|------|-----|-----|----|
|
| 161 |
-
| **Nội dung (40%)** | Đầy đủ, code chuẩn, chính xác | Thiếu <10%, chính xác | Thiếu <30%, tương đối | Thiếu >50% |
|
| 162 |
-
| **Cấu trúc & Hình thức (30%)** | Kế hoạch rõ ràng, đúng hạn, slides sinh động, không lỗi chính tả | Thiếu 2/6 yếu tố | Thiếu 3/6 | Thiếu 4+ |
|
| 163 |
-
| **Trình bày (30%)** | Kịch bản tốt, tất cả tham gia, tự tin, đúng giờ, trả lời tốt | Thiếu 1/5 yếu tố | Thiếu 2/5 | Thiếu 3+ |
|
| 164 |
-
|
| 165 |
-
## 🚀 Bắt đầu nhanh
|
| 166 |
-
|
| 167 |
-
```bash
|
| 168 |
-
# Clone repo
|
| 169 |
-
git clone https://huggingface.co/datasets/thanhtai435/data-warehousing-course
|
| 170 |
-
|
| 171 |
-
# Cài đặt dependencies
|
| 172 |
-
pip install -r requirements.txt
|
| 173 |
-
|
| 174 |
-
# Chạy lab đầu tiên
|
| 175 |
-
cd chapter-01-data-architecture
|
| 176 |
-
python lab-01-compare-architectures.py
|
| 177 |
-
```
|
| 178 |
-
|
| 179 |
-
## 📝 License
|
| 180 |
-
|
| 181 |
-
MIT License - Dự án phục vụ mục đích học tập.
|
| 182 |
-
|
| 183 |
-
---
|
| 184 |
|
| 185 |
-
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
configs:
|
| 3 |
+
- config_name: orders
|
| 4 |
+
data_files: "datasets/sample/orders.parquet"
|
| 5 |
+
- config_name: order_items
|
| 6 |
+
data_files: "datasets/sample/order_items.parquet"
|
| 7 |
+
- config_name: customers
|
| 8 |
+
data_files: "datasets/sample/customers.parquet"
|
| 9 |
+
- config_name: products
|
| 10 |
+
data_files: "datasets/sample/products.parquet"
|
| 11 |
+
- config_name: sellers
|
| 12 |
+
data_files: "datasets/sample/sellers.parquet"
|
| 13 |
+
- config_name: payments
|
| 14 |
+
data_files: "datasets/sample/payments.parquet"
|
| 15 |
+
- config_name: reviews
|
| 16 |
+
data_files: "datasets/sample/reviews.parquet"
|
| 17 |
+
license: mit
|
| 18 |
+
task_categories:
|
| 19 |
+
- tabular-classification
|
| 20 |
+
- tabular-regression
|
| 21 |
+
language:
|
| 22 |
+
- pt
|
| 23 |
+
- en
|
| 24 |
+
- vi
|
| 25 |
+
tags:
|
| 26 |
+
- education
|
| 27 |
+
- data-warehouse
|
| 28 |
+
- data-mining
|
| 29 |
+
- e-commerce
|
| 30 |
+
- olist
|
| 31 |
+
pretty_name: "BIM5021 - Data Warehousing & Integration Course"
|
| 32 |
+
size_categories:
|
| 33 |
+
- 1K<n<10K
|
| 34 |
+
---
|
| 35 |
+
|
| 36 |
# 📚 BIM5021 - Nhà kho dữ liệu và Tích hợp (Data Warehousing and Integration)
|
| 37 |
|
| 38 |
[](https://huggingface.co/datasets/thanhtai435/data-warehousing-course)
|
| 39 |
+
|
| 40 |
+
> **📊 Sample Data**: Click tab **"Dataset Viewer"** bên trên để preview dữ liệu mẫu Olist E-commerce.
|
| 41 |
|
| 42 |
## 🏫 Thông tin học phần
|
| 43 |
|
|
|
|
| 48 |
| **Khoa** | Hệ thống Thông tin |
|
| 49 |
| **Số tín chỉ** | 3 (2 lý thuyết + 1 thực hành) |
|
| 50 |
| **Giảng viên** | TS. Nguyễn Thôn Dã, NCS. ThS Nguyễn Văn Hồ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 51 |
|
| 52 |
+
## 📋 Cấu trúc 9 Chương
|
| 53 |
|
| 54 |
+
| Chương | Nội dung | Files |
|
| 55 |
+
|--------|----------|-------|
|
| 56 |
+
| Ch.1 | Kiến trúc dữ liệu (MDW, Lakehouse, Mesh, Fabric) | README + Lab + Diagrams |
|
| 57 |
+
| Ch.2 | Mô hình hóa (Star Schema, Medallion, SCD) | README + 3 Labs |
|
| 58 |
+
| Ch.3 | Pipeline (ETL/ELT, CDC, dbt, Streaming) | README + Lab |
|
| 59 |
+
| Ch.4 | Tiền xử lý (Cleaning, Normalization, PCA) | README + Lab + Charts |
|
| 60 |
+
| Ch.5 | Data Mining (Apriori, Decision Tree, K-Means, DBSCAN) | README + Lab + Charts |
|
| 61 |
+
| Ch.6 | In-Database ML & MLOps | README |
|
| 62 |
+
| Ch.7 | Governance, Security, Ethics (AI Act 2026) | README |
|
| 63 |
+
| Ch.8 | Generative BI & Agentic BI | README |
|
| 64 |
+
| Ch.9 | Multi-model (Graph, Vector, Blockchain) | README |
|
| 65 |
|
| 66 |
+
## 🔗 Đồ án thực hành
|
|
|
|
|
|
|
| 67 |
|
| 68 |
+
👉 **[thanhtai435/agentic-bi-ecommerce](https://huggingface.co/datasets/thanhtai435/agentic-bi-ecommerce)** — Implementation đầy đủ
|
| 69 |
|
| 70 |
+
## 📖 Tài liệu tham khảo
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 71 |
|
| 72 |
+
1. Jiawei Han et al. (2023). *Data Mining: Concepts and Techniques*. Elsevier.
|
| 73 |
+
2. James Serra (2024). *Deciphering Data Architectures*. O'Reilly.
|
| 74 |
+
3. Ganesh Bharathan (2024). *Ultimate Snowflake Architecture*. Orange Education.
|