Upload README.md with huggingface_hub

README.md

@@ -1,46 +1,96 @@
 ---
-dataset_info:
-- config_name: global_stats
-  features:
-  - name: total_docs
-    dtype: int64
-  - name: total_tokens
-    dtype: int64
-  - name: avg_edu_score
-    dtype: float64
-  - name: high_edu_rate
-    dtype: float64
-  - name: num_dumps
-    dtype: int64
-  splits:
-  - name: train
-    num_bytes: 40
-    num_examples: 1
-  download_size: 2669
-  dataset_size: 40
-- config_name: temporal_stats
-  features:
-  - name: dump
-    dtype: large_string
-  - name: doc_count
-    dtype: uint32
-  - name: avg_edu_score
-    dtype: float64
-  - name: high_edu_rate
-    dtype: float64
-  splits:
-  - name: train
-    num_bytes: 4558
-    num_examples: 106
-  download_size: 5336
-  dataset_size: 4558
+tags:
+  - uv-script
+  - statistics
+  - polars
+  - finepdfs-edu
+  - temporal-analysis
+license: odc-by
 configs:
-- config_name: global_stats
-  data_files:
-  - split: train
-    path: global_stats/train-*
-- config_name: temporal_stats
-  data_files:
-  - split: train
-    path: temporal_stats/train-*
+  - config_name: global_stats
+    data_files: global_stats/train-*.parquet
+  - config_name: temporal_stats
+    data_files: temporal_stats/train-*.parquet
+default_viewer_config: temporal_stats
 ---
+
+# Is the Web Getting More Educational?
+
+Temporal analysis of educational quality in **German (Latin script)** across 106 CommonCrawl dumps.
+
+## Trend
+
+```
+High Educational Content (edu >= 3)
+###############################################################
+██████████████████████████████████                   9.9%  2013
+████████████████████                                 6.0%  2014
+██████████                                           3.0%  2015
+████████████████████████████████████████████        12.9%  2016
+████████████████████████████████████████            11.9%  2017
+██████████████████████████████████████              11.2%  2018
+██████████████████████████████████████              11.2%  2019
+████████████████████████████████████████████        12.9%  2020
+█████████████████████████████████████████████████   14.3%  2021
+███████████████████████████████████████████████     13.8%  2022
+██████████████████████████████████████████████      13.3%  2023
+███████████████████████████████████████████████     13.8%  2024
+██████████████████████████████████████████████████  14.5%  2025
+
+Average Educational Score
+##############################################################
+███████████████████████████████████████████████     1.96  2013
+████████████████████████████████████████████        1.83  2014
+█████████████████████████████████████████           1.71  2015
+████████████████████████████████████████████████    2.04  2016
+████████████████████████████████████████████████    2.03  2017
+████████████████████████████████████████████████    2.01  2018
+████████████████████████████████████████████████    2.01  2019
+█████████████████████████████████████████████████   2.05  2020
+██████████████████████████████████████████████████  2.08  2021
+█████████████████████████████████████████████████   2.07  2022
+███████████████████████��█████████████████████████   2.05  2023
+█████████████████████████████████████████████████   2.06  2024
+█████████████████████████████████████████████████   2.07  2025
+```
+
+## Key Finding
+
+| Year | Avg Edu Score | High Edu Rate |
+|------|---------------|---------------|
+| 2013 | 1.96 | 9.9% |
+| 2025 | 2.07 | 14.5% |
+
+## Performance
+
+- **3,844,508 documents** processed in **118 seconds**
+- **32,659 docs/sec** using Polars streaming
+- Single scan, no full dataset download required
+
+## Summary
+
+| Metric | Value |
+|--------|-------|
+| Scope | German (Latin script) |
+| Total Documents | 3,844,508 |
+| Total Tokens | 20,308,107,262 |
+| Avg Edu Score | 2.050 |
+| High Edu Rate | 13.1% |
+| CommonCrawl Dumps | 106 |
+
+## Files
+
+- `global_stats` - Overall summary
+- `temporal_stats` - Per-dump breakdown (sorted chronologically)
+
+## Reproduce
+
+```bash
+uv run https://huggingface.co/datasets/uv-scripts/dataset-stats/raw/main/finepdfs-stats.py \
+    --lang deu_Latn --output-repo your-username/stats
+```
+
+## Source
+
+- **Dataset**: [HuggingFaceFW/finepdfs-edu](https://huggingface.co/datasets/HuggingFaceFW/finepdfs-edu)
+- **Script**: [uv-scripts/dataset-stats](https://huggingface.co/datasets/uv-scripts/dataset-stats)