Search is not available for this dataset
total_docs
int64 | total_tokens
int64 | avg_edu_score
float64 | high_edu_rate
float64 | num_dumps
int64 |
|---|---|---|---|---|
3,844,508
| 20,308,107,262
| 2.050375
| 0.130833
| 106
|
Is the Web Getting More Educational?
Temporal analysis of educational quality in German (Latin script) across 106 CommonCrawl dumps.
Trend
High Educational Content (edu >= 3)
###############################################################
██████████████████████████████████ 9.9% 2013
████████████████████ 6.0% 2014
██████████ 3.0% 2015
████████████████████████████████████████████ 12.9% 2016
████████████████████████████████████████ 11.9% 2017
██████████████████████████████████████ 11.2% 2018
██████████████████████████████████████ 11.2% 2019
████████████████████████████████████████████ 12.9% 2020
█████████████████████████████████████████████████ 14.3% 2021
███████████████████████████████████████████████ 13.8% 2022
██████████████████████████████████████████████ 13.3% 2023
███████████████████████████████████████████████ 13.8% 2024
██████████████████████████████████████████████████ 14.5% 2025
Average Educational Score
##############################################################
███████████████████████████████████████████████ 1.96 2013
████████████████████████████████████████████ 1.83 2014
█████████████████████████████████████████ 1.71 2015
████████████████████████████████████████████████ 2.04 2016
████████████████████████████████████████████████ 2.03 2017
████████████████████████████████████████████████ 2.01 2018
████████████████████████████████████████████████ 2.01 2019
█████████████████████████████████████████████████ 2.05 2020
██████████████████████████████████████████████████ 2.08 2021
█████████████████████████████████████████████████ 2.07 2022
█████████████████████████████████████████████████ 2.05 2023
█████████████████████████████████████████████████ 2.06 2024
█████████████████████████████████████████████████ 2.07 2025
Key Finding
| Year | Avg Edu Score | High Edu Rate |
|---|---|---|
| 2013 | 1.96 | 9.9% |
| 2025 | 2.07 | 14.5% |
Performance
- 3,844,508 documents processed in 118 seconds
- 32,659 docs/sec using Polars streaming
- Single scan, no full dataset download required
Summary
| Metric | Value |
|---|---|
| Scope | German (Latin script) |
| Total Documents | 3,844,508 |
| Total Tokens | 20,308,107,262 |
| Avg Edu Score | 2.050 |
| High Edu Rate | 13.1% |
| CommonCrawl Dumps | 106 |
Files
global_stats- Overall summarytemporal_stats- Per-dump breakdown (sorted chronologically)
Reproduce
uv run https://huggingface.co/datasets/uv-scripts/dataset-stats/raw/main/finepdfs-stats.py \
--lang deu_Latn --output-repo your-username/stats
Source
- Dataset: HuggingFaceFW/finepdfs-edu
- Script: uv-scripts/dataset-stats
- Downloads last month
- 19