---
tags:
  - uv-script
  - statistics
  - polars
  - finepdfs-edu
  - temporal-analysis
license: odc-by
configs:
  - config_name: global_stats
    data_files: global_stats/train-*.parquet
  - config_name: temporal_stats
    data_files: temporal_stats/train-*.parquet
default_viewer_config: temporal_stats
---

# Is the Web Getting More Educational?

Temporal analysis of educational quality in **German (Latin script)** across 106 CommonCrawl dumps.

## Trend

```
High Educational Content (edu >= 3)
###############################################################
██████████████████████████████████                   9.9%  2013
████████████████████                                 6.0%  2014
██████████                                           3.0%  2015
████████████████████████████████████████████        12.9%  2016
████████████████████████████████████████            11.9%  2017
██████████████████████████████████████              11.2%  2018
██████████████████████████████████████              11.2%  2019
████████████████████████████████████████████        12.9%  2020
█████████████████████████████████████████████████   14.3%  2021
███████████████████████████████████████████████     13.8%  2022
██████████████████████████████████████████████      13.3%  2023
███████████████████████████████████████████████     13.8%  2024
██████████████████████████████████████████████████  14.5%  2025

Average Educational Score
##############################################################
███████████████████████████████████████████████     1.96  2013
████████████████████████████████████████████        1.83  2014
█████████████████████████████████████████           1.71  2015
████████████████████████████████████████████████    2.04  2016
████████████████████████████████████████████████    2.03  2017
████████████████████████████████████████████████    2.01  2018
████████████████████████████████████████████████    2.01  2019
█████████████████████████████████████████████████   2.05  2020
██████████████████████████████████████████████████  2.08  2021
█████████████████████████████████████████████████   2.07  2022
█████████████████████████████████████████████████   2.05  2023
█████████████████████████████████████████████████   2.06  2024
█████████████████████████████████████████████████   2.07  2025
```

## Key Finding

| Year | Avg Edu Score | High Edu Rate |
|------|---------------|---------------|
| 2013 | 1.96 | 9.9% |
| 2025 | 2.07 | 14.5% |

## Performance

- **3,844,508 documents** processed in **118 seconds**
- **32,659 docs/sec** using Polars streaming
- Single scan, no full dataset download required

## Summary

| Metric | Value |
|--------|-------|
| Scope | German (Latin script) |
| Total Documents | 3,844,508 |
| Total Tokens | 20,308,107,262 |
| Avg Edu Score | 2.050 |
| High Edu Rate | 13.1% |
| CommonCrawl Dumps | 106 |

## Files

- `global_stats` - Overall summary
- `temporal_stats` - Per-dump breakdown (sorted chronologically)

## Reproduce

```bash
uv run https://huggingface.co/datasets/uv-scripts/dataset-stats/raw/main/finepdfs-stats.py \
    --lang deu_Latn --output-repo your-username/stats
```

## Source

- **Dataset**: [HuggingFaceFW/finepdfs-edu](https://huggingface.co/datasets/HuggingFaceFW/finepdfs-edu)
- **Script**: [uv-scripts/dataset-stats](https://huggingface.co/datasets/uv-scripts/dataset-stats)