|
|
--- |
|
|
license: openrail |
|
|
task_categories: |
|
|
- image-to-text |
|
|
--- |
|
|
|
|
|
# 大新闻‼️ |
|
|
|
|
|
📮 [2025-08] 我们更新了一个更大的数据集，包含了将近80M个样本，并且数据质量和数据多样性有了显著的提升。 **[[link](https://huggingface.co/datasets/OleehyO/latex-formulas-80M)]** |
|
|
|
|
|
📮 [2024-02] 我们使用latex-formulas数据集训练了一个公式识别模型[TexTeller](https://github.com/OleehyO/TexTeller?tab=readme-ov-file)，它可以将latex公式转换为图片，并且有着**很高的准确率**以及**很强的泛化能力**，可以**覆盖大部分公式识别场景**。 |
|
|
|
|
|
> 详情信息请参阅[TexTeller的github仓库](https://github.com/OleehyO/TexTeller?tab=readme-ov-file) |
|
|
|
|
|
# Dataset Description |
|
|
|
|
|
这里有两个数据集：**raw_formulas**和**cleaned_formulas**(这个数据集有*550K*个公式-图片对)。 |
|
|
|
|
|
我们在*arxiv*上爬取了约100万条未经过清洗以及文本分词的latex公式的图片文本对从而得到了*raw_formulas*数据集。 |
|
|
在将*raw_formulas*数据集进行**清洗**并加入[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)数据集后得到了*cleaned_formulas*数据集（一个具有*550K*公式-图片对的数据集）。 |
|
|
|
|
|
渲染公式对应的图片时，需要用到以下外部包： |
|
|
* amsmath |
|
|
* amsfonts |
|
|
* amssymb |
|
|
* mathtools |
|
|
|
|
|
## 用法 |
|
|
加载 **raw_formulas** 数据集: |
|
|
|
|
|
```python |
|
|
from datasets import load_dataset |
|
|
data = load_dataset("OleehyO/latex-formulas", "raw_formulas") |
|
|
``` |
|
|
|
|
|
加载 **cleaned_formulas** 数据集: |
|
|
```python |
|
|
from datasets import load_dataset |
|
|
data = load_dataset("OleehyO/latex-formulas", "cleaned_formulas") |
|
|
``` |
|
|
|
|
|
## 有关*raw_formulas*数据集的一些细节 |
|
|
我们爬取了包含以下公式环境的latex公式: |
|
|
* equation |
|
|
* align |
|
|
* align* |
|
|
* gather |
|
|
* gather* |
|
|
|
|
|
公式中不存在以下内容： |
|
|
* \label |
|
|
* % |
|
|
* \quad |
|
|
* \qquad |
|
|
* \vspace |
|
|
* \hspace |
|
|
* \resizebox |
|
|
* \scalebox |
|
|
* \rotatebox |
|
|
* \parbox |
|
|
* \fbox |
|
|
* \makebox |
|
|
* \raisebox |
|
|
* \addvspace |
|
|
* \hfill |
|
|
* \vfill |
|
|
* \textwidth |
|
|
* \textheight |
|
|
* \rule |
|
|
|
|
|
## *cleaned_formulas*数据集的一些预处理细节 |
|
|
### 清洗 |
|
|
* 我们删除了*raw_formulas*和[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)中一些无用的垃圾数据 |
|
|
* 我们删除了*raw_formulas*和[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)中过于复杂的公式： |
|
|
* 公式对应的渲染图片高宽比如果大于0.8，那么公式会被删除 |
|
|
* 字符长度大于200的公式被删除了 |
|
|
* 在*raw_formulas*和[im2latex-100K](https://zenodo.org/records/56198#.V2px0jXT6eA)的公式中，以下内容被删除了： |
|
|
* \tag |
|
|
* \text |
|
|
* \begin{split} |
|
|
* \end{split} |
|
|
* \nonumber |
|
|
* \notag |
|
|
* *raw_formulas*和中的`equation、equation*、align、\[...\]`公式环境均被替换成了`align*`公式环境 |
|
|
* 我们删除了*raw_formulas*中包含自定义宏的公式。 |
|
|
|
