Note Il pourrait être intéressant de privilégier un dump plus récent de Wikipedia (https://dumps.wikimedia.org/other/enterprise_html/runs/) à parser en utilisant https://github.com/OpenLLM-France/wikiplaintext Wikiplaintext donne aussi des scripts pour Wikisource et Wiktionary.

Note Même jeu de données que ci-dessus mais normalement de meilleur qualité car nettoyé par les équipes d'Hugging Face.

Note Le split en breton serait à nettoyer. J'avais commencer à faire des choses (stats sur les sources, nettoyage, etc.). Il faudra que je termine et upload le tout. Voir aussi Bretagne/fineweb-2_raw_breton