Create README.md

README.md

@@ -0,0 +1,69 @@
+---
+license: unknown
+language:
+- ja
+size_categories:
+- 1B<n<10B
+---
+# CommonCrawl Japanese (Filtered PPI) Dataset
+
+本データセットは、CommonCrawlより抽出した約100億（10B）トークン規模の日本語テキストデータから、特に配慮が必要な「要配慮個人情報」をフィルタリング処理したものです。
+
+## データセットの概要
+
+- **元データソース:** CommonCrawl（日本語）
+- **トークン数:** 約10Bトークン
+- **言語:** 日本語
+- **処理内容:** 要配慮個人情報をルールベースおよび機械学習分類器を用いてフィルタリング
+
+## 要配慮個人情報（PPI）の定義
+
+要配慮個人情報とは、個人情報の中でも特に慎重な取り扱いを要する情報であり、例えば医療履歴、犯罪歴、特定の個人に関するデリケートな属性などを含みます。
+
+本データセットでは、以下の2段階の処理により要配慮個人情報を可能な限り除去しています。
+
+1. **ルールベース処理**：個人名（フルネーム）および特定のNGワードの共起を検出。
+2. **機械学習分類器**：学習済みのPPI判定分類器により判定されたテキストを除去。
+
+フィルタリングには以下のコードを使用しております。  
+https://github.com/matsuolab/jp-llm-corpus-pii-filter/
+
+## 注意事項
+
+本データセットは、非常に大規模なテキストから自動的に要配慮個人情報を除去したものであり、完全な排除を保証するものではありません。そのため、二次的な活用に際しては、目的に応じた適切な管理・配慮が必要です。
+
+## 利用可能な用途
+
+- 大規模言語モデル（LLM）の学習データ
+- 日本語NLPタスクにおける事前学習用データ
+- その他、日本語テキストを対象とした自然言語処理研究
+
+## 推奨される引用方法
+
+本データセットを使用した研究やプロジェクトで引用する場合は、以下の形式を推奨します。
+
+```bibtex
+@dataset{commoncrawl_jp_ppi_filtered,
+  author = {YOUR_NAME or YOUR_ORGANIZATION},
+  title = {CommonCrawl Japanese (Filtered PPI) Dataset},
+  year = {2025},
+  publisher = {Hugging Face},
+  url = {YOUR_HF_DATASET_URL}
+}
+```
+
+## ライセンス
+
+本データセットはCommonCrawl由来のデータを基にしています。元データに準じてCCライセンス（詳細は元データソースを参照）での提供となります。
+
+## 貢献について
+
+データに問題やご質問がある場合、または改善提案がございましたら、リポジトリのIssues欄よりお知らせください。ご協力を歓迎いたします。
+
+## 謝辞
+
+本データセットの作成にあたり、CommonCrawlプロジェクトおよび関連するオープンソースツールに深く感謝いたします。
+
+---
+
+データセットに関するご意見やお問い合わせは、リポジトリのIssuesまたは提供元までご連絡ください。