alicienty's picture
Update README.md
b871866 verified
---
dataset_info:
features:
- name: Sentences
dtype: string
- name: Words
dtype: string
- name: Bigrams
dtype: string
splits:
- name: train
num_bytes: 4081
num_examples: 11
download_size: 6265
dataset_size: 4081
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---
Датасет содержит небольшой отрывок текста из "Алисы в Стране чудес" на английском, сегментированный на 1) предложения; 2) слова; 3) биграммы.
**Анализ текста:**
Уникальность слов: 0.5721649484536082
5 самых частотных биграмм (абс.):
1) do, cats – 3
2) cats, eat – 3
3) eat, bats – 3
4) down, down – 2
5) a bat – 2
**Статистика распределений**
**Длина предложений:**
- Средняя длина: 17.27
- Стандартное отклонение: 12.99
- Медиана: 16.0
- Квартиль 25%: 5.5
- Квартиль 50% (медиана): 16.0
- Квартиль 75%: 26.0
**Длина слов:**
- Средняя длина: 3.66
- Стандартное отклонение: 1.59
- Медиана: 4.0
- Квартиль 25%: 3.0
- Квартиль 50% (медиана): 4.0
- Квартиль 75%: 4.0
**Длина биграмм:**
- Средняя длина: 8.32
- Стандартное отклонение: 2.06
- Медиана: 8.0
- Квартиль 25%: 7.0
- Квартиль 50% (медиана): 8.0
- Квартиль 75%: 10.0
**20 самых частотных слов в тексте**
![image/png](https://cdn-uploads.huggingface.co/production/uploads/670f9181a6d9f9fba5cf7b2a/wBbDmBwzOvmO0HnKsT-qu.png)
**Облако слов**
![image/png](https://cdn-uploads.huggingface.co/production/uploads/670f9181a6d9f9fba5cf7b2a/Aeyl1MyRW6n5fW6GMZN8L.png)