File size: 1,978 Bytes
a3136ad
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
e7559e9
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
b871866
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
---
dataset_info:
  features:
  - name: Sentences
    dtype: string
  - name: Words
    dtype: string
  - name: Bigrams
    dtype: string
  splits:
  - name: train
    num_bytes: 4081
    num_examples: 11
  download_size: 6265
  dataset_size: 4081
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
---
Датасет содержит небольшой отрывок текста из "Алисы в Стране чудес" на английском, сегментированный на 1) предложения; 2) слова; 3) биграммы.

**Анализ текста:**

Уникальность слов: 0.5721649484536082

5 самых частотных биграмм (абс.):
1) do, cats – 3
2) cats, eat – 3
3) eat, bats – 3
4) down, down – 2
5) a bat – 2

**Статистика распределений**

**Длина предложений:**
  - Средняя длина: 17.27
  - Стандартное отклонение: 12.99
  - Медиана: 16.0
  - Квартиль 25%: 5.5
  - Квартиль 50% (медиана): 16.0
  - Квартиль 75%: 26.0

**Длина слов:**
  - Средняя длина: 3.66
  - Стандартное отклонение: 1.59
  - Медиана: 4.0
  - Квартиль 25%: 3.0
  - Квартиль 50% (медиана): 4.0
  - Квартиль 75%: 4.0

**Длина биграмм:**
  - Средняя длина: 8.32
  - Стандартное отклонение: 2.06
  - Медиана: 8.0
  - Квартиль 25%: 7.0
  - Квартиль 50% (медиана): 8.0
  - Квартиль 75%: 10.0

**20 самых частотных слов в тексте**

![image/png](https://cdn-uploads.huggingface.co/production/uploads/670f9181a6d9f9fba5cf7b2a/wBbDmBwzOvmO0HnKsT-qu.png)

**Облако слов**


![image/png](https://cdn-uploads.huggingface.co/production/uploads/670f9181a6d9f9fba5cf7b2a/Aeyl1MyRW6n5fW6GMZN8L.png)