alicienty's picture
Update README.md
b871866 verified
metadata
dataset_info:
  features:
    - name: Sentences
      dtype: string
    - name: Words
      dtype: string
    - name: Bigrams
      dtype: string
  splits:
    - name: train
      num_bytes: 4081
      num_examples: 11
  download_size: 6265
  dataset_size: 4081
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*

Датасет содержит небольшой отрывок текста из "Алисы в Стране чудес" на английском, сегментированный на 1) предложения; 2) слова; 3) биграммы.

Анализ текста:

Уникальность слов: 0.5721649484536082

5 самых частотных биграмм (абс.):

  1. do, cats – 3
  2. cats, eat – 3
  3. eat, bats – 3
  4. down, down – 2
  5. a bat – 2

Статистика распределений

Длина предложений:

  • Средняя длина: 17.27
  • Стандартное отклонение: 12.99
  • Медиана: 16.0
  • Квартиль 25%: 5.5
  • Квартиль 50% (медиана): 16.0
  • Квартиль 75%: 26.0

Длина слов:

  • Средняя длина: 3.66
  • Стандартное отклонение: 1.59
  • Медиана: 4.0
  • Квартиль 25%: 3.0
  • Квартиль 50% (медиана): 4.0
  • Квартиль 75%: 4.0

Длина биграмм:

  • Средняя длина: 8.32
  • Стандартное отклонение: 2.06
  • Медиана: 8.0
  • Квартиль 25%: 7.0
  • Квартиль 50% (медиана): 8.0
  • Квартиль 75%: 10.0

20 самых частотных слов в тексте

image/png

Облако слов

image/png