Upload 28 files

.gitattributes

@@ -57,3 +57,12 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 # Video files - compressed
 *.mp4 filter=lfs diff=lfs merge=lfs -text
 *.webm filter=lfs diff=lfs merge=lfs -text
+dictionaries/be.fst filter=lfs diff=lfs merge=lfs -text
+dictionaries/cs.fst filter=lfs diff=lfs merge=lfs -text
+dictionaries/en.fst filter=lfs diff=lfs merge=lfs -text
+dictionaries/lt.fst filter=lfs diff=lfs merge=lfs -text
+dictionaries/pl.fst filter=lfs diff=lfs merge=lfs -text
+dictionaries/ru.fst filter=lfs diff=lfs merge=lfs -text
+dictionaries/sk.fst filter=lfs diff=lfs merge=lfs -text
+dictionaries/uk.fst filter=lfs diff=lfs merge=lfs -text
+quality_classifier/pl_plus_noaccents.fst filter=lfs diff=lfs merge=lfs -text

quality_classifier/quality_model.bin

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:496bcb2a4886a9fc575b44dc836ee83e6354c81994b770a1808b3ec262dc2d87
+size 3721945

sentence_splitters/be.pickle

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:ea74677aa88733fed5af1c88d8cf9c268775ade17394e26b64da32215fe0f7ff
+size 17746639

sentence_splitters/cs.pickle

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:64b0734b6fbe8e8d7cac79f48d1dd9f853824e57c4e3594dadd74ba2c1d97f50
+size 1119050

sentence_splitters/cs_abbr.txt

@@ -0,0 +1,395 @@
+B.A
+B.Th
+BSc
+Bc
+BcA
+CSc
+DSc
+DiS
+Dipl.-Ing
+DrSc
+EngD
+Ing
+Ing. arch
+JUDr
+LL.B
+LL.M
+M.A
+M.D
+M.Th
+MDDr
+MMed
+MSc
+MUDr
+MVDr
+MgA
+Mgr
+Mons
+P. S
+P. T
+PaedDr
+Ph.D
+PhDr
+PhMr
+PharmDr
+RCDr
+RNDr
+RSDr
+RTDr
+Rp
+Sb
+Th.D
+ThDr
+ThLic
+a. s
+a.s
+abl
+absol
+abstr
+adj
+adm
+adv
+aj
+ak
+ak. arch
+ak. mal
+ak. sl
+ak. soch
+akad
+akad. arch
+akad. mal
+akad. soch
+akc. spol
+akt
+alch
+amer
+anat
+angl
+anglosas
+ap
+apod
+arab
+arch
+archit
+arg
+arm. gen
+asf
+astr
+astrol
+atd
+atp
+att
+aut
+b. k
+belg
+bibl
+biol
+bl
+boh
+bot
+br
+brig. gen
+brit
+bulh
+bás
+býv
+c. d
+chcsl
+chem
+chil
+csl
+círk
+dat
+dep
+des
+dg
+dial
+dl
+doc
+dol
+dop
+dopr
+dosl
+dr
+dr. h. c
+dán
+dór
+děj
+dět
+ekon
+epic
+etnonym
+eufem
+ev
+event
+f
+fam
+fem
+fil
+film
+fin
+form
+fot
+fr
+fut
+fyz
+gen
+genmjr
+genplk
+genpor
+geogr
+geol
+geom
+germ
+gram
+gšt
+hebr
+herald
+hist
+hl
+hod
+hor
+horn
+hovor
+hr
+hud
+hut
+ie
+imp
+impf
+ind
+indoevr
+inf
+ing
+ing. arch
+instr
+interj
+inž
+iron
+it
+ión
+j
+j. č
+j. š
+jap
+jihových
+jihozáp
+k. o
+k. s
+kanad
+katalán
+klas
+kniž
+komp
+konj
+konkr
+kpt
+kr
+kuch
+kupř
+kř
+lat
+les
+lid
+lit
+liturg
+log
+lok
+lék
+m
+mat
+max
+meteor
+metr
+mil
+min
+mj
+mjr
+ml
+mld
+mn
+mn. č
+mod
+ms
+mysl
+n
+n. l
+n. m
+např
+neklas
+nesklon
+než
+niz
+nom
+nor
+npor
+nprap
+nrtm
+nstržm
+náb
+nám
+námoř
+něm
+o. k
+o. p. s
+o. s
+ob
+obch
+obyč
+odd
+odp
+ojed
+opt
+os
+p
+p. n. l
+p. o
+part
+pas
+pejor
+pf
+pl
+plk
+plpf
+po Kr
+pol
+pomn
+popř
+por
+pplk
+ppor
+pprap
+prap
+prep
+prof
+práv
+př. Kr
+př. n. l
+před n. l
+předl
+přivl
+příp
+q. v
+r
+rak
+rcsl
+refl
+reg
+resp
+rkp
+roč
+rtg
+rtm
+rtn
+rum
+rus
+s
+s. a
+s. l
+s. n
+s. p
+s. r. o
+s. š
+s.r.o
+samohl
+sevvých
+sevzáp
+sg
+sl
+slang
+slov
+soudr
+souhl
+spec
+spol. s r. o
+spol. s r.o
+sport
+srov
+st
+stfr
+stol
+str
+stržm
+stsl
+stč
+střfr
+střv
+subj
+subst
+superl
+sv
+svob
+sz
+t. r
+t. č
+tech
+telev
+teol
+tis
+tj
+trans
+tur
+typogr
+tzn
+tzv
+táz
+tč
+v z
+v
+v. o. s
+v. r
+v. t
+v. v
+v. v. i
+var
+ved. odd
+vedl
+verb
+veř. obch. spol
+vl. jm
+voj
+vok
+vs
+vulg
+vz
+vztaž
+výtv
+vč
+vůb
+z
+z. s
+z. ú
+zahr
+zast
+zejm
+zeměd
+zkr
+zn
+zvl
+zájm
+zák. chrán
+zř
+Ústí n. L
+úř
+č
+č. j
+č. p
+čas
+čes
+čet
+čj
+čl
+čp
+čs
+čín
+čís
+ř
+řec
+říj
+škpt
+špan
+šprap
+št. prap
+švýc
+Žďár n. S
+žert

sentence_splitters/en.pickle

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5cad3758596392364e3be9803dbd7ebeda384b68937b488a01365f5551bb942c
+size 406697

sentence_splitters/en_abbr.txt

@@ -0,0 +1,1195 @@
+A.D
+A.V
+Abbrev
+Abd
+Aberd
+Aberdeensh
+Abol
+Aborig
+Abp
+Abr
+Abridg
+Abridgem
+Absol
+Abst
+Abstr
+Acad
+Acc
+Accept
+Accomm
+Accompl
+Accs
+Acct
+Accts
+Achievem
+Add
+Addit
+Addr
+Adm
+Admin
+Admir
+Admon
+Admonit
+Adv
+Advancem
+Advert
+Advoc
+Advt
+Advts
+Aerodynam
+Aeronaut
+Aff
+Affect
+Afr
+Agric
+Alch
+Alg
+Alleg
+Allit
+Alm
+Alph
+Amer
+Anal
+Analyt
+Anat
+Anc
+Anecd
+Ang
+Angl
+Anglo-Ind
+Anim
+Ann
+Anniv
+Annot
+Anon
+Answ
+Ant
+Anthrop
+Anthropol
+Antiq
+Apoc
+Apol
+App
+Appl
+Applic
+Apr
+Arab
+Arb
+Arch
+Archaeol
+Archipel
+Archit
+Argt
+Arith
+Arithm
+Arrangem
+Artic
+Artific
+Artill
+Ashm
+Assemb
+Assoc
+Assyriol
+Astr
+Astrol
+Astron
+Astronaut
+Att
+Attrib
+Aug
+Austral
+Auth
+Autobiog
+Autobiogr
+Ayrsh
+B.C
+Bacteriol
+Bedford
+Bedfordsh
+Bel & Dr
+Belg
+Berks
+Berksh
+Berw
+Berwicksh
+Bibliogr
+Biochem
+Biog
+Biogr
+Biol
+Bk
+Bks
+Bord
+Bot
+Bp
+Braz
+Brit
+Bucks
+Build
+Bull
+Bur
+C
+Cal
+Calc
+Calend
+Calif
+Calligr
+Camb
+Cambr
+Campanol
+Canad
+Canterb
+Capt
+Cartogr
+Catal
+Catech
+Cath
+Cent
+Ceram
+Cert
+Certif
+Ch
+Ch. Hist
+Chamb
+Char
+Charac
+Chas
+Chem
+Chem. Engin
+Chesh
+Chr
+Chron
+Chronol
+Chrons
+Cinematogr
+Circ
+Civ.
+Civil Engin
+Cl
+Class
+Class. Antiq
+Classif
+Climatol
+Clin
+Col
+Coll
+Collect
+Colloq
+Coloss
+Com
+Comb
+Combs
+Comm
+Commandm
+Commend
+Commerc
+Commiss
+Commonw
+Communic
+Comp. Anat
+Compan
+Compar
+Compend
+Compl
+Compos
+Conc
+Conch
+Concl
+Conf
+Confid
+Confl
+Confut
+Congr
+Congreg
+Congress
+Conn
+Consc
+Consecr
+Consid
+Consol
+Constit
+Constit. Hist
+Constr
+Contemp
+Contempl
+Contend
+Content
+Contin
+Contradict
+Contrib
+Controv
+Conv
+Convent
+Conversat
+Convoc
+Cor
+Cornw
+Coron
+Corr
+Corresp
+Counc
+Courtsh
+Craniol
+Craniom
+Crim
+Crit
+Crt
+Crts
+Cryptogr
+Crystallogr
+Ct
+Cumb
+Cumberld
+Cumbld
+Cycl
+Cytol
+D.C
+Dan
+Dau
+Deb
+Dec
+Declar
+Ded
+Def
+Deliv
+Demonstr
+Dep
+Depred
+Depredat
+Dept
+Derbysh
+Descr
+Deut
+Devel
+Devonsh
+Dial
+Dict
+Diffic
+Direct
+Dis
+Disc
+Discipl
+Discov
+Discrim
+Discuss
+Diss
+Dist
+Distemp
+Distill
+Distrib
+Div
+Divers
+Dk
+Doc
+Doctr
+Domest
+Durh
+E
+E. Ind
+E.D.D
+E.E.T.S
+East Ind
+Eccl
+Eccl. Hist
+Eccles
+Ecclus
+Ecol
+Econ
+Ed
+Edin
+Edinb
+Educ
+Edw
+Egypt
+Egyptol
+Electr
+Electr. Engin
+Electro-magn
+Electro-physiol
+Elem
+Eliz
+Elizab
+Emb
+Embryol
+Encycl
+Encycl. Brit
+Encycl. Metrop
+Eng
+Engin
+Englishw
+Enq
+Ent
+Enthus
+Entom
+Entomol
+Enzymol
+Eph
+Ephes
+Epil
+Episc
+Epist
+Epit
+Equip
+Esd
+Ess
+Essent
+Establ
+Esth
+Ethnol
+Etymol
+Eval
+Evang
+Even
+Evid
+Evol
+Ex. doc
+Exalt
+Exam
+Exch
+Exec
+Exerc
+Exhib
+Exod
+Exped
+Exper
+Explan
+Explic
+Explor
+Expos
+Ezek
+Fab
+Fam
+Farew
+Feb
+Ff
+Fifesh
+Footpr
+Forfarsh
+Fortif
+Fortn
+Found
+Fr
+Fragm
+Fratern
+Friendsh
+Fund
+Furnit
+Gal
+Gard
+Gastron
+Gaz
+Gd
+Gen
+Geo
+Geog
+Geogr
+Geol
+Geom
+Geomorphol
+Ger
+Glac
+Glasg
+Glos
+Gloss
+Glouc
+Gloucestersh
+Gosp
+Gov
+Govt
+Gr
+Gram
+Gramm.
+Gt.
+Gynaecol
+Hab
+Haematol
+Hag
+Hampsh
+Handbk
+Hants
+Heb
+Hebr
+Hen
+Her
+Herb
+Heref
+Hereford
+Herefordsh
+Hertfordsh
+Hierogl
+Hist
+Histol
+Hom
+Horol
+Hort
+Hos
+Hosp
+Househ
+Housek
+Husb
+Hydraul
+Hydrol
+Ichth
+Icthyol
+Ideol
+Idol
+Illustr
+Imag
+Immunol
+Impr
+Inaug
+Inclos
+Ind
+Industr
+Industr. Rel
+Infl
+Innoc
+Inorg
+Inq
+Inst
+Instr
+Intell
+Intellect
+Interc
+Interl
+Internat
+Interpr
+Intro
+Introd
+Inv
+Invent
+Invert. Zool
+Invertebr
+Investig
+Investm
+Invoc
+Ir
+Irel
+Isa
+Ital
+Jahrb
+Jam
+Jan
+Jap
+Jas
+Jer
+Josh
+Jrnl
+Jrnls
+Jud
+Judg
+Jul
+Jun
+Jurisd
+Jurisdict
+Jurispr
+Justif
+Justific
+K
+Kent
+Kgs
+Kingd
+King’s Bench Div
+Knowl
+Kpr
+Lab
+Lam
+Lament
+Lanc
+Lancash
+Lancs
+Lang
+Langs
+Lat
+Ld
+Lds
+Lect
+Leechd
+Leg
+Leicest
+Leicester
+Leicestersh
+Leics
+Let
+Lett
+Lev
+Lex
+Libr
+Limnol
+Lincolnsh
+Lincs
+Ling
+Linn
+Lit
+Lithogr
+Lithol
+Liturg
+Lond
+MS
+MSS
+Macc
+Mach
+Mag
+Magn
+Mal
+Man
+Managem
+Manch
+Manip
+Manuf
+Mar
+Mass
+Math
+Matt
+Meas
+Measurem
+Mech
+Med
+Medit
+Mem
+Merc
+Merch
+Metall
+Metallif
+Metallogr
+Metamorph
+Metaph
+Meteorol
+Meth
+Metrop
+Mex
+Mic
+Mich
+Microbiol
+Microsc
+Mil
+Milit
+Min
+Mineral
+Misc
+Miscell
+Mod
+Monum
+Morphol
+Mt
+Mtg
+Mts
+Munic
+Munif
+Munim
+Mus
+Myst
+Myth
+Mythol
+N
+N. Afr
+N. Amer
+N. Ir
+N. Irel
+N.E
+N.E.D
+N.S.
+N.S.W
+N.T
+N.W
+N.Y
+N.Z
+Nah
+Narr
+Narrat
+Nat
+Nat. Hist
+Nat. Philos
+Nat. Sci
+Naut
+Nav
+Navig
+Neh
+Neighb
+Nerv
+Neurol
+Neurosurg
+New Hampsh
+Newc
+Newspr
+No
+Non-conf
+Nonconf
+Norf
+Northamptonsh
+Northants
+Northumb
+Northumbld
+Northumbr
+Norw
+Norweg
+Notts
+Nov
+Nucl
+Num
+Numism
+O.E.D
+O.T
+Obad
+Obed
+Obj
+Obs
+Observ
+Obstet
+Obstetr
+Obstetr. Med
+Occas
+Occup
+Occurr
+Oceanogr
+Oct
+Off
+Offic
+Okla
+Ont
+Ophthalm
+Ophthalmol
+Oppress
+Opt
+Orac
+Ord
+Org
+Org. Chem
+Organ. Chem
+Orig
+Orkn
+Ornith
+Ornithol
+Orthogr
+Outl
+Oxf
+Oxfordsh
+Oxon
+P. R
+Pa
+Palaeobot
+Palaeogr
+Palaeont
+Palaeontol
+Paraphr
+Parasitol
+Parl
+Parnass
+Path
+Pathol
+Peculat
+Penins
+Perf
+Periodontol
+Pers
+Persec
+Perthsh
+Pet
+Petrogr
+Petrol
+Pharm
+Pharmaceut
+Pharmacol
+Phil
+Philad
+Philem
+Philipp
+Philol
+Philos
+Phoen
+Phonol
+Photog
+Photogr
+Phrenol
+Phys
+Physical Chem
+Physical Geogr
+Physiogr
+Physiol
+Pict
+Poet
+Pol
+Pol. Econ
+Polit
+Polytechn
+Pop
+Porc
+Port
+Posth
+Postm
+Pott
+Pract
+Predict
+Pref
+Preh
+Prehist
+Prerog
+Pres
+Presb
+Preserv
+Prim
+Princ
+Print
+Probab
+Probl
+Proc
+Prod
+Prol
+Pronunc
+Prop
+Pros
+Prov
+Provid
+Provinc
+Provis
+Ps
+Psych
+Psychoanal
+Psychoanalyt
+Psychol
+Psychopathol
+Pt
+Publ
+Purg
+Q
+Q. Eliz
+Qld
+Quantum Mech
+Queen’s Bench Div
+R
+R.A.F
+R.C
+R.N
+Radiol
+Reas
+Reb
+Rebell
+Rec
+Reclam
+Recoll
+Redempt
+Ref
+Refl
+Refus
+Refut
+Reg
+Regic
+Regist
+Regr
+Rel
+Relig
+Reminisc
+Remonstr
+Renfrewsh
+Rep
+Reprod
+Rept
+Repub
+Res
+Resid
+Ret
+Retrosp
+Rev
+Revol
+Rhet
+Rhode Isl
+Rich
+Rom
+Rom. Antiq
+Ross-sh
+Roxb
+Roy
+Rudim
+Russ
+S
+S. Afr
+S.E
+S.T.S
+S.W
+SS
+Sam
+Sask
+Sat
+Sax
+Sc
+Scand
+Sch
+Sci
+Scot
+Scotl
+Script
+Sculpt
+Seismol
+Sel
+Sel. comm
+Select
+Sept
+Ser
+Serm
+Sess
+Settlem
+Sev
+Shakes
+Shaks
+Sheph
+Shetl
+Shropsh
+Soc
+Sociol
+Som
+Song Sol
+Song of Sol
+Sonn
+Span
+Spec
+Specif
+Specim
+Spectrosc
+St
+Staff
+Stafford
+Staffordsh
+Staffs
+Stand
+Stat
+Statist
+Stock Exch
+Stratigr
+Struct
+Stud
+Subj
+Subscr
+Subscript
+Suff
+Suppl
+Supplic
+Suppress
+Surg
+Surv
+Sus
+Symmetr
+Symp
+Syst
+Taxon
+Techn
+Technol
+Tel
+Telecomm
+Telegr
+Teleph
+Teratol
+Terminol
+Terrestr
+Test
+Textbk
+Theat
+Theatr
+Theol
+Theoret
+Thermonucl
+Thes
+Thess
+Tim
+Tit
+Topogr
+Trad
+Trag
+Trans
+Transl
+Transubstant
+Trav
+Treas
+Treat
+Treatm
+Trib
+Trig
+Trigonom
+Trop
+Troub
+Troubl
+Typog
+Typogr
+U.K
+U.S
+U.S.A.F
+U.S.S.R
+Univ
+Unnat
+Unoffic
+Urin
+Utilit
+Va
+Vac
+Valedict
+Veg
+Veg. Phys
+Veg. Physiol
+Venet
+Vertebr
+Vet
+Vet. Med
+Vet. Path
+Vet. Sci
+Vet. Surg
+Vic
+Vict
+Vind
+Vindic
+Virg
+Virol
+Voc
+Vocab
+Vol
+Vols
+Voy
+Vulg
+W
+W. Afr
+W. Ind
+W. Va
+Warwicksh
+Wd
+Westm
+Westmld
+Westmorld
+Westmrld
+Will
+Wilts
+Wiltsh
+Wis
+Wisd
+Wk
+Wkly
+Wks
+Wonderf
+Worc
+Worcestersh
+Worcs
+Writ
+Yearbk
+Yng
+Yorks
+Yorksh
+Yr
+Yrs
+Zech
+Zeitschr
+Zeph
+Zoogeogr
+Zool
+abbrev
+abl
+absol
+abstr
+acc
+accus
+ad
+adj
+adj. phr
+adjs
+adv
+advb
+advs
+agst
+alt
+aphet
+app
+appos
+arch
+art
+attrib
+bef
+betw
+c
+cent
+cf
+cl
+cogn. w
+collect
+colloq
+comb.
+comp
+compar
+compl
+conc
+concr
+conj
+cons
+const
+contempt
+contr
+corresp
+cpd
+dat
+def
+dem
+deriv
+derog
+dial
+dim
+dyslog
+e
+e. midl
+east
+ellipt
+emph
+erron
+esp
+etym
+etymol
+euphem
+exc
+f
+fam
+famil
+fem
+fig
+fl
+freq
+fut
+gen
+gerund
+hist
+imit
+imp
+imperf
+impers
+impf
+improp
+ind
+indef
+indic
+indir
+infin
+infl
+instr
+int
+interj
+interrog
+intr
+intrans
+iron
+irreg
+joc
+l
+lit
+ll
+m
+masc
+med
+metaphor
+metr. gr
+midl
+mispr
+mod
+n
+n.e
+n.w
+nom
+nonce-wd
+north
+ns
+obj
+obl
+obs
+occas
+opp
+orig
+p
+pa
+pa. pple
+pa. t
+pass
+perf
+perh
+pers
+personif
+pf
+phonet
+phr
+pl
+plur
+poet
+pop
+poss
+ppl
+ppl. a
+ppl. adj
+ppl. adjs
+pple
+pples
+pr
+pr. pple
+prec
+pred
+predic
+pref
+prep
+pres
+pres. pple
+priv
+prob
+pron
+pronunc
+prop
+propr
+prov
+pseudo-Sc
+pseudo-arch
+pseudo-dial
+q.v
+quot
+quots
+redupl
+refash
+refl
+reg
+rel
+repr
+rhet
+s
+s.e
+s.v
+s.w
+sc
+sing
+south
+sp
+spec
+str
+subj
+subjunct
+subord
+subord. cl
+subseq
+subst
+suff
+superl
+syll
+t
+techn
+tr
+trans
+transf
+transl
+ult
+unkn
+unstr
+usu
+v
+v.r
+v.rr
+var
+varr
+vars
+vb
+vbl
+vbl. ns
+vbl.n
+vbs
+viz
+vulg
+w
+wd
+west
+wk

sentence_splitters/lt.pickle

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:163ba25f5fb231c6ffbf5eb89a7ca7af791ab4a204d06f8f493dc2a7923b88ea
+size 16662471

sentence_splitters/lt_abbr.txt

@@ -0,0 +1,107 @@
+1 asm
+2 asm
+2 laip
+3 asm
+3 laip
+a
+afar
+alb
+anat
+angl
+bdn
+bdv
+bendr
+bendr. g
+bev. g
+bot
+būs. l
+būt. d. l
+būt. k. l
+būt. l
+d
+daug
+daugisk*
+daugisk
+dgs
+dgs. gal
+dgs. kilm
+dgs. naud
+dgs. vard
+dgs. viet
+dgs. įnag
+dgs. šauksm
+dkt
+dlv
+dvis
+es. l
+g
+gal
+galis
+gr
+ist
+jap
+jung
+kiek. skait
+kilm
+kin
+liep. nuos
+liet
+lot
+m
+mat
+menk
+min
+mot. g
+muz
+mėn
+naud
+neig
+nevart
+neveik. dlv
+ol
+pagr. f
+pdlv
+ppr
+pranc
+prk
+prl
+prv
+psdlv
+reik
+reik. dlv
+rus
+s
+sangrž
+sant
+sen
+sen. graik
+skait
+syn
+tar. nuos
+tarm
+tibet
+ties. nuos
+tikr
+val
+vard
+veik. dlv
+vienask*
+vienask
+viet
+vks
+vns
+vns. gal
+vns. kilm
+vns. naud
+vns. vard
+vns. viet
+vns. įnag
+vns. šauksm
+vok
+vyr. g
+įnag
+įvard. f
+įvrd
+šauksm
+šnek
+žarg.

sentence_splitters/pl.pickle

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:624900ae3ddfb4854a98c5d3b8b1c9bb719975f33fee61ce1441dab9f8a00718
+size 1738386

sentence_splitters/pl_abbr.txt

@@ -0,0 +1,524 @@
+A
+Al
+B
+C
+D
+Dz. U
+K.c
+M
+Mat
+Mojż
+Ms
+N
+Oświec
+P.S.A
+P.T
+S.K.A
+St. Zj
+Sz.P
+W
+a
+a.c
+a.i
+a.u.c
+ab init
+ad us. ext
+ad us. int
+adw
+afr
+ags
+al
+alb
+alk
+amb
+amp
+amp.-strz
+ang
+antr
+antrop
+antropol
+aor
+ap
+apl
+apost
+archidiec
+arcyks
+ark
+art
+asp
+aud
+aust
+austral
+b
+b.a
+b.d
+b.m
+b.r
+b.w
+bdb
+belg
+białorus
+białost
+blm
+blp
+bm
+bot
+bp
+br
+bryt
+bsm
+bud
+but
+bułg
+bł
+c.b.d.o
+cbdu
+cd
+cdn
+chor
+chorw
+cieśn
+cnd
+coll
+cz
+czes
+czw
+czyt
+d
+daw
+dcn
+def
+dent
+dep
+diec
+dk
+dn
+doc
+doktor h.c
+dol
+dolnośl
+dom
+dosł
+dot
+dr h.c
+dr hab
+ds
+dst
+dw
+dypl
+dyr
+dyw
+dz. cyt
+dł
+egz
+ekum
+ent
+est
+etc
+etym
+europ
+ew
+fiol
+fl
+flor
+fot
+fr
+fragm
+franc
+funt. szt
+g
+gd
+gen
+gen. bryg
+gen. dyw
+gm
+godz
+gorz
+gr
+graf
+grub
+gub
+gł
+h
+h.c
+hab
+harc
+hebr
+hiszp
+hitl
+hm
+hr
+i in
+i nast
+ie
+ilustr
+im
+inc
+inf
+insp
+int
+inż
+itd
+itp
+j
+j.a
+jez
+jid
+jn
+jw
+jwt
+jęz
+k
+k.c
+k.h
+k.k
+k.k.s
+k.k.w
+k.m
+k.p
+k.p.a
+k.p.c
+k.p.k
+k.p.s.w
+k.r.o
+k.s.h
+k.w
+k.z
+kadm
+kal
+kapr
+kaps
+kard
+kark
+kasz
+kat
+kier
+kl
+kol
+kom
+kontradm
+kop
+kplm
+kpr
+kpt
+kpt. ż.w
+kraj
+krak
+ks
+książk
+kuj
+kw
+kł
+l
+l.at
+l.c
+lek
+lic
+lit
+lok
+lp
+lub
+m
+m.b
+m.in
+m.p
+m.p.z.p
+m.st
+mar
+marsz
+maz
+małop
+mec
+med
+miejsc
+mies
+min
+mn
+mn.w
+muz
+mł
+mł. chor
+n
+n.e
+n.p.m
+n.p.t
+n.p.u
+nab
+nacz
+nadbryg
+nadinsp
+nadkom
+nakł
+nb
+niedz
+niem
+nlb
+nord
+norw
+np
+nt
+nż
+o
+o.c
+ob
+obj
+obr
+obs
+obw
+odc
+odm
+odp
+ogn
+ok
+oo
+op
+op. cit
+opak
+oprac
+ort
+os
+oświec
+p
+p.a
+p.c
+p.f
+p.f.v
+p.n.e
+p.o
+p.p
+p.p.c
+p.p.m
+p.p.t
+p.r
+p.r.v
+par
+paw
+pchor
+phm
+pie
+pil
+pl
+plot
+plut
+pn
+po Chr
+pobl
+pocz
+pod
+podchor
+podgat
+podinsp
+podkarp
+podkom
+podkr
+poet
+poj
+pok
+pol
+pom
+pon
+poprz
+por
+port
+pos
+posp
+post
+posł
+pot
+pow
+poz
+poł
+pp
+ppanc
+ppor
+ppoż
+prawdop
+prał
+prez
+prob
+proc
+prod
+prof
+prof. nadzw
+proj
+prok
+prom
+prow
+przed Chr
+przedm
+przedsł
+przekł
+przeł
+przyl
+przyp
+ps
+pseud
+pt
+pw
+pwd
+półn
+płd
+płk dypl
+płn
+płw
+q.l
+q.p
+q.s
+q.v
+r
+r.b
+r.s.v.p
+r.szk
+r.ż
+rachm
+rb
+red
+renes
+rew
+reż
+ros
+rozdz
+rtg
+rtm
+rub
+rum
+ryc
+rys
+rz
+rzecz
+s
+scen
+scenogr
+sek
+sekc
+sen
+serb
+sierż
+skr
+skw
+sob
+sp
+sp. j
+sp. z o.o
+sp.k
+sp.p
+spec
+sr
+st
+st. bsm
+st. kpr
+st. sierż
+st. szer
+st.rus
+str
+strz
+sud
+sygn
+szczec
+szer
+szt
+sztab
+szw
+szwajc
+słow
+t
+t. z
+t.j
+t.t.l
+tab
+tabl
+tatrz
+tel
+temp
+tir
+tj
+tow
+trl
+tryb
+ts
+tur
+turec
+tut
+tydz
+tys
+tyt
+tzn
+tzw
+tł
+tłum
+ub
+ukr
+ul
+ur
+ust
+v.v
+vs
+w zb
+w
+wachm
+wadm
+warm
+wet
+weter
+wiceadm
+wicemin
+wiej
+wit
+wlk
+wlkp
+woj
+wol
+wprow
+wroc
+ws
+wsch
+wt
+ww
+wyb
+wyd
+wyj
+wym
+wys
+wyż
+wz
+wzgl
+wędr
+węg
+wł
+właśc
+x
+xx
+z d
+z późn. zm
+z s
+z up
+z
+zach
+zad
+zam
+zat
+zb
+zdj
+zdr
+zesz
+ziel
+zm
+zob
+zool
+zw
+ząbk
+ćw
+Łuk
+ł.o.r
+łot
+łow
+śl
+śp
+śr
+św
+św. św
+śś
+ż
+żarg
+żart
+żyd

sentence_splitters/ru.pickle

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:549762f8190024d89b511472df21a3a135eee5d9233e63ac244db737c2c61d7e
+size 33020

sentence_splitters/ru_abbr.txt

@@ -0,0 +1,325 @@
+Б-то
+б
+б. г
+б. м
+б.г
+б.м
+Б.М
+б.у
+без доп
+в т. ч
+в
+В
+в.ч
+вв
+вводн
+вкл
+вм
+г
+газ
+герм
+гл
+гл. обр
+гот
+град
+греч
+губ
+д
+д.-в.-н
+д.-в.-нем
+до н. э
+до н.э
+до Р. Хр
+ед. ч
+ед.ч
+ж
+ж. д
+зав
+зам
+и др
+и пр
+и т. д
+и т. п
+и т.д
+и т.п
+и.о
+И.О
+изд
+им
+ирл
+к
+кв
+кимр
+кит
+коп
+Л
+л
+л. с
+л.с
+лат
+м
+М
+м. б
+м. г
+м. пр
+м.б
+м.г
+мн. ч
+мн.ч
+Н-то
+н. э
+н.э
+наб
+напр
+нпр
+Нтто
+о
+обл
+ок
+п. г. т
+п. м
+п. п
+п.г
+п.п
+п.т.ч
+п/пр
+пер
+пл
+по дов
+после Р. Хр
+приб
+прил
+прич
+р
+ред
+руб
+с
+с. г
+с. м
+с. ч
+с.г
+с.м
+с.ч
+с.ш
+скл
+сл. обр
+след
+см
+ср
+ст
+ст.-слав
+стр
+т
+т. г
+т. е
+т. к
+т. м
+т. наз
+т. о
+т. обр
+т.г
+т.е
+т.к
+т.м
+т.н
+тж
+тов
+у. е
+ул
+уст
+Ф.И.О
+цслав
+шт
+ак
+акад
+д-р биол
+д-р ветеринар
+д-р воен
+д-р геогр
+д-р геол.-минерал
+д-р ист
+д-р мед
+д-р пед
+д-р полит
+д-р психол
+д-р с.-х
+д-р социол
+д-р техн
+д-р фармацевт
+д-р физ.-мат
+д-р филол
+д-р филос
+д-р хим
+д-р экон
+д-р юрид
+д.б.н
+д.г.-м.н
+д.г.н
+д.и.н
+д.иск
+д.м.н
+д.п.н
+д.пед.н
+д.полит.н
+д.с.-х.н
+д.социол.н
+д.т.н
+д.ф.-м.н
+д.ф.н
+д.филос.н
+д.фил.н
+д.х.н
+д.э.н
+д.э.н
+д.ю.н
+доц
+и.о
+к.б.н
+к.воен.н
+к.г.-м.н
+к.г.н
+к.геогр.н
+к.геогр.наук
+к.и.н
+к.иск
+к.м.н
+к.п.н
+к.псх.н
+к.пед.н
+канд.пед.наук
+к.полит.н
+к.с.-х.н
+к.социол.н
+к.с.н
+к.т.н
+к.ф.-м.н
+к.ф.н
+к.фил.н
+к.филол.н
+к.фарм.наук
+к.фарм.н
+к.фарм.н
+к.филос.наук
+к.филос.н
+к.филос.н
+к.х.н
+к.э.н
+к.ю.н
+канд. архитектуры
+канд. биол
+канд. ветеринар
+канд. воен
+канд. геогр
+канд. геол.-минерал
+канд. искусствоведения
+канд. ист
+к.ист.н
+канд. культурологии
+канд. мед
+канд. пед
+канд. полит
+канд. психол
+канд. с.-х
+канд. социол
+к.соц
+к.соц.н
+канд. техн
+канд. фармацевт
+канд. физ.-мат
+канд. филол
+канд. филос
+канд. хим
+канд. экон
+канд. юрид
+в.н.с
+мл. науч. сотр
+м.н.с
+проф
+профессор
+ст. науч. сотр
+чл.-к
+чл.-корр
+чл.-кор
+дир
+зам. дир
+зав. каф
+зав
+асп
+гл. науч. сотр
+вед. науч. сотр
+науч. сотр
+к.м.с
+по н.в
+в н.в
+наст
+наст. время
+г.г
+гг
+респ
+г.ф.з
+а.обл
+а.окр
+м.р-н
+г.о
+г.п
+с.п
+вн.р-н
+вн.тер.г
+пос
+п.г.т
+пгт
+р.п
+рп
+кп
+гп
+п
+киш
+п. ст
+п. ж/д ст
+ж/д п.п
+ж/д о.п
+ж/д рзд
+ж/д ст
+сл
+у
+х
+рзд
+зим
+мкр
+платф
+тер
+тер.ф.х
+ю
+ал
+взв
+взд
+дор
+ззд
+лн
+мгстр
+проул
+сзд
+туп
+ш
+влд
+двлд
+зд
+ком
+подв
+кот
+оф
+пав
+помещ
+раб.уч
+coop
+торг
+тыс.руб
+тыс
+долл
+прим
+прим.ред
+см
+кв.м
+сокр
+чел
+б.п.

sentence_splitters/sk.pickle

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:9bd8445e836e4ba1287a2b08f4e4049fe1c494b4df16d0dc4dfbde6f1f486a0b
+size 15443334

sentence_splitters/sk_abbr.txt

@@ -0,0 +1,187 @@
+Bc
+Ing
+Mgr
+RNDr
+a i
+a pod
+abl
+absol
+adj
+adv
+ak
+ak. sl
+akt
+al
+alch
+amer
+anat
+angl
+anglosas
+arab
+arch
+archit
+arg
+astr
+astrol
+att
+atď
+belg
+bibl
+biol
+boh
+bot
+bulh
+bás
+cca
+chcsl
+chem
+csl
+dat
+dej
+dep
+det
+dial
+dom
+dopr
+dosl
+dór
+ekon
+epic
+etnonym
+eufem
+f
+fam
+fem
+fil
+film
+form
+fot
+fr
+fut
+fyz
+gen
+geogr
+geol
+geom
+germ
+gr
+gram
+hebr
+herald
+hist
+hl
+hovor
+hud
+hut
+ie
+imp
+impf
+ind
+indoeur
+inf
+instr
+interj
+iron
+ión
+kanad
+katalán
+klas
+kniž
+komp
+konj
+konkr
+konšt
+kr
+kuch
+lat
+lek
+les
+lit
+liturg
+log
+m
+mat
+meteor
+metr
+mod
+ms
+n
+napr
+neklas
+nem
+nesklon
+než
+nom
+náb
+námor
+obch
+obyč
+odb
+ojed
+opt
+opyt
+part
+pas
+pejor
+pers
+pf
+pl
+plk
+plpf
+porov
+poľ
+poľno
+pplk
+predl
+prep
+privl
+práv
+r
+rcsl
+refl
+reg
+resp
+rkp
+s
+samohl
+sg
+skr
+sl
+spoluhl
+stfr
+strv
+stsl
+stĺ
+subj
+subst
+superl
+sv
+sz
+tal
+tech
+telev
+teol
+trans
+typogr
+v.v
+verb
+vl. m
+voj
+vok
+vulg
+vzťaž
+vôb
+výtv
+vš
+zahr
+zast
+zdrob
+zn
+zr
+zv
+zám
+č
+čas
+čes
+čs
+špec

sentence_splitters/uk.pickle

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:7a1bf324a410d95ddd925d66193075526801332faf72e8daa5b642fe546bf9aa
+size 16897081

sentence_splitters/uk_abbr.txt

@@ -0,0 +1,622 @@
+№ пор
+p
+pp
+X
+а. с
+авт. арк
+автореф
+агр
+аграр
+адапт
+адм
+адмін
+акад
+акад
+акомп
+алф
+альб
+альм
+амер
+аналіт
+англ
+анот
+антол
+арк
+арт
+арх
+археол
+архіт
+асист
+асоц
+асп
+атл
+б
+б. в
+б. д
+б. м
+б. р
+б. т
+б. тит. арк
+б. ц
+безкошт
+безпл
+берез
+бібл
+біблійн
+бібліогр
+бібліографозн
+бібліол
+біобібліогр
+біогр
+болг
+брош
+буд
+будів
+бух
+бюдж
+бюл
+в т. ч
+в
+в. о
+введ
+ввод
+вдоскон
+верес
+вет
+вивч
+вид
+вид
+вид. від
+викл
+викон
+викон
+використ
+виникн
+вип
+вип. дан
+випр
+вироб
+вист
+вих. дан
+вищ
+від
+відб
+відеофоногр
+відкр
+відом
+відп
+відред
+відродж
+вінниц
+віршов
+вісн
+вітчизн
+вкл. арк
+включ
+внутр
+волин
+впровадж
+вугіл
+вул
+вчен
+газ
+ген
+генет
+геодез
+геологорозв
+гір
+гірн
+гірничорят
+гл
+глобал
+голланд
+голов
+гологр
+госп
+господарч
+грав
+громад
+ГРУД
+гуманіт
+Д
+д. чл
+декор
+демокр
+деп
+депоз
+депон
+держ
+держадмін
+деф
+див
+дип
+дир
+дириг
+дис
+дит
+діагр
+діапоз
+діяльн
+дніпропетр
+довід
+дод
+додрук
+док
+докум
+донец
+доопрац
+доп
+допов
+допом
+дор
+доруч
+дослід
+дослідж
+доц
+драм
+друк
+духовн
+екол
+екон
+експерим
+електрон
+енерг
+енцикл
+євр
+європ
+житомир
+жовт
+журн
+забезп
+зав
+заг
+загот
+закарпат
+закінч
+закл
+зам
+зап
+запоріз
+зареєстр
+засід
+засл
+засн
+заст
+застосув
+затв
+заув
+зах
+зб
+здоб
+земел
+землероб
+зібр
+змін
+зобр
+зрошув
+зрошувал
+іл
+ілюстр
+ім
+ін
+інв
+інд
+індивід
+інж
+інозем
+інсп
+інспек
+інстр
+інструкт
+інструм
+інтегр
+інтенс
+інтерн
+інфл
+інформ
+ісп
+іст
+історіогр
+італ
+к
+к
+К
+каб
+канд
+карпат
+карт
+картогр
+картограф
+кас
+кат
+кат
+каф
+кв
+квіт
+кер
+керівн
+кіберн
+кінематогр
+кіровогр
+кл
+класиф
+класич
+клін.-експерим
+клініч
+кн
+книгозн
+коеф
+кол. авт
+колоніал
+ком
+комент
+комерц
+коміс
+коміч
+комп
+комп'ют
+комп'ют. наб
+компенс
+композ
+конгр
+конф
+концеп
+кооп
+коп
+кор
+корпор
+косм
+кресл
+крим
+кримін
+кримськотатар
+критич
+ксерокоп
+культ
+Л
+лаб
+латин
+лекс
+лип
+листоп
+лібр
+лікар
+лікув
+лінгв
+лірич
+літ
+літогр
+луган
+луц
+львів
+лют
+м
+М
+магістрал
+макс
+мал
+мат
+матер
+машинобуд
+мед
+меліор
+мемор
+менедж
+металоріз
+метод
+мех
+механіз
+миколаїв
+мистец
+мистецтвознав
+міжвід
+міжнар
+мін
+мінер
+міс
+міськ
+міськдержадмін
+місяч
+мкоп
+мовознав
+мол
+моногр
+морал
+муз
+мфотокоп
+н.-д
+наб
+наб. діапоз
+навч
+надзаг
+надзв
+напр
+нар
+народж
+народознав
+наст
+наук
+нац
+нім
+нормат
+О
+обкл
+обл
+обл.-вид. арк
+обладн
+облдержадмін
+образотв
+оброб
+обслуг
+обчисл
+оголош
+од
+одес
+оз
+окр
+окр. арк
+оповід
+опр
+опрац
+опрацюв
+оптич
+опубл
+опублік
+орг
+ориг
+орк
+оркестр
+офіц
+оформ
+п
+паг
+парлам
+партит
+пед
+пер
+пер
+перевид
+перегл
+передм
+перероб
+переробл
+персон
+персп
+письм
+півд
+півн
+підвищ
+підгот
+підготов
+підзаг
+підруч
+пл
+планув
+пластич
+плем
+повідомл
+поетич
+покажч
+показн
+полем
+полігр
+політол
+полтав
+пом
+попул
+портр
+посіб
+почат
+поясн
+пр
+пр
+правл
+правознав
+практ
+предм
+препр
+приватиз
+пригод
+прикл
+приклад
+прим
+природн
+присвяч
+пробл
+пров
+прогр
+програмув
+прод
+продовж
+проектув
+пром
+пропоз
+просп
+проф
+проф
+проф.-викл
+псевд
+публ
+публіц
+публіч
+радіоелектрон
+райдержадмін
+район
+рац
+раціон
+ред
+ред
+редкол
+реж
+рез
+рек
+рекл
+реком
+реліг
+репр
+репрод
+реставр
+ретросп
+реф
+рец
+рис
+рівнен
+розв
+розд
+розд. паг
+розповсюдж
+розроб
+розробл
+розшир
+рос
+ротапр
+рубр
+рубрик
+рукоп
+рум
+с
+с
+с.-г
+С.Пб
+сx
+сан
+сатир
+св
+секр
+селян
+семінар
+сенсац
+сер
+серп
+сес
+симп
+симф
+сист
+Сімф
+січ
+сканд
+склад
+скор
+сл
+слов
+словац
+словен
+служб
+соц
+соціол
+спец
+специф
+співавт
+співроб
+спорудж
+ст
+ст
+ст
+старш
+стат
+стер
+стереофон
+студ
+студент
+сум
+суспіл
+сцен
+т
+Т
+т. д
+т. ін
+табл
+татар
+творч
+тез
+телегр
+теорет
+терит
+терміч
+терноп
+техн
+технол
+тиж
+тижд
+тис
+тит. арк
+торг
+трав
+тракт
+транскр
+трансліт
+трансп
+турец
+у т. ч
+увед
+увод
+угор
+удоскон
+уклад
+уклад
+укр
+українознав
+ум. друк. арк
+унів
+упоряд
+упоряд
+упорядкув
+упр
+урив
+устатк
+учасн
+факс
+факульт
+фантаст
+фармац
+федер
+фест
+фіз
+філ
+філол
+філос
+фільмогр
+фін
+фкоп
+фоногр
+формув
+фотогр
+фотокоп
+фототип
+фр
+фрагм
+франків
+футл
+харк
+херсон
+хім
+хмельниц
+хор
+хорв
+хореогр
+християн
+худож
+ц
+церк
+цит
+ч
+часоп
+черв
+черкас
+чернів
+черніг
+чес
+чис
+чл.-кор
+шк
+щодекад
+щоден
+щокв
+щомісяч
+щоріч
+щотиж
+ювіл
+юнац
+яз
+ян
+яп.

topic_classifier/labels.json

@@ -0,0 +1 @@
+["agriculture", "art", "auto", "biomed", "ecommerce", "finance", "food", "history", "housing_and_construction", "humanities_and_social_sciences", "law", "lifestyle_and_entertaiment", "news", "religion", "science_and_engineering", "social_networks", "sport", "technology"]

topic_classifier/model.bin

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3b26be4292dd6f62003207f1daf3652a5c42a08fb4c3a221bbcd93892f08cae0
+size 82804371

topic_classifier/vectorizer.bin

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:acd7d12a26cf6d2410ba72d53b4a649c3aa3e2f34bd8088102140449dbfb66c1
+size 52023971