quinquilharia / README.md
tallesl's picture
Upload README.md
011def8 verified
|
raw
history blame
40.6 kB
metadata
task_categories:
  - text-generation
language:
  - pt
license: unlicense
pretty_name: Quinquilharia

Quinquilharia

Textos variados em português do Brasil.

Fóruns

Tema Link do fórum Dataset com scrap realizado
Agility (esporte) agilityrj.forumeiros.com agilityrj.csv (~10 mil linhas)
Artes marciais forum.bjjforum.com.br bjjforum.csv (~318 mil linhas)
Artes marciais ufconfantasy.forumeiros.com ufconfantasy.csv (~120 mil linhas)
Artesanato atelierdasartes.forumeiros.com atelierdasartes.csv (~30 mil linhas)
Artesanato dsmemories.forumeiros.com dsmemories.csv (~17 mil linhas)
Artistas e celebridades avrilportugal.forumeiros.com avrilportugal.csv (~35 mil linhas)
Artistas e celebridades forumyuibrasil.forumeiros.com yuibrasil.csv (~38 mil linhas)
Artistas e celebridades justinbieberptst.forumeiros.com justinbieberptst.csv (~19 mil linhas)
Aúdio e vídeo audioanalogicodeportugal.net audioanalogicodeportugal.csv (~885 mil linhas)
Aúdio e vídeo audiopt.forumeiros.com audiopt.csv (~17 mil linhas)
Brinquedos fingerboardbrasil.1forum.biz fingerboardbrasil.csv (~13 mil linhas)
Carros e motos angolaoffroad.forumeiros.com angolaoffroad.csv (~34 mil linhas)
Carros e motos autouniverso.forumeiros.com autouniverso.csv (~85 mil linhas)
Carros e motos cherybrasil.forumeiros.com cherybrasil.csv (~42 mil linhas)
Carros e motos cinquecento.forumeiros.com cinquecento.csv (~43 mil linhas)
Carros e motos clube306portugal clube306portugal.csv (~29 mil linhas)
Carros e motos clubenovoka.forumeiros.com clubenovoka.csv (~179 mil linhas)
Carros e motos dafra.forumeiros.com dafra.csv (~85 mil linhas)
Carros e motos dragstaronline.forumeiros.com dragstaronline.csv (~36 mil linhas)
Carros e motos ecosportclub.forumeiros.com ecosportclub.csv (~60 mil linhas)
Carros e motos enduroportugal.forumeiros.com enduroportugal.csv (~60 mil linhas)
Carros e motos forumtransalp.forumeiros.com transalp.csv (~72 mil linhas)
Carros e motos fusca4ever.com.br fusca4ever.csv (~38 mil linhas)
Carros e motos hondacbrbrasil.forumeiros.com hondacbrbrasil.csv (~202 mil linhas)
Carros e motos miguelflores.forumeiros.com miguelflores.csv (~38 mil linhas)
Carros e motos moto125cc.forumotion.com moto125cc.csv (~77 mil linhas)
Carros e motos opaleirosdoparana.forumeiros.com opaleirosdoparana.csv (~630 mil linhas)
Carros e motos pequenasnotaveis.net pequenasnotaveis.csv (~19 mil linhas)
Carros e motos pitbikemasters.forumeiros.com pitbikemasters.csv (~21 mil linhas)
Carros e motos planetabuggy.forumeiros.com planetabuggy.csv (~101 mil linhas)
Carros e motos portalmercedes.com portalmercedes.csv (~775 mil linhas)
Carros e motos ybrfactor.forumeiros.com ybrfactor.csv (~75 mil linhas)
Caça e criação de animais aquapeixes.forumeiros.com aquapeixes.csv (~95 mil linhas)
Caça e criação de animais aves.forumeiros.com aves.csv (~167 mil linhas)
Caça e criação de animais brasilreef.com.br brasilreef.csv (~90 mil linhas)
Caça e criação de animais caes-caca-pesca-natu.forumeiros.com caescacapescanatu.csv (~62 mil linhas)
Caça e criação de animais ciclideosbr.forumbrasil.net ciclideosbr.csv (~41 mil linhas)
Caça e criação de animais criadoresdepassaros.com criadoresdepassaros.csv (~128 mil linhas)
Caça e criação de animais kacipesca.forumeiro.com kacipesca.csv (~11 mil linhas)
Caça e criação de animais peixefauna.forumeiros.com peixefauna.csv (~72 mil linhas)
Ciclismo ktmistas.forumeiros.com ktmistas.csv (~10 mil linhas)
Computadores forum.adrenaline.com.br adrenaline.csv (~133 mil linhas)
Computadores forum.projetoderedes.com.br projetoderedes.csv (~4 mil linhas)
Computadores ubuntuforum-br.org ubuntuforum.csv (~383 mil linhas)
Computadores under-linux.org underlinux.csv (~29 mil linhas)
Dança bboypt.forumeiros.com bboypt.csv (~7 mil linhas)
Desenhos animados axgforum.forumeiros.com axgforum.csv (~75 mil linhas)
Desenhos animados clothmythrevolution.forumeiros.com clothmythrevolution.csv (~85 mil linhas)
Desenhos animados deathnote-portugal.forumeiros.com deathnoteportugal.csv (~73 mil linhas)
Desenhos animados digiplace.forumeiros.com digiplace.csv (~165 mil linhas)
Desenhos animados dimensionnaruto dimensionnaruto.csv (~63 mil linhas)
Desenhos animados familia-anime.forumeiros.com familiaanime.csv (~77 mil linhas)
Desenhos animados forumnsanimes.com forumnsanimes.csv (~11 mil linhas)
Desenhos animados madhouse.forumeiro.com madhouse.csv (~615 mil linhas)
Desenhos animados naruto.forumeiros.com naruto.csv (~73 mil linhas)
Desenhos animados sugoidesu sugoidesu.csv (~5 mil linhas)
Design gráfico cyberdesigners.forumeiros.com cyberdesigners.csv (~46 mil linhas)
Design gráfico kromusdesign kromusdesign.csv (~71 mil linhas)
Eletríca e Eletrônica eletronica2002.forumeiros.com eletronica2002.csv (~421 mil linhas)
Eletríca e Eletrônica eletronicasilveira.forumeiros.com eletronicasilveira.csv (~54 mil linhas)
Eletríca e Eletrônica genioseletronica.forumeiros.com genioseletronica.csv (~59 mil linhas)
Eletríca e Eletrônica gpsinfo.com.br gpsinfo.csv (~41 mil linhas)
Eletríca e Eletrônica htforum.net htforum.csv (~99 mil linhas)
Eletríca e Eletrônica intelbras.com.br intelbras.csv (~56 mil linhas)
Eletríca e Eletrônica tx-rx.forumeiros.net txtr.csv (~25 mil linhas)
Engenharia elétrica forum.conprove.com conprove.csv (~8 mil linhas)
Espiritualidade e religião extestemunhasdejeova.net extestemunhasdejeova.csv (~189 mil linhas)
Espiritualidade e religião [gospel-semeadores-da.forumeiros.com][gospel] gospelsemeadores.csv (~31 mil linhas)
Espiritualidade e religião sola-scriptura.forumeiro.com solascriptura.csv (~6 mil linhas)
Fanction fanfictions.forumeiros.com fanfictions.csv (~24 mil linhas)
Filosofia mestredoconhecimento.forumeiros.com mestredoconhecimento.csv (~21 mil linhas)
Forças armadas e policial concursopmerj2010.forumeiro.com concursopmerj2010.csv (~163 mil linhas)
Forças armadas e policial forumgnr.forumeiros.com forumgnr.csv (~85 mil linhas)
Fotografia aveirofotoclube.forumeiros.com aveirofotoclube.csv (~13 mil linhas)
Futebol academiatalentos.forumeiros.com academiatalentos.csv (~7 mil linhas)
Futebol botafogoemdebate.forumeiros.com botafogoemdebate.csv (~50 mil linhas)
Futebol colecaofutebol.forumeiros.com colecaofutebol.csv (~63 mil linhas)
Futebol freestylebr freestylebr.csv (~97 mil linhas)
Futebol panelaverde panelaverde.csv (~29 mil linhas)
Futebol proallmanagers.forumeiros.com proallmanagers.csv (~41 mil linhas)
Fóruns ajuda.forumeiros.com ajuda.csv (~2,7 milhões de linhas)
Fóruns bestskins.forumeiros.com bestskins.csv (~34 mil linhas)
Gastronomia e culinária forumdepizzas.net forumdepizzas.csv (~199 mil linhas)
Jardinagem arte108.forumeiros.com arte108.csv (~22 mil linhas)
Jogos de carta e tabuleiro 5dsbr.forumeiros.com 5dsbr.csv (~23 mil linhas)
Jogos de carta e tabuleiro battlescenes.forumeiros.com battlescenes.csv (~3 mil linhas)
Literatura ailhadanoite.forumeiros.com ailhadanoite.csv (~35 mil linhas)
Luta fpwrestling.forumeiros.com fpwrestling.csv (~391 mil linhas)
Luta mma-warriors.forumeiros.com mmawarriors.csv (~40 mil linhas)
Modelismo autochampion.forumeiros.com autochampion.csv (~25 mil linhas)
Modelismo plastibrasil.com plastibrasil.csv (~256 mil linhas)
Música contrabaixobr.com contrabaixobr.csv (~931 mil linhas)
Música forum.metalremains.com metalremains.csv (~192 mil linhas)
Música guitarradas.forumeiros.com guitarradas.csv (~146 mil linhas)
Música irmandademetalica.forumeiros.com irmandademetalica.csv (~25 mil linhas)
Música metalportugal metalportugal.csv (~40 mil linhas)
Música portalesc portalesc.csv (~29 mil linhas)
Música sgreborn.forumeiros.com sgreborn.csv (~36 mil linhas)
Programação analise-unopar.forumeiros.com analiseunopar.csv (~18 mil linhas)
Programação forum.scriptbrasil.com.br scriptbrasil.csv (~322 mil linhas)
Programação gmbr.forumeiros.com gmbr.csv (~23 mil linhas)
Programação maximoaccess.com maximoaccess.csv (~27 mil linhas)
Programação opencartbrasil.com.br opencartbrasil.csv (~53 mil linhas)
Programação scriptcase.com.br scriptcase.csv (~116 mil linhas)
Prostituição forumx.com.br forumx.csv (~1,5 milhão de linhas)
RPG forum.jamboeditora.com.br jamboeditora.csv (~112 mil linhas)
RPG houseofnightrpg.forumeiros.com houseofnightrpg.csv (~8 mil linhas)
RPG magicworld.forumeiro.com magicworld.csv (~230 mil linhas)
RPG otaku-rpg.forumeiros.net otakurpg.csv (~46 mil linhas)
RPG rosarioto.catsboard.com rosarioto.csv (~28 mil linhas)
RPG samaria.forumeiros.com samaria.csv (~76 mil linhas)
RPG shinkirpg shinkirpg.csv (~32 mil linhas)
RPG ssnarutorpg ssnarutorpg.csv (~10 mil linhas)
RPG vampirosamascara vampirosamascara.csv (~72 mil linhas)
Relacionamento divorciados.forumeiros.com divorciados.csv (~32 mil linhas)
Relógios dezdez dezdez.csv (~45 mil linhas)
Saúde forum.datasus.gov.br datasus.csv (~43 mil linhas)
Saúde forum.datasus.gov.br datasus.csv (~43 mil linhas)
Simuladores railworksbrasil.forumeiros.com railworksbrasil.csv (~29 mil linhas)
TV, filmes, e séries bonanzabrasil.forumeiros.com bonanzabrasil.csv (~66 mil linhas)
TV, filmes, e séries forumchaves.com.br forumchaves.csv (~132 mil linhas)
TV, filmes, e séries onepieceportugal.forumotion.com onepieceportugal.csv (~70 mil linhas)
TV, filmes, e séries rozenmaiden.forumbrasil.net rozenmaiden.csv (~25 mil linhas)
TV, filmes, e séries twilighthatersbrasil.forumeiros.com twilighthatersbrasil.csv (~49 mil linhas)
TV, filmes, e séries valinor.com.br valinor.csv (~377 mil linhas)
TV, filmes, e séries vampireacademybrasil.forummotion.com vampireacademybrasil.csv (~24 mil linhas)
TV, filmes, e séries xploitedforum.catsboard.com xploitedforum.csv (~81 mil linhas)
TV, filmes, e séries zapping.forumeiros.com zapping.csv (~392 mil linhas)
Turismo viageiros.forumeiros.com viageiros.csv (~4 mil linhas)
Variedades arraf.forumeiros.com arraf.csv (~226 mil linhas)
Variedades bcharts.com.br bcharts.csv (~1,6 milhões de linhas)
Variedades foro foro.csv (~27993 linhas)
Variedades forumjovem15.forumeiros.com forumjovem15.csv (~55 mil linhas)
Variedades nosmulheres.forumeiros.com nosmulheres.csv (~43 mil linhas)
Variedades ocultismo ocultismo.csv (~26 mil linhas)
Variedades semnocaosn semnocaosn.csv (~74 mil linhas)
Variedades superamigos.umforum.net superamigos.csv (~44 mil linhas)
Variedades tralhasgratis.forumeiros.com tralhasgratis.csv (~217 mil linhas)
Variedades vagueando.forumeiros.com vagueando.csv (~95 mil linhas)
Variedades wavenet wavenet.csv (~16 mil linhas)
Video-game forum.br.herozerogame.com herozerogame.csv (~31 mil linhas)
Video-games 0800.forumbrasil.net 0800.csv (~0800 mil linhas)
Video-games bfhportugal bfhportugal.csv (~26 mil linhas)
Video-games clanrota.forumeiros.com clanrota.csv (~14 mil linhas)
Video-games comunidadepwbr.forumbrasil.net comunidadepwbr.csv (~87 mil linhas)
Video-games dingoobr.forumeiros.com dingoobr.csv (~59 mil linhas)
Video-games fmbr.forumeiros.com fmbr.csv (~35 mil linhas)
Video-games forum.craftlandia.com.br craftlandia.csv (~113 mil linhas)
Video-games forum.exaioros.com exaioros.csv (~164 mil linhas)
Video-games forum.l2tnt.com.br l2tnt.csv (~333 mil linhas)
Video-games forum.newro.com.br newro.csv (~63 mil linhas)
Video-games forum.tribogamer.com tribogamer.csv (~90 mil linhas)
Video-games gamezerbrasil.forumeiros.com gamezerbrasil.csv (~21 mil linhas)
Video-games grupogamer.forumeiros.com grupogamer.csv (~41 mil linhas)
Video-games guiapw.forumbrasil.net guiapw.csv (~45 mil linhas)
Video-games gzakat.forumeiros.com gzakat.csv (~23 mil linhas)
Video-games mhfatalisbr.forumeiros.com mhfatalisbr.csv (~61 mil linhas)
Video-games mmorpgbr mmorpgbr.csv (~58 mil linhas)
Video-games nintendoblast.forumbrasil.net nintendoblast.csv (~706 mil linhas)
Video-games pokemonmythology pokemonmythology.csv (~45 mil linhas)
Video-games pokeshiny pokeshiny.csv (~103 mil linhas)
Video-games propixel.forumeiros.com propixel.csv (~176 mil linhas)
Video-games psnation.forumeiro.com psnation.csv (~159 mil linhas)
Video-games retrogames.forumbrasil.net retrogames.csv (~531 mil linhas)
Video-games rpgtibia.forumeiro.com rpgtibia.csv (~81 mil linhas)
Video-games ryudragon ryudragon.csv (~39 mil linhas)
Video-games schultzgames.com schultzgames.csv (~74 mil linhas)
Video-games teamkings.forumeiros.com teamkings.csv (~44 mil linhas)
Video-games thetriforcealliance.forumeiros.com thetriforcealliance.csv (~51 mil linhas)
Video-games tibiabr.com tibiabr.csv (~65 mil linhas)
Video-games toon.forumeiros.com toon.csv (~33 mil linhas)
Video-games tremulous.forumeiro.com tremulous.csv (~56 mil linhas)
Video-games voovirtual.com voovirtual.csv (~477 mil linhas)
Video-games xboxblast.forumbrasil.net xboxblast.csv (~53 mil linhas)
Video-games xtremepk.forumeiros.com xtremepk.csv (~31 mil linhas)
Video-games zeebo.forumbrasil.net zeebo.csv (~196 mil linhas)

Como o crawling foi realizado?

O conteúdo obtido de páginas da web foi acessado com ajuda do comando wget, que suporta varrer um website obtendo suas páginas (crawling). Cada website requereu diferentes argumentos dentre os listados abaixo:

Parâmetro Descrição
--adjust-extension Garante que ".html" seja adicionado aos arquivos.
--convert-links Converte links para links locais (útil para visualização offline).
--directory-prefix=/my/directory Define o diretório de destino.
--include-directories=posts Lista separada por vírgulas dos diretórios permitidos a serem seguidos no rastreamento.
--level=inf Define o nível de recursão como infinito.
--no-check-certificate Ignora a verificação de certificado SSL.
--no-clobber Evita o download de arquivos que já existem localmente.
--no-remove-listing Mantém os arquivos ".listing" criados para registrar o conteúdo dos diretórios.
--page-requisites Faz download de imagens embutidas, sons e folhas de estilo referenciadas.
--random-wait Multiplica o --wait aleatoriamente entre 0,5 e 1,5 para cada requisição.
--recursive Habilita o download recursivo (segue links).
--reject "*\?*" Rejeita URLs que contenham strings de consulta.
--span-hosts Permite download de arquivos de links que apontam para diferentes hosts.
--user-agent Envia o cabeçalho "User-Agent" especificado para o servidor.
--wait=6 Aguarda o número especificado de segundos entre cada requisição.
-domains Lista separada por vírgulas dos domínios a serem seguidos.
-e robots=off Ignora instruções do arquivo robots.txt.

Todo o crawling foi realizado utilizado um thin client de baixo consumo de energia e, atráves do parâmetro --wait, houve um cuidado para não sobrecarregar os servidores sendo acessados.

Vírus?

Em um dos arquivos dos fórums (foruns/scriptbrasil.csv) o Hugging Face acusa como inseguro:

É um falso positivo! É um arquivo .csv simples como os outros, ele é erroneamente detectado como vírus pois diversas postagens deste fórum são relacionadas à scripts e desenvolvimento em geral.