Update README.md
Browse files
README.md
CHANGED
|
@@ -12,64 +12,102 @@ pretty_name: Quinquilharia
|
|
| 12 |
# Quinquilharia
|
| 13 |
|
| 14 |
Textos variados em português do Brasil.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 15 |
|
| 16 |
## Fóruns
|
| 17 |
|
| 18 |
-
Tema | Link do fórum
|
| 19 |
-
---- | -------------
|
| 20 |
-
Agility (esporte) | [agilityrj.forumeiros.com][agilityrj]
|
| 21 |
-
|
| 22 |
-
|
| 23 |
-
|
| 24 |
-
|
| 25 |
-
|
| 26 |
-
|
| 27 |
-
|
| 28 |
-
|
| 29 |
-
|
| 30 |
-
|
| 31 |
-
|
| 32 |
-
|
| 33 |
-
|
| 34 |
-
|
| 35 |
-
|
| 36 |
-
|
| 37 |
-
|
| 38 |
-
|
| 39 |
-
|
| 40 |
-
|
| 41 |
-
|
| 42 |
-
|
| 43 |
-
|
| 44 |
-
|
| 45 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 46 |
|
| 47 |
-
[
|
| 48 |
-
[
|
| 49 |
-
[
|
| 50 |
-
[
|
| 51 |
-
[
|
| 52 |
-
[
|
| 53 |
-
[
|
| 54 |
-
[
|
| 55 |
-
[
|
| 56 |
-
[
|
| 57 |
-
[
|
| 58 |
-
[
|
| 59 |
-
[
|
| 60 |
-
[
|
| 61 |
-
[
|
| 62 |
-
[
|
| 63 |
-
[
|
| 64 |
-
[
|
| 65 |
-
[
|
| 66 |
-
[
|
| 67 |
-
[
|
| 68 |
-
[
|
| 69 |
-
[
|
| 70 |
-
[
|
| 71 |
-
[
|
| 72 |
-
[
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 73 |
|
| 74 |
O conteúdo obtido de páginas da web foi acessado com ajuda do comando `wget`, que suporta varrer um website obtendo suas páginas (crawling). Cada website requereu diferentes argumentos dentre os listados abaixo:
|
| 75 |
|
|
@@ -93,4 +131,4 @@ Parâmetro | Descrição
|
|
| 93 |
`-domains` | Lista separada por vírgulas dos domínios a serem seguidos.
|
| 94 |
`-e robots=off` | Ignora instruções do arquivo `robots.txt`.
|
| 95 |
|
| 96 |
-
Todo o crawling foi realizado utilizado um thin client de baixo consumo de energia e, atráves do parâmetro `--wait`, **houve um cuidado para não sobrecarregar os servidores sendo acessados**.
|
|
|
|
| 12 |
# Quinquilharia
|
| 13 |
|
| 14 |
Textos variados em português do Brasil.
|
| 15 |
+
www.forumdepizzas.net.csv
|
| 16 |
+
199467
|
| 17 |
+
|
| 18 |
+
www.portalmercedes.com.csv
|
| 19 |
+
775068
|
| 20 |
+
|
| 21 |
+
www.voovirtual.com.csv
|
| 22 |
+
477273
|
| 23 |
|
| 24 |
## Fóruns
|
| 25 |
|
| 26 |
+
Tema | Link do fórum | Dataset com scrap realizado
|
| 27 |
+
---- | ------------- | ---------------------------
|
| 28 |
+
Agility (esporte) | [agilityrj.forumeiros.com][agilityrj] | [agilityrj.csv](foruns/agilityrj.csv) (~13 mil linhas)
|
| 29 |
+
Animais de estimação | [brasilreef.com.br][brasilreef] | [brasilreef](foruns/brasilreef.csv) (~90 mil linhas)
|
| 30 |
+
Artes marciais | [ufconfantasy.forumeiros.com][ufconfantasy] | [ufconfantasy](foruns/ufconfantasy.csv) (~120 mil linhas)
|
| 31 |
+
Artesanato | [atelierdasartes.forumeiros.com][atelierdasartes] | [atelierdasartes.csv](foruns/atelierdasartes.csv) (~33 mil linhas)
|
| 32 |
+
Aúdio e vídeo | [audioanalogicodeportugal.net][audioanalogicodeportugal] | [audioanalogicodeportugal](foruns/audioanalogicodeportugal.csv] (~885 mil linhas)
|
| 33 |
+
Aúdio e vídeo | [audiopt.forumeiros.com][audiopt] | [audiopt.csv](foruns/audiopt.csv) (~17 mil linhas)
|
| 34 |
+
Computadores | [forum.projetoderedes.com.br][projetoderedes] | [projetoderedes](foruns/projetoderedes.csv) (~4 mil linhas)
|
| 35 |
+
Computadores | [under-linux.org][under-linux] | [under-linux.csv](foruns/under-linux.csv) (~29 mil linhas)
|
| 36 |
+
Dança | [bboypt.forumeiros.com][bboypt] | [bboypt.csv](foruns/bboypt.csv) (~11 mil linhas)
|
| 37 |
+
Desenhos animados | [forumnsanimes.com][forumnsanimes] | [forumnsanimes.csv](foruns/forumnsanimes.csv) (~11 mil linhas)
|
| 38 |
+
Desenhos animados | [naruto-portugal.forumeiro.com][naruto-portugal] | [naruto-portugal.csv](foruns/naruto-portugal.csv) (~65 mil linhas)
|
| 39 |
+
Desenhos animados | [naruto.forumeiros.com][naruto] | [naruto.csv](foruns/naruto.csv) (~96 mil linhas)
|
| 40 |
+
Desenvolvimento web | [opencartbrasil.com.br][opencartbrasil] | [opencartbrasil.csv](foruns/opencartbrasil.csv) (~53 mil linhas)
|
| 41 |
+
Desenvolvimento web | [scriptcase.com.br][scriptcase] | [scriptcase.csv](foruns/scriptcase.csv) (~214 mil linhas)
|
| 42 |
+
Eletrônicos | [gpsinfo.com.br][gpsinfo] | [gpsinfo.csv](foruns/gpsinfo.csv) (~41 mil linhas)
|
| 43 |
+
Eletrônicos | [htforum.net][htforum] | [htforum.csv](foruns/htforum.csv) (~99 mil linhas)
|
| 44 |
+
Eletrônicos | [intelbras.com.br][intelbras] | [intelbras.csv](foruns/intelbras.csv) (~56 mil linhas)
|
| 45 |
+
Engenharia elétrica | [forum.conprove.com][conprove] | [conprove.csv](foruns/conprove.csv] (~8 mil linhas)
|
| 46 |
+
Espiritualidade e religião | [extestemunhasdejeova.net][extestemunhasdejeova] | [extestemunhasdejeova.csv](foruns/extestemunhasdejeova.csv) (~189 mil linhas)
|
| 47 |
+
Filmes e séries | [bonanzabrasil.forumeiros.com][bonanzabrasil] | [bonanzabrasil](foruns/bonanzabrasil.csv] (~66 mil linhas)
|
| 48 |
+
Filmes e séries | [forumchaves.com.br][forumchaves] | [forumchaves.csv](foruns/forumchaves.csv) (~132 mil linhas)
|
| 49 |
+
Filmes e séries | [valinor.com.br][valinor] | [valinor.csv](foruns/valinor.csv) (~377 mil linhas)
|
| 50 |
+
Fotografia | [aveirofotoclube.forumeiros.com][aveirofotoclube] | [aveirofotoclube.csv](foruns/aveirofotoclube.csv) (~16 mil linhas)
|
| 51 |
+
Futebol | [academiatalentos.forumeiros.com][academiatalentos] | [academiatalentos.csv](foruns/academiatalentos.csv) (~7 mil linhas)
|
| 52 |
+
Fóruns | [ajuda.forumeiros.com][ajuda] | [ajuda.csv](foruns/ajuda.csv) (~2,7 milhões de linhas)
|
| 53 |
+
Gastronomia e culinária | [forumdepizzas.net][forumdepizzas] | [forumdepizzas](foruns/forumdepizzas.csv] (~199 mil linhas)
|
| 54 |
+
Jardinagem | [arte108.forumeiros.com][arte108] | [arte108.csv](foruns/arte108.csv) (~22 mil linhas)
|
| 55 |
+
Jogos de carta e tabuleiro | [battlescenes.forumeiros.com][battlescenes] | [battlescenes.csv](foruns/battlescenes.csv) (~10 mil linhas)
|
| 56 |
+
Modelismo | [autochampion.forumeiros.com][autochampion] | [autochampion.csv](foruns/autochampion.csv) (~26 mil linhas)
|
| 57 |
+
Modelismo | [plastibrasil.com][plastibrasil] | [plastibrasil.csv](foruns/plastibrasil.csv) (~256 mil linhas)
|
| 58 |
+
Motociclismo | [enduroportugal.forumeiros.com][enduroportugal] | [enduroportugal.csv](foruns/enduroportugal.csv] (~72 mil linhas)
|
| 59 |
+
Prostituição | [forumx.com.br][forumx] | [forumx](foruns/forumx.csv) (~1,5 milhão de linhas)
|
| 60 |
+
RPG | [rosarioto.catsboard.com][rosarioto] | [rosarioto](foruns/rosarioto.csv) (~28 mil linhas)
|
| 61 |
+
Variedades | [nosmulheres.forumeiros.com][nosmulheres] | [nosmulheres.csv](foruns/nosmulheres.csv) (~43 mil linhas)
|
| 62 |
+
Veículos | [fusca4ever.com.br][fusca4ever] | [fusca4ever.csv](foruns/fusca4ever.csv) (~38 mil linhas)
|
| 63 |
+
Veículos | [moto125cc.forumotion.com][moto125cc] | [moto125cc.csv](foruns/moto125cc.csv) (~77 mil linhas)
|
| 64 |
+
Veículos | [pequenasnotaveis.net][pequenasnotaveis] | [pequenasnotaveis.csv](foruns/pequenasnotaveis.csv) (~19 mil linhas)
|
| 65 |
+
Veículos | [portalmercedes.com][portalmercedes] | [portalmercedes](foruns/portalmercedes.csv] (~775 mil linhas)
|
| 66 |
+
Video-games | [forum.l2tnt.com.br][l2tnt] | [l2tnt.csv](foruns/l2tnt.csv) (~333 mil linhas)
|
| 67 |
+
Video-games | [tibiabr.com][tibiabr] | [tibiabr.csv](foruns/tibiabr.csv) (~90 mil linhas)
|
| 68 |
+
Video-games | [voovirtual.com][voovirtual] | [voovirtual](foruns/voovirtual.csv) (~477 mil linhas)
|
| 69 |
|
| 70 |
+
[academiatalentos]: https://academiatalentos.forumeiros.com
|
| 71 |
+
[agilityrj]: https://agilityrj.forumeiros.com
|
| 72 |
+
[ajuda]: https://ajuda.forumeiros.com
|
| 73 |
+
[arte108]: https://arte108.forumeiros.com
|
| 74 |
+
[atelierdasartes]: https://atelierdasartes.forumeiros.com
|
| 75 |
+
[audioanalogicodeportugal]: https://www.audioanalogicodeportugal.net
|
| 76 |
+
[audiopt]: https://audiopt.forumeiros.com
|
| 77 |
+
[autochampion]: https://autochampion.forumeiros.com
|
| 78 |
+
[aveirofotoclube]: https://aveirofotoclube.forumeiros.com
|
| 79 |
+
[battlescenes]: https://battlescenes.forumeiros.com
|
| 80 |
+
[bboypt]: https://bboypt.forumeiros.com
|
| 81 |
+
[bonanzabrasil]: https://bonanzabrasil.forumeiros.com
|
| 82 |
+
[brasilreef]: https://www.brasilreef.com.br
|
| 83 |
+
[conprove]: https://forum.conprove.com
|
| 84 |
+
[enduroportugal]: https://enduroportugal.forumeiros.com
|
| 85 |
+
[extestemunhasdejeova]: https://extestemunhasdejeova.net
|
| 86 |
+
[forumchaves]: https://forumchaves.com.br
|
| 87 |
+
[forumdepizzas]: https://www.forumdepizzas.net
|
| 88 |
+
[forumnsanimes]: https://www.forumnsanimes.com
|
| 89 |
+
[forumx]: https://forumx.com.br
|
| 90 |
+
[fusca4ever]: https://fusca4ever.com.br
|
| 91 |
+
[gpsinfo]: https://gpsinfo.com.br/index.php
|
| 92 |
+
[htforum]: https://htforum.net
|
| 93 |
+
[intelbras]: https://forum.intelbras.com.br
|
| 94 |
+
[l2tnt]: https://forum.l2tnt.com.br
|
| 95 |
+
[moto125cc]: https://moto125cc.forumotion.com
|
| 96 |
+
[naruto-portugal]: https://naruto-portugal.forumeiro.com/forum
|
| 97 |
+
[naruto]: https://naruto.forumeiros.com
|
| 98 |
+
[nosmulheres]: https://nosmulheres.forumeiros.com
|
| 99 |
+
[opencartbrasil]: https://forum.opencartbrasil.com.br
|
| 100 |
+
[pequenasnotaveis]: https://pequenasnotaveis.net
|
| 101 |
+
[plastibrasil]: https://forum.plastibrasil.com
|
| 102 |
+
[portalmercedes]: https://www.portalmercedes.com
|
| 103 |
+
[projetoderedes]: https://forum.projetoderedes.com.br
|
| 104 |
+
[rosarioto]: https://rosarioto.catsboard.com
|
| 105 |
+
[scriptcase]: https://forum.scriptcase.com.br
|
| 106 |
+
[tibiabr]: https://forums.tibiabr.com
|
| 107 |
+
[ufconfantasy]: https://ufconfantasy.forumeiros.com
|
| 108 |
+
[under-linux]: https://under-linux.org
|
| 109 |
+
[valinor]: https://valinor.com.br/forum
|
| 110 |
+
[voovirtual]: https://www.voovirtual.com
|
| 111 |
|
| 112 |
O conteúdo obtido de páginas da web foi acessado com ajuda do comando `wget`, que suporta varrer um website obtendo suas páginas (crawling). Cada website requereu diferentes argumentos dentre os listados abaixo:
|
| 113 |
|
|
|
|
| 131 |
`-domains` | Lista separada por vírgulas dos domínios a serem seguidos.
|
| 132 |
`-e robots=off` | Ignora instruções do arquivo `robots.txt`.
|
| 133 |
|
| 134 |
+
Todo o crawling foi realizado utilizado um thin client de baixo consumo de energia e, atráves do parâmetro `--wait`, **houve um cuidado para não sobrecarregar os servidores sendo acessados**.
|