Upload 3 files
Browse files- README.md +16 -3
- imagens/quinquilharia.png +3 -0
- imagens/unsafe.png +3 -0
README.md
CHANGED
@@ -7,7 +7,7 @@ license: unlicense
|
|
7 |
pretty_name: Quinquilharia
|
8 |
---
|
9 |
|
10 |
-
[]()
|
11 |
|
12 |
# Quinquilharia
|
13 |
|
@@ -313,7 +313,10 @@ Video-games | [zeebo.forumbrasil.net][zeebo]
|
|
313 |
[zapping]: https://zapping.forumeiros.com
|
314 |
[zeebo]: https://zeebo.forumbrasil.net
|
315 |
|
316 |
-
|
|
|
|
|
|
|
317 |
|
318 |
Parâmetro | Descrição
|
319 |
--------- | ---------
|
@@ -335,4 +338,14 @@ Parâmetro | Descrição
|
|
335 |
`-domains` | Lista separada por vírgulas dos domínios a serem seguidos.
|
336 |
`-e robots=off` | Ignora instruções do arquivo `robots.txt`.
|
337 |
|
338 |
-
Todo o crawling foi realizado utilizado um thin client de baixo consumo de energia e, atráves do parâmetro `--wait`,
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
7 |
pretty_name: Quinquilharia
|
8 |
---
|
9 |
|
10 |
+
[]()
|
11 |
|
12 |
# Quinquilharia
|
13 |
|
|
|
313 |
[zapping]: https://zapping.forumeiros.com
|
314 |
[zeebo]: https://zeebo.forumbrasil.net
|
315 |
|
316 |
+
## Como o crawling foi realizado?
|
317 |
+
|
318 |
+
O conteúdo obtido de páginas da web foi acessado com ajuda do comando `wget`, que suporta varrer um website obtendo suas
|
319 |
+
páginas (crawling). Cada website requereu diferentes argumentos dentre os listados abaixo:
|
320 |
|
321 |
Parâmetro | Descrição
|
322 |
--------- | ---------
|
|
|
338 |
`-domains` | Lista separada por vírgulas dos domínios a serem seguidos.
|
339 |
`-e robots=off` | Ignora instruções do arquivo `robots.txt`.
|
340 |
|
341 |
+
Todo o crawling foi realizado utilizado um thin client de baixo consumo de energia e, atráves do parâmetro `--wait`,
|
342 |
+
**houve um cuidado para não sobrecarregar os servidores sendo acessados**.
|
343 |
+
|
344 |
+
## Vírus?
|
345 |
+
|
346 |
+
Em um dos arquivos dos fórums ([foruns/scriptbrasil.csv](foruns/scriptbrasil.csv)) o Hugging Face acusa como inseguro:
|
347 |
+
|
348 |
+

|
349 |
+
|
350 |
+
É um falso positivo! É um arquivo `.csv` simples como os outros, ele é erroneamente detectado como vírus pois diversas
|
351 |
+
postagens deste fórum são relacionadas à scripts e desenvolvimento em geral.
|
imagens/quinquilharia.png
ADDED
![]() |
Git LFS Details
|
imagens/unsafe.png
ADDED
![]() |
Git LFS Details
|