BOORU CHARS - ��������� 1280 px � ��������� Safebooru � ������ ��������� BOORU CHARS OPEN DATASET - ������� ���������������� � ����������������� ������������� ����������� anime/CG/game ��� � �������������� ����, ���������� � ��� ������������������ ��������� � ��� ���������� ������ (�� !). ������ �������� � �������� (�������������) �������� ������� �������� ���������� � ����� (���������� ������������ ��������� �����������) � ��������� ����������� � �������������� ��������������� �����������. ����� ��������� �������� ����������� �������� � �������� ��� �������� � ������ �� ������ �������-������ (05.2021) �� Git https://github.com/aperveyev/booru_processor ���������� ������ � ��� �����������. ���������� ������ �������� (2019, 512px) https://rutracker.org/forum/viewtopic.php?t=5825224 ����������� ����������� �������� ����� ������ (�.�. booru imageboards), ���������� ����������� � ����� ������������� ���������� � ���. ��������� ���� �����-����� �������� ����� ����� booru (������ ������������ ������������ � ����� ����������� ����������) ����� ��������������� ��� ������������ ������������ �������������� ���� ������. ���������������� ���������� ��������� booru (� �������� �������� �������� � pixiv, deviantart � ������ ������������ ����������� ��������), ��������� �� ������ (����������� ���������� �����������) � ����������� ��������� �������� (��� ������������, ��� � "��������" - safe / questionable = ������� / explicit = ����� ������). ���������� ��������� booru, ��� ��������� � ��������, ����� ���� ����������� - � ��������, �����, ������ �������� � �.�. ���������� �� ��� ���������� 10+ ��� � � ����� ����������� ����� ����� � �������� ��������, � ��������� ����� ����������: * safebooru.org - ������� ������ ��� ����������� ������� � ������, ������ ������� �������� (3.3 ��� ������ �� ������ 2021) * yande.re - ���������������� �� ������������������ ������, ������� "������������" ������ �����, ���� ������ (����� 0.8 ���) * gelbooru.com - "������" ������� safebooru ��� ��������� ����������� (6+ ���) * e-shuushuu.net - ����� ��������� � ��������� ����������� �� ��������, ����������� �����������, � ��������� ���� �������� (1 ���) * anime-pictures.net - �� ����� ������� (����� 0.7 ���) �� � ������� �������� � ������ ��������� �������� * konachan.com - ���������������� �� "�����" (����������� ����������), ������� ������, ���� ������ (0.32 ���) * danbooru.donmai.us - �������� booru-��������, ������������ ��������� (4.5 ���) ����������� ��������� �������������, ���� ������ * www.zerochan.net - �������� (3.3 ���) � ���������� (�� ����� � ��������) ������, ���� �� "�������" ��������, ������� �������� * chan.sankakucomplex.com - ���������� �� ���� ������ (15+ ��� �������� � gameCG), �� � ������� ��� ����������� ������ (~8 ���) * theanimegallery.com, animepapers.net - � ���� ����� ���� ��������, RIP ����� ��������� "������������������" ����� �� �������������� � ������ �������� iqdb.org � ������� ������� 17 ���. ����������� ���������� � ����������� ����� ������������� ������ � �� ������� ������������ �������� ������������������� ���������� (����� ���, ��� ������������ �� ����� - ��� � ��� sankakucomplex). �������������� ���������� (� ��������, ���������) ���������� ������������� ��� ��������� ���������, ���������� � ��� � �� ���������� � ����, � ��������. �����, ����� �� ������� ������������ ���������������� (������� ������, ���������� � �����������, �������������� ��������) �� ����� ���������� �������. � ������ �������� ������� ������ ���������� � �������� ����� �������� �� ������, ������� ������ * "bionus imgbrd grabber" �� ������ ������ ������ ���������� � safebooru, yande-re, gelbooru, anime-pictures, konachan * ���������� python (requests, BeautifulSoup, json, re, ...) ����������� ������� � ������ �������� booru ����� �������� ����� ���� ������ ����������: ��� �������� �������� �������� ���� ������� ����������� ���� ������, � ������� �������� � �������������� ��� ����������, ������ ���������� ��������. ������ ����������� ����� ���������� �������� � �������� ���� (Oracle XE) � ����������� � ������� SQL-��������, �� ���� ����� �������� ��������������� �������� �������� � ����������. ��������� �������� ����������� ��������� ������� ������������ ������� (Windows) � ������� ������������ ImageMagick, Python (� ������������ ������������), ������ xcopy/move - ��� ��� ����� � ����������� ������� ������������. ��� ���� �������� ��������������� �������� � ������� (����������� ���������, ������������, �������� � ��, �������������� � �.�.) ����� �������. ����������� ������������ � booru-����� ������� � ���������� ���� "���������, ����� ������������" �������� ��������� ������ � ���� ���� torrent-�������, ��������� �� ������� ����� ������� (��������� ������������ �������� ����� ��������): e-shuushuu - https://rutracker.org/forum/viewtopic.php?t=3612068 (��� �������, ��� �������� ���������) e-shuushuu 2013 - https://rutracker.org/forum/viewtopic.php?t=4462893 e-shuushuu 2013s - https://rutracker.org/forum/viewtopic.php?t=4575912 e-shuushuu 2014 - https://rutracker.org/forum/viewtopic.php?t=4583098 e-shuushuu 2015 - https://rutracker.org/forum/viewtopic.php?t=4952787 e-shuushuu 2016 - https://rutracker.org/forum/viewtopic.php?t=5184361 e-shuushuu 2017 - https://rutracker.org/forum/viewtopic.php?t=5397445 e-shuushuu 2018 - https://rutracker.org/forum/viewtopic.php?t=5582710 e-shuushuu_2020 - https://rutracker.org/forum/viewtopic.php?t=5992196 Safebooru 1280 - https://rutracker.org/forum/viewtopic.php?t=4290958 (��������� Safebooru, ������ �� ��������, PNG -> JPG) Safebooru 1280 b - https://rutracker.org/forum/viewtopic.php?t=4299337 Safebooru pages - https://rutracker.org/forum/viewtopic.php?t=5019245 � https://rutracker.org/forum/viewtopic.php?t=5015464 Safebooru 2M - https://rutracker.org/forum/viewtopic.php?t=5249833 (��� ��� ������ ������ Safebooru) Safebooru 2017 - https://rutracker.org/forum/viewtopic.php?t=5449970 (��������� Gelbooru � Yande.re) Safebooru 2018 - https://rutracker.org/forum/viewtopic.php?t=5673690 (������ - ��� ������ ����������) � https://rutracker.org/forum/viewtopic.php?t=5561386 Safebooru 2019 - https://rutracker.org/forum/viewtopic.php?t=5818522 Safebooru 2020a - https://rutracker.org/forum/viewtopic.php?t=5862448 Safebooru 2020b - https://rutracker.org/forum/viewtopic.php?t=5922193 Safebooru 2020c - https://rutracker.org/forum/viewtopic.php?t=5957382 Safebooru 2020d - https://rutracker.org/forum/viewtopic.php?t=6006875 Safebooru 2021a - https://rutracker.org/forum/viewtopic.php?t=6045099 (���������� ����������� ���) Sankaku 2013 wallsHD - https://rutracker.org/forum/viewtopic.php?t=4621394 (��������� sankaku, ����� ������������, PNG -> JPG) Sankaku 2014 - https://rutracker.org/forum/viewtopic.php?t=4687961 (���������� �������� - ����� � ������) Sankaku 2015 - https://rutracker.org/forum/viewtopic.php?t=4908019 Sankaku 2015b - https://rutracker.org/forum/viewtopic.php?t=5037455 Sankaku 2016a - https://rutracker.org/forum/viewtopic.php?t=5216374 Sankaku 2016b - https://rutracker.org/forum/viewtopic.php?t=5255630 Sankaku 2016c - https://rutracker.org/forum/viewtopic.php?t=5312593 (���� �����������, sankaku �������������) zerochan_2014s - https://nyaa.si/view/1336359 (������ ���������, ��������� �� 1920 px, �� ����������� �� rutracker, PNG -> JPG) zerochan_2016 - https://nyaa.si/view/1313832 (�� ����������� �� rutracker, PNG -> JPG) zerochan-2017 - https://rutracker.org/forum/viewtopic.php?t=5478026 zerochan_2020 - https://nyaa.si/view/1304539 (�� ����������� �� rutracker, 600+ GB!, ����� PNG) �� ���� ������� �������� ���������� ������������� �������� �� %booru% + %id%, ��� ������ ����� ������ ����. ����������� ����������, ��� ������� ������� ������������� �� ���� ������� (��. �����), �� � ����� ��� �� ���. � ������ �������� ������������ ������ BCS_torr_stat.xls (��������� ��������) � ������� BCS_torr.tsv (3.839.005 �����): TORR - �������� ����� ������ (��. ����) BOORU - ��� ���������� (��. ����) FID - ����� ����� SOURCEFILE - ��� ��������� �����/������ � ������������ ���������� ����� � ����������� ������� (����� ���������) ��� ����� ������� ����������� ������������� �� ��������� %website% - %id% - %copyright% ~ %characters% (%artist%) ��������� ��� ������� �� ������ ������ ������ ������ (���� sankaku) � ������� � �������� � ����� ������� ����� ������ ����� ���� �� ����� ������ IMAGESIZE - ������ "�������������" FILESIZE - ����� ����� IFMT - ������ ������������ EXIFTOOL FDATE - ���� ����� � ������ (���� ��� �� ���� ����� � ���� ���������� ��� ���������� ��������������) FMD5 - ����������� ����� MD5 ����������� FCIV ��� ����������� ��� ����� � �������� - ����� ���� ��� ��������� � ��������� ��������� PNG -> JPG. ��������� PNG -> JPG ������ ����������� � ����������� ����������� (�������� 94%, ��������� ��������� libjpeg �� ���������) ������� ���� � ��� �� PNG ������ ���� ��� �� JPG, ��� ����� ������������. ZPATH - ���� � ��������� �����/������ �� �������� ����� ��������, ����� ����� ������ �.�. ����� ��������� � ����� ������ ��������� ������� ����������� ���������� �������� "�������� �����" - ������ ����� ������ �� ���� ���������� � �������, � �������: - �������������� ������������ BOORU + FID - �������������� ������������ MD5 - ����������� ����� ���������� �������� ������������, ������� ���������� � "����������" �������������� ����������� ������ ���������� "���������" �������, � ��� ����������� ��� ������ ������� (�� ������ ������) "�������" ������� : ���� FULL HD - https://rutracker.org/forum/viewtopic.php?t=4199478 (�� 2014 ���) ���� Retina � Ultra - https://rutracker.org/forum/viewtopic.php?t=4134758 ���� sub-HD - https://rutracker.org/forum/viewtopic.php?t=4214016 2015 HD Retina Ultra - https://rutracker.org/forum/viewtopic.php?t=5038341 (����������� ����� ���) Wallpapers 2016 - https://rutracker.org/forum/viewtopic.php?t=5219029 (��� ����� ���, ��� � � ���������) ������������ ���� ��� ��������� - https://rutracker.org/forum/viewtopic.php?t=4490693 (������� ����, ������ ����� "����������") ������������ ���� ����������� - https://rutracker.org/forum/viewtopic.php?t=5098506 ������������ ���� ULTRA-HD - https://rutracker.org/forum/viewtopic.php?t=5198985 (2015, ����� ���������� ������) ��� "���������" �������� ��������� � ���� "�����������" �������� � � ���� ������� "��������", ������� ����� ���������. ����������� �� "�������" ������� ������������ ��� ��� V2016W � ��������� ��� �������������� ���� ��������, ����� ���� 2015 � 2016 �������� "��������" (����������� ��������� ��������, �� ��������� � ���� �� ������������/������������ ������������). "�������� �����" �������������� �� ���������� (�������� �� ����� �������� �� ������) � ����������� ������ : * 7x10 +/- 4% �������� �������� * 3x4 +/- 10% "�������" �������� * 1x1 +/- 20% �������� "����������" * 3x2 +/- 40% ����������� ����������, � ��� ����� ���� * 2x3 +/- 40% "�������" ��������, ����� ����� ���������� � 1�2 ������� 48 "�����". �� ������������ ����� ��������� ��� ��������� ������� ������������� ����������� ����� Safebooru. � ������ ������������ ������ BCS_arch_stat.xls (��������� ��������) � ������� BCS_arch.tsv (1.952.491 �����): BOORU - ���������� FID - ����� �����, ����� ����� (��� ��������� �������� �� ������) ����� ����� ������� ��������� 00�, ��� � - ����� FVOLUME - ��� (��������, v2020d.7x10) FILENAME - ��� ����� �� ��������� %website% - %id% - %copyright% ~ %characters% (%artist%) �� ��������� � "���������" �������� ����� ������ ����� �������� (���������, ���������) � ���� ������� ����������� IMAGESIZE - ������ "�������������" FILESIZE - ����� ����� JPEGQ - �������� ������������ EXIFTOOL FMD5 - ����������� ����� MD5 ����������� FCIV ����� ����� ���������� �������� ���������� booru (� ��� � ����������� ������������ ������� ��������� python). ��� ������ ������ �� ������� ������� ��������� JSON, ��� ������ ���������� ��������� html-���������, � �������: - ����� (�������������� ��� ���� ����� ��) - ���������� � �������� (���� ��������, �������, �����, MD5, ������ URL) - ��������� ���������� ���������� (�������, ������������ � ��.) ������ ��������� �� ���������� �� ������ ����� � �������� ����� � ��������� ���� ����������� ���, �� ���� ����� ���������� � ���������� ����������� "��������" ��� �����, ��������� ������������� �������� � "������������" ������ � �.�. ������ "�������� �����" � (������������ ������� �������) ���������� booru �������� ����������������� ����������� ��������. ���������� BOORU CHARS dataset, �������������� � ������, ������� �� ������� �� 1.593.429 �����������: * sample-������ "��������� ������" ���������� �� 1280px �� ������� ������� (1024px ��� ��������� 1�1) for /d %%r in (D:\BC7\V2021A.7x10\*) do magick mogrify -path B:\BCT\V2021A.7x10 -verbose -thumbnail 1280x1280^ "%%r\*.jpg" * ��� JPEG � ��������� 98-100% ������������� ���� ������� ��������� �� 94% magick mogrify -path B:\BCT\V2021A.7x10\#LSO -verbose -quality 94 "B:\BCT\V2021A.7x10\#LST\*.jpg" ����� ����� ���������� �������� ������� �����������: * �������� ������ �������������� �� ��������� ����������� � �� ������� ����������� ���������, ������ �������� ��� ����������� * ��� ���� ������� ����� ������� 350kb �������� ������ ���������� � ������ ��������� (������������ - ������� �����, ������) ��� ��������� � ������� "�������� �����" ��� �������������: * �� �������� ���� 2015 ����, � ����� ��-������� ���� 2016 �� ����������� ��������� ����� 7�10 (������� "�������") * ��������� �������� � ��������� JPEG �� 75% (� �����������), �������� ����� ���������� �� 90000 ���� (�����������������), � ����� �������� ����� ���������� ����� 900000 ���� (������������� ����, "�����������" JPEG) �������� ����������������/��������� � 18 �����-����� �� ����������� ������ � ���������� (2016 = ��� �� 2018, 2018 = 2018 + 1x2 �� 2016W, 2019 = 2019 + 2020a + 2020b, 2020 = ��������� 2020 + 2021a). ����� ��� ���� �������� ������ ���� ������������� � �������������� ImageMagick, ��� � ����� ��������� magick identify -format """%%f"";%%d;%%@;%%[entropy];%%[skewness];%%[fx:mean];%%[fx:standard_deviation];%%k;" "file_name" >> "log" magick convert "file_name" -colorspace HCL -format "%%[fx:mean.g];%%[fx:maxima.g];" info: >> "log" magick convert "file_name" -edge 3 -format "%%[fx:mean]\n" info: >> "log" ���������� ��� ������� � �� � �������������� ������������ ��� ��������������/��������� �������� �� ��������� (�� 1000) ���������/������� �� ������ �� ����������� ������� (����������� �� ������������ ��. � ��������� readme). ������ ��������� ��� Mxx (������� ������) � Rxx (����������� ������), �� ������ (250-500 ��) �������� ��� ��������� ���������. ����� ��� ������� ����� ����������� ��������� �������� ����� � �����-����� ���������� ���� EXIF-info exiftool -P -overwrite_original_in_place -EXIF:Copyright="copyright" -EXIF:Software="BOORU - FID" -EXIF:Artist="artist" -EXIF:Make="copyright [artist]" -EXIF:Model="character" "file_name" ����� ������� ����������� �������� ������� (��������� Windows) � ������������ �������� (��������, Perfect Viewer for Android, BTW �� ������� �������� ����� � �������) ������ ���������� ������������� ����������. ���������� ���������� � ������ (���������) �������� � ����� ������� � ������� BC_posts.tsv (1.593.429 �����): BOORU - ���������� FID - ����� ����� TORR_PATH - ���� � ��������� ������: �������� �����-��� / �����-����� �� ���������� �������� TORR_FNAME - ��� ����� � ������ TORR_FSIZE - ����� ����� TORR_ISIZE - ������ sample ����������� "�������������" � ������ * ����� ���� ���� �������������� sample ����������� * ����������� �� �� ������������ � ����� � "����������� ��������" ��. � ��������� readme BOUNDBOX - ����� � �������������� ������ �������� �� ������� ���������� ����� S_JQ - JPEG quality estimation R_ALL - ����� � �������� � �������� ����, "+" ������� ������� (����� �xx) "-" ����������� ������� (����� Rxx) TENTR - enthropy, ���� "���������" ��������, �������� ���������� ��� ������� ��������, ��������� ������������ - �������� R_ENTR - ������� �� �������� �������� � �������� ���� ( "-" ������� � ����������� ������ ) 1 - �����, ����� - � ������ ������ TSKEW - skewness, ���� "�������", ������������ "-" ��������� ��������� �������/����� �����, "+" �������� ���� TSTDDEV - standard deviation, ���� ������������� �������� � ����� R_SDEV - ������� �� �������� ������������� � �������� ���� TCOLORS - ���������� ������ ������, ������� ����� ������������� ������� �������� ����� R_COLOR - ������� �� �������� ���������� ������ � �������� ���� MEANG - mean grey, ���� ������������ ������ ��� �������� � ����� R_MEANG - ������� �� �������� ������������ � �������� ���� EDGE - canny edge detector, ���� ���������� ����� ������������� ����� ���������, � ������� �� �������� �������� "�����" ��������� R_EDGE - ������� �� �������� edge � �������� ���� * ��������� ����� ��������� ����������� "��������� ������", ������������ ���������� sample ORIG_FSIZE - ����� ����� ORIG_ISIZE - ������ ����������� "�������������" ORIG_JQ - JPEG quality ORIG_MD5 - ����������� ����� MD5 * ��������� ���� �������� ���������� booru, �� ������ ������� ��� �� ��������� ��� �������� �������� �� ��������� POST_DT - ���� �������� RATING - ������� Safe / Questionable / Explicit (����������� ������ ����� � �� ��������) / None (��� ����������) SCORE - ������������ ����� �� booru (�� ��� ���� booru, ����� ����� ������ ��� ������������� � �������� booru) FAVS - ���������� ��������� �� booru POST_EXT - ������������ ���������� �������� �����, ���� ��� �� JPG �� ����������� �������������� ������������ POST_FSIZE - ����� ����� �������� ����� �� booru, �������� ������ ���� �������� � �� ��������� � ORIG_FSIZE POST_ISIZE - ������ ����������� �������� ����� �� booru, �������� ������ ���� �������� � �� ��������� � ORIG_ISIZE POST_MD5 - ����������� ����� MD5 �������� ����� �� booru, ��������� ������ ���� �������� � �� ��������� � ORIG_MD5 * � ��� ������ �����, ���������� ���������� ����� ������ ��������� (��. BC_tags.tsv) ��� ������� ����� TAGS_COPYR - (copyright) ������������ ��� �� ����������� TAGS_CHARS - (character) ��������� TAGS_ART - (artist) ������ TAGS_GEN - (general) ������������ �������� � ������� TAGS_ETC - (technical, others) ������ ��������� � ����������� �������� � ������ ����������� ������� BC_tags.tsv (35.222.997 �����) ���������� � ��������� ������������ ����� ��� ������, �������� � �����: BOORU - ���������� FID - ����� ����� TAG_CAT - ��������� ���� �������� ���������� booru � ������������� (� ��������) ��������������� ������� ����������� ��������� ��������� ��� ���� �������� ���������� (����������������): 3 (copyright) ������������ ��� �� ����������� 4 (character) ��������� 1 (artist) ������ 0 (general) ������������ �������� � ������� 5 (technical, others) ������ ��������� � ����������� �������� ���� ���� ������� ��������� �� ������������� ���������� ���� "��������� DANBOORU", ��� ����� ���� ������� � ���� TAG - ��������� ��� ���������������� ����� ���������� �������� ����� ����������������� ������� ����, ��� ��������� (��������� �������������� ����������� community) ������������ ��� ��������, ��� � �������� ��������� (�������/��������� �����, ������������� ��� ������� ����� ������� � �.�.) �������� ���������� ����� "��������" - ������������ ����� ��������� ��� � �� ��������� ������ ������������� TAG_ID - ����� ���� � ��������� DANBOORU ���� ���� ��������� ����������� ������ �� �������������� ����� ������������ �����, � �.�. �������� ��������� � ������ booru � �������� "���������" ���� ������������ ����������� ����� DANBOORU, ��� ������ �������� ����� ���� �������������� ���������� �������� ������ - ������� � ���������� � ������ ���� DANB_TAG - ������������ ��� ���������� ��� DANBOORU � ������� ����������� DANBOORU (���� ��) ���� ��������� ��������� copyright � character ����� �� "��������" - ������������ ��� �� ����� � ��������������� ������������� ������� ���������� � ������ ���� �������� ������������ �������� �������� ���� DANBOORU * ��� CAT in (0,1,5) DANBOORU-������� ��� TAG, ���� �� �� ��������� � TAG * ��� CAT in (3,4) DANBOORU-�������� ��� TAG, ���� ��� �� ��������� � TAG �������������� ������� ������: BC_tags_stat.xls (� ������� �����, booru � ���������), BC_tags_top.xls - ����� ������������ ����, � ������� ������� ��� �������� � ��������. ��������� �������� ���������� BOORU CHARS dataset �������� ���������� ������� ������������ anime/CG/game ����: - ������� ���, ��������� ��� ��������, ������������ ��� ��������� �� ��������� ����������� � ������� �� ��������� * ������������� ����� ������ � ����������� ���� EXIF ��������� ����� �������� ������������ ������������ ** ��� ����� �� ������ for %%F in ("B:\BCT\2016-7x10\*.zip") do 7z x -r -o"d:\sortarea\" "%%F" *sword*art*online* ** ��� �� �� ����������������� ������ xcopy /s B:\BCT\2016-7x10\*sword*art*online* d:\sortarea * ���� / ������ ����� ����������� ������ ��� ������ � �������� ������������ (��� ��������� �������� - ��� ������� ...) - �������� ����� � ���� � �� ����������� ����������� ������/������������ �������� �� ����� ����������� SQL ��������� ��������� BAT ������� ��� ����������� (�������� XCOPY, MOVE, imagick convert, python cv2) � ���������� ������������� ** ������, � �� �������� �� � ��� � ������� �������� ��������� �������� ����� ������ �������� select 'xcopy "B:\BCT\'||e.ipath||'\'||e.fname||'" d:\sortarea\ /Y' xc, d.booru, d.id, d.orig_tag tag_1, n.orig_tag tag_2 from bct_dt d join bct e on e.booru=d.booru and e.fid=d.id join bct_dt n on n.booru=d.booru and n.id=d.id and n.orig_tag in ('nude','naked') where d.orig_tag in ('loli') �������������� ���������� � �� ��������� ����������� ��� ������ � ���������� ���������� �������, ��. �������� BCI__readme.txt - �� ������������ ���� �������������, ������������ � X/Y ���������� BCN__readme.txt - �������������� "���������� ���" (notAI-tech NudeNet) � "������" �� ��� ����������