README.md

metadata

language:
  - ko
tags:
  - News
  - Article
  - NER
pretty_name: DongaArticle
size_categories:
  - 10K<n<100K
task_categories:
  - token-classification
  - sentence-similarity
  - feature-extraction

Dataset Summary

기본적으로 동아일보의 기사를 크롤링하여 기사 제목, 기사 본문, 기사의 고유 ID, 기사 링크를 추출하여 생성한 데이터셋입니다.
2023년, 2024년 기사 데이터로 구성되어 있으며, 기본 csv파일을 기준으로 '_$$$'와 같이 적용된 기능에 따라 파일이 추가되어 있습니다.
2023년 파일은 약 4만 5천개 가량의 2023년에 업로드된 동아닷컴의 기사를 담고 있으며, 2024년 파일은 1월부터 7월까지의 약 3만개 가량의 동아닷컴 기사를 담고 있습니다.
'_ner'이 포함된 버전의 파일들은 한국언론진흥재단이 발표한 KPFBERT 기반의 NER 모델로 기사 본문에서 추출한 NER을 포함하고 있습니다.
해당 데이터셋은 '관련기사 검색 및 추천' 시스템 구축을 위해 수집 및 구축되었으며 관련 프로젝트는 Github를 참고하시면 됩니다.

Dataset columns

• id : 기사의 고유 ID(동아닷컴 URL에 포함되어 있음)
• title : 기사의 제목
• date : 기사의 업로드 날짜
• content : 기사의 본문
• NER : 기사 본문(content)에서 KPFBert기반 NER 모델로 추출한 NER

Description for File Version

• '_norm' : 기본 csv 파일에서 기사에 등장하는 한자, 인용부호, 단위, 줄바꿈 등에 대한 정규화 전처리가 적용된 버전
• '_split' : 이전 버전에서 기사 본문 450자 기준으로 분할되고 각 블록의 index를 기사 고유 ID 끝에 '_1'과 같이 구분하여 만든 버전
• '_ner' : 이전 버전의 기사 본문(content)를 이용해 KPFBert 기반 NER 모델로 추출한 NER을 새로운 column으로 추가한 버전
• '_pruning' : 이전 버전에서 150자 이하의 정보성이 부족한 데이터를 제거한 버전