모델 관련 문의
#1
by
jinhyeong
- opened
안녕하세요. 해당 모델과 KT DS에서 제공하는 모델의 학습 데이터, 예제 등 모든 부분이 동일해 보이는데 혹시 어떤 추가 학습을 시키신건지 알 수 있을까요? https://huggingface.co/AIDX-ktds/ktdsbaseLM-v0.13-onbased-llama3.1
안녕하세요. 질문에 답변 드립니다.
초기 데이터 약 200만건 정도는 KTDS LLM과 같지만 이 후 데이터는 각각 다른 데이터로 학습이 진행 되고 있습니다.
KTDS에 있는 LLM은 BaseLLM이 가능하도록 안정적인 데이터(주관식,객관식,COT 등 비율이 같음) 로 학습 했다면
현 계정에 있는 데이터들은 리더보더를 위해 학습 방법 이나 객관식 위주의 데이터로 학습을 했다고 보시면 되겠습니다.
추가 문의 사항이 있으시면 연락주세요. 감사합니다.