调整到pretrain_ckpt中

linux update

base模型续写

修改vicuna的数值类型

修改chinese-alpaca

修改部分权重文件夹

修改部分权重文件夹

修改部分权重文件夹

add deepseek

添加internvl2.5

添加internvl2.5

internlm3-8b-instruct

layer_norm_eps

去掉glm的position_encoding_2d

修改glm4的tokenize

modernbert

modernbert

增加llama-instruct

update qwen2vl

增加qwenvl

修改glm的配置

add minicpm llama3

调整为所属文件夹

调整目录结构

增加llama3.2

增加minicomv和qwen2.5

add deepspeed_v2

增加deepseek-math

Update deepseek-moe-16b-base/bert4torch_config.json

Update deepseek-moe-16b-chat/bert4torch_config.json

Update deepseek-coder-7b-base-v1.5/bert4torch_config.json

Update deepseek-coder-7b-instruct-v1.5/bert4torch_config.json

增加deepseek code

修改flash_attention为_attn_implementation，增加deepseek

增加minicpm

修改t5

增加deepseek-llm

修改Qwen config

修改yi1.5

修改llama3.1

更新Yi 1.5

更新Yi 1.5

调整Yi并且增加9B

Merge branch 'main' of https://huggingface.co/Tongjilibo/bert4torch_config

增加llama3.1 8b

Update vicuna-7b-v1.5/bert4torch_config.json

修改end_id为eos_token_i

去除internlm2中skip_special_tokens

调整qwen的rope

增加internlm2和2.5