Exl2 quant with fixed tokenizer files
#3
by
BahamutRU
- opened
https://huggingface.co/BahamutRU/suzume-llama-3-8B-multilingual-8.0bpw-h8-exl2
Хорошо говорит на русском для модельки такого размера. Токенайзер файлы взял кастомные, проверенные. Не специалист, но оно работает как ожидается.
BahamutRU
changed discussion title from
Exl2 fixed tokenizer files
to Exl2 quant with fixed tokenizer files