Seikaijyu

/

RWKV6-3B-Chn-UnlimitedRP-mini-chat-preview

like 13

我尝试过使用llama.cpp提供的代码对模型进行转换，不过看起来出错了，所以可能无法提供gguf

目前只能推荐考虑使用ai00量化和推理

之前向mradermacher申请了一个GGUF版本，但是好像llama.cpp不支持，所以失败了（
https://huggingface.co/mradermacher/model_requests/discussions/403

可以看看我这里的回复
https://huggingface.co/Seikaijyu/RWKV6-3B-Chn-UnlimitedRP-mini-chat/discussions/1#6731ceac340196ee8057396b

另外这个模型已经出了更稳定的版本，推荐你使用新的模型
https://huggingface.co/Seikaijyu/RWKV6-3B-Chn-UnlimitedRP-mini-chat