|
--- |
|
language: |
|
- ja |
|
pipeline_tag: text-generation |
|
tags: |
|
- merge |
|
--- |
|
# karakuri-midroze-CV.gguf |
|
|
|
[Sdff-Ltba/LightChatAssistant-2x7B](https://huggingface.co/Sdff-Ltba/LightChatAssistant-2x7B?not-for-all-audiences=true)のChatVectorマージの手法を参考に、下記モデルをmergekitのtask_arithmetic方式にてmergeしたものを量子化しています。 |
|
- [karakuri-ai/karakuri-lm-70b-v0.1](https://huggingface.co/karakuri-ai/karakuri-lm-70b-v0.1) |
|
- [sophosympatheia/Midnight-Rose-70B-v2.0.3](https://huggingface.co/sophosympatheia/Midnight-Rose-70B-v2.0.3) |
|
|
|
## モデル概要 |
|
|
|
これは日本語の特定の能力がmergeにより、どのように向上するかをテストするための実験モデルです。<BR> |
|
koboldで検証する際は、Max Ctx. Tokensは4096以下、Amount to Genは512以下で使用することを推奨します。 |
|
|
|
## ライセンス |
|
merge元の各モデルのライセンスに従います。 |
|
|
|
## 謝辞 |
|
[ChatVector](https://arxiv.org/abs/2310.04799)という新たな手法に感謝いたします。<BR> |
|
そして、この手法に着目し、実際に素晴らしい日本語モデルのマージモデルを公開してくださった、[Sdff-Ltba氏](https://huggingface.co/Sdff-Ltba)に感謝いたします。 |
|
|
