README.md

---
language:
- ja
pipeline_tag: text-generation
tags:
- merge
---
# karakuri-midroze-CV.gguf

[Sdff-Ltba/LightChatAssistant-2x7B](https://huggingface.co/Sdff-Ltba/LightChatAssistant-2x7B?not-for-all-audiences=true)のChatVectorマージの手法を参考に、下記モデルをmergekitのtask_arithmetic方式にてmergeしたものを量子化しています。
- [karakuri-ai/karakuri-lm-70b-v0.1](https://huggingface.co/karakuri-ai/karakuri-lm-70b-v0.1)
- [sophosympatheia/Midnight-Rose-70B-v2.0.3](https://huggingface.co/sophosympatheia/Midnight-Rose-70B-v2.0.3)

## モデル概要

これは日本語の特定の能力がmergeにより、どのように向上するかをテストするための実験モデルです。<BR>
koboldで検証する際は、Max Ctx. Tokensは4096以下、Amount to Genは512以下で使用することを推奨します。

## ライセンス
　merge元の各モデルのライセンスに従います。

## 謝辞
[ChatVector](https://arxiv.org/abs/2310.04799)という新たな手法に感謝いたします。<BR>
 そして、この手法に着目し、実際に素晴らしい日本語モデルのマージモデルを公開してくださった、[Sdff-Ltba氏](https://huggingface.co/Sdff-Ltba)に感謝いたします。