JasmineCTJ commited on
Commit
6607842
·
verified ·
1 Parent(s): d9a7223

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +45 -3
README.md CHANGED
@@ -1,3 +1,45 @@
1
- ---
2
- license: mit
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: mit
3
+ language: zh
4
+ pipeline_tag: text-generation
5
+ base_model: meta-llama/Llama-3.2-1B
6
+ tags:
7
+ - lora
8
+ - llama3.2
9
+ - fine-tuning
10
+ - insurance
11
+ - instruction-tuning
12
+ - conversational
13
+ ---
14
+
15
+ # 🦙 LLaMA 3.2 1B LoRA 微調模型(保險客服助理)
16
+
17
+ 本模型是基於 Meta 的 [`meta-llama/Llama-3.2-1B`](https://huggingface.co/meta-llama/Llama-3.2-1B) 模型進行微調(使用 LoRA 技術),
18
+ 訓練目標是讓模型具備回答保險相關問題的能力,例如保單介紹、理賠流程、險種差異等。
19
+
20
+ ---
21
+
22
+ ## 📌 模型用途
23
+
24
+ - 保險業務的 AI 助理
25
+ - 中文對話式客服機器人
26
+ - FAQ 問答系統
27
+
28
+ ---
29
+
30
+ ## 🛠️ 使用方式(搭配 base model + LoRA 權重)
31
+
32
+ 你可以使用 🤗 `transformers` + `peft` 這樣載入模型:
33
+
34
+ ```python
35
+ from transformers import AutoModelForCausalLM, AutoTokenizer
36
+ from peft import PeftModel
37
+
38
+ # 先載入 base model
39
+ base_model = "meta-llama/Llama-3.2-1B"
40
+ lora_model = "JasmineCTJ/meta-llama_Llama-3.2-1B_Lora"
41
+
42
+ model = AutoModelForCausalLM.from_pretrained(base_model, device_map="auto")
43
+ model = PeftModel.from_pretrained(model, lora_model)
44
+
45
+ tokenizer = AutoTokenizer.from_pretrained(base_model)