Update app.py
Browse files
app.py
CHANGED
@@ -38,12 +38,17 @@ def initialize_llama_model():
|
|
38 |
|
39 |
# Fungsi untuk mengatur konfigurasi Settings (tanpa CUDA)
|
40 |
def initialize_settings(model_path):
|
41 |
-
|
42 |
model_path=model_path,
|
43 |
n_threads=4, # Sesuaikan jumlah thread CPU sesuai kebutuhan
|
44 |
temperature=0.7, # Sesuaikan untuk respons yang lebih cepat
|
45 |
top_p=0.9 # Mengurangi eksplorasi token
|
46 |
)
|
|
|
|
|
|
|
|
|
|
|
47 |
|
48 |
# Fungsi untuk Menginisialisasi Index
|
49 |
def initialize_index():
|
|
|
38 |
|
39 |
# Fungsi untuk mengatur konfigurasi Settings (tanpa CUDA)
|
40 |
def initialize_settings(model_path):
|
41 |
+
llama_model = Llama(
|
42 |
model_path=model_path,
|
43 |
n_threads=4, # Sesuaikan jumlah thread CPU sesuai kebutuhan
|
44 |
temperature=0.7, # Sesuaikan untuk respons yang lebih cepat
|
45 |
top_p=0.9 # Mengurangi eksplorasi token
|
46 |
)
|
47 |
+
# Pastikan Llama model yang dibuat sudah sesuai
|
48 |
+
print(f"Model type: {type(llama_model)}")
|
49 |
+
|
50 |
+
# Simpan model di Settings
|
51 |
+
Settings.llm = llama_model
|
52 |
|
53 |
# Fungsi untuk Menginisialisasi Index
|
54 |
def initialize_index():
|