BramLeo commited on
Commit
e084e46
·
verified ·
1 Parent(s): 32b0e7c

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +6 -1
app.py CHANGED
@@ -38,12 +38,17 @@ def initialize_llama_model():
38
 
39
  # Fungsi untuk mengatur konfigurasi Settings (tanpa CUDA)
40
  def initialize_settings(model_path):
41
- Settings.llm = Llama(
42
  model_path=model_path,
43
  n_threads=4, # Sesuaikan jumlah thread CPU sesuai kebutuhan
44
  temperature=0.7, # Sesuaikan untuk respons yang lebih cepat
45
  top_p=0.9 # Mengurangi eksplorasi token
46
  )
 
 
 
 
 
47
 
48
  # Fungsi untuk Menginisialisasi Index
49
  def initialize_index():
 
38
 
39
  # Fungsi untuk mengatur konfigurasi Settings (tanpa CUDA)
40
  def initialize_settings(model_path):
41
+ llama_model = Llama(
42
  model_path=model_path,
43
  n_threads=4, # Sesuaikan jumlah thread CPU sesuai kebutuhan
44
  temperature=0.7, # Sesuaikan untuk respons yang lebih cepat
45
  top_p=0.9 # Mengurangi eksplorasi token
46
  )
47
+ # Pastikan Llama model yang dibuat sudah sesuai
48
+ print(f"Model type: {type(llama_model)}")
49
+
50
+ # Simpan model di Settings
51
+ Settings.llm = llama_model
52
 
53
  # Fungsi untuk Menginisialisasi Index
54
  def initialize_index():