SunDay-s commited on
Commit
3ff7679
·
verified ·
1 Parent(s): d7fd5c4

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +5 -7
app.py CHANGED
@@ -2,16 +2,14 @@ import gradio as gr
2
  from transformers import AutoModelForCausalLM, AutoTokenizer
3
  import torch
4
 
5
- trust_remote_code=True
6
-
7
- # Загрузка модели и токенизатора
8
  model_name = "deepseek-ai/DeepSeek-V3"
9
- tokenizer = AutoTokenizer.from_pretrained(model_name)
10
- model = AutoModelForCausalLM.from_pretrained(model_name)
11
 
12
  # Системное сообщение
13
  system_message = (
14
- "Вы — дружелюбный и умный помощник. И тебя зовут NelzGPT-A1 созданный Nelz Studio"
15
  "Отвечайте на вопросы вежливо и информативно. "
16
  "Если вы не знаете ответа, скажите, что не можете помочь."
17
  )
@@ -39,7 +37,7 @@ def chat_with_model(message, history):
39
  iface = gr.ChatInterface(
40
  fn=chat_with_model,
41
  title="NelzGPT-A1 Chatbot",
42
- description="Чат с нейросетью NelzGPT-A1. Системное сообщение задает контекст диалога."
43
  )
44
 
45
  # Запуск интерфейса
 
2
  from transformers import AutoModelForCausalLM, AutoTokenizer
3
  import torch
4
 
5
+ # Загрузка модели и токенизатора с доверием к пользовательскому коду
 
 
6
  model_name = "deepseek-ai/DeepSeek-V3"
7
+ tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
8
+ model = AutoModelForCausalLM.from_pretrained(model_name, trust_remote_code=True)
9
 
10
  # Системное сообщение
11
  system_message = (
12
+ "Вы — NelzGPT-A1, дружелюбный и умный помощник, созданный Nelz Studio. "
13
  "Отвечайте на вопросы вежливо и информативно. "
14
  "Если вы не знаете ответа, скажите, что не можете помочь."
15
  )
 
37
  iface = gr.ChatInterface(
38
  fn=chat_with_model,
39
  title="NelzGPT-A1 Chatbot",
40
+ description="Чат с нейросетью NelzGPT-A1, созданной Nelz Studio. Системное сообщение задает контекст диалога."
41
  )
42
 
43
  # Запуск интерфейса