Update app.py

app.py

@@ -48,7 +48,7 @@ def generate(
     input_ids = tokenizer.apply_chat_template(conversation, return_tensors="pt")
     if input_ids.shape[1] > MAX_INPUT_TOKEN_LENGTH:
         input_ids = input_ids[:, -MAX_INPUT_TOKEN_LENGTH:]
-        gr.Warning(f"Trimmed input from conversation as it was longer than {MAX_INPUT_TOKEN_LENGTH} tokens.")
+        gr.Warning(f"Domanda e/o conversazione troppo lungha: superati {MAX_INPUT_TOKEN_LENGTH} tokens.")
     input_ids = input_ids.to(model.device)
 
     streamer = TextIteratorStreamer(tokenizer, timeout=10.0, skip_prompt=True, skip_special_tokens=True)
@@ -75,7 +75,7 @@ def generate(
 chat_interface = gr.ChatInterface(
     fn=generate,
     additional_inputs=[
-        gr.Textbox(label="System prompt", lines=6),
+        #gr.Textbox(label="System prompt", lines=6),
         gr.Slider(
             label="Max new tokens",
             minimum=1,
@@ -90,6 +90,10 @@ chat_interface = gr.ChatInterface(
             step=0.1,
             value=0.6,
         ),
+        gr.Checkbox(
+            label = "Do-sample(False)",
+            value = False,
+        )
         gr.Slider(
             label="Top-p (nucleus sampling)",
             minimum=0.05,
@@ -114,16 +118,16 @@ chat_interface = gr.ChatInterface(
     ],
     stop_btn=None,
     examples=[
-        ["Hello there! How are you doing?"],
-        ["Can you explain briefly to me what is the Python programming language?"],
-        ["Explain the plot of Cinderella in a sentence."],
-        ["How many hours does it take a man to eat a Helicopter?"],
-        ["Write a 100-word article on 'Benefits of Open-Source in AI research'"],
+        ["Posso fare una grigliata sul balcone di casa?"],
+        ["Se esco di casa senza documento di identità posso essere multato?"],
+        ["Le persone single possono adottare un bambino?"],
+        ["Posso usare un'immagine prodotto dall'intelligenza artificiale?"],
     ],
 )
 
 with gr.Blocks(css="style.css") as demo:
     gr.Markdown("# AvvoChat")
+    gr.Image("AvvoVhat.png", width = 50, height=200)
     gr.Markdown("Fai una domanda riguardante la legge italiana all'AvvoChat e ricevi una spiegazione semplice al tuo dubbio.")
     chat_interface.render()