Update app.py

app.py

@@ -305,11 +305,31 @@ evaluator = load_evaluator("criteria", criteria="conciseness", llm=evaluation_ll
 #Beschreibung oben in GUI
 ################################################
 
-
+description = """<strong>Information:</strong> Hier wird ein <strong>Large Language Model (LLM)</strong> mit 
+                 <strong>Retrieval Augmented Generation (RAG)</strong> auf <strong>externen Daten</strong> verwendet.\n\n
+                 """
+css = """.toast-wrap { display: none !important } """
+examples=[['Was ist ChtGPT-4?'],['schreibe ein Python Programm, dass die GPT-4 API aufruft.']]
+
+def vote(data: gr.LikeData):
+    if data.liked: print("You upvoted this response: " + data.value)
+    else: print("You downvoted this response: " + data.value)
+
+additional_inputs = [
+    #gr.Radio(["Off", "Chroma", "MongoDB"], label="Retrieval Augmented Generation", value = "Off"),
+    gr.Radio(["Aus", "An"], label="RAG - LI Erweiterungen", value = "Aus"),
+    gr.Radio(["OpenAI", "HuggingFace"], label="Modellauswahl", value = "HuggingFace"),
+    gr.Textbox(label = "OpenAI API Key", value = "sk-", lines = 1), 
+    gr.Slider(label="Temperature", value=0.65, minimum=0.0, maximum=1.0, step=0.05, interactive=True, info="Höhere Werte erzeugen diversere Antworten", visible=True),
+    gr.Slider(label="Max new tokens", value=1024, minimum=0, maximum=4096, step=64, interactive=True, info="Maximale Anzahl neuer Tokens", visible=True),
+    gr.Slider(label="Top-p (nucleus sampling)", value=0.6, minimum=0.0, maximum=1, step=0.05, interactive=True, info="Höhere Werte verwenden auch Tokens mit niedrigerer Wahrscheinlichkeit.", visible=True),
+    gr.Slider(label="Repetition penalty", value=1.2, minimum=1.0, maximum=2.0, step=0.05, interactive=True, info="Strafe für wiederholte Tokens", visible=True)
+]
 
 chatbot_stream = gr.Chatbot()
 
 chat_interface_stream = gr.ChatInterface(fn=generate, 
+                additional_inputs = additional_inputs,
                 title = "ChatGPT vom LI",
                 theme="soft",
                 chatbot=chatbot_stream,
@@ -317,9 +337,9 @@ chat_interface_stream = gr.ChatInterface(fn=generate,
                 undo_btn="↩️ Letztes löschen",
                 clear_btn="🗑️ Verlauf löschen",
                 submit_btn = "Abschicken",
-                ) 
+                description = description) 
 
 with gr.Blocks() as demo:
     with gr.Tab("Chatbot"):
-        #chatbot_stream.like(vote, None, None)
+        chatbot_stream.like(vote, None, None)
         chat_interface_stream.queue().launch()