Update README.md

README.md

@@ -62,6 +62,29 @@ tokenizer = AutoTokenizer.from_pretrained(base_model, max_sequence_length=3072,
 model_base = AutoModelForCausalLM.from_pretrained(base_model, quantization_config=quantization_config, device_map="auto", torch_dtype=torch.float16, use_flash_attention_2=False)
 model = PeftModel.from_pretrained(model_base, "NLPForUA/gemma-2-it-zno-cot-with-topic", quantization_config=quantization_config, device_map="auto", torch_dtype=torch.float16, use_flash_attention_2=False)
 
+input_text = """
+Дайте розгорнуту відповідь на завдання, починаючи з ключового слова "Відповідь:" та використовуючи лише наведені нижче варіанти.
+
+Завдання: Обчисліть площу бічної поверхні правильної трикутної піраміди, сторона основи якої дорівнює 8 см, а апофема на 2 см більша за сторону основи піраміди.
+
+Варіанти відповіді:
+А - 72 см^2
+Б - 384 см^2
+В - 192 см^2
+Г - 120 см^2
+Д - 240 см^2
+"""
+
+messages = [{"role": "user", "content": input_text}]
+
+inputs = tokenizer.apply_chat_template(
+    messages,
+    tokenize=True,
+    add_generation_prompt=True,
+    return_tensors="pt",
+    add_special_tokens=False,
+).to("cuda")
+
 print(tokenizer.decode(
     model.generate(
         input_ids=inputs,
@@ -75,6 +98,19 @@ print(tokenizer.decode(
     )[0]))
 ```
 
+Output:
+```
+<start_of_turn>model
+Відповідь:
+ТЕМА: Форми кривих поверхонь. Стосовний куб. Піраміди.
+Завдання перевіряє ваше вміння визначати форму кривих поверхонь, обчислювати площу кривих поверхонь.
+Згадаймо, що бічна поверхня піраміди – це сукупність її бічних трикутників.
+Площу одного такого трикутника можна обчислити за формулою S = (1/2) * a * l, де a – довжина сторони трикутника, l – довжина його висоти.
+У нашому випадку a = 8 см, а l = 8 + 2 = 10 см. Отже, площа одного бічного трикутника дорівнює (1/2) * 8 * 10 = 40 см^2.
+Площа бічної поверхні піраміди дорівнює трічі площі одного бічного трикутника, тобто 40 * 3 = 120 см^2.
+Відповідь – Г.<end_of_turn>
+```
+
 
 ## Model Details