app.py

import gradio as gr
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

# Загрузите модель и токенизатор
model_name = "deepseek-ai/DeepSeek-V3"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

# Функция для генерации текста
def generate_text(prompt, max_length=100):
    inputs = tokenizer(prompt, return_tensors="pt")
    outputs = model.generate(
        inputs.input_ids,
        max_length=max_length,
        num_return_sequences=1,
        no_repeat_ngram_size=2,
        do_sample=True,
        top_p=0.95,
        temperature=0.7
    )
    generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
    return generated_text

# Создайте интерфейс Gradio
iface = gr.Interface(
    fn=generate_text,
    inputs=[
        gr.Textbox(label="Введите запрос", placeholder="Напишите что-нибудь..."),
        gr.Slider(minimum=10, maximum=500, value=100, label="Максимальная длина текста")
    ],
    outputs=gr.Textbox(label="Сгенерированный текст"),
    title="DeepSeek-V3 Text Generation",
    description="Генерация текста с использованием модели DeepSeek-V3."
)

# Запустите интерфейс
iface.launch()