First true version

app.py

@@ -1,7 +1,73 @@
+import os
+import re
+import logging
+import nltk
+import torch
 import gradio as gr
+from transformers import pipeline, AutoConfig
+from nltk.tokenize import word_tokenize
+from nltk.stem import WordNetLemmatizer
+from textblob import TextBlob
 
-def greet(name):
-    return "Hello " + name + "!!"
+# Configuration du logging
+logging.basicConfig(level=logging.DEBUG)
 
-demo = gr.Interface(fn=greet, inputs="text", outputs="text")
-demo.launch()
+# Vérifier la disponibilité du GPU
+device = 0 if torch.cuda.is_available() else -1
+
+# Charger le modèle et sa configuration
+model_name = "AgentPublic/camembert-base-toxic-fr-user-prompts"
+config = AutoConfig.from_pretrained(model_name)
+classifier = pipeline('text-classification', model=model_name, device=device)
+
+# Chargement des ressources NLTK
+nltk.download('punkt')
+try:
+    nltk.data.find('corpora/wordnet')
+except LookupError:
+    nltk.download('wordnet')
+
+lemmatizer = WordNetLemmatizer()
+insult_words = [
+    "con", "cons", "connard", "connards", "enculé", "enculés",
+    "pute", "putes", "putain", "merde", "idiot"
+]
+insult_pattern = re.compile(r'\b(?:' + '|'.join(insult_words) + r')\b', re.IGNORECASE)
+
+def analyze_text(text, threshold=0.5):
+    """
+    Analyse un texte pour détecter la toxicité avec un seuil de confiance.
+    Retourne True si la toxicité détectée est supérieure ou égale au seuil.
+    """
+    result = classifier(text, truncation=True)[0]
+    label_map = {v: k for k, v in config.label2id.items()}
+    toxic_label = label_map.get(1, "toxic")  # Sécurisation de l'accès
+    logging.debug(f"Texte: {text} -> Score: {result['score']}")
+    return result['label'] == toxic_label and result['score'] >= threshold
+
+def detect_toxicity(message):
+    """
+    Vérifie si un message est toxique selon l'IA et les règles heuristiques.
+    """
+    words = [lemmatizer.lemmatize(word) for word in word_tokenize(message.lower())]
+    blob = TextBlob(" ".join(words))
+    sentiment = blob.sentiment.polarity
+    
+    # Conversion en booléen pour éviter de renvoyer un objet re.Match
+    return analyze_text(message) or bool(insult_pattern.search(message)) or sentiment < -0.5
+
+def predict(text):
+    is_toxic = detect_toxicity(text)
+    return f"Is toxic: {is_toxic}"
+
+# Création de l'interface Gradio
+iface = gr.Interface(
+    fn=predict,
+    inputs=gr.inputs.Textbox(lines=5, label="Texte en français"),
+    outputs="text",
+    title="Détecteur de Toxicité",
+    description="Entrez un texte en français pour vérifier s'il est toxique."
+)
+
+if __name__ == "__main__":
+    iface.launch()

requirements.txt

@@ -0,0 +1,8 @@
+gradio
+transformers
+torch
+torchvision
+torchaudio
+nltk
+textblob
+pydantic