app.py

import gradio as gr
import torch
from peft import PeftModel, PeftConfig
from transformers import AutoModelForCausalLM, AutoTokenizer

peft_model_id = "rwheel/discriminacion_gitana_intervenciones"
config = PeftConfig.from_pretrained(peft_model_id)
model = AutoModelForCausalLM.from_pretrained(config.base_model_name_or_path, return_dict=True, load_in_8bit=True, device_map='auto')
tokenizer = AutoTokenizer.from_pretrained(peft_model_id)
# Load the Lora model
model = PeftModel.from_pretrained(model, peft_model_id)

def predecir_intervencion(text):
    text = "<SH>" + text + " Intervención: "
    batch = tokenizer(text, return_tensors='pt')
    with torch.cuda.amp.autocast():
        output_tokens = model.generate(**batch, max_new_tokens=256, eos_token_id=50258)

    output = tokenizer.decode(output_tokens[0], skip_special_tokens=False)

    aux = output.split("Intervención:")[1].strip()
    intervencion = aux.split("Resultado:")[0].strip()
    resultado = aux.split("Resultado:")[1].split("<EH>")[0].strip()
    
    return intervencion, resultado

with gr.Blocks() as demo:
    gr.Markdown("Predicción de intervenciones para mitigar el daño racista en el pueblo gitano")
    with gr.Row():
        hechos = gr.Textbox(placeholder="Un alumno gitano de un Instituto...")
    with gr.Row():
        intervencion = gr.Textbox()
        resultado = gr.Textbox()
        
    btn = gr.Button("Go")
    btn.click(fn=predecir_intervencion, inputs=hechos, outputs=[intervencion, resultado])

demo.launch(share=True)