Update app.py

app.py

@@ -62,6 +62,8 @@ def translate(
     
     prompt = Prompt_template(source_text, source_lang, target_lang)
     input_ids = tokenizer(prompt, return_tensors="pt").input_ids.to(model.device)
+
+    prompt_length = input_ids.shape[1]
         
     generate_kwargs = dict(
         input_ids=input_ids,
@@ -76,7 +78,7 @@ def translate(
 
     print(resp)
     
-    yield resp
+    yield resp[prompt_length:]
 
 CSS = """
     h1 {