from transformers import AutoTokenizer, T5ForConditionalGeneration
model_name = 'cabir40/t5-v1.1-base-dutch-cased_inversion'
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = T5ForConditionalGeneration.from_pretrained(model_name)
document =["Zonder relatie mensen zijn gelukkig?",
"Nu steeds meer Nederlanders worden ouder dan 100 jaar.",
"Gewoon ik open mijn ogen wijd, zodat het lijkt of ik goed luister.",
"Dan het wordt moeilijk, als anderen beginnen over andere dingen te praten",
]
inputs = tokenizer(document, return_tensors="pt", padding=True)
output_sequences = model_from_local.generate(
input_ids=inputs["input_ids"],
attention_mask=inputs["attention_mask"] )
tokenizer.batch_decode(output_sequences, skip_special_tokens=True)
['Zonder relatie zijn mensen gelukkig?',
'Nu worden steeds meer Nederlanders ouder dan 100 jaar.',
'Gewoon open ik mijn ogen wijd, zodat het lijkt of ik goed luister.',
'Dan wordt het moeilijk, als anderen beginnen over andere dingen te praten Dan']