t5 french punctuation

🚀 Text Punctuator Based on Transformers model T5.

T5 model fine-tuned for punctuation restoration. Model currently supports only French Language. More language supports will be added later using mT5.

Train Datasets : Model trained using 2 french datasets (around 500k records):

More info will be added later.

🚀 Usage

TextPunctuator as a wrapper of the model.

  1. Install the package.
pip install TextPunctuator
  1. Simple example
from Punctuator import TextPunctuator
punctuator = TextPunctuator(use_gpu=False)
# text input
text = "Sur la base de ces échanges Blake Lemoine a donc jugé que le systÚme avait atteint \
        un niveau de conscience lui permettant d'ĂȘtre sensible Ce dernier a ensuite envoyĂ© \
        par email un rapport sur la sensibilité supposée de LaMDA à deux cents employés de \
        Google TrĂšs vite les dirigeants de l’entreprise ont rejetĂ© les allĂ©gations"
text_punctuated = punctuator.punctuate(text, lang='fr')
text_punctuated
# output : 
""" Sur la base de ces échanges, Blake Lemoine a donc jugé que le systÚme avait atteint un niveau de 
conscience lui permettant d’ĂȘtre sensible. Ce dernier a ensuite envoyĂ© par email un rapport sur  
la sensibilité supposée de LaMDA à deux cents employés de Google. TrÚs vite, les dirigeants de 
l’entreprise ont rejetĂ© les allĂ©gations. """

☕ Contact

Contact Zakarya ROUZKI or at Linkedin.