faster-whisper-large-v2に記載されている方法でwhisperをint8_float16に変換したものです

変換コマンド

ct2-transformers-converter --model openai/whisper-large-v2 --output_dir model/faster-whisper-large-v2 --copy_files tokenizer.json --quantization int8_float16