我按你的方法做了,奇怪的是有一些文件能完整运行,有的运行到一半就遇到以下问题:
Traceback (most recent call last):
File "infer.py", line 238, in <module>
File "infer.py", line 184, in generates
File "faster_whisper\transcribe.py", line 1175, in restore_speech_timestamps
File "faster_whisper\transcribe.py", line 580, in generate_segments
File "faster_whisper\transcribe.py", line 870, in generate_with_fallback
RuntimeError: CUDA failed with error out of memory
[2796] Failed to execute script 'infer' due to unhandled exception!
有的文件上一次不能运行,下一次反而能运行了。我这张卡可能真的不合适吧
引用
引用第64楼c95ee488于2024-06-30 12:17发表的 回 60楼(狂奔的super) 的帖子 :
可能这个卡他, 不支持这种量化…
可以试试改一下bat文件,把 int8_float16 改成 int8_float32