ValueError: Expected parameter logits (Tensor of shape (1, 51865)) of distribution Categorical(logits: torch.Size([1, 51865])) to satisfy the constraint IndependentConstraint(Real(), 1), but found invalid values:tensor([[nan, nan, nan, ..., nan, nan, na..

GPU 사용환경을 만들고 Whisper를 실행 시키니 아래와 같은 에러가 났다! ㅎㅎ! 엉엉..😭

 

ValueError: Expected parameter logits (Tensor of shape (1, 51865)) of distribution Categorical(logits: torch.Size([1, 51865])) to satisfy the constraint IndependentConstraint(Real(), 1), but found invalid values:
tensor([[nan, nan, nan, ..., nan, nan, nan]], device='cuda:0')

 

그런데 whisper 모델이 아니라 다른 model을 사용하니 똑같은 gpu를 사용하는데 에러가 나지 않았다. 따라서 GPU 환경 때문에 나는건 아니라는 것 같았다.

검색해보니 fb16을 False로 두라는 내용을 발견했다.

 

아래와 같이 fb16=False를 파라미터로 넘긴 후 정상 작동 되는 것을 확인했다!

 

import whisper as ws
result = ws.transcribe(model=model, audio=audioPath, fp16=False)

 

참고 페이지

https://github.com/openai/whisper/discussions/383

running on cuda · openai/whisper · Discussion #383