Explorar el Código

[1.0] Update to float32 to support my GPU

Penta hace 9 meses
padre
commit
076f25e321
Se han modificado 1 ficheros con 1 adiciones y 1 borrados
  1. 1 1
      app.py

+ 1 - 1
app.py

@@ -8,7 +8,7 @@ app = FastAPI()
 model = WhisperModel(
     "small",
     device="cuda",
-    compute_type="float16"
+    compute_type="float32"
 )
 
 @app.post("/transcribe")