update

examples/sound_classification_by_lstm/step_9_evaluation_onnx_model.py

@@ -42,7 +42,8 @@ def get_args():
     parser.add_argument("--model_dir", default="best", type=str)
     parser.add_argument("--onnx_model_file", default="model.onnx", type=str)
     parser.add_argument("--output_file", default="evaluation_onnx.xlsx", type=str)
-    parser.add_argument("--device", default="cuda" if torch.cuda.is_available() else "cpu", type=str)
+    # parser.add_argument("--device", default="cuda" if torch.cuda.is_available() else "cpu", type=str)
+    parser.add_argument("--device", default="cpu", type=str)
 
     parser.add_argument("--max_count", default=10000, type=int)
 
@@ -78,7 +79,10 @@ def main():
         evaluation_file = Path(args.dataset)
 
     config = WaveClassifierConfig.from_pretrained(config_file.as_posix())
-    ort_session = ort.InferenceSession(onnx_model_file.as_posix())
+    ort_session = ort.InferenceSession(
+        onnx_model_file.as_posix(),
+        providers=["CUDAExecutionProvider", "CPUExecutionProvider"]
+    )
     vocabulary = Vocabulary.from_files(vocab_path.as_posix())
 
     # transform

requirements.txt

@@ -12,8 +12,8 @@ evaluate
 gradio
 python-dotenv
 numpy
-onnxruntime
-scipy
 onnx
 onnxruntime
+onnxruntime-gpu
+scipy
 tenacity