{ "check_exit_status": "yes", "customize": { "install_env": { "PACKAGE_NAME": "converted_model.trt", "PACKAGE_VERSION": "1" }, "no_os_in_suggested_path": "yes", "no_ver_in_suggested_path": "yes", "package_name": "TensorRT-from-ONNX model", "skip_file_check": "yes" }, "deps": { "cuda": { "local": "yes", "name": "CUDA runtime", "sort": 10, "tags": "compiler,cuda" }, "lib-python-tensorrt": { "local": "yes", "name": "Python TensorRT library", "sort": 20, "tags": "lib,python-package,tensorrt" }, "model-source": { "local": "yes", "name": "Original ONNX model", "sort": 10, "tags": "onnx,model", "update_tags_if_env": { "image-classification,resnet": [ { "_MODEL_TO_CONVERT": "tf2onnx_resnet50" } ], "image-classification,mobilenet,non-quantized,nchw": [ { "_MODEL_TO_CONVERT": "tf2onnx_mobilenet" } ], "image-classification,mobilenet,quantized,nchw": [ { "_MODEL_TO_CONVERT": "tf2onnx_mobilenet_quant" } ] } } }, "end_full_path_universal": "converted_model.trt", "process_script": "install", "soft_uoa": "model.tensorrt", "suggested_path": "model-tensorrt-converted-from-onnx", "tags": [ "model", "image-classification", "tensorrt", "trt", "converted", "converted-from-onnx" ], "variations": { "maxbatch.1": { "on_by_default": "yes", "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "1" } }, "maxbatch.2": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "2" } }, "maxbatch.3": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "3" } }, "maxbatch.4": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "4" } }, "maxbatch.5": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "5" } }, "maxbatch.6": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "6" } }, "maxbatch.7": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "7" } }, "maxbatch.8": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "8" } }, "maxbatch.9": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "9" } }, "maxbatch.10": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "10" } }, "maxbatch.11": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "11" } }, "maxbatch.12": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "12" } }, "maxbatch.13": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "13" } }, "maxbatch.14": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "14" } }, "maxbatch.15": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "15" } }, "maxbatch.16": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "16" } }, "maxbatch.17": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "17" } }, "maxbatch.18": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "18" } }, "maxbatch.19": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "19" } }, "maxbatch.20": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "20" } }, "maxbatch.21": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "21" } }, "maxbatch.22": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "22" } }, "maxbatch.23": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "23" } }, "maxbatch.24": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "24" } }, "maxbatch.25": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "25" } }, "maxbatch.26": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "26" } }, "maxbatch.27": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "27" } }, "maxbatch.28": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "28" } }, "maxbatch.29": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "29" } }, "maxbatch.30": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "30" } }, "maxbatch.31": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "31" } }, "maxbatch.32": { "extra_env": { "ML_MODEL_MAX_BATCH_SIZE": "32" } }, "fp16": { "extra_env": { "ML_MODEL_DATA_TYPE": "fp16", "ML_MODEL_INPUT_DATA_TYPE": "float32" } }, "fp32": { "on_by_default": "yes", "extra_env": { "ML_MODEL_DATA_TYPE": "fp32", "ML_MODEL_INPUT_DATA_TYPE": "float32" } }, "resnet": { "on_by_default": "yes", "extra_customize": { "package_name": "TensorRT-from-ONNX model (ResNet50)" }, "extra_env": { "ML_MODEL_DATA_LAYOUT": "NCHW", "ML_MODEL_NORMALIZE_DATA": "NO", "ML_MODEL_SUBTRACT_MEAN": "YES", "ML_MODEL_GIVEN_CHANNEL_MEANS": "123.68 116.78 103.94", "_MODEL_TO_CONVERT": "tf2onnx_resnet50" } }, "mobilenet": { "extra_customize": { "package_name": "TensorRT-from-ONNX model (MobileNet)" }, "extra_env": { "ML_MODEL_DATA_LAYOUT": "NCHW", "ML_MODEL_NORMALIZE_DATA": "YES", "ML_MODEL_SUBTRACT_MEAN": "NO", "_MODEL_TO_CONVERT": "tf2onnx_mobilenet" } }, "mobilenet-quant": { "extra_customize": { "package_name": "TensorRT-from-ONNX model (MobileNet quantized)" }, "extra_env": { "ML_MODEL_DATA_LAYOUT": "NCHW", "ML_MODEL_NORMALIZE_DATA": "NO", "ML_MODEL_SUBTRACT_MEAN": "YES", "_MODEL_TO_CONVERT": "tf2onnx_mobilenet_quant" } } } }