onnx/onnxruntime庫的簡介

Open Neural Network Exchange（ONNX）是一個開放的生態(tài)系統(tǒng)，賦予AI開發(fā)者選擇正確工具的能力，以滿足項目的不斷發(fā)展。ONNX為AI模型提供了開源格式，涵蓋深度學(xué)習(xí)和傳統(tǒng)ML。它定義了一個可擴展的計算圖模型，以及內(nèi)置運算符和標(biāo)準(zhǔn)數(shù)據(jù)類型的定義。目前，我們專注于推理（評分）所需的功能。

ONNX被廣泛支持，并可在許多框架、工具和硬件中找到。在不同框架之間實現(xiàn)互操作性并簡化從研究到生產(chǎn)的路徑，有助于增加AI社區(qū)的創(chuàng)新速度。我們邀請社區(qū)加入我們，并進(jìn)一步發(fā)展ONNX。

GitHub地址：GitHub - onnx/onnx: Open standard for machine learning interoperability

onnx/onnxruntime庫的安裝pip install onnx pip install -i https://pypi.tuna./simple onnx pip install -i https://pypi.tuna./simple onnxruntime

onnx/onnxruntime庫的使用方法

1、基礎(chǔ)用法import onnx import onnxruntime as ort # 加載ONNX模型 model = onnx.load("model.onnx") # 打印模型信息 print(onnx.helper.printable_graph(model.graph)) # 創(chuàng)建ONNX運行時 ort_session = ort.InferenceSession("model.onnx") # 準(zhǔn)備輸入數(shù)據(jù) input_data = np.random.rand(1, 3, 224, 224).astype(np.float32) # 推理 ort_inputs = {ort_session.get_inputs()[0].name: input_data} ort_outputs = ort_session.run(None, ort_inputs) # 輸出結(jié)果 print(ort_outputs)