TensorFlow Lite 轉換工具

TensorFlow Lite 轉換工具可用來將 TensorFlow 模型轉換為經過最佳化的 FlatBuffer 格式,以便 TensorFlow Lite 解譯器使用。

FlatBuffer

FlatBuffer 是高效率的開放原始碼跨平台序列化程式庫,與通訊協定緩衝區相似,差別在於 FlatBuffer 不需要剖析和解除封裝成次要表示法的步驟,資料即可存取,因此可以省下為個別物件所分配的記憶體。FlatBuffer 程式碼所占用的空間比通訊協定緩衝區小一個數量級。

從模型訓練到裝置部署

TensorFlow Lite 轉換工具會透過 TensorFlow 模型建立 TensorFlow Lite FlatBuffer 檔案 (.tflite)。

轉換工具支援下列輸入格式:

系統會接著將 TensorFlow Lite FlatBuffer 檔案部署至用戶端裝置,而 TensorFlow Lite 解譯器會使用經過壓縮的模型在裝置端執行推論。這個轉換程序如下圖所示:

TFLite 轉換工具的工作流程

選項

你可以透過下列兩個選項中的任一個選項,來使用 TensorFlow Lite 轉換工具:

  • Python (建議使用):Python API 可簡化模型開發管線中的模型轉換,並協助你盡早減輕相容性問題。
  • 指令列