本文档列出了在一些 Android 和 iOS 设备上运行常见模型时 TensorFlow Lite 的跑分。
这些跑分数据由 Android TFLite benchmark binary 及 iOS benchmark app 产生。
安卓环境的跑分
对于安卓环境的跑分,为了减少设备间的差异性,CPU 亲和性被设置为使用大核跑分。 (查看详情)
假设模型被下载并解压缩到 /data/local/tmp/tflite_models
路径。用于跑分的二进制文件
使用 这些命令构建。
此外,我们假设该文件位于 /data/local/tmp
目录。
使用以下语句运行跑分:
adb shell taskset ${CPU_MASK} /data/local/tmp/benchmark_model \
--num_threads=1 \
--graph=/data/local/tmp/tflite_models/${GRAPH} \
--warmup_runs=1 \
--num_runs=50 \
--use_nnapi=false
在这里, ${GRAPH}
是模型的名字, ${CPU_MASK}
是CPU亲和度设置。
请从下表中选择:
Device | CPU_MASK |
---|---|
Pixel 2 | f0 |
Pixel xl | 0c |
模型名称 | 设备 | 平均推理时间 |
---|---|---|
Mobilenet_1.0_224(float) | Pixel 2 | 123.3 ms |
Pixel XL | 113.3 ms | |
Mobilenet_1.0_224 (quant) | Pixel 2 | 65.4 ms |
Pixel XL | 74.6 ms | |
NASNet mobile | Pixel 2 | 273.8 ms |
Pixel XL | 210.8 ms | |
SqueezeNet | Pixel 2 | 234.0 ms |
Pixel XL | 158.0 ms | |
Inception_ResNet_V2 | Pixel 2 | 2846.0 ms |
Pixel XL | 1973.0 ms | |
Inception_V4 | Pixel 2 | 3180.0 ms |
Pixel XL | 2262.0 ms |
模型名称 | 设备 | 平均推理时间 |
---|---|---|
Mobilenet_1.0_224(float) | iPhone 8 | 32.2 ms |
Mobilenet_1.0_224 (quant) | iPhone 8 | 24.4 ms |
NASNet mobile | iPhone 8 | 60.3 ms |
SqueezeNet | iPhone 8 | 44.3 |
Inception_ResNet_V2 | iPhone 8 | 562.4 ms |
Inception_V4 | iPhone 8 | 661.0 ms |
如未另行说明,那么本页面中的内容已根据知识共享署名 4.0 许可获得了许可,并且代码示例已根据 Apache 2.0 许可获得了许可。有关详情,请参阅 Google 开发者网站政策。Java 是 Oracle 和/或其关联公司的注册商标。
最后更新时间 (UTC):2022-06-07。
[{
"type": "thumb-down",
"id": "missingTheInformationINeed",
"label":"没有我需要的信息"
},{
"type": "thumb-down",
"id": "tooComplicatedTooManySteps",
"label":"太复杂/步骤太多"
},{
"type": "thumb-down",
"id": "outOfDate",
"label":"内容需要更新"
},{
"type": "thumb-down",
"id": "translationIssue",
"label":"翻译问题"
},{
"type": "thumb-down",
"id": "samplesCodeIssue",
"label":"示例/代码问题"
},{
"type": "thumb-down",
"id": "otherDown",
"label":"其他"
}]
[{
"type": "thumb-up",
"id": "easyToUnderstand",
"label":"易于理解"
},{
"type": "thumb-up",
"id": "solvedMyProblem",
"label":"解决了我的问题"
},{
"type": "thumb-up",
"id": "otherUp",
"label":"其他"
}]
{
"lastModified": "最后更新时间 (UTC):2022-06-07。",
"confidential": False
}