Analyse du modèle TensorFlow

TensorFlow Model Analysis (TFMA) est une bibliothèque permettant d'évaluer les modèles TensorFlow. Il permet aux utilisateurs d'évaluer leurs modèles sur de grandes quantités de données de manière distribuée, en utilisant les mêmes métriques définies dans leur entraîneur. Ces métriques peuvent être calculées sur différentes tranches de données et visualisées dans les notebooks Jupyter.

Navigateur de métriques de découpage TFMA

Installation

La méthode recommandée pour installer TFMA consiste à utiliser le package PyPI :

pip install tensorflow-model-analysis

Construire TFMA à partir des sources

Pour construire à partir des sources, suivez les étapes suivantes :

Installez le protocole selon le lien mentionné : protoc

Créez un environnement virtuel en exécutant les commandes

python3 -m venv <virtualenv_name>
source <virtualenv_name>/bin/activate
pip3 install setuptools wheel
git clone https://github.com/tensorflow/model-analysis.git
cd model-analysis
python3 setup.py bdist_wheel

Cela construira la roue TFMA dans le répertoire dist. Pour installer la roue à partir du répertoire dist, exécutez les commandes

cd dist
pip3 install tensorflow_model_analysis-<version>-py3-none-any.whl

Forfaits de nuit

TFMA héberge également des packages nocturnes sur https://pypi-nightly.tensorflow.org sur Google Cloud. Pour installer le dernier package nocturne, veuillez utiliser la commande suivante :

pip install -i https://pypi-nightly.tensorflow.org/simple tensorflow-model-analysis

Cela installera les packages nocturnes pour les principales dépendances de TFMA telles que TensorFlow Metadata (TFMD), TFX Basic Shared Libraries (TFX-BSL).

Actuellement, TFMA nécessite que TensorFlow soit installé mais n'a pas de dépendance explicite sur le package TensorFlow PyPI. Consultez les guides d'installation de TensorFlow pour obtenir des instructions.

Pour activer la visualisation TFMA dans Jupyter Notebook :

  jupyter nbextension enable --py widgetsnbextension
  jupyter nbextension enable --py tensorflow_model_analysis

Laboratoire Jupyter

Au moment de la rédaction, à cause de https://github.com/pypa/pip/issues/9187, pip install pourrait ne jamais se terminer. Dans ce cas, vous devez revenir à la version 19 au lieu de 20 : pip install "pip<20" .

L'utilisation d'une extension JupyterLab nécessite l'installation de dépendances sur la ligne de commande. Vous pouvez le faire dans la console de l'interface utilisateur de JupyterLab ou sur la ligne de commande. Cela inclut l'installation séparée de toutes les dépendances du package pip et des dépendances du plugin JupyterLab labextension, et les numéros de version doivent être compatibles.

Les exemples ci-dessous utilisent 0.27.0. Vérifiez les versions disponibles ci-dessous pour utiliser la dernière.

Laboratoire Jupyter 1.2.x

pip install tensorflow_model_analysis==0.27.0
jupyter labextension install tensorflow_model_analysis@0.27.0
jupyter labextension install @jupyter-widgets/jupyterlab-manager@1.1

Laboratoire Jupyter 2

pip install tensorflow_model_analysis==0.27.0
jupyter labextension install tensorflow_model_analysis@0.27.0
jupyter labextension install @jupyter-widgets/jupyterlab-manager@2

Dépannage

Vérifiez les packages pip :

pip list

Vérifiez les extensions :

jupyter labextension list

Dépendances notables

TensorFlow est requis.

Apache Beam est requis ; c'est ainsi que le calcul distribué efficace est pris en charge. Par défaut, Apache Beam s'exécute en mode local mais peut également s'exécuter en mode distribué à l'aide de Google Cloud Dataflow et d'autres exécuteurs Apache Beam.

Apache Arrow est également requis. TFMA utilise Arrow pour représenter les données en interne afin d'utiliser des fonctions numpy vectorisées.

Commencer

Pour obtenir des instructions sur l'utilisation de TFMA, consultez le guide de démarrage .

Versions compatibles

Le tableau suivant présente les versions du package TFMA compatibles les unes avec les autres. Ceci est déterminé par notre cadre de test, mais d'autres combinaisons non testées peuvent également fonctionner.

analyse du modèle de flux tensoriel Apache-beam[gcp] flèche flux tensoriel métadonnées tensorflow tfx-bsl
Maître GitHub 2.47.0 10.0.0 tous les soirs (2.x) 1.15.0 1.15.1
0.46.0 2.47.0 10.0.0 2.15 1.15.0 1.15.1
0.45.0 2.47.0 10.0.0 2.13 1.14.0 1.14.0
0.44.0 2.40.0 6.0.0 2.12 1.13.1 1.13.0
0.43.0 2.40.0 6.0.0 2.11 1.12.0 1.12.0
0.42.0 2.40.0 6.0.0 1.15 / 2.10 1.11.0 1.11.0
0.41.1 2.40.0 6.0.0 1,15 / 2,9 1.10.0 1.10.1
0.41.0 2.40.0 6.0.0 1,15 / 2,9 1.10.0 1.10.1
0.40.0 2.38.0 5.0.0 1,15 / 2,9 1.9.0 1.9.0
0.39.0 2.38.0 5.0.0 1,15 / 2,8 1.8.0 1.8.0
0.38.0 2.36.0 5.0.0 1,15 / 2,8 1.7.0 1.7.0
0.37.0 2.35.0 5.0.0 1,15 / 2,7 1.6.0 1.6.0
0.36.0 2.34.0 5.0.0 1,15 / 2,7 1.5.0 1.5.0
0.35.0 2.33.0 5.0.0 1,15 / 2,6 1.4.0 1.4.0
0.34.1 2.32.0 2.0.0 1,15 / 2,6 1.2.0 1.3.0
0.34.0 2.31.0 2.0.0 1,15 / 2,6 1.2.0 1.3.1
0.33.0 2.31.0 2.0.0 1,15 / 2,5 1.2.0 1.2.0
0.32.1 2.29.0 2.0.0 1,15 / 2,5 1.1.0 1.1.1
0.32.0 2.29.0 2.0.0 1,15 / 2,5 1.1.0 1.1.0
0.31.0 2.29.0 2.0.0 1,15 / 2,5 1.0.0 1.0.0
0.30.0 2.28.0 2.0.0 1,15 / 2,4 0.30.0 0.30.0
0.29.0 2.28.0 2.0.0 1,15 / 2,4 0.29.0 0.29.0
0.28.0 2.28.0 2.0.0 1,15 / 2,4 0.28.0 0.28.0
0.27.0 2.27.0 2.0.0 1,15 / 2,4 0.27.0 0.27.0
0.26.1 2.28.0 0.17.0 1,15 / 2,3 0.26.0 0.26.0
0.26.0 2.25.0 0.17.0 1,15 / 2,3 0.26.0 0.26.0
0.25.0 2.25.0 0.17.0 1,15 / 2,3 0.25.0 0.25.0
0.24.3 2.24.0 0.17.0 1,15 / 2,3 0.24.0 0.24.1
0.24.2 2.23.0 0.17.0 1,15 / 2,3 0.24.0 0.24.0
0.24.1 2.23.0 0.17.0 1,15 / 2,3 0.24.0 0.24.0
0.24.0 2.23.0 0.17.0 1,15 / 2,3 0.24.0 0.24.0
0.23.0 2.23.0 0.17.0 1,15 / 2,3 0.23.0 0.23.0
0.22.2 2.20.0 0.16.0 1,15 / 2,2 0.22.2 0.22.0
0.22.1 2.20.0 0.16.0 1,15 / 2,2 0.22.2 0.22.0
0.22.0 2.20.0 0.16.0 1,15 / 2,2 0.22.0 0.22.0
0.21.6 2.19.0 0.15.0 1,15 / 2,1 0.21.0 0.21.3
0.21.5 2.19.0 0.15.0 1,15 / 2,1 0.21.0 0.21.3
0.21.4 2.19.0 0.15.0 1,15 / 2,1 0.21.0 0.21.3
0.21.3 2.17.0 0.15.0 1,15 / 2,1 0.21.0 0.21.0
0.21.2 2.17.0 0.15.0 1,15 / 2,1 0.21.0 0.21.0
0.21.1 2.17.0 0.15.0 1,15 / 2,1 0.21.0 0.21.0
0.21.0 2.17.0 0.15.0 1,15 / 2,1 0.21.0 0.21.0
0.15.4 2.16.0 0.15.0 1,15 / 2,0 n / A 0.15.1
0.15.3 2.16.0 0.15.0 1,15 / 2,0 n / A 0.15.1
0.15.2 2.16.0 0.15.0 1,15 / 2,0 n / A 0.15.1
0.15.1 2.16.0 0.15.0 1,15 / 2,0 n / A 0.15.0
0.15.0 2.16.0 0.15.0 1.15 n / A n / A
0.14.0 2.14.0 n / A 1.14 n / A n / A
0.13.1 2.11.0 n / A 1.13 n / A n / A
0.13.0 2.11.0 n / A 1.13 n / A n / A
0.12.1 2.10.0 n / A 1.12 n / A n / A
0.12.0 2.10.0 n / A 1.12 n / A n / A
0.11.0 2.8.0 n / A 1.11 n / A n / A
0.9.2 2.6.0 n / A 1.9 n / A n / A
0.9.1 2.6.0 n / A 1.10 n / A n / A
0.9.0 2.5.0 n / A 1.9 n / A n / A
0.6.0 2.4.0 n / A 1.6 n / A n / A

Questions

Veuillez adresser toutes vos questions sur l'utilisation de TFMA à Stack Overflow à l'aide de la balise tensorflow-model-analysis .