Membangun dari sumber

Buat paket pip TensorFlow dari sumber dan instal di Ubuntu Linux dan macOS. Meskipun petunjuknya mungkin berfungsi untuk sistem lain, petunjuk ini hanya diuji dan didukung untuk Ubuntu dan macOS.

Pengaturan untuk Linux dan macOS

Instal alat build berikut untuk mengonfigurasi lingkungan pengembangan Anda.

Instal dependensi paket Python dan TensorFlow

sudo apt install python3-dev python3-pip

brew install python

Instal dependensi paket pip TensorFlow (jika menggunakan lingkungan virtual, hilangkan argumen --user ):

pip install -U --user pip

Instal Bazel

Untuk membangun TensorFlow, Anda perlu menginstal Bazel. Bazelisk adalah cara mudah untuk menginstal Bazel dan secara otomatis mendownload versi Bazel yang benar untuk TensorFlow. Untuk kemudahan penggunaan, tambahkan Bazelisk sebagai bazel yang dapat dieksekusi di PATH Anda.

Jika Bazelisk tidak tersedia, Anda dapat menginstal Bazel secara manual. Pastikan untuk menginstal versi Bazel yang benar dari file .bazelversion TensorFlow.

Instal Dentang (disarankan, khusus Linux)

Dentang adalah kompiler C/C++/Objective-C yang dikompilasi dalam C++ berdasarkan LLVM. Ini adalah compiler default untuk membangun TensorFlow yang dimulai dengan TensorFlow 2.13. Versi yang didukung saat ini adalah LLVM/Clang 17.

Paket malam LLVM Debian/Ubuntu menyediakan skrip instalasi otomatis dan paket untuk instalasi manual di Linux. Pastikan Anda menjalankan perintah berikut jika Anda menambahkan repositori llvm apt secara manual ke sumber paket Anda:

sudo apt-get update && sudo apt-get install -y llvm-17 clang-17

Sekarang /usr/lib/llvm-17/bin/clang adalah jalur sebenarnya untuk dentang dalam kasus ini.

Alternatifnya, Anda dapat mengunduh dan membongkar Clang + LLVM 17 yang sudah dibuat sebelumnya.

Di bawah ini adalah contoh langkah yang dapat Anda ambil untuk menyiapkan binari Clang + LLVM 17 yang diunduh pada sistem operasi Debian/Ubuntu:

1. Ubah ke direktori tujuan yang diinginkan: cd <desired directory>

2. Muat dan ekstrak file arsip...(sesuai dengan arsitektur Anda):

   wget https://github.com/llvm/llvm-project/releases/download/llvmorg-17.0.2/clang+llvm-17.0.2-x86_64-linux-gnu-ubuntu-22.04.tar.xz
   
   tar -xvf clang+llvm-17.0.2-x86_64-linux-gnu-ubuntu-22.04.tar.xz
   
   

3. Salin konten yang diekstrak (direktori dan file) ke /usr (Anda mungkin memerlukan izin sudo, dan direktori yang benar mungkin berbeda-beda tergantung distribusi). Ini secara efektif menginstal Dentang dan LLVM, dan menambahkannya ke jalur. Anda tidak perlu mengganti apa pun, kecuali Anda memiliki instalasi sebelumnya, dalam hal ini Anda harus mengganti file:

   cp -r clang+llvm-17.0.2-x86_64-linux-gnu-ubuntu-22.04/* /usr
   

4. Periksa versi binari Clang + LLVM 17 yang diperoleh:

   clang --version
   

5. Sekarang /usr/bin/clang adalah jalur sebenarnya ke dentang baru Anda. Anda dapat menjalankan skrip ./configure atau mengatur variabel lingkungan CC dan BAZEL_COMPILER secara manual ke jalur ini.

Instal dukungan GPU (opsional, khusus Linux)

Tidak ada dukungan GPU untuk macOS.

Baca panduan dukungan GPU untuk menginstal driver dan software tambahan yang diperlukan untuk menjalankan TensorFlow pada GPU.

Unduh kode sumber TensorFlow

Gunakan Git untuk mengkloning repositori TensorFlow :

git clone https://github.com/tensorflow/tensorflow.git
cd tensorflow

Repo defaultnya adalah cabang pengembangan master . Anda juga dapat memeriksa cabang rilis yang akan dibangun:

git checkout branch_name  # r2.2, r2.3, etc.

Konfigurasikan build

Build TensorFlow dikonfigurasikan oleh file .bazelrc di direktori root repositori. Skrip ./configure atau ./configure.py dapat digunakan untuk menyesuaikan pengaturan umum.

Silakan jalankan skrip ./configure dari direktori root repositori. Skrip ini akan menanyakan lokasi dependensi TensorFlow dan meminta opsi konfigurasi build tambahan (misalnya, flag compiler). Lihat bagian Contoh sesi untuk detailnya.

./configure

Ada juga versi python dari skrip ini, ./configure.py . Jika menggunakan lingkungan virtual, python configure.py memprioritaskan jalur di dalam lingkungan, sedangkan ./configure memprioritaskan jalur di luar lingkungan. Dalam kedua kasus tersebut, Anda dapat mengubah defaultnya.

Sesi sampel

Berikut ini menunjukkan contoh eksekusi skrip ./configure (sesi Anda mungkin berbeda):

./configure
You have bazel 6.1.0 installed.
Please specify the location of python. [Default is /Library/Frameworks/Python.framework/Versions/3.9/bin/python3]: 


Found possible Python library paths:
  /Library/Frameworks/Python.framework/Versions/3.9/lib/python3.9/site-packages
Please input the desired Python library path to use.  Default is [/Library/Frameworks/Python.framework/Versions/3.9/lib/python3.9/site-packages]

Do you wish to build TensorFlow with ROCm support? [y/N]:
No ROCm support will be enabled for TensorFlow.

Do you wish to build TensorFlow with CUDA support? [y/N]:
No CUDA support will be enabled for TensorFlow.

Do you want to use Clang to build TensorFlow? [Y/n]:
Clang will be used to compile TensorFlow.

Please specify the path to clang executable. [Default is /usr/lib/llvm-16/bin/clang]:

You have Clang 16.0.4 installed.

Please specify optimization flags to use during compilation when bazel option "--config=opt" is specified [Default is -Wno-sign-compare]:


Would you like to interactively configure ./WORKSPACE for Android builds? [y/N]: n
Not configuring the WORKSPACE for Android builds.

Do you wish to build TensorFlow with iOS support? [y/N]: n
No iOS support will be enabled for TensorFlow.

Preconfigured Bazel build configs. You can use any of the below by adding "--config=<>" to your build command. See .bazelrc for more details.
    --config=mkl            # Build with MKL support.
    --config=mkl_aarch64    # Build with oneDNN and Compute Library for the Arm Architecture (ACL).
    --config=monolithic     # Config for mostly static monolithic build.
    --config=numa           # Build with NUMA support.
    --config=dynamic_kernels    # (Experimental) Build kernels into separate shared objects.
    --config=v1             # Build with TensorFlow 1 API instead of TF 2 API.
Preconfigured Bazel build configs to DISABLE default on features:
    --config=nogcp          # Disable GCP support.
    --config=nonccl         # Disable NVIDIA NCCL support.

Opsi konfigurasi

dukungan GPU

dari v.2.18.0

Untuk dukungan GPU , atur cuda=Y selama konfigurasi dan tentukan versi CUDA dan cuDNN jika diperlukan. Bazel akan mengunduh paket CUDA dan CUDNN secara otomatis atau menunjuk ke redistribusi CUDA/CUDA/NCCL pada sistem file lokal jika diperlukan.

sebelum v.2.18.0

Untuk dukungan GPU , atur cuda=Y selama konfigurasi dan tentukan versi CUDA dan cuDNN. Jika sistem Anda memiliki beberapa versi CUDA atau cuDNN yang terinstal, atur versi tersebut secara eksplisit alih-alih mengandalkan versi default. ./configure membuat tautan simbolis ke pustaka CUDA sistem Anda—jadi jika Anda memperbarui jalur pustaka CUDA, langkah konfigurasi ini harus dijalankan lagi sebelum dibuat.

Pengoptimalan

Untuk tanda pengoptimalan kompilasi, default ( -march=native ) mengoptimalkan kode yang dihasilkan untuk jenis CPU mesin Anda. Namun, jika membuat TensorFlow untuk jenis CPU yang berbeda, pertimbangkan tanda pengoptimalan yang lebih spesifik. Periksa manual GCC untuk contohnya.

Konfigurasi yang telah dikonfigurasi sebelumnya

Ada beberapa konfigurasi build prakonfigurasi yang tersedia dan dapat ditambahkan ke perintah bazel build , misalnya:

• --config=dbg —Bangun dengan info debug. Lihat KONTRIBUSI.md untuk detailnya.
• --config=mkl —Dukungan untuk Intel® MKL-DNN .
• --config=monolithic —Konfigurasi untuk sebagian besar bangunan statis dan monolitik.

Bangun dan instal paket pip

Opsi pembuatan Bazel

Lihat referensi baris perintah Bazel untuk opsi build .

Membangun TensorFlow dari sumber dapat menggunakan banyak RAM. Jika sistem Anda memiliki keterbatasan memori, batasi penggunaan RAM Bazel dengan: --local_ram_resources=2048 .

Paket TensorFlow resmi dibuat dengan toolchain Clang yang mematuhi standar paket manylinux2014.

Bangun paketnya

Untuk membangun paket pip, Anda perlu menentukan flag --repo_env=WHEEL_NAME . tergantung pada nama yang diberikan, paket akan dibuat, misalnya:

Untuk membuat paket CPU Tensorflow:

bazel build //tensorflow/tools/pip_package:wheel --repo_env=WHEEL_NAME=tensorflow_cpu

Untuk membuat paket GPU tensorflow:

bazel build //tensorflow/tools/pip_package:wheel --repo_env=WHEEL_NAME=tensorflow --config=cuda --config=cuda_wheel

Untuk membuat paket Tensorflow TPU:

bazel build //tensorflow/tools/pip_package:wheel --repo_env=WHEEL_NAME=tensorflow_tpu --config=tpu

Untuk membuat paket nightly, setel tf_nightly alih-alih tensorflow , misalnya untuk membuat paket CPU nightly:

bazel build //tensorflow/tools/pip_package:wheel --repo_env=WHEEL_NAME=tf_nightly_cpu

Akibatnya, roda yang dihasilkan akan ditempatkan di

bazel-bin/tensorflow/tools/pip_package/wheel_house/

Instal paketnya

Nama file .whl yang dihasilkan bergantung pada versi TensorFlow dan platform Anda. Gunakan pip install untuk menginstal paket, misalnya:

pip install bazel-bin/tensorflow/tools/pip_package/wheel_house/tensorflow-version-tags.whl

Docker Linux dibangun

Gambar pengembangan Docker TensorFlow adalah cara mudah menyiapkan lingkungan untuk membangun paket Linux dari sumber. Gambar-gambar ini sudah berisi kode sumber dan dependensi yang diperlukan untuk membangun TensorFlow. Buka panduan TensorFlow Docker untuk petunjuk instalasi dan daftar tag gambar yang tersedia .

Hanya untuk CPU

Contoh berikut menggunakan gambar :devel untuk membuat paket khusus CPU dari kode sumber TensorFlow terbaru. Periksa panduan Docker untuk mengetahui tag TensorFlow -devel yang tersedia.

Unduh image pengembangan terbaru dan mulai container Docker yang akan Anda gunakan untuk membuat paket pip :

docker pull tensorflow/tensorflow:devel
docker run -it -w /tensorflow_src -v $PWD:/mnt -e HOST_PERMS="$(id -u):$(id -g)" \
    tensorflow/tensorflow:devel bash

git pull  # within the container, download the latest source code

Perintah docker run di atas memulai shell di direktori /tensorflow_src —akar pohon sumber. Ini memasang direktori host saat ini di direktori /mnt kontainer, dan meneruskan informasi pengguna host ke kontainer melalui variabel lingkungan (digunakan untuk mengatur izin—Docker dapat membuat ini rumit).

Alternatifnya, untuk membuat salinan host TensorFlow dalam sebuah container, pasang pohon sumber host di direktori /tensorflow container:

docker run -it -w /tensorflow -v /path/to/tensorflow:/tensorflow -v $PWD:/mnt \
    -e HOST_PERMS="\\((id -u):\\)(id -g)" tensorflow/tensorflow:devel bash

Setelah pohon sumber disiapkan, buat paket TensorFlow dalam lingkungan virtual container:

1. Opsional: Konfigurasikan build—ini akan meminta pengguna menjawab pertanyaan konfigurasi build.
2. Bangun paket pip .
3. Sesuaikan izin kepemilikan file di luar wadah.

./configure  # if necessary

bazel build //tensorflow/tools/pip_package:wheel --repo_env=WHEEL_NAME=tensorflow_cpu --config=opt
`
chown $HOST_PERMS bazel-bin/tensorflow/tools/pip_package/wheel_house/tensorflow-version-tags.whl

Instal dan verifikasi paket di dalam wadah:

pip uninstall tensorflow  # remove current version

pip install bazel-bin/tensorflow/tools/pip_package/wheel_house/tensorflow-version-tags.whl
cd /tmp  # don't import from source directory
python -c "import tensorflow as tf; print(tf.__version__)"

Di mesin host Anda, paket pip TensorFlow ada di direktori saat ini (dengan izin pengguna host): ./tensorflow- version - tags .whl

dukungan GPU

Docker adalah cara termudah untuk membangun dukungan GPU untuk TensorFlow karena mesin host hanya memerlukan driver NVIDIA® ( NVIDIA® CUDA® Toolkit tidak harus diinstal). Lihat panduan dukungan GPU dan panduan TensorFlow Docker untuk menyiapkan nvidia-docker (khusus Linux).

Contoh berikut mendownload image TensorFlow :devel-gpu dan menggunakan nvidia-docker untuk menjalankan container yang mendukung GPU. Gambar pengembangan ini dikonfigurasi untuk membangun paket pip dengan dukungan GPU:

docker pull tensorflow/tensorflow:devel-gpu
docker run --gpus all -it -w /tensorflow -v $PWD:/mnt -e HOST_PERMS="$(id -u):$(id -g)" \
    tensorflow/tensorflow:devel-gpu bash
git pull  # within the container, download the latest source code

Kemudian, dalam lingkungan virtual container, buat paket TensorFlow dengan dukungan GPU:

./configure  # if necessary

bazel build //tensorflow/tools/pip_package:wheel --repo_env=WHEEL_NAME=tensorflow --config=cuda --config=cuda_wheel --config=opt

chown $HOST_PERMS bazel-bin/tensorflow/tools/pip_package/wheel_house/tensorflow-version-tags.whl

Instal dan verifikasi paket di dalam container dan periksa GPU:

pip uninstall tensorflow  # remove current version

pip install bazel-bin/tensorflow/tools/pip_package/wheel_house/tensorflow-version-tags.whl
cd /tmp  # don't import from source directory
python -c "import tensorflow as tf; print(\"Num GPUs Available: \", len(tf.config.list_physical_devices('GPU')))"

Konfigurasi build yang diuji

Linux

CPU

GPU

macOS

CPU

GPU