Ikhtisar Taman Model

TensorFlow Model Garden menyediakan penerapan banyak model machine learning (ML) canggih untuk vision dan natural language processing (NLP), serta alat alur kerja agar Anda dapat dengan cepat mengonfigurasi dan menjalankan model tersebut pada kumpulan data standar. Baik Anda mencari tolok ukur performa untuk model terkenal, memverifikasi hasil penelitian yang baru dirilis, atau memperluas model yang ada, Model Garden dapat membantu Anda memajukan penelitian dan aplikasi ML.

Model Garden menyertakan sumber daya berikut untuk developer machine learning:

Sumber daya ini dibuat untuk digunakan dengan kerangka TensorFlow Core dan diintegrasikan dengan proyek pengembangan TensorFlow Anda yang sudah ada. Sumber daya Model Garden juga disediakan di bawah lisensi open source , sehingga Anda dapat memperluas dan mendistribusikan model dan alat dengan bebas.

Model ML praktis intensif secara komputasi untuk dilatih dan dijalankan, dan mungkin memerlukan akselerator seperti Unit Pemrosesan Grafis (GPU) dan Unit Pemrosesan Tensor (TPU). Sebagian besar model di Model Garden dilatih pada kumpulan data besar menggunakan TPU. Namun, Anda juga dapat melatih dan menjalankan model ini pada prosesor GPU dan CPU.

Model Model taman

Model pembelajaran mesin di Model Garden menyertakan kode lengkap sehingga Anda dapat menguji, melatih, atau melatihnya kembali untuk riset dan eksperimen. Model Garden mencakup dua kategori utama model: model resmi dan model penelitian .

Model resmi

Repositori Model Resmi adalah kumpulan model canggih, dengan fokus pada visi dan pemrosesan bahasa alami (NLP). Model ini diimplementasikan menggunakan API tingkat tinggi TensorFlow 2.x saat ini. Pustaka model dalam repositori ini dioptimalkan untuk kinerja cepat dan dikelola secara aktif oleh teknisi Google. Model resmi menyertakan metadata tambahan yang dapat Anda gunakan untuk mengonfigurasi eksperimen dengan cepat menggunakan kerangka eksperimen pelatihan Model Garden .

Model penelitian

Repositori Model Penelitian adalah kumpulan model yang diterbitkan sebagai sumber kode untuk makalah penelitian. Model ini diimplementasikan menggunakan TensorFlow 1.x dan 2.x. Pustaka model di folder riset didukung oleh pemilik kode dan komunitas riset.

Kerangka eksperimen pelatihan

Kerangka kerja percobaan pelatihan Model Garden memungkinkan Anda menyusun dan menjalankan percobaan pelatihan dengan cepat menggunakan model resmi dan kumpulan data standarnya. Kerangka pelatihan menggunakan metadata tambahan yang disertakan dengan model resmi Model Garden untuk memungkinkan Anda mengonfigurasi model dengan cepat menggunakan model pemrograman deklaratif. Anda dapat menentukan eksperimen pelatihan menggunakan perintah Python di pustaka Model TensorFlow atau mengonfigurasi pelatihan menggunakan file konfigurasi YAML, seperti contoh ini .

Kerangka pelatihan menggunakan tfm.core.base_trainer.ExperimentConfig sebagai objek konfigurasi, yang berisi objek konfigurasi tingkat teratas berikut:

  • runtime : Menentukan perangkat keras pemrosesan, strategi distribusi, dan pengoptimalan kinerja lainnya
  • task : Menentukan model, data pelatihan, kerugian, dan inisialisasi
  • trainer : Menentukan pengoptimal, loop pelatihan, loop evaluasi, ringkasan, dan pos pemeriksaan

Untuk contoh lengkap penggunaan kerangka eksperimen pelatihan Model Garden, lihat tutorial Klasifikasi gambar dengan Model Garden . Untuk informasi tentang framework eksperimen pelatihan, lihat dokumentasi TensorFlow Models API . Jika Anda mencari solusi untuk mengelola loop pelatihan untuk eksperimen pelatihan model Anda, lihat Orbit .

Operasi ML khusus

Model Garden berisi banyak operasi visi dan NLP yang dirancang khusus untuk menjalankan model canggih yang berjalan secara efisien pada GPU dan TPU. Tinjau dokumen TensorFlow Models Vision library API untuk mengetahui daftar operasi penglihatan khusus . Tinjau dokumen TensorFlow Models NLP Library API untuk mengetahui daftar operasi NLP . Pustaka ini juga menyertakan fungsi utilitas tambahan yang digunakan untuk pemrosesan data vision dan NLP, pelatihan, dan eksekusi model.

Pelatihan loop dengan Orbit

Ada dua opsi default untuk melatih model TensorFlow:

  • Gunakan fungsi Keras Model.fit tingkat tinggi. Jika model dan prosedur pelatihan Anda sesuai dengan asumsi metode Keras ' Model.fit (penurunan gradien bertahap pada kumpulan data) ini bisa sangat nyaman.
  • Tulis loop pelatihan khusus dengan keras , atau tanpa . Anda dapat menulis loop pelatihan kustom dengan metode TensorFlow level rendah seperti tf.GradientTape atau tf.function . Namun, pendekatan ini memerlukan banyak kode boilerplate, dan tidak melakukan apa pun untuk menyederhanakan pelatihan terdistribusi.

Orbit mencoba memberikan opsi ketiga di antara dua ekstrem ini.

Orbit adalah library ringan dan fleksibel yang didesain untuk memudahkan penulisan loop pelatihan kustom di TensorFlow 2.x, dan bekerja dengan baik dengan framework eksperimen pelatihan Model Garden . Orbit menangani tugas pelatihan model umum seperti menyimpan pos pemeriksaan, menjalankan evaluasi model, dan menyiapkan penulisan ringkasan. Ini terintegrasi dengan mulus dengan tf.distribute dan mendukung berjalan pada jenis perangkat yang berbeda, termasuk perangkat keras CPU, GPU, dan TPU. Alat Orbit juga merupakan sumber terbuka , sehingga Anda dapat memperluas dan menyesuaikan dengan kebutuhan pelatihan model Anda.

Panduan Orbit tersedia di sini .