บทแนะนำ แบบ Colab เหล่านี้จะอธิบายแนวคิด TFF หลักและ API โดยใช้ตัวอย่างที่เป็นประโยชน์ เอกสารอ้างอิงสามารถพบได้ใน คู่มือ TFF
เริ่มต้นการเรียนรู้แบบสหพันธรัฐ
- Federated Learning สำหรับการจัดหมวดหมู่รูปภาพ แนะนำส่วนสำคัญของ Federated Learning (FL) API และสาธิตวิธีใช้ TFF เพื่อจำลองการเรียนรู้แบบรวมศูนย์บนข้อมูลที่คล้ายกับ MNIST แบบรวมศูนย์
- การเรียนรู้แบบสมาพันธ์สำหรับการสร้างข้อความ ยังสาธิตวิธีใช้ FL API ของ TFF เพื่อปรับแต่งโมเดลที่ได้รับการฝึกอบรมล่วงหน้าแบบซีเรียลไลซ์สำหรับงานการสร้างแบบจำลองภาษา
- การปรับแต่งการรวมกลุ่มที่แนะนำสำหรับการเรียนรู้ แสดงให้เห็นว่าการคำนวณ FL ขั้นพื้นฐานใน
tff.learning
สามารถรวมกับกิจวัตรการรวมกลุ่มเฉพาะทางที่ให้ความทนทาน ความเป็นส่วนตัวที่แตกต่างกัน การบีบอัด และอื่นๆ ได้อย่างไร - การสร้างใหม่แบบรวมศูนย์สำหรับการแยกตัวประกอบเมทริกซ์ จะแนะนำการเรียนรู้แบบรวมศูนย์ภายในบางส่วน โดยที่พารามิเตอร์ไคลเอ็นต์บางตัวจะไม่ถูกรวมไว้บนเซิร์ฟเวอร์ บทช่วยสอนสาธิตวิธีใช้ Federated Learning API เพื่อฝึกโมเดลการแยกตัวประกอบเมทริกซ์เฉพาะที่บางส่วน
เริ่มต้นใช้งานการวิเคราะห์แบบรวมศูนย์
- Private Heavy Hitters แสดงวิธีใช้
tff.analytics.heavy_hitters
เพื่อสร้างการคำนวณการวิเคราะห์แบบรวมศูนย์เพื่อค้นหา Heavy Hitters ส่วนตัว
การเขียนการคำนวณแบบรวมศูนย์แบบกำหนดเอง
- การสร้างอัลกอริทึมการเรียนรู้แบบรวมศูนย์ของคุณเอง จะแสดงวิธีใช้ TFF Core API เพื่อนำอัลกอริทึมการเรียนรู้แบบรวมศูนย์มาใช้ โดยใช้ Federated Averaging เป็นตัวอย่าง
- การเขียนอัลกอริธึมการเรียนรู้ จะแสดงวิธีใช้ TFF Learning API เพื่อนำอัลกอริธึมการเรียนรู้แบบรวมศูนย์ใหม่ๆ ไปใช้ได้อย่างง่ายดาย โดยเฉพาะอย่างยิ่งรูปแบบต่างๆ ของ Federated Averaging
- อัลกอริทึม Federated แบบกำหนดเอง ส่วนที่ 1: ข้อมูลเบื้องต้นเกี่ยวกับ Federated Core และ ส่วนที่ 2: การใช้ Federated Averaging จะแนะนำแนวคิดหลักและอินเทอร์เฟซที่นำเสนอโดย Federated Core API (FC API)
- การใช้ Custom Aggregations อธิบายหลักการออกแบบเบื้องหลังโมดูล
tff.aggregators
และแนวปฏิบัติที่ดีที่สุดสำหรับการนำการรวมค่าแบบกำหนดเองไปใช้จากไคลเอ็นต์ไปยังเซิร์ฟเวอร์
แนวทางปฏิบัติที่ดีที่สุดในการจำลอง
การจำลอง TFF พร้อมตัวเร่งความเร็ว (GPU) แสดงให้เห็นว่ารันไทม์ประสิทธิภาพสูงของ TFF สามารถใช้งานร่วมกับ GPU ได้อย่างไร
การทำงานกับ ClientData มอบแนวทางปฏิบัติที่ดีที่สุดในการรวมชุดข้อมูลการจำลองตาม ClientData ของ TFF เข้ากับการคำนวณ TFF
บทช่วยสอนระดับกลางและขั้นสูง
การสร้างสัญญาณรบกวนแบบสุ่ม ชี้ให้เห็นถึงรายละเอียดปลีกย่อยบางประการด้วยการใช้การสุ่มในการคำนวณแบบกระจายอำนาจ และเสนอแนวทางปฏิบัติที่ดีที่สุดและแนะนำรูปแบบ
การส่งข้อมูลที่แตกต่างกันไปยังไคลเอนต์เฉพาะด้วย tff.federated_select จะแนะนำตัวดำเนินการ
tff.federated_select
และให้ตัวอย่างง่ายๆ ของอัลกอริธึมรวมแบบกำหนดเองที่ส่งข้อมูลที่แตกต่างกันไปยังไคลเอนต์ที่แตกต่างกันการเรียนรู้แบบรวมศูนย์โมเดลขนาดใหญ่ที่มีประสิทธิภาพไคลเอ็นต์ผ่าน federated_select และ sparse aggregation แสดงให้เห็นว่า TFF สามารถใช้ในการฝึกโมเดลขนาดใหญ่มากได้อย่างไร โดยที่อุปกรณ์ไคลเอ็นต์แต่ละเครื่องดาวน์โหลดและอัปเดตเฉพาะส่วนเล็กๆ ของโมเดล โดยใช้
tff.federated_select
และ sparse aggregationการเรียนรู้แบบสมาพันธ์พร้อมความเป็นส่วนตัวที่แตกต่างใน TFF สาธิตวิธีใช้ TFF เพื่อฝึกโมเดลที่มีความเป็นส่วนตัวที่แตกต่างระดับผู้ใช้