마이크로컨트롤러 시작하기

이 문서에서는 마이크로컨트롤러를 사용하여 모델을 훈련시키고 추론을 실행하는 방법을 설명합니다.

Hello World 예제

Hello World 예제는 마이크로컨트롤러용 TensorFlow Lite 사용의 절대적인 기본 사항을 보여주기 위해 설계되었습니다. 우리는 sine 함수를 복제하는 모델을 훈련하고 실행합니다. 즉, 단일 숫자를 입력으로 간주하고 해당 숫자의 sine값을 출력합니다. 마이크로컨트롤러에 배포할 때, 예측을 사용하여 LED를 깜박이거나 애니메이션을 제어합니다.

전체 워크플로에는 다음 단계가 포함됩니다.

1. 모델 훈련 (Python에서): 기기에서 사용할 수 있도록 모델을 훈련, 변환 및 최적화하는 jupyter 노트북.
2. 추론 실행 (C++ 11에서): C++ 라이브러리를 사용하여 모델에 대한 추론을 실행하는 전체 단위 테스트.

지원되는 기기 준비하기

The example application we'll be using has been tested on the following devices:

• Arduino Nano 33 BLE Sense(Arduino IDE 사용)
• SparkFun Edge(소스에서 직접 빌드)
• STM32F746 Discovery 키트(Mbed 사용)
• Adafruit EdgeBadge(Arduino IDE 사용)
• 마이크로컨트롤러용 Adafruit TensorFlow Lite 키트(Arduino IDE 사용)
• Adafruit Circuit Playground Bluefruit(Arduino IDE 사용)
• Espressif ESP32-DevKitC(ESP IDF 사용)
• Espressif ESP-EYE(ESP IDF 사용)

마이크로컨트롤러용 TensorFlow Lite에서 지원되는 플랫폼에 대해 자세히 알아보세요.

모델 훈련

참고: 이 섹션을 건너뛰고 예제 코드에 포함된 학습된 모델을 사용할 수 있습니다.

Google Colaboratory를 사용하여 자신의 모델을 훈련시키세요. 자세한 내용은 README.md를 참조하세요.

Hello World 훈련 README.md

Run inference

To run the model on your device, we will walk through the instructions in the README.md:

Hello World README.md

다음 섹션에서는 마이크로컨트롤러용 TensorFlow Lite를 사용하여 추론을 실행하는 방법을 보여주는 단위 테스트인 예제의 hello_world_test.cc를 살펴보겠니다. 이 예제에서는 모델을 로드하고 추론을 여러 번 실행합니다.

1. 라이브러리 헤더 포함

마이크로컨트롤러용 TensorFlow Lite 라이브러리를 사용하려면 다음 헤더 파일을 포함해야 합니다.

#include "tensorflow/lite/micro/all_ops_resolver.h"
#include "tensorflow/lite/micro/micro_error_reporter.h"
#include "tensorflow/lite/micro/micro_interpreter.h"
#include "tensorflow/lite/schema/schema_generated.h"
#include "tensorflow/lite/version.h"

• all_ops_resolver.h는 인터프리터가 모델을 실행하는 데 사용하는 연산을 제공합니다.
• micro_error_reporter.h는 디버그 정보를 출력합니다.
• micro_interpreter.h에는 모델을 로드하고 실행하는 코드가 포함됩니다.
• schema_generated.h에는 TensorFlow Lite FlatBuffer 모델 파일 형식에 대한 스키마가 포함됩니다.
• version.h는 TensorFlow Lite 스키마에 대한 버전 관리 정보를 제공합니다.

2. 모델 헤더 포함

마이크로컨트롤러용 TensorFlow Lite 인터프리터는 모델이 C++ 배열로 제공될 것으로 예상합니다. 모델은 model.h 및 model.cc 파일에 정의되어 있습니다. 헤더는 다음 줄에 포함됩니다.

#include "tensorflow/lite/micro/examples/hello_world/model.h"

3. Include the unit test framework header

단위 테스트를 만들기 위해, 다음 줄을 넣어 마이크로컨트롤러용 TensorFlow Lite 단위 테스트 프레임워크를 포함합니다.

#include "tensorflow/lite/micro/testing/micro_test.h"

테스트는 다음 매크로를 사용하여 정의됩니다.

TF_LITE_MICRO_TESTS_BEGIN

TF_LITE_MICRO_TEST(LoadModelAndPerformInference) {
  . // add code here
  .
}

TF_LITE_MICRO_TESTS_END

이제 위의 매크로에 포함된 코드에 대해 설명합니다.

4. 로깅 설정

로깅을 설정하기 위해 tflite::MicroErrorReporter 인스턴스에 대한 포인터를 사용하여 tflite::ErrorReporter 포인터를 생성합니다.

tflite::MicroErrorReporter micro_error_reporter;
tflite::ErrorReporter* error_reporter = &micro_error_reporter;

This variable will be passed into the interpreter, which allows it to write logs. Since microcontrollers often have a variety of mechanisms for logging, the implementation of tflite::MicroErrorReporter is designed to be customized for your particular device.

5. Load a model

다음 코드에서, 모델은 model.h에 선언된 char 배열인 g_model의 데이터를 사용하여 인스턴스화됩니다. 그런 다음 모델에서 스키마 버전이 사용 중인 버전과 호환되는지 확인합니다.

const tflite::Model* model = ::tflite::GetModel(g_model);
if (model->version() != TFLITE_SCHEMA_VERSION) {
  TF_LITE_REPORT_ERROR(error_reporter,
      "Model provided is schema version %d not equal "
      "to supported version %d.\n",
      model->version(), TFLITE_SCHEMA_VERSION);
}

6. Instantiate operations resolver

AllOpsResolver 인스턴스가 선언됩니다. 이 인스턴스를 통해 인터프리터는 모델에서 사용하는 연산에 접근할 수 있습니다.

tflite::AllOpsResolver resolver;

AllOpsResolver는 마이크로컨트롤러용 TensorFlow Lite에서 사용할 수 있는 모든 연산을 로드하며, 여기에 많은 메모리가 사용됩니다. 특정 모델은 이러한 연산의 일부만 사용하므로 실제 애플리케이션에서는 필요한 연산만 로드하는 것이 좋습니다.

이 작업을 위해 다른 클래스인 MicroMutableOpResolver를 사용합니다. Micro Speech 예제의 micro_speech_test.cc에서 사용하는 방법을 확인할 수 있습니다.

7. 메모리 할당

입력, 출력 및 중간 배열에 대해 일정량의 메모리를 미리 할당해야 합니다. 이 메모리는 tensor_arena_size 크기의 uint8_t 배열로 제공됩니다.

const int tensor_arena_size = 2 * 1024;
uint8_t tensor_arena[tensor_arena_size];

필요한 크기는 사용 중인 모델에 따라 다르며 실험을 통해 결정해야 할 수도 있습니다.

8. 인터프리터 인스턴스화

tflite::MicroInterpreter 인스턴스를 만들고 앞서 만든 변수를 전달합니다.

tflite::MicroInterpreter interpreter(model, resolver, tensor_arena,
                                     tensor_arena_size, error_reporter);

9. 텐서 할당

We tell the interpreter to allocate memory from the tensor_arena for the model's tensors:

interpreter.AllocateTensors();

10. Validate input shape

MicroInterpreter 인스턴스는 .input(0)을 호출하여 모델의 입력 텐서에 대한 포인터를 제공할 수 있습니다. 여기서 0은 첫 번째 (및 유일한) 입력 텐서를 나타냅니다.

  // Obtain a pointer to the model's input tensor
  TfLiteTensor* input = interpreter.input(0);

We then inspect this tensor to confirm that its shape and type are what we are expecting:

// Make sure the input has the properties we expect
TF_LITE_MICRO_EXPECT_NE(nullptr, input);
// The property "dims" tells us the tensor's shape. It has one element for
// each dimension. Our input is a 2D tensor containing 1 element, so "dims"
// should have size 2.
TF_LITE_MICRO_EXPECT_EQ(2, input->dims->size);
// The value of each element gives the length of the corresponding tensor.
// We should expect two single element tensors (one is contained within the
// other).
TF_LITE_MICRO_EXPECT_EQ(1, input->dims->data[0]);
TF_LITE_MICRO_EXPECT_EQ(1, input->dims->data[1]);
// The input is a 32 bit floating point value
TF_LITE_MICRO_EXPECT_EQ(kTfLiteFloat32, input->type);

열거 값 kTfLiteFloat32는 TensorFlow Lite 데이터 유형 중 하나에 대한 참조이며 common.h에서 정의됩니다.

11. 입력 값 제공

모델에 입력을 제공하기 위해 다음과 같이 입력 텐서의 내용을 설정합니다.

input->data.f[0] = 0.;

이 경우, 0을 나타내는 부동 소수점 값을 입력합니다.

12. 모델 실행

모델을 실행하기 위해 tflite::MicroInterpreter 인스턴스에서 Invoke()를 호출할 수 있습니다.

TfLiteStatus invoke_status = interpreter.Invoke();
if (invoke_status != kTfLiteOk) {
  TF_LITE_REPORT_ERROR(error_reporter, "Invoke failed\n");
}

반환 값인 TfLiteStatus를 확인하여 실행이 성공적인지 결정할 수 있습니다. common.h에 정의된 TfLiteStatus의 가능한 값은 kTfLiteOk 및 kTfLiteError입니다.

다음 코드에서 값이 kTfLiteOk인 것을 알수 있으며, 이는 추론이 성공적으로 실행되었음을 의미합니다.

TF_LITE_MICRO_EXPECT_EQ(kTfLiteOk, invoke_status);

13. Obtain the output

The model's output tensor can be obtained by calling output(0) on the tflite::MicroInterpreter, where 0 represents the first (and only) output tensor.

예제에서 모델의 출력은 2D 텐서에 포함된 단일 부동 소수점 값입니다.

TfLiteTensor* output = interpreter.output(0);
TF_LITE_MICRO_EXPECT_EQ(2, output->dims->size);
TF_LITE_MICRO_EXPECT_EQ(1, input->dims->data[0]);
TF_LITE_MICRO_EXPECT_EQ(1, input->dims->data[1]);
TF_LITE_MICRO_EXPECT_EQ(kTfLiteFloat32, output->type);

We can read the value directly from the output tensor and assert that it is what we expect:

// Obtain the output value from the tensor
float value = output->data.f[0];
// Check that the output value is within 0.05 of the expected value
TF_LITE_MICRO_EXPECT_NEAR(0., value, 0.05);

14. 추론 다시 실행

나머지 코드는 추론을 여러 번 더 실행합니다. 각 인스턴스에서 입력 텐서에 값을 할당하고 인터프리터를 호출하고 출력 텐서에서 결과를 읽습니다.

input->data.f[0] = 1.;
interpreter.Invoke();
value = output->data.f[0];
TF_LITE_MICRO_EXPECT_NEAR(0.841, value, 0.05);

input->data.f[0] = 3.;
interpreter.Invoke();
value = output->data.f[0];
TF_LITE_MICRO_EXPECT_NEAR(0.141, value, 0.05);

input->data.f[0] = 5.;
interpreter.Invoke();
value = output->data.f[0];
TF_LITE_MICRO_EXPECT_NEAR(-0.959, value, 0.05);

15. 애플리케이션 코드 읽기

이 단위 테스트를 수행하고 나면, main_functions.cc에 위치해 있는 예제의 애플리케이션 코드를 이해할 수 있습니다. 이들 코드는 유사한 프로세스를 따르지만 실행된 추론의 수에 따라 입력 값을 생성하고 모델의 출력을 사용자에게 표시하는 기기별 함수를 호출합니다.