`tfl` Dialekt

Dialekt TensorFlow Lite.

Ten dialekt jest mapowany na operacje TensorFlow Lite.

Niezmienniki:

• Wszystkie wartości są typu Tensor (w szczególności skalary są reprezentowane za pomocą tensorów zerowymiarowych);

Operacje

tfl.abs (TFL::AbsOp)

Operator wartości bezwzględnej

Mając dany tensor x , operacja ta zwraca tensor zawierający wartość bezwzględną każdego elementu w x . Na przykład, jeśli x jest elementem wejściowym, a y jest elementem wyjściowym, ta operacja jest obliczana \(y = |x|\).

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult , SameOperandsAndResultShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Operandy:

Wyniki:

tfl.add (TFL::AddOp)

Operator dodawania

Operacja dodawania elementowego.

Cechy: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , Commutative , QuantizableResult , ResultsBroadcastableShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Atrybuty:

Operandy:

Wyniki:

tfl.add_n (TFL::AddNOp)

_Dodaj operator n

Dodaje wszystkie tensory wejściowe elementarnie.

Cechy: AlwaysSpeculatableImplTrait , Commutative

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Operandy:

Wyniki:

tfl.arg_max (TFL::ArgMaxOp)

Operator ArgMax

Zwraca indeks o największej wartości spośród wszystkich wymiarów tensora.

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Atrybuty:

Operandy:

Wyniki:

tfl.arg_min (TFL::ArgMinOp)

Operator ArgMin

Zwraca indeks o najmniejszej wartości spośród wymiarów tensora. a = [1, 10, 26,9, 2,8, 166,32, 62,3] b = tf.math.argmin(input = a) c = tf.keras.backend.eval(b)

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Atrybuty:

Operandy:

Wyniki:

tfl.assign_variable (TFL::AssignVariableOp)

Przypisuje nową wartość do zmiennej.

Każda operacja ReadVariableOp z zależnością kontrolną od tej operacji gwarantuje zwrócenie tej wartości lub kolejnej, nowszej wartości zmiennej.

Interfejsy: TflRuntimeVerifyOpInterface

Operandy:

tfl.atan2 (TFL::Atan2Op)

Operacja Atan2

Operacja „atan2” oblicza arcus tangens y/x elementowo, uwzględniając znaki argumentów.

Cechy: AlwaysSpeculatableImplTrait , SameOperandsAndResultElementType , SameOperandsAndResultShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Operandy:

Wyniki:

tfl.average_pool_2d (TFL::AveragePool2DOp)

_Średni_pula Operator 2d

Wykonuje operację uśredniania puli na wejściu.

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Atrybuty:

Operandy:

Wyniki:

tfl.basic_lstm (TFL::BasicLSTMop)

Podstawowy operator lstm

podstawowy operator komórkowy LSTM.

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Atrybuty:

Operandy:

Wyniki:

tfl.batch_matmul (TFL::BatchMatMulOp)

Operator mnożenia macierzy wsadowej

Wykonuje wsadowe mnożenie macierzy na wejściach. Jest zgodny z konwencjami TensorFlow BatchMatMulV2, z obsługą nieznanych wymiarów w wymiarach wsadowych i transmisji.

Inputs:
  `inputs[0]`: required: input LHS
  `inputs[1]`: required: input RHS
  `adjoint_lhs`: optional: Transpose LHS (default false)
  `adjoint_rhs`: optional: Transpose RHS (default false)

Cechy: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , DynamicRangeQuantizedOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Atrybuty:

Operandy:

Wyniki:

tfl.batch_to_space_nd (TFL::BatchToSpaceNdOp)

Operator BatchToSpaceNd

Ta operacja przekształca wymiar „wsadowy” 0 w wymiary przestrzenne.

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Operandy:

Wyniki:

tfl.bidirectional_sequence_lstm (TFL::BidirectionSequenceLSTMop)

Dwukierunkowy operator lstm sekwencji

Dwukierunkowy lstm to zasadniczo dwa lstm, jeden biegnący do przodu, a drugi biegnący do tyłu. Wynikiem jest połączenie dwóch lstm.

Cechy: QuantizableResult

Interfejsy: DynamicRangeQuantizedOpInterface , TFL_StatefulOp , TflRuntimeVerifyOpInterface

Atrybuty:

Operandy:

Wyniki:

tfl.bitcast (TFL::BitcastOp)

Operator transmisji bitowej

Przesyła bitcast tensora z jednego typu na inny.

Cechy: AlwaysSpeculatableImplTrait

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Operandy:

Wyniki:

tfl.bitwise_xor (TFL::BitwiseXorOp)

Bitowy operator Xor

Elementwise oblicza bitowy XOR lhs i rhs .

Cechy: AlwaysSpeculatableImplTrait , Commutative , ResultsBroadcastableShape , SameOperandsAndResultElementType

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Operandy:

Wyniki:

tfl.broadcast_args (TFL::BroadcastArgsOp)

Zwróć kształt s0 op s1 za pomocą transmisji.

Mając s0 i s1 , tensory reprezentujące kształty, obliczamy r0 , emitowany kształt. Wszystkie s0 , s1 i r0 są wektorami całkowitymi.

Cechy: AlwaysSpeculatableImplTrait

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Operandy:

Wyniki:

tfl.broadcast_to (TFL::BroadcastToOp)

Rozgłaszaj tablicę dla zgodnego kształtu.

Rozgłaszanie to proces tworzenia tablic, które mają kształty zgodne z operacjami arytmetycznymi. Dwa kształty są zgodne, jeśli dla każdej pary wymiarów są one równe lub jeden z nich jest jeden. Próba rozgłaszania Tensora do kształtu rozpoczyna się od wymiarów końcowych i przesuwa się dalej.

Na przykład,

x = tf.constant([1, 2, 3]) y = tf.broadcast_to(x, [3, 3]) print(y) tf.Tensor( [[1 2 3] [1 2 3] [1 2 3]], kształt=(3, 3), dtyp=int32)

W powyższym przykładzie wejściowy Tensor o kształcie [1, 3] jest rozgłaszany do Tensora wyjściowego o kształcie [3, 3] .

Podczas wykonywania transmitowanych operacji, takich jak mnożenie tensora przez skalar, nadawanie (zwykle) zapewnia pewną korzyść czasową lub przestrzenną, ponieważ nadawany tensor nigdy się nie materializuje.

Jednak broadcast_to nie niesie ze sobą żadnych takich korzyści. Nowo utworzony tensor przejmuje pełną pamięć nadawanego kształtu. (Jednak w kontekście wykresu broadcast_to może zostać połączone z kolejnymi operacjami, a następnie zoptymalizowane.)

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Operandy:

Wyniki:

tfl.bucketize (TFL::BucketizeOp)

Podział danych wejściowych na podstawie „granic”.

Przykład:

Jeśli wejściami są boundaries = [0, 10, 100] i input = [[-5, 10000][150, 10][5, 100]] , wówczas na wyjściu zostanie output = [[0, 3][3, 2][1, 3]] .

Cechy: AlwaysSpeculatableImplTrait , SameOperandsAndResultShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Atrybuty:

Operandy:

Wyniki:

tfl.call_once (TFL::CallOnceOp)

Wywołuje funkcję inicjującą

Ta operacja wywołuje podaną funkcję inicjującą dla inicjatora sesji w dialekcie zapisanego modelu tf.

Interfejsy: TflRuntimeVerifyOpInterface

Atrybuty:

tfl.cast (TFL::CastOp)

Operator obsady

Rzutuje dane wejściowe z typu wejściowego na typ wyjściowy.

Cechy: AlwaysSpeculatableImplTrait , SameOperandsAndResultShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Operandy:

Wyniki:

tfl.ceil (TFL::CeilOp)

Operator sufitu

Zwraca elementową wartość ceil wejścia.

Cechy: AlwaysSpeculatableImplTrait , InferTensorType , TF::SameOperandsAndResultTypeResolveRef

Interfejsy: ConditionallySpeculatable , InferShapedTypeOpInterface , InferTypeOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Operandy:

Wyniki:

tfl.complex_abs (TFL::ComplexAbsOp)

Oblicza zespoloną wartość bezwzględną tensora.

Biorąc pod uwagę tensor x liczb zespolonych, ta operacja zwraca tensor typu float lub double , który jest wartością bezwzględną każdego elementu w x . Wszystkie elementy w x muszą być liczbami zespolonymi postaci \(a + bj\). Wartość bezwzględną oblicza się jako \( \sqrt{a^2 + b^2}\).

Cechy: AlwaysSpeculatableImplTrait , SameOperandsAndResultShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Operandy:

Wyniki:

tfl.concatenation (TFL::ConcatenationOp)

Operator konkatenacji

Łączy tensory wzdłuż jednego wymiaru

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Atrybuty:

Operandy:

Wyniki:

tfl.control_node (TFL::ControlNodeOp)

Operacja TFL.control_node zawija operacje na pojedynczym bloku w celu dołączenia krawędzi sterujących.

Służy do zawijania regionów i dołączania do nich zależności sterujących. Zwykle dzieje się to w jednym z ostatnich kroków przed emisją modelu z płaskim buforem, aby umożliwić optymalizacje oparte na ustalonej kolejności operacji (takich jak rematerializacja). Eksporter z płaskim buforem rozpakuje zawinięty region i opatrzy wygenerowany model metadanymi tak, że wszelkie zmiany kolejności w czasie wykonywania będą zgodne z kolejnością podaną przez zależności sterujące.

Cechy: HasParent<mlir::func::FuncOp> , RecursiveMemoryEffects , SingleBlockImplicitTerminator<YieldOp> , SingleBlock

Operandy:

Wyniki:

tfl.conv_2d (TFL::Conv2DOp)

Operator splotu

Wykonuje operację splotu na wejściach.

Wejścia: inputs[0] : wymagane: tensor aktywacji wejścia inputs[1] : wymagane: tensor wagi filtra inputs[2] : opcjonalnie: tensor polaryzacji

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult , quant::AccumulatorUniformScale<2, 0, 1> , quant::AffineOpCoefficient<0, 1>

Interfejsy: AffineQuantizedOpInterface , ConditionallySpeculatable , DynamicRangeQuantizedOpInterface , InferTypeOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , TFL_SparseOp , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Atrybuty:

Operandy:

Wyniki:

tfl.conv_3d (TFL::Conv3DOp)

Operator splotu 3D

Wykonuje operację splotu na wejściach 3D. Wejścia: inputs[0] : wymagane: tensor aktywacji wejścia inputs[1] : wymagane: tensor wagi filtra inputs[2] : opcjonalnie: tensor polaryzacji

Cechy: AlwaysSpeculatableImplTrait , quant::AccumulatorUniformScale<2, 0, 1>

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Atrybuty:

Operandy:

Wyniki:

tfl.conv_3d_transpose (TFL::Conv3DTransposeOp)

Transponowany operator Convolution 3D

Wykonuje transponowaną operację splotu na wejściach 3D. Wejścia: inputs[0] : wymagane: kształt tensora wyjściowego inputs[1] : wymagane: tensor wagi filtra inputs[2] : wymagane: tensor aktywacji inputs[3] : opcjonalnie: tensor polaryzacji

Cechy: AlwaysSpeculatableImplTrait , quant::AccumulatorUniformScale<2, 0, 1>

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Atrybuty:

Operandy:

Wyniki:

tfl.cos (TFL::CosOp)

Operator cosinus

Oblicza elementarny cosinus danych wejściowych

Cechy: AlwaysSpeculatableImplTrait , InferTensorType , TF::SameOperandsAndResultTypeResolveRef

Interfejsy: ConditionallySpeculatable , InferShapedTypeOpInterface , InferTypeOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Operandy:

Wyniki:

tfl.cumsum (TFL::CumsumOp)

Operator Cumsum

Oblicz skumulowaną sumę tensora x wzdłuż osi.

Cechy: AlwaysSpeculatableImplTrait

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Atrybuty:

Operandy:

Wyniki:

tfl.custom (TFL::CustomOp)

Opcja niestandardowa

Ogólna opcja dla dowolnej niestandardowej operacji TFLite.

wejście: lista wejść w oryginalnym op. kod_niestandardowy: Ciąg używany do określenia, która dokładnie jest ta operacja, co odpowiada kodom_operatora.kodowi_niestandardowemu w buforze płaskim. opcja_niestandardowa: uchwyt do zapisywania atrybutów op w formie bajtów. wyjście: Lista wyników w oryginalnym op.

Interfejsy: TflRuntimeVerifyOpInterface

Atrybuty:

Operandy:

Wyniki:

tfl.custom_tf (TFL::CustomTfOp)

Opakowania dla niestandardowych operacji TF.

Operacja otaczająca dowolną niestandardową operację TF. Należą do nich operacje zdefiniowane przy użyciu custom_opdefs lub połączone, które nie są zdefiniowane w dialekcie TF. Ta operacja po prostu otacza niestandardową operację wewnątrz regionu. Uwaga nr 1, ta operacja nie będzie obejmować niestandardowych operacji TF Lite zdefiniowanych za pomocą CustomOp. Uwaga nr 2, ta operacja jest po prostu wewnętrzną reprezentacją wewnątrz konwertera i nie jest eksponowana/eksportowana, gdy model jest eksportowany do Flatbuffer.

Cechy: IsolatedFromAbove , RecursiveMemoryEffects , SingleBlockImplicitTerminator<YieldOp> , SingleBlock

Interfejsy: InferTypeOpInterface , TflRuntimeVerifyOpInterface

Operandy:

Wyniki:

tfl.densify (TFL::DensifyOp)

Operator zagęszczania

Konwertuje tensor rzadki na format gęsty.

Cechy: AlwaysSpeculatableImplTrait

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Operandy:

Wyniki:

tfl.depth_to_space (TFL::DepthToSpaceOp)

Operator DepthToSpace

Przestawia dane z głębi na bloki danych przestrzennych. Jest to odwrotna transformacja SpaceToDepth. Mówiąc dokładniej, ta operacja generuje kopię tensora wejściowego, w którym wartości z wymiaru depth są przenoszone w blokach przestrzennych do wymiarów height i width . Atrybut block_size wskazuje rozmiar bloku wejściowego i sposób przenoszenia danych.

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Atrybuty:

Operandy:

Wyniki:

tfl.depthwise_conv_2d (TFL::DepthwiseConv2DOp)

Operator splotu rozdzielany wgłębnie

Wykonuje operację splotu na wejściach.

Wejścia: inputs[0] : wymagane: tensor aktywacji wejścia inputs[1] : wymagane: tensor wagi filtra inputs[2] : opcjonalnie: tensor polaryzacji

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult , quant::AccumulatorUniformScale<2, 0, 1> , quant::AffineOpCoefficient<3, 1>

Interfejsy: AffineQuantizedOpInterface , ConditionallySpeculatable , DynamicRangeQuantizedOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , TFL_SparseOp , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Atrybuty:

Operandy:

Wyniki:

tfl.dequantize (TFL::DekwantyzacjaOp)

Operator dekwantyzacji

Konwertuje skwantowaną tablicę liczb całkowitych na liczby zmiennoprzecinkowe zgodnie z parametrami kwantyzacji.

Interfejsy: NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Operandy:

Wyniki:

tfl.dilate (TFL::DilateOp)

Operator dylatacji

Rozszerza tensor, dodając nowe elementy pomiędzy istniejącymi. Cechy: AlwaysSpeculatableImplTrait

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Operandy:

Wyniki:

tfl.div (TFL::DivOp)

Operator podziału

Operacja dzielenia elementarnego.

Cechy: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , ResultsBroadcastableShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Efekty: MemoryEffects::Effect{}

Atrybuty:

Operandy:

Wyniki:

tfl.dynamic_update_slice (TFL::DynamicUpdateSliceOp)

DynamicUpdateSlice.

Opcja DynamicUpdateSlice, która ma tę samą semantykę co XLA DynamicUpdateSlice. Generuje wynik będący wartością operandu tablicy wejściowej, z nadpisaniem aktualizacji wycinka w start_indices.

Zobacz https://www.tensorflow.org/xla/operative_semantics#dynamicupdateslice

Cechy: AlwaysSpeculatableImplTrait

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.elu (tfl :: eluop)

Wykładniczy operator jednostki liniowej

Oblicza wykładniczy liniowy f (x) -> exp (x) -1 dla x <0, x dla x> = 0. Pod względem elementu.

Cechy: AlwaysSpeculatableImplTrait , SameOperandsAndResultShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.embedding_lookup (tfl :: EmbeddingLookupop)

Osadzanie operatora wyszukiwania

Wygląda na identyfikatory na liście tensorów osadzających.

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: AffineQuantizedOpInterface , ConditionallySpeculatable , DynamicRangeQuantizedOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.equal (tfl :: equalop)

Równy operator

Zwraca element prawdy x == y, pod względem elementu

Cechy: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , Commutative , QuantizableResult , ResultsBroadcastableShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.exp (tfl :: expop)

Naturalny operator wykładników

Wykonuje elementarne naturalne działanie wykładnicze na wejściu.

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.expand_dims (tfl :: expanddimsop)

Wkłada wymiar 1 do kształtu tensora.

Biorąc pod uwagę input tensorowe, operacja ta wprowadza wymiar 1 w axis indeksu wymiaru kształtu input . axis wskaźnika wymiaru zaczyna się od zera; Jeśli określisz liczbę ujemną dla axis jest ona liczona do tyłu od końca.

Ta operacja jest przydatna, jeśli chcesz dodać wymiar wsadowy do jednego elementu. Na przykład, jeśli masz pojedynczy obraz kształtu [height, width, channels] , możesz uczynić go partią 1 obrazu z expand_dims(image, 0) , co sprawi, że kształt [1, height, width, channels] .

Inne przykłady:

# 't' is a tensor of shape [2]
shape(expand_dims(t, 0)) ==> [1, 2]
shape(expand_dims(t, 1)) ==> [2, 1]
shape(expand_dims(t, -1)) ==> [2, 1]

# 't2' is a tensor of shape [2, 3, 5]
shape(expand_dims(t2, 0)) ==> [1, 2, 3, 5]
shape(expand_dims(t2, 2)) ==> [2, 3, 1, 5]
shape(expand_dims(t2, 3)) ==> [2, 3, 5, 1]

Ta operacja wymaga:

-1-input.dims() <= dim <= input.dims()

Ta operacja jest związana z squeeze() , która usuwa wymiary rozmiaru 1.

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.external_const (tfl :: externalConstop)

Zewnętrzna const op.

External Const op posiada buffer_index , który wskazuje na stałą w płaskim buffie.

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Atrybuty:

Wyniki:

tfl.fake_quant (tfl :: fakequantop)

Fakequant Operator

FAKT-QUANIZACJA „TENSOR WEJŚCIA” typu Float za pośrednictwem Scalarów Float Min i Maks.

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Atrybuty:

Operands:

Wyniki:

tfl.fill (tfl :: Fillop)

Wypełnij tensor daną wartością.

Wypełnij tensor daną wartością.

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.floor (tfl :: Floorop)

Operator podłogi

Zwraca elementarną wartość podłogową wejścia.

Cechy: AlwaysSpeculatableImplTrait , InferTensorType , TF::SameOperandsAndResultTypeResolveRef

Interfejsy: ConditionallySpeculatable , InferShapedTypeOpInterface , InferTypeOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.floor_div (tfl :: floordivop)

Operator Div Floor

Operacja DIV podłogowej.

Cechy: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , ResultsBroadcastableShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.floor_mod (tfl :: floormodop)

Przypomnienie podziału

Operacja przypomnienia podziału elementów.

Cechy: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , ResultsBroadcastableShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.fully_connected (tfl :: FullConnenedOp)

W pełni połączone op

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult , quant::AccumulatorUniformScale<2, 0, 1> , quant::AffineOpCoefficient<0, 1>

Interfejsy: AffineQuantizedOpInterface , ConditionallySpeculatable , DynamicRangeQuantizedOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , TFL_SparseOp , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Atrybuty:

Operands:

Wyniki:

tfl.gather (tfl :: gainop)

Zbierz operator

Zbierz plastry z axis params według indices .

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , DynamicRangeQuantizedOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Atrybuty:

Operands:

Wyniki:

tfl.gather_nd (tfl :: gatherndop)

_ GATHER ND Operator

Zbierz plastry z params w tensor o kształcie określonym przez indices .

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.gelu (tfl :: geluop)

Funkcja aktywacji GELU.

Oblicza funkcję aktywacji GELU.

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult , SameOperandsAndResultShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Atrybuty:

Operands:

Wyniki:

tfl.greater (TFL :: Greaterop)

Większy operator

Większe działanie podstawowe.

Cechy: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , QuantizableResult , ResultsBroadcastableShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.greater_equal (tfl :: GreaterEqualop)

_ Greater Equal Operator

Pod względem elementu Operacja Greater_equal.

Cechy: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , QuantizableResult , ResultsBroadcastableShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.hard_swish (tfl :: hardswishop)

Funkcja aktywacji twardej.

Oblicza twardą funkcję aktywacji f (x)-> (x * relu6 (x+3))/6 Pod względem elementów.

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult , SameOperandsAndResultShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.hashtable (tfl :: HashTableop)

Tworzy nieintetyczny tabelę skrótów.

Ten OP tworzy tabelę skrótów, określając typ jego kluczy i wartości. Przed użyciem tabeli będziesz musiał ją zainicjować. Po inicjalizacji tabela będzie niezmienna.

Interfejsy: TflRuntimeVerifyOpInterface

Atrybuty:

Wyniki:

tfl.hashtable_find (tfl :: HashtableFindop)

Wygląda na klawisze w tabeli, wyświetla odpowiednie wartości.

keys tensorowe muszą tego samego typu co klucze stołu. values wyjściowe są typu wartości tabeli.

Scalar default_value to wyjście wartości dla klawiszy nie obecnych w tabeli. Musi być również tego samego typu co wartości tabeli.

Interfejsy: TflRuntimeVerifyOpInterface

Operands:

Wyniki:

tfl.hashtable_import (tfl :: HashTableImportop)

Zastępuje zawartość tabeli określonymi klawiszami i wartościami.

keys tensorowe muszą być tego samego typu co klucze stołu. values tensora muszą być typu wartości tabeli.

Interfejsy: TflRuntimeVerifyOpInterface

Operands:

tfl.hashtable_size (tfl :: HashTablesizeop)

Oblicza liczbę elementów w danej tabeli.

Interfejsy: TflRuntimeVerifyOpInterface

Operands:

Wyniki:

tfl.if (tfl :: IFOP)

Operacja if-Then-Else

Operacja tfl.if reprezentuje konstrukcję IF-Then-Else do warunkowego wykonywania dwóch regionów kodu. Operand do operacji IF jest wartością logiczną. Na przykład:

tfl.if %b  {
  ...
} else {
  ...
}

tfl.if może również zwrócić wyniki zdefiniowane w jego regionach. Zdefiniowane wartości są określane, za pomocą której ścieżka wykonania jest wykonana.

Przykład:

%x, %y = tfl.if %b -> (tensor<f32>, tensor<f32>) {
  %x_true = ...
  %y_true = ...
  tfl.yield %x_true, %y_true : tensor<f32>, tensor<f32>
} else {
  %x_false = ...
  %y_false = ...
  tfl.yield %x_false, %y_false : tensor<f32>, tensor<f32>
}

tfl.if regiony są zawsze zakończone za pomocą „tfl.yield”. Jeśli „tfl.if” nie określa żadnych wartości, „tfl.yield” można pominąć i zostanie wstawiony domyślnie. W przeciwnym razie musi to być wyraźne. Ponadto, jeśli „tfl.if” określa jedną lub więcej wartości, nie można pominąć bloku „innego”.

Przykład:

tfl.if %b  {
  ...
}

Cechy: NoRegionArguments , RecursiveMemoryEffects , SingleBlockImplicitTerminator<YieldOp> , SingleBlock

Interfejsy: RegionBranchOpInterface , TflRuntimeVerifyOpInterface

Operands:

Wyniki:

tfl.imag (tfl :: Imagop)

Zwraca wyimaginowaną część liczby złożonej.

Biorąc pod uwagę input tensora liczb złożonych, operacja ta zwraca tensor typu float , który jest wyobrażoną częścią każdego elementu na input . Wszystkie elementy na input muszą być złożonymi liczbami formularza \(a + bj\), gdzie A jest prawdziwą częścią, a B jest wyobrażoną częścią zwróconą przez tę operację.

Cechy: AlwaysSpeculatableImplTrait , SameOperandsAndResultShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.l2_normalization (tfl :: l2normalizacja)

L2 normalizuj operator

L2Normalizacja op

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , FixedOutputRangeInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Atrybuty:

Operands:

Wyniki:

tfl.leaky_relu (tfl :: leakyreluop)

Operator Leaky RelU

Element -Wise Operator nieszczelności X -> x> = 0? X: (Alpha * x)

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult , SameOperandsAndResultShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Atrybuty:

Operands:

Wyniki:

tfl.less (tfl :: Lessop)

Mniej operator

Pod względem elementów mniejsze.

Cechy: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , QuantizableResult , ResultsBroadcastableShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.less_equal (tfl :: LessEqualop)

_ Bezpośredni operator równy

Pod względem elementowym Operację Less_qual.

Cechy: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , QuantizableResult , ResultsBroadcastableShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.local_response_normalization (tfl :: localResponsenormalizationop)

Lokalna normalizacja odpowiedzi.

Tensor input 4-D jest traktowany jako 3-D tablica wektorów 1-D (wzdłuż ostatniego wymiaru), a każdy wektor jest znormalizowany niezależnie. W danym wektorze każdy komponent jest podzielony przez ważoną, kwadratową sumę danych wejściowych w depth_radius . Szczegółowo,

sqr_sum[a, b, c, d] =
    sum(input[a, b, c, d - depth_radius : d + depth_radius + 1] ** 2)
output = input / (bias + alpha * sqr_sum) ** beta

Aby uzyskać szczegółowe informacje, zobacz Krizhevsky i in., Klasyfikacja ImageNet z głębokimi sieciami neuronowymi (NIPS 2012) .

Cechy: AlwaysSpeculatableImplTrait , InferTensorType , TF::SameOperandsAndResultTypeResolveRef

Interfejsy: ConditionallySpeculatable , InferShapedTypeOpInterface , InferTypeOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Atrybuty:

Operands:

Wyniki:

tfl.log (tfl :: logop)

Naturalny operator logarytmu

Wykonuje elementarne działanie logarytmu naturalnego na wejściu.

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.log_softmax (tfl :: logsoftmaxop)

Dziennik Operator Softmax

Oblicza aktywacje dziennika miękkiego dziennika z następującym wzorem

wejście - log (redukuj_sum (exp (input), DIM))

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult , SameOperandsAndResultShape

Interfejsy: ConditionallySpeculatable , FixedOutputRangeInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.logical_and (tfl :: logicalandop)

Logiczny i operator

Pod względem elementowym logicznym i obsługi.

Cechy: AlwaysSpeculatableImplTrait , ResultsBroadcastableShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.logical_not (tfl :: logicalnotop)

Logiczny, a nie operator

Podstawowe logiczne, a nie działanie.

Cechy: AlwaysSpeculatableImplTrait , SameOperandsAndResultShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.logical_or (tfl :: logicalorop)

Logiczny lub operator

Podstawowe logiczne lub operacyjne.

Cechy: AlwaysSpeculatableImplTrait , ResultsBroadcastableShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.logistic (tfl :: logisticop)

Operator logistyczny

Oblicza sigmoidalny element wejścia

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult , SameOperandsAndResultShape

Interfejsy: ConditionallySpeculatable , FixedOutputRangeInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.lstm (tfl :: lstmop)

Pełny operator LSTM

Długa krótkoterminowa warstwa sieciowa (LSTM) (LSTM). Domyślna implementacja bezpepturowa opiera się na: http://deeplearning.cs.cmu.edu/pdfs/hochreiter97_lstm.pdf S. Hochreiter i J. Schmidhuber. „Długa pamięć krótkoterminowa”. Obliczanie neuronowe, 9 (8): 1735-1780, 1997. Wdrożenie wizjera opiera się na: https://research.google.com/pubs/archive/43905.pdf Hasim Sak, Andrew Senior i Francoise Beaufays. „Długa krótkoterminowa pamięć nerwowa architektury sieci neuronowej do modelowania akustycznego na dużą skalę”. Interpeech, 2014. Łączenie wejścia i zapomnienia (CIFG) opiera się na: http://arxiv.org/pdf/1503.04069.pdf Greff i in. „LSTM: A Wyszukiwanie Odyssey” Normalizacja warstwy opiera się na: https://arxiv.org/pdf/1607.06450.pdf BA i in. „Normalizacja warstwy”

Cechy: QuantizableResult

Interfejsy: DynamicRangeQuantizedOpInterface , TFL_StatefulOp , TflRuntimeVerifyOpInterface

Atrybuty:

Operands:

Wyniki:

tfl.matrix_diag (tfl :: matrixdiagop)

Zwraca tensor z dostarczoną przekątną i wszystkim innym wyściełanym zerami.

Biorąc pod uwagę przekątną, zwraca tensor z przekątną i wszystko inne wyściełane zerami. Załóżmy, że Diagonal ma K Wymiary [I, J, K, ..., N] , wówczas wyjście jest tensor rangi k+1 z wymiarami [I, J, K, ..., N, N] gdzie: output[i, j, k, ..., m, n] = 1{m=n} * diagonal[i, j, k, ..., n].

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.matrix_set_diag (tfl :: matrixsetdiagop)

Zwraca partii tensor macierzy z nowymi wieściami przekątnymi.

Biorąc pod uwagę input i diagonal , operacja ta zwraca tensor o tym samym kształcie i wartościach co input , z wyjątkiem głównej przekątnej najskłuszczowych macierzy. Zostaną one zastąpione przez wartości w diagonal .

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.max_pool_2d (tfl :: maxpool2dop)

Max Pool 2d Op

Wykonuje maksymalną pulę 2D na wejściu.

Wejścia: inputs[0] : Wymagane: tensor wejściowy

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Atrybuty:

Operands:

Wyniki:

tfl.maximum (tfl :: maximumop)

Max Operator

Maksymalna operacja elementarna.

Cechy: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , Commutative , QuantizableResult , ResultsBroadcastableShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.mean (tfl :: meantop)

Średni operator

Oblicza średnią elementów w wymiarach tensora. Zmniejsza Input_Tensor wzdłuż wymiarów podanych w osi. O ile keepdims nie jest prawdą, ranga tensor jest zmniejszona o 1 dla każdego wpisu w osi. Jeśli krocza jest prawdą, zmniejszone wymiary są zachowywane z długością 1.

Cechy: AlwaysSpeculatableImplTrait , QuantizableResult

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Atrybuty:

Operands:

Wyniki:

tfl.minimum (tfl :: minimumop)

Operator min

Operacja minowa.

Cechy: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , Commutative , QuantizableResult , ResultsBroadcastableShape

Interfejsy: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.mirror_pad (TFL::MirrorPadOp)

MirrorPad Operator. Pads a tensor with mirrored values.

This operation pads a input with mirrored values according to the paddings you specify. paddings is an integer tensor with shape [n, 2], where n is the rank of input. For each dimension D of input, paddings[D, 0] indicates how many values to add before the contents of input in that dimension, and paddings[D, 1] indicates how many values to add after the contents of input in that dimension.

Both paddings[D, 0] and paddings[D, 1] must be no greater than input.dim_size(D) (or input.dim_size(D) - 1) if copy_border is true (if false, respectively).

The padded size of each dimension D of the output is:

paddings(D, 0) + input.dim_size(D) + paddings(D, 1)

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.mul (TFL::MulOp)

Multiplication operator

Element-wise multiplication operation.

Traits: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , Commutative , QuantizableResult , ResultsBroadcastableShape

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.multinomial (TFL::MultinomialOp)

Draws samples from a categorical distribution.

The generated values will have a categorical distribution based on the logits or unnormalized log-probabilities provided for all classes.

Interfaces: TflRuntimeVerifyOpInterface

Attributes:

Operands:

Wyniki:

tfl.neg (TFL::NegOp)

Negation operator

Computes element-wise negation of input

Traits: AlwaysSpeculatableImplTrait , InferTensorType , TF::SameOperandsAndResultTypeResolveRef

Interfaces: ConditionallySpeculatable , InferShapedTypeOpInterface , InferTypeOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.no_value (TFL::NoValueOp)

Constant representing no value.

No value constant op.

Traits: AlwaysSpeculatableImplTrait , ConstantLike

Interfaces: ConditionallySpeculatable , InferTypeOpInterface , NoMemoryEffect (MemoryEffectOpInterface)

Effects: MemoryEffects::Effect{}

Attributes:

Wyniki:

tfl.non_max_suppression_v4 (TFL::NonMaxSuppressionV4Op)

Greedily selects a subset of bounding boxes in descending order of score,

pruning away boxes that have high intersection-over-union (IOU) overlap with previously selected boxes. Bounding boxes with score less than score_threshold are removed. Bounding boxes are supplied as [y1, x1, y2, x2], where (y1, x1) and (y2, x2) are the coordinates of any diagonal pair of box corners and the coordinates can be provided as normalized (ie, lying in the interval [0, 1]) or absolute. Note that this algorithm is agnostic to where the origin is in the coordinate system and more generally is invariant to orthogonal transformations and translations of the coordinate system; thus translating or reflections of the coordinate system result in the same boxes being selected by the algorithm. The output of this operation is a set of integers indexing into the input collection of bounding boxes representing the selected boxes. The bounding box coordinates corresponding to the selected indices can then be obtained using the tf.gather operation . For example: selected_indices = tf.image.non_max_suppression_v2( boxes, scores, max_output_size, iou_threshold, score_threshold) selected_boxes = tf.gather(boxes, selected_indices)

Traits: AlwaysSpeculatableImplTrait

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.non_max_suppression_v5 (TFL::NonMaxSuppressionV5Op)

Greedily selects a subset of bounding boxes in descending order of score,

pruning away boxes that have high intersection-over-union (IOU) overlap with previously selected boxes. Bounding boxes with score less than score_threshold are removed. Bounding boxes are supplied as [y1, x1, y2, x2], where (y1, x1) and (y2, x2) are the coordinates of any diagonal pair of box corners and the coordinates can be provided as normalized (ie, lying in the interval [0, 1]) or absolute. Note that this algorithm is agnostic to where the origin is in the coordinate system and more generally is invariant to orthogonal transformations and translations of the coordinate system; thus translating or reflections of the coordinate system result in the same boxes being selected by the algorithm. The output of this operation is a set of integers indexing into the input collection of bounding boxes representing the selected boxes. The bounding box coordinates corresponding to the selected indices can then be obtained using the tf.gather operation . For example: selected_indices = tf.image.non_max_suppression_v2( boxes, scores, max_output_size, iou_threshold, score_threshold) selected_boxes = tf.gather(boxes, selected_indices) This op also supports a Soft-NMS (with Gaussian weighting) mode (cf Bodla et al, https://arxiv.org/abs/1704.04503 ) where boxes reduce the score of other overlapping boxes instead of directly causing them to be pruned. To enable this Soft-NMS mode, set the soft_nms_sigma parameter to be larger than 0.

Traits: AlwaysSpeculatableImplTrait

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.not_equal (TFL::NotEqualOp)

_Not equal operator

Element-wise not_equal operation.

Traits: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , Commutative , ResultsBroadcastableShape

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.NumericVerify (TFL::NumericVerifyOp)

Verifies the numericals of the two operands

The NumericVerify op is a debugging op to verify the numericals of the two activations. It is a custom op in TFLite. If log_if_failed is true, the NumericVerify op calculates statistics on differences between float and quantized activations, output logs, set differences to the output tensors, and throws an error if errors above tolerance exist. If log_if_failed = false, then it doesn't care about errors.

Traits: QuantizableResult , SameOperandsShape

Interfaces: TflRuntimeVerifyOpInterface

Attributes:

Operands:

Wyniki:

tfl.one_hot (TFL::OneHotOp)

OneHot operator

Returns a one-hot tensor.The locations represented by indices in indices take value on_value , while all other locations take value off_value .

If the input indices is rank N , the output will have rank N+1 , The new axis is created at dimension axis (default: the new axis is appended at the end).

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.pack (TFL::PackOp)

Packs a list of tensors along a dimension into one tensor

Packs a list of values_count rank- R tensors into one rank- (R+1) tensor.

Packs the values_count tensors in values into a tensor with rank one higher than each tensor in values , by packing them along the axis dimension.

Given a list of tensors of shape (A, B, C) ;

if axis == 0 then the output tensor will have the shape (N, A, B, C) . if axis == 1 then the output tensor will have the shape (A, N, B, C) . Itp.

Na przykład:

# 'x' is [1, 4]
# 'y' is [2, 5]
# 'z' is [3, 6]
pack([x, y, z]) => [[1, 4], [2, 5], [3, 6]]  # Pack along first dim.
pack([x, y, z], axis=1) => [[1, 2, 3], [4, 5, 6]]

This is the opposite of unpack .

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.pad (TFL::PadOp)

Padding operator

This operation pads a input with zeros according to the paddings you specify. paddings is an integer tensor with shape [Dn, 2] , where n is the rank of input . For each dimension D of input , paddings[D, 0] indicates how many zeros to add before the contents of input in that dimension, and paddings[D, 1] indicates how many zeros to add after the contents of input in that dimension.

The padded size of each dimension D of the output is:

paddings(D, 0) + input.dim_size(D) + paddings(D, 1)

Na przykład:

# 't' is [[1, 1], [2, 2]]
# 'paddings' is [[1, 1], [2, 2]]
# rank of 't' is 2
pad(t, paddings) ==> [[0, 0, 0, 0, 0, 0]
                      [0, 0, 1, 1, 0, 0]
                      [0, 0, 2, 2, 0, 0]
                      [0, 0, 0, 0, 0, 0]]

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.padv2 (TFL::PadV2Op)

Padding operator v2

This operation pads a input according to the paddings and constant_values you specify. paddings is an integer tensor with shape [Dn, 2] , where n is the rank of input . For each dimension D of input , paddings[D, 0] indicates how many zeros to add before the contents of input in that dimension, and paddings[D, 1] indicates how many zeros to add after the contents of input in that dimension. constant_values is a scalar tensor of the same type as input that indicates the value to use for padding input .

The padded size of each dimension D of the output is:

paddings(D, 0) + input.dim_size(D) + paddings(D, 1)

Na przykład:

# 't' is [[1, 1], [2, 2]]
# 'paddings' is [[1, 1], [2, 2]]
# rank of 't' is 2
pad(t, paddings) ==> [[0, 0, 0, 0, 0, 0]
                      [0, 0, 1, 1, 0, 0]
                      [0, 0, 2, 2, 0, 0]
                      [0, 0, 0, 0, 0, 0]]

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.poly_call (TFL::PolyCallOp)

Poly call

Have multiple function bodies for the same computation. This allows a program compiler/interpreter to choose one of the available options to execute the program based on which one is most suitable for the target backend.

input: A list of input tensors whose types are T. output: A list of output tensors whose types are T.

call: Multiple regions, each of which encapsulates the same semantic computation but in different forms.

Traits: SingleBlockImplicitTerminator<YieldOp> , SingleBlock

Interfaces: RegionBranchOpInterface

Operands:

Wyniki:

tfl.pow (TFL::PowOp)

Power operator

Element-wise power operation.

Traits: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , ResultsBroadcastableShape

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.prelu (TFL::PReluOp)

Parameterized Relu operator

Parameterized Relu operator x -> x >= 0 ? x : (alpha * x) where alpha is a trainable tensor. input and alpha should be the same size as input or be broadcastable.

Traits: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , QuantizableResult , ResultsBroadcastableShape , quant::AffineOpCoefficient<-1, 1>

Interfaces: AffineQuantizedOpInterface , ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.pseudo_const (TFL::ConstOp)

Constant pseudo op.

Represents a constant value in TensorFlow Lite dialect. This is not an actual operation and it will be lowered to buffer instead.

The op is allowed to have all the same type of attributes as tf.Const does (eg, opaque TF attributes are allowed).

Traits: AlwaysSpeculatableImplTrait , ConstantLike , FirstAttrDerivedResultType , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Wyniki:

tfl.pseudo_qconst (TFL::QConstOp)

Quantized constant pseudo op

Represents a quantized constant value in TensorFlow Lite dialect. This is not an actual operation and it will be lowered to buffer instead. The quantization parameters are stored as a type attribute in this constant.

Traits: AlwaysSpeculatableImplTrait , FirstAttrDerivedResultType

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface)

Effects: MemoryEffects::Effect{}

Attributes:

Wyniki:

tfl.pseudo_sparse_const (TFL::SparseConstOp)

Sparse constant pseudo op.

Represents a sparse constant value in TensorFlow Lite dialect. This is not an actual operation and it will be lowered to buffer instead.

Traits: AlwaysSpeculatableImplTrait , FirstAttrDerivedResultType , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Wyniki:

tfl.pseudo_sparse_qconst (TFL::SparseQConstOp)

Sparse quantized constant pseudo op

Represents a sparse quantized constant value in TensorFlow Lite dialect. This is not an actual operation and it will be lowered to buffer instead. The quantization parameters are stored as a type attribute in this constant.

Traits: AlwaysSpeculatableImplTrait , FirstAttrDerivedResultType

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Wyniki:

tfl.quantize (TFL::QuantizeOp)

Quantize operator

Converts floating point tensors to quantized integer tensors according to the quantization parameters defined in the type attribute.

Traits: FirstAttrDerivedResultType , SameOperandsAndResultShape

Interfaces: NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.random_standard_normal (TFL::RandomStandardNormalOp)

Outputs random values from a normal distribution.

The generated values will have mean 0 and standard deviation 1.

Interfaces: TflRuntimeVerifyOpInterface

Attributes:

Operands:

Wyniki:

tfl.random_uniform (TFL::RandomUniformOp)

Outputs random values from a uniform distribution.

The generated values follow a uniform distribution in the range [0, 1) . The lower bound 0 is included in the range, while the upper bound 1 is excluded.

Interfaces: TflRuntimeVerifyOpInterface

Attributes:

Operands:

Wyniki:

tfl.range (TFL::RangeOp)

Range operator

Returns a 1D tensor defined by a sequence from start to limit with a given delta .

Traits: AlwaysSpeculatableImplTrait

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.rank (TFL::RankOp)

Rank operator.

Returns the rank of a tensor.

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.read_variable (TFL::ReadVariableOp)

Reads variable value.

Read variable data identified by 'resource_id'.

Interfaces: TflRuntimeVerifyOpInterface

Operands:

Wyniki:

tfl.real (TFL::RealOp)

Returns the real part of a complex number.

Given a tensor input of complex numbers, this operation returns a tensor of type float that is the real part of each element in input . All elements in input must be complex numbers of the form \(a + bj\), where a is the real part returned by this operation and b is the imaginary part.

Traits: AlwaysSpeculatableImplTrait , SameOperandsAndResultShape

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.reduce_all (TFL::ReduceAllOp)

Computes the "logical and" of elements across dimensions of a tensor.

Reduces input along the dimensions given in axis . Unless keep_dims is true, the rank of the tensor is reduced by 1 for each entry in axis . If keep_dims is true, the reduced dimensions are retained with length 1.

Traits: AlwaysSpeculatableImplTrait

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.reduce_any (TFL::ReduceAnyOp)

Computes the "logical or" of elements across dimensions of a tensor.

Reduces input along the dimensions given in axis . Unless keep_dims is true, the rank of the tensor is reduced by 1 for each entry in axis . If keep_dims is true, the reduced dimensions are retained with length 1.

Traits: AlwaysSpeculatableImplTrait

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.reduce_max (TFL::ReduceMaxOp)

Max-reduction operator

Computes the max reduction along the specified axes

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.reduce_min (TFL::ReduceMinOp)

Min-reduction operator

Computes the min reduction along the specified axes

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.reduce_prod (TFL::ReduceProdOp)

Prod-reduction operator

Computes the product along the specified axes

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.relu (TFL::ReluOp)

Relu operator

Element-wise Relu operator x -> max(0, x)

Traits: AlwaysSpeculatableImplTrait , QuantizableResult , SameOperandsAndResultShape

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.relu6 (TFL::Relu6Op)

Relu6 operator

Element-wise Relu6 operator x -> max(0, min(6, x))

Traits: AlwaysSpeculatableImplTrait , QuantizableResult , SameOperandsAndResultShape

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.relu_0_to_1 (TFL::Relu0To1Op)

Relu0To1 operator

Element-wise Relu0To1 operator x -> max(0, min(1, x))

Traits: AlwaysSpeculatableImplTrait , QuantizableResult , SameOperandsAndResultShape

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.relu_n1_to_1 (TFL::Relu1Op)

Relu1 operator

Element-wise Relu1 operator x -> max(-1, min(1, x))

Traits: AlwaysSpeculatableImplTrait , QuantizableResult , SameOperandsAndResultShape

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.reshape (TFL::ReshapeOp)

Reshape operator

Produces a tensor with the same values but different static shape defined by the output type.

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , InferTypeOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.resize_bilinear (TFL::ResizeBilinearOp)

ResizeBilinear Op

Resize images to size using bilinear interpolation.

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.resize_nearest_neighbor (TFL::ResizeNearestNeighborOp)

ResizeNearestNeighbor Op

Resize images to size using nearest neighbor interpolation.

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.reverse_sequence (TFL::ReverseSequenceOp)

Reverses variable length slices.

This op first slices input along the dimension batch_dim , and for each slice i , reverses the first seq_lengths[i] elements along the dimension seq_dim .

The elements of seq_lengths must obey seq_lengths[i] <= input.dims[seq_dim] , and seq_lengths must be a vector of length input.dims[batch_dim] .

The output slice i along dimension batch_dim is then given by input slice i , with the first seq_lengths[i] slices along dimension seq_dim reversed.

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.reverse_v2 (TFL::ReverseV2Op)

ReverseV2 Operator

Reverses specific dimensions of a tensor.

Given a tensor, and a int32/int64 tensor axis representing the set of dimensions of tensor to reverse. This operation reverses each dimension i for which there exists j st axis[j] == i.

Args: tensor: A Tensor. Must be one of the following types: uint8, int8, int16, int32, int64, float32, bool Up to 8-D.

axis: A Tensor. Must be one of the following types: int32, int64. with only 1 element which is the axis index. TODO: Add support for multiple elements.

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.rfft2d (TFL::RFFT2dOp)

2D real-valued fast Fourier transform.

Computes the 2-dimensional discrete Fourier transform of a real-valued signal over the inner-most 2 dimensions of input .

Since the DFT of a real signal is Hermitian-symmetric, RFFT2D only returns the fft_length / 2 + 1 unique components of the FFT for the inner-most dimension of output : the zero-frequency term, followed by the fft_length / 2 positive-frequency warunki.

Along each axis RFFT2D is computed on, if fft_length is smaller than the corresponding dimension of input , the dimension is cropped. If it is larger, the dimension is padded with zeros.

Traits: AlwaysSpeculatableImplTrait

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.right_shift (TFL::RightShiftOp)

Right Shift operator

Elementwise computes the bitwise right-shift of lhs by rhs .

Traits: AlwaysSpeculatableImplTrait , SameOperandsAndResultElementType

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.round (TFL::RoundOp)

Round operator

Rounds the values of a tensor to the nearest integer, element-wise.

Traits: AlwaysSpeculatableImplTrait , InferTensorType , TF::SameOperandsAndResultTypeResolveRef

Interfaces: ConditionallySpeculatable , InferShapedTypeOpInterface , InferTypeOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.rsqrt (TFL::RsqrtOp)

Reciprocal of square root operator

Computes element-wise reverse square root of input

Traits: AlwaysSpeculatableImplTrait , QuantizableResult , SameOperandsAndResultShape

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.scatter_nd (TFL::ScatterNdOp)

_Scatter nd operator

Scatter updates into a new tensor according to indices

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.segment_sum (TFL::SegmentSumOp)

SegmentSum operator

Computes the sum along segments of a tensor.

Traits: AlwaysSpeculatableImplTrait

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.select (TFL::SelectOp)

Select operator

Select values of 'x' if the corresponding value of 'condition' is true or the value of 'y' if false. There are valid condition input sizes:

1. Either the same shape (in which case the select is elementwise), or
2. condition must be Rank 1 and match over the first dimension.

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.select_v2 (TFL::SelectV2Op)

SelectV2 operator

Select values of 'x' if the corresponding value of 'condition' is true or the value of 'y' if false. There are valid condition input sizes:

1. Either the same shape (in which case the select is elementwise), or
2. Broadcastable shapes between 'condition', 'x' and 'y'.

Traits: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , QuantizableResult , ResultsBroadcastableShape

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.shape (TFL::ShapeOp)

Shape operator

Returns the shape of a tensor.

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.sign (TFL::SignOp)

Sign operation

Returns NaN if x is NaN, 0 if x is 0, -1 if x < 0 and 1 if x > 0.

Traits: AlwaysSpeculatableImplTrait , SameOperandsAndResultElementType , SameOperandsAndResultShape

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.sin (TFL::SinOp)

Sine operator

Computes element-wise Sine of input

Traits: AlwaysSpeculatableImplTrait , InferTensorType , TF::SameOperandsAndResultTypeResolveRef

Interfaces: ConditionallySpeculatable , InferShapedTypeOpInterface , InferTypeOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.slice (TFL::SliceOp)

Return a slice from 'input'.

The output tensor is a tensor with dimensions described by 'size' whose values are extracted from 'input' starting at the offsets in 'begin'.

begin is zero-based; size is one-based. If size[i] is -1, all remaining elements in dimension i are included in the slice. In other words, this is equivalent to setting: size[i] = input.dim_size(i) - begin[i]

Requirements : 0 <= begin[i] <= begin[i] + size[i] <= Di for i in [0, n)

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.softmax (TFL::SoftmaxOp)

Softmax operator

Computes element-wise softmax activations with the following formula

exp(input) / tf.reduce_sum(exp(input * beta), dim)

Traits: AlwaysSpeculatableImplTrait , QuantizableResult , SameOperandsAndResultShape

Interfaces: ConditionallySpeculatable , FixedOutputRangeInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.space_to_batch_nd (TFL::SpaceToBatchNdOp)

SpaceToBatchNd operator

This operation reshapes space dimensions into the "batch" dimension 0

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.space_to_depth (TFL::SpaceToDepthOp)

SpaceToDepth operator

Rearranges blocks of spatial data, into depth. More specifically, this op outputs a copy of the input tensor where values from the height and width dimensions are moved to the depth dimension. block_size indicates the input block size.

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.sparse_to_dense (TFL::SparseToDenseOp)

Converts a sparse representation into a dense tensor.

Builds an array dense with shape output_shape such that

# If sparse_indices is scalar
dense[i] = (i == sparse_indices ? sparse_values : default_value)

# If sparse_indices is a vector, then for each i
dense[sparse_indices[i]] = sparse_values[i]

# If sparse_indices is an n by d matrix, then for each i in [0, n)
dense[sparse_indices[i][0], ..., sparse_indices[i][d-1]] = sparse_values[i]

All other values in dense are set to default_value . If sparse_values is a scalar, all sparse indices are set to this single value.

Indices should be sorted in lexicographic order, and indices must not contain any repeats. If validate_indices is true, these properties are checked during execution.

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.split (TFL::SplitOp)

Splits a tensor into num_split tensors along one dimension.

Splits the value tensor along split_dim into a number of sub-tensors with same shape as the original one, except for split_dim . Same as tf.Split.

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.split_v (TFL::SplitVOp)

Splits a tensor into num_split tensors along one dimension.

Splits the value tensor along split_dim into a number of sub-tensors with same shape as the original one, except for split_dim . The grouping of the resultant sub-tensors is decided by size-splits . Same as tf.SplitV.

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.sqrt (TFL::SqrtOp)

Square root operator

Computes element-wise Square root of input

Traits: AlwaysSpeculatableImplTrait , InferTensorType , TF::SameOperandsAndResultTypeResolveRef

Interfaces: ConditionallySpeculatable , InferShapedTypeOpInterface , InferTypeOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.square (TFL::SquareOp)

Square operator

Computes element-wise Square of input

Traits: AlwaysSpeculatableImplTrait , InferTensorType , TF::SameOperandsAndResultTypeResolveRef

Interfaces: ConditionallySpeculatable , InferShapedTypeOpInterface , InferTypeOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.squared_difference (TFL::SquaredDifferenceOp)

Squared difference operator

Element-wise squared difference operation.

Traits: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , QuantizableResult , ResultsBroadcastableShape

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.squeeze (TFL::SqueezeOp)

Removes dimensions of size 1 from the shape of a tensor.

Given a tensor input , this operation returns a tensor of the same type with all dimensions of size 1 removed. If you don't want to remove all size 1 dimensions, you can remove specific size 1 dimensions by specifying squeeze_dims .

Na przykład:

# 't' is a tensor of shape [1, 2, 1, 3, 1, 1]
shape(squeeze(t)) ==> [2, 3]

Or, to remove specific size 1 dimensions:

# 't' is a tensor of shape [1, 2, 1, 3, 1, 1]
shape(squeeze(t, [2, 4])) ==> [1, 2, 3, 1]

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.strided_slice (TFL::StridedSliceOp)

StridedSlice Op

Return a strided slice from input .

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.sub (TFL::SubOp)

Subtraction operator

Element-wise subtraction operation.

Traits: ::mlir::OpTrait::TFLRuntimeOpTrait , AlwaysSpeculatableImplTrait , QuantizableResult , ResultsBroadcastableShape

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.sum (TFL::SumOp)

Sum operator

Computes the sum reduction along the specified axes

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.svdf (TFL::SVDFOp)

Single value decomposition filter operator

The SVDF op is a decomposition of a densely connected op into low rank filters. For details: https://research.google.com/pubs/pub43813.html https://arxiv.org/abs/1812.02802

Traits: QuantizableResult , quant::AccumulatorUniformScale<3, 2, 4>

Interfaces: DynamicRangeQuantizedOpInterface , TFL_StatefulOp , TflRuntimeVerifyOpInterface

Attributes:

Operands:

Wyniki:

tfl.tanh (TFL::TanhOp)

Hyperbolic tangent operator

Computes element-wise Hyperbolic tangent of input

Traits: AlwaysSpeculatableImplTrait , QuantizableResult , SameOperandsAndResultShape

Interfaces: ConditionallySpeculatable , FixedOutputRangeInterface , NoMemoryEffect (MemoryEffectOpInterface) , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.tile (TFL::TileOp)

Tile operator.

Constructs a tensor by tiling a given tensor.

This operation creates a new tensor by replicating input multiples times. The output tensor's i'th dimension has input.dims(i) * multiples[i] elements, and the values of input are replicated multiples[i] times along the 'i'th dimension. For example, tiling [abcd] by [2] produces [abcdabcd].

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.topk_v2 (TFL::TopKV2Op)

TopK operator

Returns the top k largest element along each last dimensional slice of input and the indices of values within the last dimension of the input tensor.

Results are always sorted in the descending order.

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.transpose (TFL::TransposeOp)

Transpose operator

Returns the Transpose of x

Traits: AlwaysSpeculatableImplTrait , QuantizableResult

Interfaces: ConditionallySpeculatable , NoMemoryEffect (MemoryEffectOpInterface) , SameOperandsAndResultsScale , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Operands:

Wyniki:

tfl.transpose_conv (TFL::TransposeConvOp)

Transpose convolution operator

Performs transpose convolution operation on input.

Traits: AlwaysSpeculatableImplTrait , QuantizableResult , quant::AccumulatorUniformScale<3, 1, 2> , quant::AffineOpCoefficient<0, 1>

Interfaces: AffineQuantizedOpInterface , ConditionallySpeculatable , DynamicRangeQuantizedOpInterface , NoMemoryEffect (MemoryEffectOpInterface) , TFL_SparseOp , TflArithmeticCountOpInterface , TflRuntimeVerifyOpInterface

Effects: MemoryEffects::Effect{}

Attributes:

Operands:

Wyniki:

tfl.unidirectional_sequence_lstm (TFL::UnidirectionalSequenceLSTMOp)

Unidirectional sequence lstm operator

A recurrent neural network specified by an LSTM cell. This Op supports unrolling the input along the time or batch dimensions, and implements the following operation for each element in the sequence s = 1...sequence_length: outputs[s] = state = activation(LSTMOp(inputs[s]))

where LSTMOp is LSTM TF Lite Op and the “activation” is the function passed as the “fused_activation_function” argument (if not “NONE”).

Traits: QuantizableResult

Interfaces: DynamicRangeQuantizedOpInterface , InferTypeOpInterface , TFL_StatefulOp , TflRuntimeVerifyOpInterface

Attributes:

Operands:

Wyniki:

tfl.unidirectional_sequence_rnn (TFL::UnidirectionalSequenceRNNOp)

Unidirectional sequence rnn operator

A recurrent neural network specified by an RNN cell. This Op takes in input in a format {batch_size, seq_len, input_size} or {seq_len, batch_size, input_size} if it's time-majored.

It implements the following operation for each element in the sequence s = 1...sequence_length: outputs[s] = state = activation(RNNOp(inputs[s]))

where RNNOp is RNNOp TF Lite Op and the “activation” is the function passed as the “fused_activation_function” argument (if not “NONE”).

Traits: QuantizableResult

Interfaces: DynamicRangeQuantizedOpInterface , TFL_StatefulOp , TflRuntimeVerifyOpInterface

Attributes:

Operands:

Wyniki:

tfl.unique (TFL::UniqueOp)

Unique Op.

This operation returns a tensor output containing all of the unique elements of input sorted in the same order that they occur in input . This operation also returns a tensor idx the same size as x that contains the index of each value of input in the unique output output . In other words: