RKNN2 V2.5.0 · Поддержка и ограничения операторов CPU

Этот справочник платформ RKNN2 V2.5.0 предназначен для разработчиков ArmSoM при выборе и адаптации моделей. Он не подтверждает поддержку на всех платах ArmSoM: проверьте SoC платы, фактические версии Toolkit2, Runtime, драйвера NPU и BSP. В оригинале не задана единая версия ядра Linux. Аппаратная проверка на ArmSoM не выполнялась.

Источник: предоставленные китайская и английская редакции RKNN2 Supported Operators and Constraints Reference V2.5.0, 374 и 384 страницы. Китайский текст следует китайской редакции; английский, русский и немецкий — английской. Ограничения платформ не объединяются. В английском PDF рисунки и таблицы I/O содержат китайские подписи; их происхождение сохранено, добавлены редактируемые локализованные таблицы. Написание ConvTranpose и исходные уравнения LSTM/GRU сохранены; эти формулы не являются исправлениями реализации SDK.

Страницы источника: CN 353–366; EN 363–376.

Rockchip RKNN2

Серия справочников операторов

RKNN2 V2.5.0 · RK3566/RK3568：Основы и свёртки

RKNN2 V2.5.0 · RK3566/RK3568：Рекуррентные сети, арифметика и пулинг

RKNN2 V2.5.0 · RK3566/RK3568：Формы, срезы и транспонирование

RKNN2 V2.5.0 · RK3566/RK3568：Активации, нормализация и расширения

RKNN2 V2.5.0 · RK3588：Основы и свёртки

RKNN2 V2.5.0 · RK3588：Рекуррентные сети, арифметика и пулинг

RKNN2 V2.5.0 · RK3588：Формы, срезы и транспонирование

RKNN2 V2.5.0 · RK3588：Активации, нормализация и расширения

RKNN2 V2.5.0 · RK3562：Основы и свёртки

RKNN2 V2.5.0 · RK3562：Рекуррентные сети, арифметика и пулинг

RKNN2 V2.5.0 · RK3562：Формы, срезы и транспонирование

RKNN2 V2.5.0 · RK3562：Активации, нормализация и расширения

RKNN2 V2.5.0 · RV1103/RV1106：Основы и свёртки

RKNN2 V2.5.0 · RV1103/RV1106：Рекуррентные сети, арифметика и пулинг

RKNN2 V2.5.0 · RV1103/RV1106：Формы, срезы и транспонирование

RKNN2 V2.5.0 · RV1103/RV1106：Активации, нормализация и расширения

RKNN2 V2.5.0 · RK3576/RV1126B：Основы и свёртки

RKNN2 V2.5.0 · RK3576/RV1126B：Рекуррентные сети, арифметика и пулинг

RKNN2 V2.5.0 · RK3576/RV1126B：Формы, срезы и транспонирование

RKNN2 V2.5.0 · RK3576/RV1126B：Активации, нормализация и расширения

RKNN2 V2.5.0 · RK2118：Основы и свёртки

RKNN2 V2.5.0 · RK2118：Рекуррентные сети, арифметика и пулинг

RKNN2 V2.5.0 · RK2118：Формы, срезы и транспонирование

RKNN2 V2.5.0 · RK2118：Активации, нормализация и расширения

RKNN2 V2.5.0 · RV1103B/RV1106B：Основы и свёртки

RKNN2 V2.5.0 · RV1103B/RV1106B：Рекуррентные сети, арифметика и пулинг

RKNN2 V2.5.0 · RV1103B/RV1106B：Формы, срезы и транспонирование

RKNN2 V2.5.0 · RV1103B/RV1106B：Активации, нормализация и расширения

RKNN2 V2.5.0 · Поддержка и ограничения операторов CPU

RKNN2 V2.5.0 · Поддержка и ограничения операторов GPU

RKNN2 V2.5.0 · Ввод/вывод модели, выравнивание и ограничения свёрток

Спецификации операторов CPU

Примечание:

• RK2118 не поддерживает ни один оператор CPU.
• RV1106/RV1103/RV1106B/RV1103B поддерживают только часть перечисленных ниже операторов CPU.
  • Concat, DataConvert, Div, exLayerNorm, Exp, Gather, ReduceL2, ReduceMax, Reshape, ScatterND,Softmax,Pow

Add

• Описание: сложение.
• Ограничения: отсутствуют.

AveragePool

• Описание: усредняющий пулинг.
• Ограничения: отсутствуют.

ArgMin

• Описание: индекс минимального значения.
• Ограничения: отсутствуют.

ArgMax

• Описание: индекс максимального значения.
• Ограничения: отсутствуют.

BatchNormalization

• Описание: пакетная нормализация.
• Ограничения: отсутствуют.

Cast

• Описание: преобразование типа данных.
• Ограничения спецификации: SRC поддерживает float32/bool/int8/float16/int32/int64; DST поддерживает float32/int8/int32/float16.

Clip

• Описание: слой активации с ограничением данных.
• Ограничения: отсутствуют.

Concat

• Описание: объединение.
• Ограничения: axis поддерживает только {0,1,2,3}.

Свёртка

• Описание: свёртка.
• Ограничения: отсутствуют.

ConvTranspose/Deconvolution

• Описание: транспонированная свёртка.
• Ограничения: отсутствуют.

ConvTransposePad

• Описание: составной OP.
• Ограничения: отсутствуют.

Cos

• Описание: функция косинуса.
• Ограничения: отсутствуют.

DataConvert

• Описание: преобразование типа данных.
• Ограничения: поддерживается только преобразование типов bool/int8/float.

DepthToSpace

• Описание: преобразование канального и пространственных измерений.
• Ограничения: отсутствуют.

Div

• Описание: деление.
• Ограничения: отсутствуют.

Equal

• Описание: равно.
• Ограничения: отсутствуют.

Exp

• Описание: экспоненциальная функция.
• Ограничения: отсутствуют.

Flatten

• Описание: развёртывание в плоский вид.
• Ограничения: отсутствуют.

Gather

• Описание: выборка элементов.
• Ограничения: отсутствуют.

Greater

• Описание: больше.
• Ограничения: отсутствуют.

GreaterOrEqual

• Описание: больше или равно.
• Ограничения: отсутствуют.

GRU

• Описание: вентильный рекуррентный блок.
• Ограничения: отсутствуют.

exGRU

• Описание: вентильный рекуррентный блок.
• Ограничения: отсутствуют.
  • Примечание: расширенный оператор ONNX.

exHardSwish

• Описание: функция активации.
• Ограничения: отсутствуют.
  • Примечание: расширенный оператор ONNX.

InstanceNormalization

• Описание: нормализация экземпляра.
• Ограничения: отсутствуют.

exLayerNorm

• Описание: стандартизация слоя.
• Ограничения: отсутствуют.
  • Примечание: расширенный оператор ONNX.

Less

• Описание: меньше.
• Ограничения: отсутствуют.

LessOrEqual

• Описание: меньше или равно.
• Ограничения: отсутствуют.

LogSoftmax

• Описание: функция активации.
• Ограничения: batchsize поддерживает только 1.

LpNormalization

• Описание: нормализация Lp.
• Ограничения: отсутствуют.

exLRN

• Описание: нормализация локального отклика.
• Ограничения: отсутствуют.
  • Примечание: расширенный оператор ONNX.

MatMul

• Описание: умножение многомерных матриц.
• Ограничения: отсутствуют (поддерживаются вычисления четырёхмерный x четырёхмерный и четырёхмерный x трёхмерный).

Max

• Описание: максимальное значение.
• Ограничения: отсутствуют.

MaxPool

• Описание: максимальный пулинг.
• Ограничения: отсутствуют.

MaxRoiPool

• Описание: максимальный пулинг области.
• Ограничения: отсутствуют.

MaxUnpool

• Описание: обратный максимальный пулинг.
• Ограничения: отсутствуют.

exMish

• Описание: функция активации.
• Ограничения: отсутствуют.
  • Примечание: расширенный оператор ONNX.

Min

• Описание: минимальное значение.
• Ограничения: отсутствуют.

Mul

• Описание: умножение.
• Ограничения: отсутствуют.

Pad

• Описание: дополнение.
• Ограничения: отсутствуют.

Pow

• Описание: возведение в степень.
• Ограничения: отсутствуют.

exProposal

• Описание: сеть предложений областей.
• Ограничения: batchsize поддерживает только 1.
  • Примечание: расширенный оператор ONNX.

ReduceMax

• Описание: вычисляет Max по заданным размерностям.
• Ограничения: выход не может иметь более 4 измерений.

ReduceMean

• Описание: вычисляет Mean по заданным размерностям.
• Ограничения: выход не может иметь более 4 измерений.

ReduceSum

• Описание: вычисляет Sum по заданным размерностям.
• Ограничения: выход не может иметь более 4 измерений.

ReduceMin

• Описание: вычисляет Min по заданным размерностям.
• Ограничения: выход не может иметь более 4 измерений.

Reorg

• Описание: перестановка данных.
• Ограничения: отсутствуют.

Reshape

• Описание: изменение формы данных.
• Ограничения: отсутствуют.

Resize

• Описание: масштабирует данные по ширине и высоте.
• Ограничения: поддерживаемые методы интерполяции bilinear;nearest2d.

ReverseSequence

• Описание: обращение последовательности.
• Ограничения: отсутствуют.

exRMSNorm

• Описание: нормализация по среднеквадратичному значению.
• Ограничения: отсутствуют.
  • Примечание: расширенный оператор ONNX.

RoiAlign

• Описание: пулинг с выравниванием областей.
• Ограничения: поддерживается только AvgPoolMode; batchsize — только 1.

ScatterND

• Описание: доступ к данным по N-мерным индексам.
• Ограничения: отсутствуют.

Sin

• Описание: функция синуса.
• Ограничения: отсутствуют.

Slice

• Описание: срез.
• Ограничения: batchsize поддерживает только 1.

Softmax

• Описание: функция активации.
• Ограничения: batchsize поддерживает только 1.
  • Примечание: соответствует ONNX OPSET11.

exSoftmax13

• Описание: функция активации.
• Ограничения: batchsize поддерживает только 1.
  • Примечание: расширенный оператор ONNX, соответствующий ONNX OPSET13.

SpaceToDetph

• Описание: преобразует пространственные измерения в канальное.
• Ограничения: отсутствуют.

Split

• Описание: разделение данных.
• Ограничения: отсутствуют.

Sqrt

• Описание: квадратный корень.
• Ограничения: отсутствуют.

Squeeze

• Описание: удаление единичных размерностей данных.
• Ограничения: отсутствуют.

Sub

• Описание: вычитание.
• Ограничения: отсутствуют.

Tanh

• Описание: гиперболический тангенс.
• Ограничения: отсутствуют.

Tile

• Описание: расширение данных копированием.
• Ограничения: batchsize — только 1; broadcasting не поддерживается.

Transpose

• Описание: транспонирование.
• Ограничения: отсутствуют.

Upsample

• Описание: повышение частоты дискретизации.
• Ограничения: поддерживаемые методы интерполяции bilinear;nearest2d.

Not

• Описание: поэлементное логическое НЕ.
• Ограничения: отсутствуют.

where

• Описание: выбор данных по mask.
• Ограничения: отсутствуют.

Erf

• Описание: функция ошибок.
• Ограничения: отсутствуют.

Floor

• Описание: округление вниз.
• Ограничения: отсутствуют.

Mod

• Описание: функция остатка от деления.
• Ограничения: отсутствуют.

exMeanVarianceNormalization

• Описание: нормализация среднего и дисперсии.
• Ограничения: отсутствуют.

And

• Описание: функция И.
• Ограничения: отсутствуют.

GatherElements

• Описание: выборка элементов.
• Ограничения: отсутствуют.

Log

• Описание: функция Log.
• Ограничения: отсутствуют.

exDataConvert

• Описание: преобразование точности.
• Ограничения: отсутствуют.

SpaceToDepth

• Описание: преобразование размерностей.
• Ограничения: отсутствуют.

SoftmaxMask

• Описание: функция активации с объединением where и softmax.
• Ограничения: отсутствуют.

TransposeReshape

• Описание: составной OP.
• Ограничения: отсутствуют.

ReshapeTranspose

• Описание: составной OP.
• Ограничения: отсутствуют.

ReduceL2

• Описание: норма L2 вдоль оси.
• Ограничения: отсутствуют.

LayerNormalization

• Описание: стандартизация слоя.
• Ограничения: отсутствуют.

PassThrough

• Описание: прямое соединение.
• Ограничения: отсутствуют.

Expand

• Описание: копирование или расширение данных тензора.
• Ограничения: отсутствуют.

Sigmoid

• Описание: функция активации.
• Ограничения: отсутствуют.

Tanh

• Описание: тригонометрическая функция.
• Ограничения: отсутствуют.

Cos

• Описание: тригонометрическая функция.
• Ограничения: отсутствуют.

Sin

• Описание: тригонометрическая функция.
• Ограничения: отсутствуют.

exSwish

• Описание: функция активации.
• Ограничения: отсутствуют.

exGlu

• Описание: функция активации.
• Ограничения: отсутствуют.

exGelu

• Описание: функция активации.
• Ограничения: отсутствуют.

exWindow

• Описание: exWindow происходит от операций window_partition и window_reverse в Swin-Transformer.
• Ограничения: отсутствуют.

exNorm

• Описание: при mode=’pixel’ exNorm использует PixelNorm для нормализации. Если mode не задан, exNorm по умолчанию использует LayerNorm.
• Ограничения: отсутствуют.

Round

• Описание: насыщение данных.
• Ограничения: отсутствуют.

TopK

• Описание: получение K наибольших значений.
• Ограничения: отсутствуют.

exSwooshR

• Описание: функция активации.
• Ограничения: отсутствуют.

exSwooshL

• Описание: функция активации.
• Ограничения: отсутствуют.

OneHot

• Описание: унитарное кодирование.
• Ограничения: отсутствуют.

Cumsum

• Описание: накопительная сумма вдоль заданного измерения.
• Ограничения: отсутствуют.