Rockchip · AI & Linux Hub

AI-инференс

Развертывание RKNN на edge без выдуманных бенчмарков

Постройте проверяемый inference-путь для ArmSoM RK3576 и RK3588 и отделяйте заявленные возможности от измеренных данных.

· ArmSoM Editorial · 3 мин чтения

Постройте проверяемый inference-путь для ArmSoM RK3576 и RK3588 и отделяйте заявленные возможности от измеренных данных.

Схема рабочего процесса: Развертывание RKNN на edge без выдуманных бенчмарков

Что помогает решить эта статья

Развертываемая модель — это не только файл RKNN: версионируйте preprocessing, квантование, layout тензоров, runtime и набор проверки. Это инженерный workflow, а не замена схеме, release notes или требованиям безопасности для конкретного изделия и ревизии ArmSoM.

Контекст платформы

Обе линейки заявляют NPU, но реальные задержка и точность требуют описания модели, входа, runtime, частот, теплового состояния и методики. На практике фиксируйте вместе плату, версию BSP/образа, ревизию периферии, питание и воспроизводимые команды. Так полевые проблемы остаются диагностируемыми, а рабочая лабораторная конфигурация не превращается в скрытую зависимость.

Воспроизводимая отправная точка

Сначала проверьте руководство для конкретной платы, версию образа и подключение интерфейса, затем выполните минимальную проверку. Сохраняйте вывод команд, версию ядра и образа, ревизию платы и идентификаторы периферии.

python3 - <<'PY'
# Pseudocode: record metadata next to each model artifact
print({"model":"model.rknn", "input":"1x3x224x224", "runtime":"verify-on-target"})
PY

Схема цикла проверки: Развертывание RKNN на edge без выдуманных бенчмарков

Контрольный список

  • Подтвердите плату ArmSoM, ревизию, SKU памяти/накопителя и питание.
  • Сохраните uname -a, версию образа и полный serial boot log.
  • До оптимизации убедитесь, что нужный hardware node или connector существует.
  • Меняйте только один параметр за раз и сохраняйте evidence до и после.
  • Для любого результата укажите нагрузку, среду, версии ПО и методику.

Устранение неполадок

Симптом: ожидаемое устройство или поведение отсутствует. Сверьте running image и Device Tree с документацией изделия, затем проверьте питание, направление кабеля, посадку разъема и boot logs.

Симптом: команда существует, но результат неверный. Не принимайте пример команды за проверенную конфигурацию изделия. Проверьте pinmux, драйверы, device nodes, права и версии software stack для конкретной платы.

Симптом: конфигурация пропадает после перезагрузки. Определите, где должно находиться изменение: в образе, boot configuration, Device Tree, service definition или временной команде. Сохраните serial log и минимальный reproduction.

Примечание о публикации

В статье нет выдуманных benchmark, выводов о совместимости или лабораторных измерений. Добавляя результаты, указывайте тестовый образец, версии ПО, нагрузку, условия среды, число повторов и исходные evidence.

Ссылки

Проверка перед публикацией

  • Сверьте возможности изделия и назначение выводов/интерфейсов с актуальной документацией.
  • Замените примеры команд проверенными командами для целевого образа.
  • Проверьте соответствие схем, alt-текста, платы и workflow.
  • Добавьте canonical URL, автора и редактора.
  • Перед публикацией получите техническую проверку формулировок о безопасности, прошивке, электрике и доступности.

Другие статьи по теме → · Учебные маршруты →