stringtranslate.com

ОпенВИНО

OpenVINO — это набор программных инструментов с открытым исходным кодом для оптимизации и развертывания моделей глубокого обучения . Это позволяет программистам разрабатывать масштабируемые и эффективные решения искусственного интеллекта с помощью относительно небольшого количества строк кода. Поддерживаемые модели взяты из нескольких существующих платформ и поддерживают разные категории, включая модели больших языков , компьютерное зрение и генеративный искусственный интеллект .

Активно разрабатываемый Intel , он отдает приоритет высокопроизводительному выводу на оборудовании Intel, но также поддерживает процессоры ARM/ARM64 [2] и поощряет участников добавлять в портфолио новые устройства.

OpenVINO является кроссплатформенным и бесплатен для использования по лицензии Apache 2.0. [3]

Обзор

Конвейер высокого уровня OpenVINO состоит из двух частей: создание файлов IR (промежуточного представления) с помощью оптимизатора модели с использованием обученной модели или общедоступной модели и выполнение вывода в механизме вывода на указанных устройствах.

OpenVINO имеет разные типы выборок: классификация, обнаружение объектов, передача стилей, распознавание речи и т. д. Можно попробовать сделать вывод на общедоступных моделях. Существуют различные модели для задач, такие как:

Формат модели OpenVINO

OpenVINO IR [4] — это формат по умолчанию, используемый для вывода. Он сохраняется в виде набора из двух файлов * .bin и * .xml , содержащих веса и топологию соответственно. Его получают путем преобразования модели из одной из поддерживаемых платформ с использованием API приложения или специального конвертера.

Модели поддерживаемых форматов также можно использовать для вывода напрямую, без предварительного преобразования в OpenVINO IR. Такой подход более удобен, но предлагает меньше возможностей оптимизации и меньшую производительность, поскольку преобразование выполняется автоматически перед выводом.

Поддерживаемые форматы моделей: [5]

Язык программирования

OpenVINO написан на C++ и Python .

Поддержка ОС

OpenVINO работает в следующих настольных операционных системах: Windows , Linux и MacOS . [ нужна цитата ]

Смотрите также

Рекомендации

  1. ^ «Примечания к выпуску дистрибутива Intel набора инструментов OpenVINO 2023.3» . Январь 2024 года.
  2. ^ «Совместимость и поддержка OpenVINO» . Документация OpenVINO . 24 января 2024 г.
  3. ^ «Лицензия». Репозиторий OpenVINO . 16 октября 2018 г.
  4. ^ "ОпенВИНО ИР" . www.docs.openvino.ai . 2 февраля 2024 г.
  5. ^ «Подготовка модели OpenVINO» . Документация OpenVINO . 24 января 2024 г.