OpenVINO — это набор программных инструментов с открытым исходным кодом для оптимизации и развертывания моделей глубокого обучения . Это позволяет программистам разрабатывать масштабируемые и эффективные решения искусственного интеллекта с помощью относительно небольшого количества строк кода. Поддерживаемые модели взяты из нескольких существующих платформ и поддерживают разные категории, включая модели больших языков , компьютерное зрение и генеративный искусственный интеллект .
Активно разрабатываемый Intel , он отдает приоритет высокопроизводительному выводу на оборудовании Intel, но также поддерживает процессоры ARM/ARM64 [2] и поощряет участников добавлять в портфолио новые устройства.
OpenVINO является кроссплатформенным и бесплатен для использования по лицензии Apache 2.0. [3]
Конвейер высокого уровня OpenVINO состоит из двух частей: создание файлов IR (промежуточного представления) с помощью оптимизатора модели с использованием обученной модели или общедоступной модели и выполнение вывода в механизме вывода на указанных устройствах.
OpenVINO имеет разные типы выборок: классификация, обнаружение объектов, передача стилей, распознавание речи и т. д. Можно попробовать сделать вывод на общедоступных моделях. Существуют различные модели для задач, такие как:
OpenVINO IR [4] — это формат по умолчанию, используемый для вывода. Он сохраняется в виде набора из двух файлов * .bin и * .xml , содержащих веса и топологию соответственно. Его получают путем преобразования модели из одной из поддерживаемых платформ с использованием API приложения или специального конвертера.
Модели поддерживаемых форматов также можно использовать для вывода напрямую, без предварительного преобразования в OpenVINO IR. Такой подход более удобен, но предлагает меньше возможностей оптимизации и меньшую производительность, поскольку преобразование выполняется автоматически перед выводом.
Поддерживаемые форматы моделей: [5]
OpenVINO написан на C++ и Python .
OpenVINO работает в следующих настольных операционных системах: Windows , Linux и MacOS . [ нужна цитата ]
{{cite journal}}
: Требуется цитировать журнал |journal=
( помощь )