Тензорный процессор IVA TPU был представлен на конференции Embedded World 2020

Тензорный процессор IVA TPU был представлен на конференции Embedded World 2020

Решения IVA Technologies были представлены на крупнейшей международной ежегодной выставке и конференции Embedded World 2020.

Посвященное техническим решениям для разнообразных отраслей промышленности на основе встраиваемых систем, а также промышленной электронике, микроэлектронике и микропроцессорной технике мероприятие прошло с 25 по 27 февраля в Нюрнбергском выставочном центре. Каждый год на выставке собираются ведущие производители и дистрибьюторы электронных компонентов и модулей, поставщики техники и программного обеспечения, операционных систем реального времени и программных приложений, а также провайдеры услуг по развитию, производству и информационным сервисам для встраиваемых технологий.

Решения IVA Technologies – тензорный микропроцессор IVA TPU и система автоматического распознавания лиц IVA CV демонстрировались участникам в рамках российской коллективной экспозиции MADE IN RUSSIA и в деловой программе на площадке «Аппаратное обеспечение», где советник генерального директора Дмитрий Северов выступил с докладом на тему «IVA TPU – ускоритель вывода глубоких нейронных сетей».

Видео выступления (ENG): Embedded World 2020, 27 Februar 2020, IVA TPU – DNN inference accelerator // NeuroMatrix Architecture for Neural Network Applications, Aleksandr Chernikov, Dmitrii Severov

IVA Technologies на Embedded World 2020

 

Тензорный процессор IVA TPU

Презентация 2019г. (pdf)

IVA TPU — первый полностью российский нейронный процессор, позволяющий создавать доверенные решения в области телекоммуникаций.

Микропроцессор предназначен для применения сверточных нейронных сетей на базе FPGA Virtex Ultrascale+ и находит практическое применение для детектирования и классификации изображений, поиска объектов, повышения качества и других.

Основными особенностями IVA TPU являются совместимость с готовым свободным программным обеспечением (TensorFlow), высокая производительность (более 20 TOPS) при малом энергопотреблении и значительно меньшем времени обработки, чем GPU.

Специализированные процессоры IVA – это разработка IVA Technologies, которая базируется на результатах собственных исследований нейропроцессоров. Основой процессоров является блок матричного умножения, который выполняет наиболее ресурсоемкие вычисления со скоростью десятки тысяч операций за такт.

Ключевые преимущества:

  • гибконастраиваемое IP-ядро ускорителя тензорных вычислений;
  • поддержка Convolutional, FC, LSTM сетей, 3D-Convolution;
  • фреймворк для оптимизации сетей.

В сравнении с существующими конкурентными решениями процессоры IVA Technologies демонстрируют значительно более высокую производительность (GFLOPS) при минимально потребляемой мощности:

  • более 10 000 вычислительных элементов;
  • не менее 20 TOPS;
  • типы данных integer и reduced float;
  • оптимизация вычислений для разреженных матриц (Fine grain Sparsity);
  • потребляемая мощность не более 100 W.

Решаемые задачи:

  • системы распознавания образов;
  • распознавание голоса и перевод в текстовую форму, детектор ключевых слов;
  • прогнозирование по неструктурированным данным;
  • управление БПЛА и роботизированной техникой;
  • автоматические системы наведения.

Примечание редакции «ЯR» о терминологии:
В русскоязычных публикациях пока не утвердилось общеупотребительное название для процесса обработки сигналов натренированной (обученной) нейронной сетью. В английском языке применяется термин «inference«. Сотрудники компании NVIDIA используют термин «инференс«. В публикации TADVISER говорится, что «микропроцессор предназначен для применения (инференс) сверточных нейронных сетей». В IVA Technologies доклад назвали «IVA TPU – ускоритель вывода глубоких нейронных сетей»,  в варианте на английском — «DNN inference accelerator».

Источники:

IVA Technologies, Новости, 28 февраля 2020, IVA Technologies на Embedded World 2020
IVA Technologies, Тензорный микропроцессор IVA
Embedded World 2020, Conferences and supporting programme, Presentations Exhibitor’s Forum, 27 February 2020, IVA TPU – DNN inference accelerator // NeuroMatrix Architecture for Neural Network Applications
ict.moscow, База знаний ИИ, Презентации, 30.08.2019, IVA TPU: вычислители нейронных сетей
TADVISER, IVA TPU