OpenVino: Inteligência Artificial em tempo real sem GPU
Hoje é muito comum sistema de deep learning com inferência matemática para visão computacional utilizando técnicas de redes neurais convolucionais. Mas também é muito comum estes sistemas trabalharem com as poderosas GPUs. Neste artigo conheceremos o OpenVino, uma tecnologia da Intel que permite processar reconhecimento de objeto com 100 fps em processadores i5.
Introdução
OpenVino é uma tecnologia da Intel que permite processar Inteligência Artificial no segmento de Visão Computacional com o diferencial de permitir explorar todo o reconhecimento e/ou processamento com CPU. Entretanto podemos utilizar muito além da CPU, e sim orquestrar VPU, FPGA e GPU simultaneamente. Ou seja, processar o módulo facefind na CPU, calculo de estimativa de sexo na VPU e estimativa de idade CPU por exemplo.
Resumindo, a solução é baseada em cálculos convolucionais e permite utilizar a inferência de deep learning com CPU, GPU, VPU e FPGA com um único SDK. Um ponto interessante é o desempenho do processamento que está diretamente relacionado com a otimização para os processadores Intel (SSSE4_1, SSSE4_2, AVX, AVX2 e outros).
Outro ponto excepcional é a possibilidade da tecnologia OpenVino permitir o uso dos frameworks populares de deep learning, como por exemplo o TensorFlow, Caffe, Torch e outros. Os modelos são convertidos para a tecnologia OpenVino e tudo funciona de maneira mágica e eficiente. O real diferencial é a possibilidade de mudar o projeto de hardware durante o desenvolvimento sem sofre enormes traumas.
Hardware (equipamento mínimos):
Sistemas operacionais compatíveis:
Dependências:
e efetue o download da última versão.
Após o download, entre na pasta e descompacte o arquivo recém obtido com o comando tar:
cd ~/Downloads/
$ tar -zxvf l_openvino_toolkit_p_2018.5.455.tgz
Após a descompactação, entre na pasta recém-criada e execute o script de checagem e instalação de dependências conforme o exemplo a seguir:
cd l_openvino_toolkit_p_2018.5.455
$ sudo -E ./install_cv_sdk_dependencies.sh
Agora efetuaremos a execução do script que iniciará a interface gráfica de instalação:
sudo ./install_GUI.sh
Ao executar, teremos a primeira janela de dialogo conforme o exemplo abaixo, então aceite o termo clicando em I ACCEPT THE TERM e clique no botão next.
Agora marque uma das opções, se você aceita ou não o envio de informações e clique no botão NEXT.
Nesta janela receberemos algumas informações sobre os requisitos das bibliotecas openCV. Clique em NEXT para continuar.
Agora veremos na janela o resumo da instalação, ou seja, todos os componentes que serão instalados, então clique novamente em NEXT para iniciar a instalação.
Ao término da instalação, se tudo estiver funcionando corretamente, veremos a janela a seguir. Para terminar clique no botão FINISH.
Outro ponto excepcional é a possibilidade da tecnologia OpenVino permitir o uso dos frameworks populares de deep learning, como por exemplo o TensorFlow, Caffe, Torch e outros. Os modelos são convertidos para a tecnologia OpenVino e tudo funciona de maneira mágica e eficiente. O real diferencial é a possibilidade de mudar o projeto de hardware durante o desenvolvimento sem sofre enormes traumas.
Hardware (equipamento mínimos):
- 6th-8th Generation Intel® Core
- Intel® Xeon® v5 family
- Intel® Xeon® v6 family
- Intel® Pentium® processor N4200/5, N3350/5, N3450/5 with Intel® HD Graphics
- Intel® Movidius Neural Compute Stick
- Intel® Neural Compute Stick 2
- Intel® Vision Accelerator Design with Intel® Movidius VPUs
Sistemas operacionais compatíveis:
- Ubuntu* 16.04 long-term support (LTS), 64-bit
- CentOS* 7.4 or higher, 64-bit
- Yocto Project* Poky Jethro* v2.0.3, 64-bit (for target only)
Dependências:
- OpenCV 3.4 ou superior
- GCC 3.4 ou superior
- Cmaker 2.8 ou superior
- Python 3.5 ou superior
Instalação
Primeiramente entre no link de download do OpenVino:e efetue o download da última versão.
Após o download, entre na pasta e descompacte o arquivo recém obtido com o comando tar:
cd ~/Downloads/
$ tar -zxvf l_openvino_toolkit_p_2018.5.455.tgz
Após a descompactação, entre na pasta recém-criada e execute o script de checagem e instalação de dependências conforme o exemplo a seguir:
cd l_openvino_toolkit_p_2018.5.455
$ sudo -E ./install_cv_sdk_dependencies.sh
Agora efetuaremos a execução do script que iniciará a interface gráfica de instalação:
sudo ./install_GUI.sh
Ao executar, teremos a primeira janela de dialogo conforme o exemplo abaixo, então aceite o termo clicando em I ACCEPT THE TERM e clique no botão next.
