kubwa inference AI 추론 가속 시스템

• 이미지 / 영상 / 텍스트

• 
  딥러닝 학습모델

  Python

  
• 
  소프트웨어

  Model 모델링
  변환 및 최적화

• 
  하드웨어

  Inference
  추론 가속

  

kubwa Inference 시스템 (H/W + S/W)

• Train

  딥러닝 학습
  (Deep Learning)

  • TensorFlow
  • PyTorch
  • Caffe

  
• Optimization

  학습 모델 최적화
  (Model optimizer)

  • Converting 변환
  • Optimizing 최적화
  • Preparing inference 추론 준비

  Run ModelOptimizer
• Inference

  추론 엔진
  (Inference Engine)

  최적화 된 학습 모델을
  사용자 어플리케이션에
  맞게 추론

  User Application

  Inference Engine
• Heterogeneous

  이종 가속화
  (Multiple Accelerating)

  FPGA, GPU 시스템에서
  추론 엔진을 가속화

  VPU

  FPGA

  GPU

AI 추론 가속 사용 분야

kubwa AIoT Cloud Orchestration

• 머신러닝, 딥러닝 모델을 각 Applicaiton 별로 데이터 파이프라인을 구축하는 Orchestration 플랫폼
• Docker와 Kubernetes의 컨네이너 기반으로 On-premise와 Cloud 환경에서 kubwa MLOps 제공
• kubwa AIoT로 open(개방), convergence(융합), flow(순환) 목표 달성