[정보] 머신러닝 가속칩 엣지 TPU

◈ 정의

머신러닝 모델 처리를 가속화 하는 하드웨어

◈ 설명

클라우드의 중앙 시스템에서 처리하던 인공지능(AI) 추론 연산을 IoT 엣지 기기로 나눠 수행하면 네트워크의 상황에 따른 서비스 지연 및 장애, 대역폭 소비를 줄이고 데이터 보안 위험을 낮추면서 IoT 서비스 현장에 필요한 연산 동작을 더 빠르게 처리할 수 있다

1) 구글이 새로 공개한 엣지TPU는 IoT 엣지 게이트웨이의 두뇌 역할을 하는데, 전반적인 머신러닝 신경망 모델 처리 동작이 아니라 그중 추론(inference) 연산에 특화한 저가형 하드웨어를 개발한 것이라고 지적했다

2) 가정, 공장, 사무실, 병원 등 환경의 센서와 커넥티드 기기 데이터를 모아 추가 처리를 위해 구글 클라우드의 백엔드 서비스로 보내는 게 IoT 게이트웨이 역할이다.

3) 구글은 이런 메시지로 자사 클라우드 기반 머신러닝 모델 기반 AI를 IoT 서비스에 도입하려는 개발자에게 엣지TPU를 보급할 것으로 보인다.

4) 엣지TPU는 앞서 구글이 자체개발해 선보인 머신러닝 가속용 보조프로세서 하드웨어 '텐서프로세싱유닛(TPU)'의 축소판

5) TPU는 신경망 학습과 추론 연산에 '애플리케이션특화직접회로(ASIC)' 즉 맞춤형 프로세서

구글이 사물인터넷(IoT) 기기의 텐서플로 라이트(TensorFlow Lite) 머신러닝 모델 처리를 가속할 수 있는 '엣지TPU(Edge TPU)' 하드웨어를 공개했다.

​

미국 지디넷은 25일(현지시간) 구글 클라우드 넥스트 컨퍼런스 2일차 현장에서 구글이 엣지TPU 칩과 '클라우드 IoT 엣지' 소프트웨어와 엣지TPU를 다루기 위한 개발도구를 선보였다고 보도했다.

​

엣지TPU는 IoT엣지 기기에서 텐서플로 라이트 머신러닝 모델을 구동할 수 있도록 고안된 가속칩이다. 동전 하나에 4개를 올릴 수 있을 만큼 크기가 작다.

​

현장에서 엣지TPU를 소개한 이인종 구글 클라우드 IoT담당 부사장은 "엣지TPU는 여러분의 임베디드 기기에 성능 손실 없이 현저히 낮은 가격과 뛰어난 전력 효율의 두뇌를 심어줄 것"이라고 주장했다.

클라우드 IoT 엣지는 엣지TPU 칩으로 구동되는 소프트웨어다. 엣지 IoT 코어 게이트웨이와 '엣지ML'이라는 런타임, 2가지로 구성된다. 엣지ML은 엣지 기기에서 머신러닝 모델을 구동하는 텐서플로 라이트 기반 런타임이다. 안드로이드 씽스(Things) 또는 리눅스 운영체제(OS) 기반 기기에서 작동한다.

​

엣지TPU, 클라우드 IoT 엣지와 함께 소개된 개발도구는 엣지TPU에 결합된 시스템온모듈(SOM), NXP 중앙처리장치(CPU), 무선랜(Wi-Fi) 및 마이크로칩의 보안 구성요소를 포함한다. 오는 10월중 개발자들에게 제공된다.

 구글이 자체 데이터센터에서 머신러닝기반 서비스를 구동하는 데 쓰이고 있다. 구글의 퍼블릭클라우드 서비스 형태로 외부 개발자나 연구자들도 빌려 쓸 수 있다.

​

​

[참고] http://www.zdnet.co.kr/news/news_view.asp?artice_id=20180726080217