구글 AI, 플랫폼 '모델 서치' 오픈 소스로 공개

출처: www.aitimes.kr/news/articleView.html?idxno=20330

[AI 리뷰] 구글 AI, 최적의 머신러닝 모델 위한 플랫폼 '모델 서치' 오픈 소스로 공개 - 인공지능신

 

요약

AutoML 솔루션의 효율적인 오픈소스 플랫폼을 구글에서 제공함.

 

AutoML이란?

사람(Human)의 수동 실험이 아닌 자동으로 최적의 신경망 혹은 기계 학습 알고리즘을 찾는 기술임. 대표적으로 신경망 아키텍처 탐색(Neural Architecture Search; NAS), 강화 학습(RL) 등에서 사용됨. 관련 기술로는 Bayesian optimization, bandit optimization, evolutionary algorithm 등이 있음.

구글 AI가 공개한 Model Search 오픈 소스

이 플랫폼 모델 검생은 텐서플로우(Tensorflow)를 기반으로 하며, 단일 머신 또는 분산 설정에서 실행할 수 있음.

 

특징

1. 다양한 내부 실험 간에 Transfer Learning을 사용할 수 있음.
2. Architecture Search는 Knowledge distillation 또는 weight sharing을 통해 수행할 수 있음.
3. Weight sharing: 이전에 훈련된 모델에서 적절한 가중치를 복사하고 나머지 모델들을 무작위로 초기화함으로써 이전에 훈련된 후보들로부터 네트워크에서 일부 매개 변수를 캡처함.

 

아키텍쳐 탐색 논문

1. Improving Keyword Spotting and Language Identification via Neural Architecture Search at Scale, Interspeech 2019
2. Learning Transferable Architectures for Scalable Image Recognition, Arxiv 2018

 

오픈 소스 Github

링크: github.com/google/model_search

google/model_search