[논문] 신경망 구조 탐색(NAS): 최신 동향과 기술

인공 신경망 구조 탐색에 대한 그림

논문 제목: A contemporary literature review for computer vision applications

최근 인공지능 분야에서 가장 뜨거운 화두 중 하나인 '신경망 구조 탐색(Neural Architecture Search, NAS)'에 대해 들어보셨나요?

딥러닝 모델의 성능이 날로 향상되면서, 우리는 점점 더 복잡한 문제를 해결할 수 있게 되었습니다. 하지만 그 이면에는 네트워크 구조 설계의 어려움이 자리 잡고 있죠. 특히 컴퓨터 비전 분야에서는 이 문제가 더욱 두드러집니다."어떻게 하면 최적의 신경망 구조를 자동으로 찾을 수 있을까?"바로 이 질문에 대한 해답이 NAS 기술입니다. 오늘은 컴퓨터 비전 분야에서 NAS가 어떻게 활용되고 있는지, 그리고 최신 기술 동향은 무엇인지 자세히 알아보겠습니다.

초록(Abstract): 컴퓨터 비전을 위한 신경망 구조 탐색(NAS): 최신 기술 동향 요약

본 글에서는 컴퓨터 비전 분야에서 주목받고 있는 신경망 구조 탐색(Neural Architecture Search, NAS) 기술의 최신 동향을 살펴봅니다. 이미지 분류, 객체 탐지, 이미지 분할 등 주요 컴퓨터 비전 작업에서 NAS 기술이 어떻게 적용되고 있는지 분석하고, 가중치 공유, 그래디언트 기반 방법, 성능 예측 등 주요 NAS 접근법을 소개합니다. 또한 NAS 기술의 한계점과 향후 연구 방향에 대해 논의합니다.

소개: 신경망 구조 탐색(NAS)의 부상: 컴퓨터 비전 분야의 게임 체인저

딥러닝 기술의 발전으로 컴퓨터 비전 분야에서 놀라운 성과들이 이어지고 있습니다. 하지만 복잡한 작업을 수행하기 위해 네트워크 구조가 점점 더 복잡해지면서, 최적의 구조를 수동으로 설계하는 것이 매우 어려워졌습니다. 이에 따라 최근 신경망 구조 탐색(NAS) 기술이 주목받고 있습니다. NAS는 주어진 작업에 가장 적합한 신경망 구조를 자동으로 찾아주는 기술입니다. 특히 효율적이고 작은 네트워크 구조를 찾는 데 매우 유용하여, 모바일 기기나 엣지 디바이스에서의 딥러닝 모델 배포에 큰 도움이 됩니다. 이 글에서는 컴퓨터 비전 분야에서 NAS 기술이 어떻게 적용되고 있는지 살펴보겠습니다.

기술 1: 가중치 공유 (Weight Sharing) NAS

가중치 공유 NAS는 탐색 과정에서 네트워크 가중치를 재사용함으로써 학습 시간을 대폭 줄이는 기법입니다. ENAS(Efficient Neural Architecture Search)에서 처음 제안된 이 방법은 전체 탐색 공간을 표현하는 '슈퍼네트워크'를 학습시킵니다. 이후 샘플링된 구조들은 이 슈퍼네트워크로부터 가중치를 상속받아 빠르게 성능을 평가할 수 있습니다.

주요 장점:

• 탐색 시간 대폭 감소
• 단일 네트워크만 완전히 학습하면 됨
• 상대적 성능 랭킹을 통한 효율적인 구조 선택

하지만 가중치 공유로 인한 부작용도 있습니다. 예를 들어, 부적절한 가중치 상속으로 인해 잠재력 있는 구조가 저평가될 수 있습니다. 이를 해결하기 위해 DNA, Distribution Consistent NAS 등의 방법이 제안되었습니다.

기술 2: 그래디언트 기반 (Gradient-based) NAS

그래디언트 기반 NAS는 구조 탐색 공간을 연속적으로 완화시켜 그래디언트 하강법을 적용할 수 있게 만듭니다. DARTS(Differentiable Architecture Search)가 대표적인 예입니다.

DARTS의 주요 아이디어:

1. 각 레이어를 모든 가능한 연산의 softmax로 표현
2. 구조 파라미터를 그래디언트 하강법으로 최적화
3. 학습 후 각 레이어에서 가장 강한 연산을 선택

장점:

• 빠른 탐색 속도
• 메모리 효율성
• 다양한 작업에 쉽게 적용 가능

그러나 DARTS도 최적화 갭(optimization gap) 문제와 같은 한계가 있습니다. 이를 개선하기 위해 P-DARTS, PC-DARTS 등 다양한 후속 연구가 진행되었습니다.

기술 3: 성능 예측 (Performance Prediction) NAS

성능 예측 NAS는 네트워크를 완전히 학습시키지 않고도 그 성능을 예측하는 방법입니다. 이는 크게 두 가지 접근법으로 나뉩니다:

1. 보조 모델 사용: PNAS, NAO 등이 대표적입니다. 얕은 네트워크들의 성능 데이터로 예측기를 학습시켜 더 복잡한 구조의 성능을 예측합니다.
2. 불완전 학습 후 추정: MdeNAS, NASWOT 등의 방법이 있습니다. 예를 들어 NASWOT는 단 한 번의 미니배치 학습만으로 네트워크의 최종 성능을 예측합니다.

이러한 방법들은 탐색 속도를 크게 높이지만, 정확도 면에서는 아직 개선의 여지가 있습니다.

필요한 공식에 대한 설명: NAS에서 자주 사용되는 수식 중 하나는 다음과 같은 이중 최적화 문제입니다:

max(θ) E(α~π(α;θ,Ω)) [R(α, w*(α))] s.t. w*(α) = argmin(w) L(α, w)

• α: 네트워크 구조  |  θ: 정책 파라미터  |  Ω: 탐색 공간  |  R: 보상 함수 (예: 검증 정확도)
• L: 손실 함수  |  w: 네트워크 가중치

이 수식은 구조 α의 최적 가중치 w*(α)를 찾으면서 동시에 최고의 성능을 내는 구조를 찾는 과정을 나타냅니다.

결론: NAS의 현재와 미래 - 컴퓨터 비전의 새로운 지평

신경망 구조 탐색(NAS)은 컴퓨터 비전 분야에서 큰 잠재력을 보여주고 있습니다. 가중치 공유, 그래디언트 기반 방법, 성능 예측 등 다양한 기술의 발전으로 NAS의 효율성과 성능이 크게 향상되었습니다. 그러나 여전히 해결해야 할 과제들이 남아있습니다. 최적화 갭 문제, 탐색 공간 설계의 중요성, 그리고 객체 탐지나 이미지 분할과 같은 복잡한 작업에서의 NAS 적용 등이 주요 연구 주제가 될 것으로 보입니다.

앞으로 NAS 기술은 더욱 발전하여, 다양한 컴퓨터 비전 작업에서 최적의 네트워크 구조를 자동으로 찾아내는 핵심 도구로 자리잡을 것으로 기대됩니다. 특히 엣지 컴퓨팅과 모바일 AI의 발전과 맞물려, 작고 효율적인 네트워크 설계에 NAS가 크게 기여할 것으로 전망됩니다.