딥러닝2012

AlexNet & ImageNet 혁명

딥러닝으로 이미지 인식 대회를 압도적으로 우승

AlexNet 아키텍처: 5 Conv + 3 FC, GPU 병렬 처리 구조 (Wikimedia Commons)

AlexNet 아키텍처: 5 Conv + 3 FC, GPU 병렬 처리 구조 (Wikimedia Commons)

AlexNet은 GPU를 활용한 대규모 CNN으로, ImageNet 대회 오류율을 26%에서 16%로 급감시켰습니다. ReLU, 드롭아웃, 데이터 증강 등의 기법을 도입하여 딥러닝 붐의 시작점이 되었습니다.

핵심 수식

ReLU
f(x)=max⁡(0,x)f(x) = \max(0, x)
Sigmoid
σ(x)=11+e−x\sigma(x) = \frac{1}{1 + e^{-x}}

핵심 개념

ReLU

f(x)=max(0,x) — 기울기 소실 문제를 해결한 활성화 함수

드롭아웃(Dropout)

학습 시 랜덤으로 뉴런을 비활성화하여 과적합을 방지

데이터 증강(Augmentation)

회전·반전·크롭 등으로 학습 데이터를 인위적으로 늘리는 기법

주요 인물

알
알렉스 크리제프스키
AlexNet 설계 및 구현
일
일리아 수츠케버
AlexNet 공동 연구, 이후 OpenAI 공동 창립
제
제프리 힌튼
AlexNet 지도교수, GPU 활용 딥러닝 주창

영향 & 의의

딥러닝이 전통적 머신러닝을 압도할 수 있음을 입증. GPU 기반 학습이 표준이 되었고, 컴퓨터 비전을 넘어 전 분야에 딥러닝 열풍을 촉발했습니다.

관련 항목

1998합성곱 신경망 (CNN) — LeNet2015ResNet — 잔차 학습 혁명2017트랜스포머 — Attention Is All You Need