CS231n 9장

입력변수만 넣어주면 된다.

레이어들을 묶어주고 시퀀스로 정의하면된다.

 

CNN

알렉스넷

비지지넷

구글넷

알이에스넷

Lenet 이미지 입력받아서 55필터거칙 마지막에 FC가 붇는다. 숫자인식에 좋았다.

알렉스넷은 최초의 라지스케일 CNN이다. convnet 부흥을 일으켰다.

conv pool norm 2번반복 그리고 FC

알렉스넥 크기 이미지 227 227 3

11 11 필터 스트라이드 4로 96개

첫 레이어의 출력사이즈는 어떻게 될까요

(227-11)/4+1 =55

답 : 55*55*96

전체 파라미터 갯수 : 11*11*96*3

풀링 레이어 : 27*27*96

풀링 레이어의 파라미터 : 없다

풀링레이어에는 그냥 뽑아내는거기때문에 가중치가 없다.

파라미터는우리가학습시키는 가중치

데이터 알규멘테이션은 많이 했다.

웨이트 디케이, 앙상블사용

모델이 두개로 나뉘어져서 교차한다. GTX850 3gb 2개지피유 사용

각지피유 뎊스 48

컨브1,2,,4,5에서는 반만 사용해서 전체를 볼수 없다.

나머지 반에서는 컨브3,6,7,8사용

알렉스넷 최초 cnn기반 우승 모델

렐루처음씀

놈레이어스 썼는데 이건 지금 안씀

 

알렉스넷이 최초로 딥러닝컨브넷을 적용해서 좋아짐

ZFNET 알렉스 넷의 하이퍼 파라미터만 조절

VGG넷 스몰필터 깊은네트웍스

구글 넷

비지지넷 16~19개 레이어 사용 (기존알렉스는 8개 레이어)

비지지넷 더 작은 필터 사용

작은 필터 쓰면 뎊스를 키울 수 있다.

리펙티브 필터 

첫번째 레이어 33으로 보고 그다음 55로 보고 그다음 77로 보고

33필터에는 9개의 파라미터가 있다.

3*3 3개와 7*7하나 쓰는게 동일한 효과인데 겹쳐쓰면 파라피터 수가 줄어드는 효과가 있어 좋다.

 

3*3*C*C

이미지 한장당 100mb 사용한다.

네트워크가 깊다(depth) : 전체 레이어수가 많다. 이미지 채널얘기가 아니였다.

컨브에 여러개 필터가 있

필터는 서로다른 패턴을 인식하기위해 여러개가 있다.

레이어에서 많은 메모리가 사용된다.

특히 FC에서 많이

로컬라이제이션 : 이미지 분류 및 얼굴 찾기