딥러닝과 선형대수

다들 딥러닝을 공부하면서 선형대수를 왜 배워야 하는가? 에 대해 많이 헤매시는 것 같습니다.

 저는 대학생 때 영상처리쪽 공부를 하면서, 선형대수도 조금 배우고 선형대수의 중요성을 좀 느꼈는데요. 제가 공부했던것은 openCV에 있는 함수들을 가져다 쓰지않고 직접 코드로 짜서 구현했는데 선형대수가 많이 필요하더라구요. 저희가 딥러닝 코드 짤 때 다 텐서플로우 함수를 가져다 쓰지만 텐서플로우 함수 안에는 다 선형대수 지식이 필요한 코드로 이루어져 있다고 생각되네요.  텐서플로우를 사용 안하고 딥러닝 코드를 구현하면 필요성이 확 느껴질것 같습니다. 간단한 예로, 이미지나 단어를 벡터로 바꾸고, 이 선형벡터를 비선형으로 바꾸어 분류, 회귀를 하려면 선형대수가 필요한 것 같습니다.  나중에 선형대수 뒷부분에 고유값, 고유벡터, 특이값 분해, PCA등 중요개념이 나오는데, 이를 하려면 선형대수 앞부분을 하고 넘어가야 하기 때문에 선형대수 개념들, 가우스조르단 소거법, 행렬식 등을 배우고 있다고 생각합니다. 이 블로그 링크에서 선형대수학[1~6] 부분 보시면 영상처리에서 선형대수학이 활용되는 부분이 설명되어있고, 선형대수 이해에 많은 도움이 될 것 같네요. darkpgmr.tistory.com/106

[선형대수학 #4] 특이값 분해(Singular Value Decomposition, SVD)의 활용

 

ps. 대기업에서 AI를 다루는 파트에서는 자체적으로 딥러닝 라이브러리들을 개발한다고 합니다. (딥러닝 라이브러리들을 C나 자바로 구현한다거나...) 이렇게 자체적으로 딥러닝 라이브러리 개발을 위해서도 선형대수 지식이 필요할 것 같습니다.