728x90
1. Deep Learning
- Good deep learner
- 구현 실력 (Tensorflow, Pytorch)
- 수학 실력 (Linear Algebra, Probability Theory)
- 현재의 트렌드 (Recent Papers)
2. AI (인공지능)
- 인공지능 : 지능형 기계를 만드는 과학이나 공학의 분야 / 인간의 지능(지적능력, 사고방식) 을 인공적으로 만든 것
- 머신러닝 : 기계가 데이터로부터 직접 학습해서 실행할 수 있는 알고리즘을 개발하는 연구분야
- 딥러닝 : 머신러닝의 방법론 중 하나 (비선형 정보처리를 수행하는 계층을 여러 겹으로 쌓아서 학습모델을 구현하는 머신러닝의 한 분야)
-> 엄청나게 많은 데이터에서 중요한 패턴을 잘 찾아냄, 규칙도 잘 찾아내고, 의사결정을 잘하게 됨
3. Key components of deep learning (DMLA)
- 모델이 학습할 수 있는 Data
- Data를 transform할 수 있는 Model
- Model의 성능을 결정하는 Loss Function (Model을 어떻게 학습 할지)
- Loss를 최소화하는 parameter를 결정하는 Algorithm (Optimizer)
- MSE (Regression Task): mean squared error -> 굳이 제곱으로 설계한 이유 = 학습데이터에 error가 많이 꼈다면 그 데이터를 맞추려다가 전반적인 뉴럴 네트워크가 망가지게 됨 -> 원하는 target data를 찾는데 항상 도움이 안될수도 있음
- CE(Classification Task) : cross-entrophy -> 분류 문제의 output은 one-hot vector로 형성이 됨 (뉴럴 네트워크의 출력값 중에서 해당 차원에 해당하는 출력값을 높인다 = 다른 값들 대비 높기만 하면 됨)
- MLE(Probabilistic Task) : maximum-likelihood estimation-> output이 단순 숫자가 아니라 확률로 나타내고 싶을 때
728x90
