AI Fundamentals/혁펜하임의 AI DEEP DIVE

AI Fundamentals/혁펜하임의 AI DEEP DIVE

[AI DEEP DIVE] Chapter 9.3: Transformer

https://fastcampus.co.kr/data_online_aideep 혁펜하임의 AI DEEP DIVE (Online.) | 패스트캠퍼스 카이스트 박사, 삼성전자 연구원 출신 인플루언서 혁펜하임과 함께하는 AI 딥러닝 강의! 필수 기초 수학 이론과 인공지능 핵심 이론을 넘어 모델 실습 리뷰까지 확장된 커리큘럼으로 기초 학습 fastcampus.co.kr 1. Transformer Seq2Seq with Attention Encoder, Decoder, Attention Module로 구성 Decoder의 각 Time step에서부터 Encoder의 원하는 Hidden State Vector들 중 원하는 정보를 그때그때 가져가는 Attention Module이 추가됨 Encoder와 Decoder..

AI Fundamentals/혁펜하임의 AI DEEP DIVE

[AI DEEP DIVE] Chapter 9.2: RNN (Seq2Seq, Seq2Seq with Attention )

https://fastcampus.co.kr/data_online_aideep 혁펜하임의 AI DEEP DIVE (Online.) | 패스트캠퍼스 카이스트 박사, 삼성전자 연구원 출신 인플루언서 혁펜하임과 함께하는 AI 딥러닝 강의! 필수 기초 수학 이론과 인공지능 핵심 이론을 넘어 모델 실습 리뷰까지 확장된 커리큘럼으로 기초 학습 fastcampus.co.kr 1. Seq2Seq Original Seq2Seq Model 앞에서 제시한 5가지 유형 중 Many to Many에 해당된다 (입력, 출력이 모두 sequence 형태인 연속적인 데이터가 들어옴) 하나하나 cell인 plain RNN에서 발전된 형태인 LSTM(Long Short Term Memory)이나 GRU(Gated Recurrent Un..

AI Fundamentals/혁펜하임의 AI DEEP DIVE

[AI DEEP DIVE] Chapter 9.1: RNN (Recurrent Neural Network, RNN Backpropagation, plain RNN)

https://fastcampus.co.kr/data_online_aideep 혁펜하임의 AI DEEP DIVE (Online.) | 패스트캠퍼스 카이스트 박사, 삼성전자 연구원 출신 인플루언서 혁펜하임과 함께하는 AI 딥러닝 강의! 필수 기초 수학 이론과 인공지능 핵심 이론을 넘어 모델 실습 리뷰까지 확장된 커리큘럼으로 기초 학습 fastcampus.co.kr 1. RNN (Recurrent Neural Network) Background 자연어라는 data가 특정한 순서를 가지고 들어오는 입력 data라는 것에 착안하여, sequence data(순서가 있는 연속적인 데이터)를 처리할 수 있는 핵심요소 RNN을 기반으로 입력, 출력이 sequence로 주어지는 Seq2Seq라는 Task 그에 대한 s..

AI Fundamentals/혁펜하임의 AI DEEP DIVE

[AI DEEP DIVE] Chapter 1.11: Gradient - Steepest Ascent

https://fastcampus.co.kr/data_online_aideep 혁펜하임의 AI DEEP DIVE (Online.) | 패스트캠퍼스 카이스트 박사, 삼성전자 연구원 출신 인플루언서 혁펜하임과 함께하는 AI 딥러닝 강의! 필수 기초 수학 이론과 인공지능 핵심 이론을 넘어 모델 실습 리뷰까지 확장된 커리큘럼으로 기초 학습 fastcampus.co.kr 1. Taylor Series 전개 Multivariate Scalar Function $L(\textbf{w})$를 $\textbf{w} = \textbf{w}_{k}$에서 1차항까지만 Taylor Series 전개하자 $\textbf{w}_{k} = \left [ \textbf{w}_{k, 1}, \textbf{w}_{k, 2}, \cdots..

AI Fundamentals/혁펜하임의 AI DEEP DIVE

[AI DEEP DIVE] Chapter 1.10: Multivariate Scalar Functions

https://fastcampus.co.kr/data_online_aideep 혁펜하임의 AI DEEP DIVE (Online.) | 패스트캠퍼스 카이스트 박사, 삼성전자 연구원 출신 인플루언서 혁펜하임과 함께하는 AI 딥러닝 강의! 필수 기초 수학 이론과 인공지능 핵심 이론을 넘어 모델 실습 리뷰까지 확장된 커리큘럼으로 기초 학습 fastcampus.co.kr 1. Multivariate Scalar Function (다변수 스칼라함수 = 벡터변수 스칼라함수) 목적함수 (손실함수, 비용함수): 함수값을 줄이면 어떠한 목적이 달성되는 함수 대부분의 ML 알고리즘은 목적함수의 최소값을 만드는 point를 찾아내는 과정을 거침 목적함수들이 다변수 스칼라함수 입력이 여러 개이고 출력이 하나인 함수 Input:..

AI Fundamentals/혁펜하임의 AI DEEP DIVE

[AI DEEP DIVE] Chapter 1 (Special) : Various Functions

https://fastcampus.co.kr/data_online_aideep 혁펜하임의 AI DEEP DIVE (Online.) | 패스트캠퍼스 카이스트 박사, 삼성전자 연구원 출신 인플루언서 혁펜하임과 함께하는 AI 딥러닝 강의! 필수 기초 수학 이론과 인공지능 핵심 이론을 넘어 모델 실습 리뷰까지 확장된 커리큘럼으로 기초 학습 fastcampus.co.kr m 입력과 출력에 따른 함수의 분류 스칼라 : 크기만을 가지는 값, 숫자 하나로 표현되는 값 ex)재산, 온도의 크기 벡터 : 크기와 방향을 모두 가지는 값, 숫자 여러 개인 값, 벡터는 기본적으로 열벡터 ex) 속도 일변수 스칼라함수, 일변수 벡터함수, 다변수 스칼라함수, 다변수 벡터함수 2. Univariate Scalar Function (..

Jae.
'AI Fundamentals/혁펜하임의 AI DEEP DIVE' 카테고리의 글 목록