끄-적끄적🍋

Transformer 정리 포스트 #01먼저, 논문 리뷰를 시작으로 Tansformer의 Key word를 중심으로 자세히 정리해서 포스팅해보려 한다.>> 논문 링크  Attention Is All You NeedThe dominant sequence transduction models are based on complex recurrent or convolutional neural networks in an encoder-decoder configuration. The best performing models also connect the encoder and decoder through an attention mechanism. We propose a newarxiv.org1. Introduction..

부스트캠프가 벌써 3주차라니.. 사실 주어지는 자료나 공부할 내용이 많아서 정신없이 하다 보면 일주일이 훌쩍 지나있는 느낌이다.저번주까지만 해도 강의 정도로 시간을 들여서'아 부스트캠프는 과제로 얻어가는 게 많은 코스인가 보다!' 했는데이번주는 강의 분량으로 휘몰아쳤다..ㅎㅎ매주 예측할 수 없는 부스트캠프^^...아무래도 매주 강의와 과제를 담당하시는 교수님, 조교님이 달라서 매번 스타일이 다른가보다.이번주는 Deep Learning Basic이라는 제목으로 강의를 들었는데(물론 Data Visualization 강의도 열어주셨지만 이번주는 DL 내용위주로 정리할 것이다)MLP→CNN→RNN→Transformer→Generative model 순서로 딥러닝 모델의 구조와 수학 모델, 코드 구현에 대해 ..