Summary 🤙
Deep Learning에 대한 기초적인 강의들로 구성이 되었다. 또한 최근 연구 동향과 여러가지 논문들에 대한 소개도 같이 포함되었다.
Keywords 👀
- DL/ML; Deep Learning - Intro
- DL/ML; Optimization - Important Concept
- DL/ML; Gradient Descent Methods
- DL/ML; Regularization
- DL/ML; CNN - Intro
- DL/ML; Modern CNN (TODO)
- DL/ML; CV Application (TODO)
- DL/ML; RNN - Intro(TODO)
- DL/ML; Transformer - Intro(TODO)
- DL/ML; Generative Model (TODO)
- DL/ML; GAN - Intro (TODO)
Tasks 🤷
Topic of Peer Session 🧑🏫
- AR-Model과 RNN 모델의 유사성 (TODO)
- $cost = bias^2 + variance + \epsilon$ 식 유도
- 실제 수식이 일부 상이할 수 있어 pytorch 공식 문서를 같이 참고
- Bagging, Boosting, Stacking 차이점, XGBost, LightGBM
- CNN 시각화
- BatchNorm의 구체적인 효과
- positional encoding의 의미
- self-attention에서 K,V 벡터가 어떻게 학습되는지
- embedding 벡터의 의미
- MHA의 decoder의 query 데이터는 어디로부터 시작되는지
Retrospective 👍
- 한번에 이해하려 노력하기보다 적어도 2번 이상 반복하여 자연스럽게 받아드릴수 있도록하자.
- 작은 것이라도 스스로 설명하는 연습을 하자. (피어세션을 통해)
- 성윤 마스터님과의 멘토링
- 프로덕트 serving에 대한 인사이트 확장
- 엔지니어링 관점에서의 딥러닝 커뮤니티 추천
- Tensorflow KR
- Pytorch KR
- MLOps KR
- 캠퍼로서 취업을 위해 주목할 키워드
- 가장 중요한 것은 현재 공부하는 내용에 대한 충분한 이해
- 주말이나 자투리 시간을 활용해 큰 방향에 대한 설정을 지속적으로 하면 좋을것 같다는 나의 생각
- 오늘 이해하지 못한 부분은 최대한 미루지 말자