Deep Learning8 [GAN] Generative Adversarial Network 논문 정리 이번주에 정리할 논문은 바로 GAN이다. Generative Adversarial Network (GAN) 🔥등장 배경 지난 주 논문에서 등장한 모델인 VAE는 data likelihood를 maximization하기 위해서 여러가지 trick들을 이용했다. 원래 generator를 만들기 위해서 decoder를 붙여주고 완벽하게 최적화할 수 없는 부분은 버리고 Lower Bound를 optimization하는 방법을 활용했다. → 그러나 이렇게 푸는 것은 너무 복잡하다. 왜? VAE는 경험적으로 모델을 만든 것이 아니고, 수학적으로 증명을 시작해서 모델을 만든 것이기 때문. 즉 하려고 했던 것이 원래 모델의 density를 정확하게 모델링하고 싶었던 것 → 근데 그렇게 하지말고 좀 더 practical.. 2021. 4. 4. [VAE] Auto-Encoding Variational Bayes 논문 정리(1) 오늘은 VAE 논문을 정리해보려고 한다. 지난번에 정리했던 ResNet 논문에 비해서 수식이 굉장히 많이 나오고, 통계지식들이 많이 요해지는 논문이라서 개인적으로 이해하는데 굉장히 오래걸렸다.. 🔥 AE vs VAE 일단 VAE를 살펴보기 전에 먼저, VAE 모델의 기본 구조인 오토인코더에 대해서 살펴보자. 오토인코더는 이와 같이 인코더, 디코더, 그리고 latent variable인 z로 구성이 되어있다. 어떤 input이 들어오면 인코더에서는 차원축소가 일어나고, 축소된 z가 decoder로 들어가면 다시 input형태로 복원된 output이 나오게 된다. 이때 이 오토인코더의 목적은 차원축소이기 때문에 왼쪽의 인코더를 학습하기 위해서 디코더는 그냥 따라붙은 그러한 형태라고 생각할 수 있다. 이번엔 .. 2021. 4. 1. [ResNet] Deep Residual for Image Recognition 논문 정리 보아즈 논문 스터디가 시작되었다. 매주 논문을 읽고 정리해 블로그에 이해한 선 안에서 최대한 자세히 정리해서 올리려고 한다 :) 먼저 나는 Image generator 조에 속하게 되었고, 첫주차에 읽은 논문은 바로 ResNet 논문이다. 🔥Introduction 'Deep Residual for Image Recognition' 논문은 2016년 CVPR에서 발표된 논문으로, 뛰어난 이미지 인식 성능과 쉽고 간단한 기본 아이디어로 인해 지금까지도 매우 좋은 논문으로 평가되어 왔다. 🔥background 먼저 이러한 ResNet에 대해 살펴보기 전 이러한 모델이 제안되어진 배경에 대해 살펴보자. 위의 그림은 기존의 CNN모델을 간단하게 그려놓은 것이다. 여기서 살펴볼 수 있듯이 기존의 CNN모델은 위와 .. 2021. 3. 15. [머신러닝 분류] Decision Tree / 의사결정트리 머신러닝을 접해본 사람들이라면 아마 한번쯤은 들어본 적이 있을거라고 생각되는 Decision Tree 알고리즘에 대해 다뤄보고자 한다. 학교수업을 통해서 여러번 배워본 적이 있지만, 항상 지나고 나면 잊어버리기 때문에(...) 이번 보아즈 분석 세션과 멘토멘티 스터디를 통해 배운 내용들을 토대로 기록을 남겨보고자 한다. 우선 DecisionTree는 머신러닝 알고리즘이므로 머신러닝의 큰 틀에서부터 시작해보자. 먼저, '머신러닝'을 사람이 감독하는가 그렇지 않은가로 나누어 보자. 이때 사람이 감독하는 학습을 지도학습, 사람이 감독하지 않는 학습을 비지도 학습이라고 한다. 우리는 이러한 두가지 학습 중 지도학습에 대해 살펴볼것이다. 지도학습은 알고리즘에 주입하는 훈련데이터에 레이블이라고 하는 원하는 답이 포.. 2021. 2. 15. 이전 1 2 다음
