본문 바로가기

AI4

[RNN/LSTM/GRU] Recurrent Neural Network 순환신경망 지난 스터디 때 만든 RNN 발표ppt 정리! '파이토치 첫걸음'책을 이용해 진행하는 스터디인데 RNN, LSTM, GRU 이 세가지 모델이 한 chapter안에 굉장히 간단하게 요약되어 있다.. !! 일단 정리는 함께 했지만 여기서 LSTM, GRU는 간단히 정리하고 나중에 더 자세히 정리해야할 듯,,하다! 순환신경망의 등장 배경 오늘 살펴보게 되는 내용은 Recurrent neural network 즉 순환신경망이라고 불리는 RNN이라는 모델이다. 본격적으로 순환신경망 즉 RNN이 어떻게 동작하는 모델인지에 대해 살펴보기 이전에 이런 모델이 어떻게 등장하게 되었는지, 어떤 데이터들을 처리할 때 사용될 수 있는지를 먼저 짚고 넘어가보자. 우리가 사용하는 데이터 중에서는 Sequence data 가 굉장.. 2021. 11. 10.
[CNN] Convolution Neural Network 정리 발제를 위해 만들었던 ppt를 이용해 CNN에 대해 정리해보고자 한다 자료는 앤드류응 교수님의 CNN 강의를 참고했다. Computer Vision and Deep learning 본격적인 내용에 들어가기에 앞서서 이제 이 CNN 이 어떻게 등장하게 되었는지 , 간단히 컴퓨터 비전을 통해서 한번 살펴보자. 이 컴퓨터 비전은 말그대로 컴퓨터가 사진이나 영상을 즉 이 미지 이용을 해서 하는 모든 것들을 일컫는 말이고 최근 딥러닝의 발전 영역에 있어서 가장 두각 을 나타내는 그러한 분야 중에 하나다. 이 컴퓨터 비전은 이제 얼굴인식이나 예술 등 분야를 가리지않고 다양한 곳에서 응용이 되고 있는데, 대표적으로 주로 다루는 문제 세가지를 살펴보자. 첫 번째로 어떤 사진이 들어왔을 때 여기서는 고양이 사진을 예시로.. 2021. 9. 20.
[정보이론] Entropy, Cross Entropy, KL-divergence 이해하기 논문들을 읽다보니 Entropy, Cross Entropy, KL-divergence에 대한 개념이 많이 등장하는데 항상 그 개념이 헷갈려서 정확히 짚고 넘어가보려고 한다. 그럼 먼저 Entropy의 개념부터 천천히 살펴보도록 하자. 정보량 & Entropy Entropy를 한문장으로 정의해보자면, 바로 정보를 표현하는데 필요한 최소 평균 자원량이다. 자 이게 무슨말일까? 먼저 정보를 표현한다는 말을 해석해보자. 이 세상에는 수많은 정보들이 넘쳐나고 있다. 지금 이 블로글 글도 어떤 정보를 전달하고 있는 것이고, 우리 삶에서 빠질 수 없는 카카오톡, 문자 등등 인간은 매일매일 정보를 교환하며 살아가고 있다. 정보량 정보이론이라는 학문은 이러한 시그널에 존재하는 정보의 양을 측정하는 응용수학의 한 갈래이다.. 2021. 4. 19.
[머신러닝 분류] Decision Tree / 의사결정트리 머신러닝을 접해본 사람들이라면 아마 한번쯤은 들어본 적이 있을거라고 생각되는 Decision Tree 알고리즘에 대해 다뤄보고자 한다. 학교수업을 통해서 여러번 배워본 적이 있지만, 항상 지나고 나면 잊어버리기 때문에(...) 이번 보아즈 분석 세션과 멘토멘티 스터디를 통해 배운 내용들을 토대로 기록을 남겨보고자 한다. 우선 DecisionTree는 머신러닝 알고리즘이므로 머신러닝의 큰 틀에서부터 시작해보자. 먼저, '머신러닝'을 사람이 감독하는가 그렇지 않은가로 나누어 보자. 이때 사람이 감독하는 학습을 지도학습, 사람이 감독하지 않는 학습을 비지도 학습이라고 한다. 우리는 이러한 두가지 학습 중 지도학습에 대해 살펴볼것이다. 지도학습은 알고리즘에 주입하는 훈련데이터에 레이블이라고 하는 원하는 답이 포.. 2021. 2. 15.