TABA Sep 16th

* 본 내용은 Tmax AI & Big Data Academy 최상일 교수님 연세대학교 인공지능학과 여진영 교수님 수업을 바탕으로 작성하였습니다

 

 

 

Natural Language Processing NLP 자연어 처리 

 

Artificual Intelligence > Machine Learning > Deep Learning

 

 

Machine Learning 의 형식적인 정의

 

 

Neuron 뉴런 :

- dendrite 는 다른 세포로부터 입력 정보를 받는다.

- axon 은 다른 뉴런으로의 전기적인 메시지를 보낸다.

 

이 뉴런을 인공적으로 만든 단위가 퍼셉트론이다.

 

 

 

Loss Optimization

 

x에서 y로 매핑을 할 때에, Weight 값을 설정하게 되는데, 각각의 레이어에서 넘어갈 때에 손실이 발생하게 된다. 그 손실을 가장 작게 만드는 W값을 찾는 과정이 Loss Optimization이다.

 

 

 

 

Overfitting

 

https://www.investopedia.com/terms/o/overfitting.asp#:~:text=What%20Is%20Overfitting%3F,to%20any%20other%20data%20sets.

How Overfitting Works

 

 

 

 

Regularization 정규화

 

 

RNN : Recurrent Neural Networks

 

Vanilla NN X Sequential Data

 

평균은 그렇게 좋은 것은 아니다. 가령 유튜브의 영상 추천 서비스를 생각해보면, 유튜브에서 추천해주는 영상은 나의 취향을 고려해서 추천을 해주지만, 만약에 어떤 사람의 취향이 바뀌더라도 나의 평균적인 취향은 기존의 취향에 더 가까울 것이기 떄문에, 새로운 취향에 대한 영상을 추천해주지 않을 것이다.

 

---

<예문>

앇 날씫돇 좋은덳 놁럯갃곣 싶닧 (아 날씨도 좋은데 놀러가고 싶다)

엯긳는 절댃롟 들얷갃짃맋섻욗 (여기는 절대로 들어가지 마세요)

 

위와 같은 예문이 존재한다고 했을 때, 우리나라 사람이라면 웬만하면 읽으면서 대충 이해를 하겠지만, 한국어를 청므 배우는 외국인은 이를 이해하기 쉽지 않을 것이다.

 

---

https://wikidocs.net/22886

1) 순환 신경망(Recurrent Neural Network, RNN)

 

RNN

 

 

 

RNN for Sentiment Classification 

 

 

 

LSTM Long Short Term Memory 

 

 

 

 

 

 

 

---

 

After Lunchtime

 

Text Classification 

 

.

 

 

 

 

.

 

 

---