TABA Sep 14th

* 본 내용은 Tmax AI & Big Data Academy 최상일 교수님의 수업을 바탕으로 작성하였습니다

인공지능과 딥러닝 입문

 

 

언더피팅과 오버피팅

 

데이터의 일반적인 특징을 추출하는 것이 머신러닝의 목표.

 

 

High Bias (편향) <-------------------------------> High Variance

너무 적은 수의 특징을 학습 <----------------------------> 너무 많은 수의 특징을 학습

 

 

데이터 증식 (data augmentation)

---

 

 

 

---

 

오버피팅의 해결 : 정규화 (regularization)

 

- L2 정규화 

 

Gradient Descent : 미분의 값은 0에 가까워지고, 최적값에 점점 더 가까워진다.

 

Weight decay => 특정 가중치가 비정상적으로 커져서 학습에 영향을 주는 것을 방지

 

 

 

2. 인공지능 기술의 역사

 

 

3. 인공 신경망

 

인공 신경망 : 인간 뇌를 기반으로 한 추론 모델

- 인공 신경망의 주요 특징 : 적응성

- 뉴런 : 기본적인 정보처리 단위

 

인간 뇌의 특징 :

1. 100억개의 뉴런과 뉴런을 각각 연결하는 6조개의 시냅스의 결합체

2. 시냅스를 통해 신호를 주고 받음으로써 정보를 저장하고 학습

3. 현존하는 어떤 컴퓨터보다 빠르게 기능을 수행

4. 비선형적, 병렬적 정보 처리 시스템

5. 정보가 신경망 전체에 동시에 저장되고 처리

6. 경험을 통한 학습 능력

7. '잘못된 답'으로 이끄는 뉴런들 사이의 연결은 약화, '올바른 답'으로 이끄는 연결은 강화

 

 

퍼셉트론 (perceptron)

단일 뉴론의 학습.

간단한 인공 신경망 학습 알고리즘

신경망의 가장 간단한 형태이다.

조정 가능한 시냅스 가중치(선형 결합기)와 하드 리미터(hard limiter)를 포함한 단이 ㄹ뉴런으로 구성

 

 

---