반응형
Activation function - Step function
퍼셉트론 내에서의 계단 함수(Step function in perceptron)
활성화 함수 중 계단 함수를 살펴보기 전, 아래의 그림은 앞서 학습한 퍼셉트론의 그림이다.
퍼셉트론의 동작 과정에서 마지막에 가중합이 임계값(θ)보다 클 경우 1을 출력하고, 그렇지 않다면 0을 출력한다고 하였는데, 이때 사용되는 가장 기초적인 활성화 함수가 바로 계단 함수이다.
계단 함수(Step function)
정의
계단함수는 활성화 함수중에 가장 간단한 함수
특정한 값을 입력받았을때, 음수이면 무조건 0을, 0을 초과하면 1을 출력해 주는 함수
계단 함수는 굉장히 극적으로 모양이 변함 → 데이터의 손실이 발생할 가능성이 굉장히 높음
따라서 초기에는 많이 사용되었지만, 현재는 거의 사용되지 않음
그리고 불연속 함수이기 때문에 미분이 불가능하여 딥러닝 모델을 학습에 어려움이 있음
'AI & BigData' 카테고리의 다른 글
| [Data Analysis] 판다스 - 시리즈, 데이터프레임 (0) | 2023.05.03 |
|---|---|
| [AI] MNIST 숫자 인식 인공지능 만들기 (1) | 2023.05.03 |
| [AI] Activation function - Sigmoid function | 활성화 함수 - 시그모이드 함수 (0) | 2023.04.29 |
| [AI] 인공신경망(Artificial Neural Network) - 퍼셉트론(Perceptron) (0) | 2023.04.29 |
| [BigData] 빅데이터의 5가지 특성 - 5V (0) | 2023.04.28 |