AI & BigData
[AI] Activation function - Step function | 활성화 함수 - 계단 함수
Activation function - Step function 퍼셉트론 내에서의 계단 함수(Step function in perceptron) 활성화 함수 중 계단 함수를 살펴보기 전, 아래의 그림은 앞서 학습한 퍼셉트론의 그림이다. 퍼셉트론의 동작 과정에서 마지막에 가중합이 임계값(θ)보다 클 경우 1을 출력하고, 그렇지 않다면 0을 출력한다고 하였는데, 이때 사용되는 가장 기초적인 활성화 함수가 바로 계단 함수이다. 계단 함수(Step function) 정의 계단함수는 활성화 함수중에 가장 간단한 함수 특정한 값을 입력받았을때, 음수이면 무조건 0을, 0을 초과하면 1을 출력해 주는 함수 계단 함수는 굉장히 극적으로 모양이 변함 → 데이터의 손실이 발생할 가능성이 굉장히 높음 따라서 초기에는 많이 ..
2023. 5. 1. 22:33