편미분
-
활성화 함수 - 시그모이드 함수(Sigmoid function) 란?Deep Learning (DL) 2022. 10. 29. 02:19
활성화 함수(Activation function) 활성화 함수는 가중 합의 출력 값이 입력되었을 때, 그대로 출력 하지 않고 값을 증폭 시키거나, 감소 시키는 등 얼마 만큼의 신호로 출력 할 지 정해주는 함수이다. 2. 시그모이드 함수 계단 함수의 신호를 컴퓨터가 받기에는 제한되는 부분이 있어 (임계 값 지점에서 미분이 불가능하고, 나머지 지점에서는 미분 값이 0 이 나옴) 이를 개선하기 위하여 시그모이드 함수가 고안되었다. (계단 함수를 활성화 함수로 채택하면 학습이 제대로 이루어 지지 않음) 시그모이드 함수는 1 과 0 두 가지 분류인 2진 분류 문제 적합한 함수이다. 계단 함수의 그래프와 유사하지만 부드러움이 추가된 곡선의 형태를 띄고 있다. 계단 함수처럼 임계 값 ( 0 ) 보다 작은 부분은 0 ..