-
시그모이드 함수의 역할
- 가장 왼쪽 뉴런이 선형 함수
- z는 활성화 함수를 통과하여 a가 된다
- 시그모이드 함수는 z를 0~1 사이의 확률값으로 변환시켜주는 역할
- 시그모이드 함수가 만들어지는 과정
오즈 비 > 로짓 함수 > 시그모이드 함수 |
- 오즈 비란?
- 시그모이드 함수는 오즈 비(odds ratio)라는 통계를 기반으로 생성
- 오즈 비는 성공 확률과 실패 확률의 비율을 나타내는 통계
- p가 0부터 1까지 증가할 때 오즈 비의 값을 처음에는 천천히 증가하지만 p가 1에 가까워지면 급격히 증가
- 로짓 함수란?
- 오즈 비에 로그 함수를 취하여 만든 함수를 로짓 함수(logit function)
- p가 0.5일때 0이 되고 p가 0과 1일때 각각 무한대로 음수와 양수가 되는 특징
- 세로 축을 z, 가로 축을 p로 놓을때 확률 p가 0에서 1까지 변할 때 z가 매우 큰 음수에서 매우 큰 양수까지 변화
- 로지스틱 함수란?
- 위 식을 다시 z에 대하여 정리 한다.
- 이유는 가로 축을 z로 놓기 위함
== 로지스틱 함수의 유도 과정 == |
- 로짓 함수의 가로와 세로 축을 반대로 뒤집어 놓은 모양
- == 시그모이드 함수라 명명
'AI' 카테고리의 다른 글
4-4 분류용 데이터 세트 (0) | 2020.11.18 |
---|---|
4-3 로지스틱 손실 함수를 경사 하강법에 적용 (0) | 2020.11.18 |
4-1 초기 인공지능 알고리즘, 로지스틱 회귀 (0) | 2020.11.18 |
3-4 선형 회귀를 위한 뉴런 만들기 (0) | 2020.11.18 |
3-3 손실 함수와 경사 하강법의 관계 (0) | 2020.11.17 |