딥러닝 - 로지스틱 & 소프트맥스 & 크로스 엔트로피

로지스틱 회귀 회귀(연속)와 분류(비연속) 모두 포함되는 알고리즘 샘플이 특정 클래스에 속할 확률을 추정 동작방식 : 선형회귀와 같이 각 특성의 가중치의 합에 편향을 더한 값에 로지스틱을 출력합니다. logistic : 0과 1사이의 값을 출력하는 sigmoid function x( logit or log-odds) : 실패에 대한 성공에 로그를 취한 값이다. odds = p / (1-p) ( 양성 클래스 추정 확률 / 음성 클래스 추정 확률 ) log-odds : odds의 로그 값 로그 손실(Log loss) : 각 데이터 세트의 비용 함수( 각 추정 확률 로그값 )를 평균한 값 (p(y) : 성공 클래스에 대한 추정 확률 ) 비용 함수 최적화: 정규방정식 : 존재하지 않음 GD : 경사 하강법으로 ..