로지스틱 회귀분석이란? 오즈·오즈비·시그모이드 함수와 범주형 종속변수 쉽게 이해하기

1장 로지스틱 회귀분석이란 무엇인가#

일반적인 선형회귀분석에서는 숫자로 된 연속적인 값을 예측합니다.

예를 들어:

집의 면적이 커지면 가격이 얼마나 올라갈까?

공부시간이 1시간 늘어나면 시험점수가 몇 점 올라갈까?

와 같은 문제입니다.

하지만 실제 분석에서는 숫자 자체보다 둘 중 하나의 결과를 예측해야 하는 경우가 많습니다.

예를 들어:

고객이 상품을 구매할 것인가?
대출을 상환할 것인가?
회원이 서비스를 이탈할 것인가?
이메일이 스팸인가?
환자가 특정 질병을 가지고 있는가?

이런 문제에서는 결과를 다음처럼 표현할 수 있습니다.

1 = Yes

0 = No

이러한 범주형 결과를 예측하는 대표적인 분석방법이 로지스틱 회귀 Logistic Regression입니다.

2장 로지스틱 회귀를 가장 쉽게 이해하면#

제공된 ADsP 학습자료에서는 로지스틱 회귀를 쉽게:

Yes/No를 예측하는 회귀분석

이라고 설명합니다.

일반 회귀와 비교하면 차이가 더 명확합니다.

일반 선형회귀#

키가 1cm 커지면 몸무게가 몇 kg 증가하는가?

결과:

숫자

로지스틱 회귀#

이 고객이 대출을 갚을 것인가?

결과:

Yes / No

따라서 가장 중요한 차이는 종속변수의 형태입니다.

3장 로지스틱 회귀의 종속변수는 범주형이다#

ADsP에서 매우 중요한 핵심입니다.

로지스틱 회귀분석의 종속변수는:

범주형

입니다.

대표적으로:

0 / 1
Yes / No
성공 / 실패
구매 / 미구매

처럼 두 범주로 표현할 수 있습니다.

제공된 학습자료에서는 이를 핵심 포인트로 강조합니다.

시험 함정#

로지스틱 회귀분석의 종속변수는 연속형이다.

틀립니다.

정답은:

범주형

입니다.

4장 선형회귀와 로지스틱 회귀의 차이#

구분	선형회귀	로지스틱 회귀
종속변수	연속형	범주형
예측 대상	숫자	범주·사건 발생 여부
예	매출액 예측	구매 여부
대표 결과	320만원	구매 확률 0.82
주요 변환	선형식	Sigmoid 함수

시험에서는 무엇보다:

연속형 → 선형회귀

범주형 → 로지스틱 회귀

로 구분하면 됩니다.

5장 왜 이름에 회귀가 있는데 분류에 사용하는가#

로지스틱 회귀는 이름에 Regression이 들어 있지만 실제로는 분류 문제에 많이 사용됩니다.

로지스틱 회귀모형은 먼저 특정 사건이 발생할 확률을 계산합니다.

예를 들어:

이 고객이 상품을 구매할 확률 = 0.82

와 같은 결과를 만듭니다.

그다음 일정 기준을 사용하여:

0.82 → 구매

0.23 → 미구매

처럼 분류할 수 있습니다.

즉 내부적으로는 확률을 계산하고, 그 확률을 이용해 범주를 결정합니다.

6장 확률 P란 무엇인가#

로지스틱 회귀에서 중요한 출발점이 확률 P입니다.

P는 특정 사건이 발생할 확률을 의미합니다.

예를 들어:

고객이 상품을 구매할 확률:

P = 0.8

이라면 구매 확률이 80%라는 의미입니다.

반대로 구매하지 않을 확률은:

1 − P

이므로:

1 − 0.8 = 0.2

즉 20%입니다.

7장 오즈 Odds란 무엇인가#

로지스틱 회귀에서 매우 중요한 개념이 오즈 Odds입니다.

오즈는:

사건이 발생할 확률을 발생하지 않을 확률과 비교한 비율

입니다.

공식은 다음과 같습니다.

Odds = P / (1 − P)

즉:

발생할 확률 ÷ 발생하지 않을 확률

입니다.

8장 오즈를 쉽게 이해하면#

제공된 학습자료에서는 오즈를:

찬성 대 반대 비율

처럼 설명합니다.

예를 들어 어떤 사건의 발생확률이:

P = 0.8

이라고 하겠습니다.

발생하지 않을 확률은:

1 − 0.8 = 0.2

입니다.

오즈는:

0.8 / 0.2 = 4

입니다.

즉:

4 : 1

비율로 사건이 발생하는 쪽의 가능성이 높다고 이해할 수 있습니다.

9장 확률과 오즈는 같은 값이 아니다#

시험에서 혼동하기 쉬운 부분입니다.

확률 0.8과 오즈 4는 같은 의미를 서로 다른 방식으로 표현한 것입니다.

확률#

0.8

→ 전체 중 80%

오즈#

→ 발생 : 미발생 = 4 : 1

따라서:

Probability ≠ Odds

입니다.

확률을 오즈로 바꾸려면 반드시:

P / (1 − P)

를 계산해야 합니다.

10장 확률이 0.5일 때 오즈는 얼마인가#

P = 0.5라면:

Odds = 0.5 / (1 − 0.5)

= 0.5 / 0.5

= 1

입니다.

따라서:

P = 0.5 → Odds = 1

입니다.

이는 사건 발생 가능성과 발생하지 않을 가능성이 같은 상태입니다.

11장 확률이 0.2일 때 오즈는 얼마인가#

P = 0.2라면:

1 − P = 0.8

입니다.

따라서:

Odds = 0.2 / 0.8

= 0.25

입니다.

오즈가 1보다 작다는 것은 발생하지 않을 쪽의 가능성이 상대적으로 크다는 의미로 이해할 수 있습니다.

12장 오즈의 크기를 어떻게 해석할까#

Odds = 1#

사건 발생과 미발생의 가능성이 동일

Odds > 1#

사건 발생 쪽이 상대적으로 큼

Odds < 1#

사건 미발생 쪽이 상대적으로 큼

예를 들어:

Odds = 4

라면 발생 : 미발생이 4 : 1이라는 의미입니다.

13장 오즈비 Odds Ratio란 무엇인가#

오즈비 Odds Ratio는 두 그룹의 오즈를 비교한 값입니다.

공식은:

OR = Odds₁ / Odds₂

입니다.

즉:

첫 번째 집단의 오즈가 두 번째 집단보다 얼마나 큰지 비교합니다.

예를 들어 남성과 여성의 특정 상품 구매 오즈를 비교하거나, 치료군과 대조군의 회복 오즈를 비교할 수 있습니다.

14장 오즈비 OR = 1의 의미#

OR = 1이라면:

두 그룹의 오즈가 동일하다

는 의미입니다.

예를 들어:

그룹 A Odds = 2

그룹 B Odds = 2

라면:

OR = 2 / 2 = 1

입니다.

따라서 두 집단 사이에 오즈 차이가 없습니다.

핵심#

OR = 1 → 두 그룹 동일

입니다.

15장 OR > 1의 의미#

OR이 1보다 크면 첫 번째 그룹의 오즈가 더 큽니다.

예를 들어:

OR = 2

라면 제공된 학습자료의 표현처럼 첫 번째 그룹의 오즈가 두 번째 그룹보다 2배 큽니다.

핵심#

OR > 1 → 첫 번째 그룹이 더 큼

입니다.

16장 OR < 1의 의미#

OR이 1보다 작다면 두 번째 그룹의 오즈가 더 큽니다.

예를 들어:

OR = 0.5

라면 첫 번째 그룹의 오즈가 두 번째 그룹보다 작다는 의미입니다.

반대로 생각하면 두 번째 그룹의 오즈가 상대적으로 더 큽니다.

핵심#

OR < 1 → 두 번째 그룹이 더 큼

입니다.

17장 오즈비 해석 한눈에 보기#

Odds Ratio	해석
OR = 1	두 그룹의 오즈가 같음
OR > 1	첫 번째 그룹의 오즈가 더 큼
OR < 1	두 번째 그룹의 오즈가 더 큼

시험에서는 숫자 계산보다 이 방향을 직접 물어볼 수 있습니다.

따라서:

1 = 같음

1보다 큼 = 앞쪽 큼

1보다 작음 = 뒤쪽 큼

으로 기억하면 쉽습니다.

18장 오즈비 계산 사례#

남성 그룹의 오즈가:

여성 그룹의 오즈가:

라고 하겠습니다.

오즈비는:

OR = 4 / 2

= 2

입니다.

따라서 첫 번째 그룹인 남성 그룹의 오즈가 여성 그룹보다 2배 크다고 해석합니다.

19장 확률부터 오즈비까지 계산해보기#

두 그룹의 사건 발생확률이 다음과 같다고 하겠습니다.

그룹 A#

P = 0.8

오즈:

0.8 / 0.2 = 4

그룹 B#

P = 0.5

오즈:

0.5 / 0.5 = 1

따라서:

OR = 4 / 1 = 4

입니다.

즉 A 그룹의 사건 발생 오즈가 B 그룹보다 4배 높다고 해석합니다.

20장 오즈비 2가 확률도 2배라는 뜻인가#

주의해야 합니다.

오즈가 2배라는 것과 확률이 정확히 2배라는 것은 같은 의미가 아닙니다.

오즈는:

P / (1 − P)

형태로 계산되기 때문입니다.

예를 들어:

확률 0.5

→ Odds = 1

확률 2배인 1.0은 일반적인 확률 비교로 사용할 수 없지만 Odds = 2에 해당하는 확률은 별도의 변환을 거쳐야 합니다.

따라서 시험에서는:

OR = 오즈의 비율

이라고 정확하게 기억하는 것이 중요합니다.

21장 로지스틱 회귀에서는 왜 확률을 바로 선형식으로 예측하지 않을까#

선형회귀식은 계산 결과가 어떤 실수값이든 나올 수 있습니다.

예를 들어 예측값이:

-0.3
0.6
1.4

같이 나올 수 있습니다.

하지만 확률은 반드시:

0 ≤ P ≤ 1

이어야 합니다.

확률이 -0.3이거나 1.4가 될 수는 없습니다.

따라서 로지스틱 회귀에서는 출력값을 0과 1 사이로 제한할 수 있는 변환이 필요합니다.

이 역할을 하는 것이 시그모이드 Sigmoid 함수입니다.

22장 시그모이드 Sigmoid 함수란 무엇인가#

시그모이드 함수는 어떤 입력값이 들어오더라도 결과를 0에서 1 사이의 값으로 변환하는 함수입니다.

따라서 로지스틱 회귀에서 결과를 확률처럼 해석할 수 있게 해줍니다.

입력이 매우 작은 음수이면 결과는 0에 가까워지고, 입력이 매우 큰 양수이면 결과는 1에 가까워집니다.

가운데에서는 부드럽게 변화합니다.

전체 모양은 영어 알파벳 S와 비슷하기 때문에 S자형 곡선으로 이해할 수 있습니다.

23장 왜 시그모이드가 로지스틱 회귀에 적합한가#

분류 문제에서는 결과를 확률로 표현하고 싶습니다.

예:

고객 A 구매 확률:

0.91

고객 B 구매 확률:

0.23

시그모이드는 모든 출력을 0~1 사이로 제한하므로 이러한 확률 표현에 적합합니다.

따라서 제공된 학습자료에서는:

로지스틱 회귀 → Sigmoid → 0~1

로 연결합니다.

24장 시그모이드 출력값을 어떻게 분류에 사용할까#

예를 들어 모델이 다음과 같은 확률을 출력했다고 하겠습니다.

고객 A:

0.82

고객 B:

0.31

분류 기준을 0.5라고 가정하면:

고객 A

→ 0.82 ≥ 0.5

→ 1로 분류

고객 B

→ 0.31 < 0.5

→ 0으로 분류

할 수 있습니다.

즉 로지스틱 회귀는 먼저 확률을 계산하고 이후 기준에 따라 범주를 결정하는 방식으로 이해할 수 있습니다.

25장 로지스틱 회귀 전체 흐름#

로지스틱 회귀를 매우 단순화하면 다음처럼 이해할 수 있습니다.

독립변수 입력

↓

선형 결합

↓

Sigmoid 적용

↓

0~1 사이 확률

↓

기준값을 이용한 분류

입니다.

예를 들어:

나이·소득·신용등급

↓

대출 상환 확률 계산

↓

0.87

↓

상환 가능 그룹

과 같이 사용할 수 있습니다.

26장 로지스틱 회귀와 선형회귀 비교 사례#

대출 데이터를 분석한다고 하겠습니다.

선형회귀 문제#

고객이 앞으로 상환할 금액은 얼마인가?

종속변수:

상환금액

→ 연속형

로지스틱 회귀 문제#

고객이 대출을 상환할 것인가?

종속변수:

상환 / 미상환

→ 범주형

같은 금융 데이터라도 무엇을 예측하느냐에 따라 분석방법이 달라질 수 있습니다.

27장 의료 데이터 사례#

환자의 데이터를 이용해 질병 여부를 예측한다고 하겠습니다.

독립변수:

나이
혈압
혈당
콜레스테롤

종속변수:

질병 있음 = 1

질병 없음 = 0

이 경우 종속변수가 범주형이므로 로지스틱 회귀를 사용할 수 있습니다.

모델은:

이 사람이 질병을 가질 확률

을 0과 1 사이로 계산합니다.

28장 고객 이탈 사례#

온라인 서비스에서 고객의 이탈 여부를 예측한다고 하겠습니다.

독립변수:

가입기간
최근 접속일
이용횟수
결제금액

종속변수:

이탈 = 1

유지 = 0

로 설정할 수 있습니다.

로지스틱 회귀 결과가:

0.92

라면 높은 이탈 가능성을 가진 고객으로 해석할 수 있습니다.

29장 로지스틱 회귀에서 0과 1의 의미#

0과 1 자체가 숫자처럼 보이기 때문에 종속변수가 연속형이라고 착각할 수 있습니다.

하지만 여기서 0과 1은 수량을 나타내는 연속적인 숫자가 아니라 범주를 나타내는 코드입니다.

예:

0 = 구매하지 않음

1 = 구매

입니다.

따라서 로지스틱 회귀의 종속변수는 여전히 범주형입니다.

30장 로지스틱 회귀의 회귀계수와 오즈#

로지스틱 회귀에서는 독립변수가 결과에 미치는 영향을 오즈 변화와 연결해 해석할 수 있습니다.

즉 단순히:

X가 1 증가하면 Y가 일정한 숫자만큼 증가한다.

는 선형회귀식 해석과는 다릅니다.

로지스틱 회귀에서는 사건이 발생할 가능성이 어떻게 달라지는지를 오즈와 오즈비의 관점에서 이해하는 것이 중요합니다.

ADsP에서는 특히:

Odds 공식
Odds Ratio 해석

을 명확히 기억하는 것이 핵심입니다.

31장 Odds와 Odds Ratio를 혼동하지 말자#

두 개념 이름이 비슷하지만 서로 다릅니다.

Odds#

한 그룹 내부에서:

발생확률 / 미발생확률

입니다.

Odds Ratio#

두 그룹 사이에서:

Odds₁ / Odds₂

입니다.

따라서:

Odds = 발생과 미발생 비교

Odds Ratio = 그룹과 그룹 비교

로 기억하면 쉽습니다.

32장 Probability·Odds·Odds Ratio 비교#

개념	의미
Probability	사건 발생 확률
Odds	발생확률과 미발생확률의 비
Odds Ratio	두 그룹의 Odds 비율

흐름으로 보면:

확률 P

↓

Odds = P / (1−P)

↓

OR = Odds₁ / Odds₂

입니다.

33장 ADsP 시험에서 자주 헷갈리는 함정#

함정 1. 로지스틱 회귀의 종속변수는 연속형이다#

틀립니다.

범주형입니다.

함정 2. 로지스틱 회귀는 연속적인 가격만 예측할 수 있다#

틀립니다.

0/1 등의 범주형 결과 예측에 사용합니다.

함정 3. Odds = P × (1−P)#

틀립니다.

정확한 공식은:

P / (1−P)

입니다.

함정 4. OR = 1이면 첫 번째 집단의 오즈가 더 크다#

틀립니다.

두 그룹의 오즈가 같습니다.

함정 5. OR > 1이면 두 번째 그룹의 오즈가 더 크다#

틀립니다.

첫 번째 그룹의 오즈가 더 큽니다.

함정 6. OR < 1이면 첫 번째 그룹의 오즈가 더 크다#

틀립니다.

두 번째 그룹의 오즈가 더 큽니다.

함정 7. 시그모이드 함수는 결과를 -1에서 1 사이로 만든다#

틀립니다.

제공된 학습자료에서는:

0 ~ 1

사이로 변환한다고 설명합니다.

함정 8. 0/1이라는 숫자를 사용하므로 종속변수는 연속형이다#

틀립니다.

0과 1은 범주를 나타냅니다.

34장 오즈 시험 직전 암기#

공식:

Odds = P / (1−P)

해석:

사건 발생 가능성 : 사건 미발생 가능성

P = 0.8#

Odds:

0.8 / 0.2

= 4

즉:

4 : 1

입니다.

한 줄로:

Odds = 된다 / 안 된다

의 비율이라고 기억할 수 있습니다.

35장 오즈비 시험 직전 암기#

공식:

OR = Odds₁ / Odds₂

OR = 1#

→ 같음

OR > 1#

→ 첫 번째 그룹 큼

OR < 1#

→ 두 번째 그룹 큼

암기:

1이면 동점

1보다 크면 앞

1보다 작으면 뒤

입니다.

36장 시그모이드 시험 직전 암기#

Sigmoid

→ 로지스틱 회귀

→ 결과를 0~1 사이로 변환

→ 확률로 해석

→ 범주 결정에 활용

한 줄로:

Sigmoid = 어떤 숫자든 확률 영역 0~1로

라고 기억하면 됩니다.

37장 선형회귀와 로지스틱 회귀 시험 직전 비교#

선형회귀#

종속변수:

연속형

예:

가격·점수·매출

로지스틱 회귀#

종속변수:

범주형

예:

0/1·Y/N·성공/실패

가장 중요한 한 줄은:

연속값 예측은 선형회귀, 사건 여부 예측은 로지스틱 회귀

입니다.

38장 로지스틱 회귀 핵심 비교표#

개념	핵심
로지스틱 회귀	범주형 종속변수 예측
종속변수	0/1·Y/N
Sigmoid	출력을 0~1로 변환
Probability	사건 발생 확률 P
Odds	P / (1−P)
Odds Ratio	Odds₁ / Odds₂
OR = 1	두 그룹 동일
OR > 1	첫 번째 그룹 오즈 큼
OR < 1	두 번째 그룹 오즈 큼

로지스틱 회귀분석 FAQ#

로지스틱 회귀분석이란 무엇인가#

0/1, Yes/No처럼 범주형 결과를 예측하는 데 사용하는 회귀분석 방법입니다.

로지스틱 회귀분석의 종속변수는 무엇인가#

범주형 변수입니다.

선형회귀와 가장 큰 차이는 무엇인가#

선형회귀는 연속형 종속변수를 다루고 로지스틱 회귀는 범주형 종속변수를 다룹니다.

오즈 Odds란 무엇인가#

사건이 발생할 확률을 사건이 발생하지 않을 확률로 나눈 값입니다.

오즈 공식은 무엇인가#

Odds = P / (1−P)

입니다.

사건 발생확률이 0.8이면 오즈는 얼마인가#

0.8 / 0.2 = 4이므로 오즈는 4입니다.

확률과 오즈는 같은가#

아닙니다.

확률은 전체에서 사건이 발생할 가능성이고, 오즈는 발생확률과 미발생확률의 비율입니다.

오즈비 Odds Ratio란 무엇인가#

두 그룹의 오즈를 비교하는 값입니다.

오즈비 공식은 무엇인가#

OR = Odds₁ / Odds₂

입니다.

OR = 1이면 무엇을 의미하는가#

두 그룹의 오즈가 같습니다.

OR > 1이면 무엇을 의미하는가#

첫 번째 그룹의 오즈가 두 번째 그룹보다 큽니다.

OR < 1이면 무엇을 의미하는가#

두 번째 그룹의 오즈가 첫 번째 그룹보다 큽니다.

시그모이드 함수는 무엇을 하는가#

로지스틱 회귀의 출력을 0과 1 사이 값으로 변환하여 확률로 해석할 수 있게 합니다.

로지스틱 회귀는 왜 분류에 사용할 수 있는가#

0~1 사이의 확률을 계산한 뒤 일정한 기준을 이용해 0 또는 1 등의 범주로 결정할 수 있기 때문입니다.

로지스틱 회귀에서 0과 1은 연속형 숫자인가#

아닙니다.

0과 1은 각각 서로 다른 범주를 표현하는 값으로 사용합니다.

자기 점검#

다음 질문에 바로 답할 수 있는지 확인해봅니다.

로지스틱 회귀가 어떤 문제에 사용되는지 설명할 수 있는가?
로지스틱 회귀의 종속변수가 범주형이라는 것을 알고 있는가?
선형회귀와 로지스틱 회귀의 차이를 설명할 수 있는가?
Odds 공식을 기억하고 있는가?
P = 0.8일 때 Odds = 4를 계산할 수 있는가?
Odds와 Probability를 구분할 수 있는가?
Odds Ratio 공식을 알고 있는가?
OR = 1을 해석할 수 있는가?
OR > 1을 해석할 수 있는가?
OR < 1을 해석할 수 있는가?
오즈가 2배라는 것과 확률이 2배라는 것이 같은 의미가 아니라는 것을 알고 있는가?
Sigmoid 함수의 역할을 설명할 수 있는가?
Sigmoid 출력 범위가 0~1이라는 것을 알고 있는가?
0과 1이 범주를 나타낸다는 것을 알고 있는가?

이 글을 마치며#

로지스틱 회귀를 이해하는 가장 중요한 출발점은 종속변수의 형태입니다.

선형회귀는:

연속형 숫자

를 예측합니다.

로지스틱 회귀는:

0/1·Yes/No 같은 범주형 결과

를 예측합니다.

그리고 로지스틱 회귀에서는 사건 발생 가능성을 다루기 위해 오즈 Odds를 사용합니다.

공식은:

Odds = P / (1−P)

입니다.

두 그룹의 오즈를 비교하는 것이:

Odds Ratio = Odds₁ / Odds₂

입니다.

해석은:

OR = 1 → 같음

OR > 1 → 첫 번째 그룹의 오즈가 큼

OR < 1 → 두 번째 그룹의 오즈가 큼

입니다.

그리고 로지스틱 회귀에서는 Sigmoid 함수를 사용하여 결과를 0과 1 사이의 값으로 변환합니다.

따라서 시험 직전에는 다음 네 줄로 압축해 기억하면 됩니다.

로지스틱 회귀 = 범주형 종속변수

Odds = P / (1−P)

OR = Odds₁ / Odds₂

Sigmoid = 출력을 0~1 사이 확률로 변환