이번 글은 저번 편에서 의문이 들만한 점들을 짚어주고 수식을 약간 사용할거야.

https://www.dogdrip.net/398692671

아직 안 읽었다면 꼭 읽고 오길 바래!

 

1. 왜 Q를 사용했을까? 현실 세계의 오류를 반영하면 되잖아.

 

이전 글에서 Q, 그러니까 확률값이 없는 정답을 사용하는 이유에 대해 잘 설명하지 않았던것 같아.

좀 더 정확하게 얘기하자면, 우리가 얻을 수 있는 데이터는 이 데이터밖에 없기 때문이야.

 

가령 동전을 던지는 상황을 예로 들어보자. 동전을 던지면 앞면 혹은 뒷면이 나오게 돼.

그렇다면 이 동전의 P는 뭘까?

다들 너무나 당연히 알고 있지?

 

동전의 P = {앞면 = 50%, 뒷면 = 50%}

 

그렇지만 우리는 머신러닝을 사용한다고 했잖아. 그럼 마찬가지로 수학문제와 정답을 알려줘야 해.

여기서는 문제와 정답이 뭘까? 혹시 정답이 P 아니냐고 할 수 있는데 헷갈리면 안돼. 여기서는 

수학문제 : 던지는 행위, 정답 : 앞/뒤 여부

야. 문제는 어떻게 보면 조건에 가깝다고도 할 수 있겠네.

 

그럼 좀 이해가 돼? 우리는 동전을 던져서 앞 뒤가 몇번 나왔는지를 보고 동전의 P를 짐작해야 해.

이게 바로 머신러닝이자 딥러닝인거야. 

그러면 이 문제는 동전을 몇 번 던지느냐에 따라 정답률이 나오게 되겠지.

아니면, 동전을 우연히 100번 던져도 100번 다 앞면이 나와버릴 수도 있어.

그럼 이게 '동전을 던지는 행위'인걸 모른다고 가정할 땐, 당연히

 

추정된 동전의 P~ = {앞면 = 100%, 뒷면 = 0%}

 

가 되는거야.

동전은 아무 잘못이 없어. 순전히 확률에 의해 던져진것 뿐인걸?

단지 아주 낮은 확률로 100번을 던질 때 100번 다 앞면이 나와버린 것 뿐이고, 이 데이터를 얻은 개붕이는

P~를 저렇게 추정해버린 것 뿐이야.

이렇게 얻은 데이터를 기반으로 제일 가능성이 높은 P~를 추정하는 것이 바로

Maximum Likelihood Estimation (줄여서 MLE) 과 Monte Carlo method를 섞은 방법이야.

(* MLE를 정확하게 수행하는 방법은 무한개의 데이터에 대한 적분이므로, 유한개의 데이터를 사용한 Summation으로 문제전환하는 것이 Monte Carlo method)

 

그럼 이렇게 질문하는 개붕이들이 있을수 있겠어.

내가 이전 글에서 썼던 오류는 그렇다면 순전히 확률에 의한 거잖아.

그건 엄밀하게 오류라고 볼 수 없지. 위 재수없는 동전 사례랑 똑같은거잖아.

단지 재수없는 동전은 P라는 규칙에 따른거고, 정말 재수없는 개붕이는 그 데이터를 얻어버린거고.

현실 세계에서도 똑같은거 아냐? 이 오류란건 개붕이의 데이터가 재수없을 뿐이지.

 

맞아. 전편에서 말했던 오류는 실제론 오류가 아니야. 순전히 확률에 의거한거지.

그럼 이전 글에서 사용했던 소제목 어그로도 수정해야겠어.

현실 세계의 데이터는 확률적이고, 재수가 없을 상황이 있다.

확률을 사용하면 재수가 없는 상황을 어느정도는 타파할 수 있다.

 

2. 그래서 Q를 이용해서 P~를 어떻게 구한다는건데?

 

이전 글에 썼던 내용을 다시 상기해볼까?

바로 KL 다이버전스라는 장치가 있는데, 이 장치를 사용하면 P~는 Q를 모방하게 되지만, Q와 동일해지지는 않아.

KL 다이버전스는 정말 간단한 수식이야.

 

?

아 미안 ㅎㅎ 설명을 해볼게. 저기서 i는 사건의 종류를 의미해.

여기선 P와 Q로 비교했지만, 우리는 추정된 동전의 P~와 동전의 P로 비교해볼까?

 

D_KL(P || ~P) = 앞면일 때 (PlogP - Plog~P) + 뒷면일 때 (PlogP - Plog~P)

= 1/2 log1/2 - 1/2log1 + 1/2 log1/2 - 1/2 log0

어... 미안 어쩌다보니 log0이 나와버렸는데, 실제로 계산할때는 편의상 0 대신 아주 작은 값을 넣어.

아무튼간에 이걸 쓰면 P~와 P의 차이를 구할 수 있어.

그리고 각 사건에 대한 확률 차이 (확률 분포의 차이) 도 정확하게 계산해주지.

근데 그 차이를 계산하기만 하면 뭐해. P~를 다시 계산해줘야 하잖아.

 

그래서 우린 이런 수식을 정의할 수 있어.

뭐냐하면, 데이터 i에 대해 P~와 Q의 KL 다이버전스를 계산하고

우리가 수집한 모든 데이터 N에 대해서 모든 KL 다이버전스를 구한다면,

모든 데이터에 대해 P~와 Q의 차이를 구할 수 있겠지. 이걸 'Loss'라고 정의를 한다면

 

 

이렇게 Loss를 최소화하는 방향으로 학습한다면

P~와 Q는 동일해질거야. 이걸 Empirical Risk Minimization (ERM) 이라고 불러.

어떻게 동일해지냐구? 그건 이분이 잘 써놓으셨더라고.

역전파 방법 및 SGD라는걸 사용하면 이 Loss를 정의한 것 만으로 딥러닝은 아주 잘 학습해. 정말 놀라울 정도로!

이건 딥러닝의 마법 정도로 생각해도 무방할것 같네.

 

( * 실제로 딥러닝에선 KL 다이버전스대신 크로스 엔트로피를 쓰지만, 크로스 엔트로피와 KL 다이버전스를 최소화하는건 동일한 문제에 해당해서 스킵했어)

 

3. 그럼 아주 많이 학습한 딥러닝이 최강일까?

 

아니.

위에서 언급한 Loss가 최소화되는 방법은 오로지 P~와 Q가 동일할 때야.

하지만 우리가 구하고 싶은건 P잖아? Q를 구하는게 아니라구.

게다가 우리가 얻은 데이터는 실세계에서 구할 수 있는 만큼 구한 약간의 데이터지, 실세계의 모든 데이터가 아냐.

따라서 약간의 데이터에 대해 100%의 확률이라고 큰소리치는 Q를 얻는다고 해서, 실세계의 다른 데이터에 대해서도 정확하게 추론할 수 있는것도 아니거든.

설사 실세계의 모든 데이터를 얻는다고 해도 P를 정확히 구하는 건 불가능해.

위에 있는 동전 던지기 문제를 생각해봐. 동전의 P를 구할 수 있는건 동전을 무한번 던져야만 가능한거거든.

 

따라서 제일 간단하고 효율 좋은 방법은

실세계의 데이터 약간을 가져와 거기에 대해 Q와 P~의 Loss를 어느정도 줄이도록 학습한 다음

또 다른 데이터 약간을 가져와 학습된 P~와 Q의 Loss를 계산하는거야.

이 때 학습하지 않은 데이터에 대해 Loss가 가장 적을 때 제일 좋은 P~라고 할 수 있어.

왜냐하면 실세계의 데이터에 대해 제일 잘 추론할 확률이 높다는거고, 그 말은 P에 제일 근사하다는 뜻이거든.

 

다음에는 내가 설명한 기초 이론을 잘 버무린것만으로 놀라운 성과를 달성한 mixup이란 논문에 대해 설명해볼게.

내가 쓴 글만 이해했다면 전혀 어렵지 않을거야!