알파고가 바둑으로 사람 머리통을 깬 이후에 딥러닝 기반 기계학습이 큰 주목을 받게 되었어.

그러면서 여기저기서 딥러닝을 활용한 연구와 실 산업의 적용 결과들이 속속 나오기 시작했는데

그렇다면 과연, 딥러닝은 데이터만 있으면 가능한 만능 방법론일까?

저자는 여러가지 한계점과 그 예시를 들며 딥러닝이 완벽한 방법이 아니라고 주장을 하고 있는데 (Marcus, Gary. "Deep learning: A critical appraisal." arXiv preprint arXiv:1801.00631 (2018).) 이에대해 한번 교양수준으로 간단히 살펴보자.

1. 딥러닝은 여전히 data가 부족해

사람은 몇번의 시도를 하면 이에 대한 인과관계 혹은 상관관계를 추론해낼수 있어. 예를들어 내가 지우개를 자리에서 떨어뜨려보고, 연필을 떨어뜨리는걸 보면, 자도 똑같이 떨어질거라 학습을 하겠지. 하지만 인공지능은 이런 각각에 대한 인과관계를 데이터로 넣어주어야만 추론을 잘 할수 있어.

그렇기에 인공지능으로 이를 학습시켜서 옳은 결과를 얻기 위해서는 지우개, 연필, 자에 대한 모든 데이터가 필요하기에 기본적으로는 엄청난 양의 데이터를 필요로 해 (이를 해결하기 위한 방법들 (semantic relation해석이 가능한)도 개발되고 있긴 해).

2. 딥러닝이 학습한 결과를 유사한 사례에 적용하기가 힘들어

위에서 말한것의 연장선에서 발생하는 문제인데, 딥러닝은 물체가 떨어지는것에 대한 본질을 학습한게 아니라 각 객체를 입력으로 했을때 특정 출력을 내도록 학습이 되었기 때문에 지우개에 대한 학습으로 자를 대체할수가 없어.

대표적인 예시로 Atari 벽돌깨기 게임에서 보여준 강화학습의 한계연구가 있어. (Kansky, Ken, et al. "Schema networks: Zero-shot transfer with a generative causal model of intuitive physics." International Conference on Machine Learning. PMLR, 2017.)

위 사진을 보면 벽돌께기를 오리지널 버전에 대해서 학습을 잘 시키고 학습이 다된 agent를 몇가지 조건이 다른 경우에 놓고 잘 하나 살펴본 연구야.

b조건은 안깨지는 판을 한번 놔봤고, d는 막대의 위치를 올려보고 하는 것과 같이 간단한 변형을 가했어.

이 경우 사람에겐 이정도의 변화는 매우 작은 purturbation이지만 deep learning은 학습을 다시해야만 할 정도로 받아들였어.

그렇기에 내가 시뮬레이션 환경에서 테스트를 한 agent를 실 산업에 바로 적용하는건 매우 어려운 문제인거지.

3. 딥러닝은 계산과정이 불투명해

딥러닝은 결국 신경망의 가중치를 원하는 점으로 수렴하도록 계속 조금씩 수치를 바꿔가며 최적화하는 절차야. 다른 인공지능인 SVM 같은 경우 '왜 이걸 Decision boundary로 잡았니?' 라고 물어보면 수학적으로 이게 가장 지지벡터를 가지기 때문이에요 라고 모두가 봐도 납득이 가능한 대답을 해줄 수 있는데, 인공신경망의 경우 그냥 해보니까 이게 젤 적합한 튜닝결과인것 같아요 라고 밖에 대답을 못해.

그럼 이게 어떤 문제로써 작용하느냐? 바로 규제가 불가능해진다는 문제를 가져.

실제 산업에서 사용되려면 안전성등을 평가할때, 왜 이게 안전하고 최적인지 설명이 되어야만 규제가 가능한데, 인공지능은 당위성을 확보할 수 없으니 규제를 수행하기가 어려워. 그리고 100번 대답을 잘하다가 한번 대답을 잘못할 가능성은 얼마야? 라고 물어봤을때 이에 대해서도 대답을 못해.

4. 딥러닝은 인과관계 상관관계 구분을 할줄 몰라

딥러닝은 답은 내놓을줄 아는데, 이게 인과관계에 의한 영향인지 상관관계에 의한 영향인지는 사람이 어차피 다시 해석해줘야해

이 절차를 인공지능에게만 맡기면 이런 결과가 나올거라고 우스갯소리로 이야기를 해.

한 연구자 (AI)가 아이스크림 판매량의 연중 증감 추이를 확인했다. 그리고 연중 익사 사망자의 증감 추이를 함께 놓고 두 변인 간의 상관분석을 시행해 보았다. 

결과는 놀라웠다. 무서울 정도로 명백한 상관관계가 나타나고 있었다. 아이스크림 판매량이 급증하는 동안, 익사 사망자 수도 함께 증가하고 있었으며, 판매량이 감소하는 동안 익사 사망자 수도 감소하고 있었던 것이었다.

연구자는 몸서리를 치면서 다음과 같은 결론을 내렸다. "익사 사망자의 증감은 아이스크림이 그 원인이다."
 

5. 데이터 위변조에 굉장히 취약해

딥러닝은 사람이 인지하지 못하는 수준에서 발생한 데이터에의 오류만으로도 결과를 잘못도출할 수 있어.

아래가 이에 대한 예시인데

Stop 사인에 빵구 좀 뚫어놓은 데이터가 들어왔다고 이걸 speed limit 45라고 말을 해버리는 미친 결과를 내놓을수도 있어.

이게 만약 자율운전차에 사용이 되었다면 섰어야 할 위치에서 직진해서 앞에 사람을 박았을거야.

Adversarial attack이라고 하는분야가 그래서 많이 연구되고 있어.

이런 한계점들 때문에 이를 보완하기 위한 연구가 많이 수행되고 있지. 하지만 현재까지는 deep learning 기반 AI는 만능이 아니야.