이기면 그만 아닐까? 어차피 과정은 이기기위한 수단이니까

이거 내 분야에 이용하고 싶어서 프로그래밍 이제야 배우기 시작했는데 생각보다 복잡한 알고리즘이 아니더라 ㅋㅋ

딥러닝 수학빡세던데
정보이론
선형대수학
통계
텐서 미적분
자유자재로 해야하더라고

어떤걸 배우길래 복잡한 알고리즘이 아니라는건지.. 궁금하네.
아니면 생각한게 엄청엄청 어려운걸 생각한건가

??? 전공자이고 AI 대학원도 나왔찌만
복잡한 알고리즘이 아니라는게 도대체 무슨말이냐...
수학적 공식이 미친듯이 들어가는데;;

텐서플로우나 keras로 다른 사람이 만들어둔것들 조합해서 쓰는 수준 말하는게 아닐까
그 정도면 누구나 할 수 있으니까

뉴럴네트워크의 컨셉 자체만 보면 단순하지
학습할 때마다 노드 간 가중치가 '잘' 바껴서 좋은 결과를 낼 가능성이 높아진다.

딥러닝 자체가 수학적 개념이 많이 필요하지 않음...
궁금하면 논문들 뒤져봐라. 수학적으로 깊이 들어가는 딥 모델은 굉장히 한정적임... 예를 들어 16년 히트친 Resnet이라던지 요번 17년 cvpr에 올라온 DeepNet등등 수식이 거의없고 실험 위주이다. 그나마 요즘 핫한 GAN이나 Beysian DNN정도가 수학을 깊이 쓸까? 하지만 이것도 전통적인 핸드 크래프트 모델들의 수학적 깊이에 비하면 아무것도 아님

딥러닝이 수학을 많이 요구하지 않는 이유는(다른 모델들에 비해서) 구조 자체에 대한 연구가 수학으로 이뤄지지 않아서임. 기하학적 특성들에 대한 연구가 전무함. 몇개의 노드가 옵티멀한지 어떤 하이퍼파라미터가 옵티멀한지 어떤 조건에서 로컬 미니멈에 빠져드는지 등등... 연구가 거의 전무하다

근데 왜 딥러닝만 그럼? 레이어가 많아서 연구하기 복잡해서 그런거임?

애초에 설계를 할때부터 이런걸 염두에 두고 하지 않았으니깐. 그런 이유중 가장 큰 이유는 노드들에 담겨진 정보를 우리가 해석할 수 없다는거야. 잘 되는데 왜 잘될까? 왜 이런식으로 학습될까? 이런 문제들이 전부 해결 되려면 딥 모델을 설명할 수학적 구조가 필요해. 그래야 수렴 이론이 등장할 것이며 딥러닝의 큰 문제들인 그레디언 배니슁 현상, 로컬 미니멈(언더피팅) 문제, 적은 데이터만으로의 학습 등등이 가능해 질거야. 아마 빠른시간 내에는 근본적인 수학통일이론이 나오기는 힘들어 보여

물리학자들은 물리현상을 이해하기 위해서 인간의 이해범위 안에 있는 이론을 만들고 실험하여 법칙을 정립해 나가지. 이건 자연현상을 공부하는 입장이고. 하지만 뉴럴넷은 저장된 정보를 해석할만한, 인간의 이해범위 안에 있는 이론이 없어. 그냥 잘 되니깐 하는거야 안되면 이거 붙여보고 저거 붙여보고 하는게 근본적으로 현대 딥러닝이 가지고 있는 문제임.

많은 분들이 그렇게 말해 딥러닝을 정말 이해하는 모델을 논문으로 낸다면 네이쳐에서 베스트 페이퍼가 될거라고. 역설적으로 이렇게 모르기 때문에 정말 재미있는거 같아 앞으로 발전이 무궁무진하고 응용할 분야도 무한하니깐. 그럼이만 안뇽

위에 텐서니 통계니 엄청 필요하다는데 글쎄 너가 순수수학을 공부하면 이딴 얘기 쏙 들어간다. 통계도 가장 일부분만 사용한다. 예를 들어 대학원때 수학과랑 통계학과에서 가장 근본적으로 확률론을 배울때 measure라는 개념을 배우고
굉장히 중요시 여기는데 머신러닝 커뮤니티에서 이런 개념을 사용하는 경우는 굉장히 드뭄.(내가 아는 유명한 논문중 유일한게 WGAN..) 마찬가지로 정보이론에서도 그렇지.

텐서라는 개념도 원래 미분기하학이나 선대에서 들어온 개념인데 컴공에서 쓰는 텐서랑 수학과의 원래 텐서랑은 다르게 사용되고 이해된다... 그나마 tensor decomposition은 비슷할까. 여튼 결론은 딥러닝에서의 수학은 일부 모델 빼고는 굉장히 쉽다는거임. 기본이 있다는 전재하에 빡세게 하면 6개월이면 논문 쓰기에는 충분하다. 심지어 대가이신 뉴욕대에 뱅기오 교수님도 같은말 하셨고..

위에 애한테 달아야지 왜 나한테 단거야

우왕 좋은 얘기 감사합니다

밑에 애들이 잘 설명 해줬네. 난 전공자도 아니고 내가 스스로 수식 짜서 만드는게 아니라 이미 발표된 논문들 읽고 그거 이용해서 쓰는 수준이니깐. 모든 머신러닝을 보면 복잡할수 있는데, 딥러닝쪽만 한정적으로 바라보면 그렇게 복잡한것만 있는것도 아니니까.

이분 오라일리책 한권도 없을듯

당신이 한국에 폰 노이만 입니까?

ㅋㅋㅋ (잠시 후) 이게 어렵다고? 나는 암산으로 다른방법으로 지금 세번 풀었는데?

간단한건 너도 시중에 나온 책보고 그날 어느정도 따라해볼 수준임. ㅋㅋ 너무 어렵게 생각하지마.

스플래쉬 안맞고 럴커 공격피하고 이런쪽으로 학습할거같아보이는데 APM을 제한걸면 어떻게될까

스타는 비둑처럼 보고 대처할 수 있는게 아니라서 안될듯...?

apm제한이 아니고 마우스로 컨하게 해야지.

미안합니다, 데이브
유감이지만 그럴 수 없습니다