첫댓죠졌네

대부분은 그렇지만 일부는 그렇지 않고

보통 그 일부가 혁신을 해서 다음 세대를 여는 것 아닐까?

그 혁신을 하기 위해서 전 세계에 있는 일부가 천문학적인 돈을 때려부어가며 겁나 달리고 있음.

Reasoning 아키텍쳐가 클러스터 수에 얼마나 디펜던시를 가질지는 모르겠음.

난 개인적으로 reasoning이랑 가장 유사한 프로세스는 가우시안 프로세스 같은게 아니라 MCTS같은 서칭으로 latent space를 떠돌아다니면서 발견한 latent vector가 원래 가지고 있는 정보랑 유사한지를 찾아가는 nonlinear 과정일거라고 생각함. 쉽게 말하면 알파고로 CLIP latent space 의 value와 policy를 navigation 하는 과정과 유사한 뭔가.

게임과 같이 명확한 보상이 있는 거랑 학습의 난이도가 좀(전혀) 다르겠지만..

사람이 음악이나 예술에서 만족감을 느끼는 과정처럼 구조가 설계된 로스와 유사한 강화학습이 등장하지 않을까 생각함.

사람이 만족하는 순간은 되도 않는 사전지식의 chain이 뜻밖에 기대대로 이루어 질 때라고 생각. 이런 형태로 로스를 짜는 것은 클러스터의 크기랑 그닥 관계가 없을 가능성이 큼.

크면 클 수록 좋은 건 사실이지만 지금 빌리언급 언어모델이 클러스터가 큰 이유는 리즈닝을 위한 아키텍처가 없이 brute force search급으로 학습을 하려 해서라고 보는 주의임.

동의함

현재 모델들은 Distribution을 벗어나는 발악이 latent space에서의 gaussian nosie -> denosing 이라 끽해봐야 가우시안 분포에서 넓어지겠지.

개붕이 말대로 이런 상황에서는 데이터 분포의 차원과 폭을 넓혀주는 창작자들의 벨류가 훨씬 높아질거임.

하지만 내 생각은 그걸 넘어서서 그 분포를 벗어나는 발악을 "하고 싶도록" 구조랑 로스를 짠 AI 의 등장이 올해 일어날 일이라고 예상함.

이게 나온다면 개붕이가 말한 기상천외한 창작자들이 하는 일을 ai가 하게 될 거고, 그런 데이터를 만드는 것 까지 인공지능이 해버리면 인간의 설 자리는 어디에 있을지... 사실 잘 모르겠음.

그 정도의 분포는 있는 분포임.

비유하자면 뭉크의 절규 같은 화풍의 그림이 디비에 없는 모델로 뭉크 못 만든다는거임.

Weird라는 것이 주어진 학습 데이터셋 안에서 분포로 정의될테니, 그 걸 벗어나는 건 아직 못 한 다는 이야기ㅡ

그 strange마저도 일반론적인 관점에서의 strange인거지. 돌연변이같은 관점의 strange는 표현불가능할걸

현재 기술이 가지는 한계와 무엇을 뚫어야 하는지를 나 정도 되는 나부랭이가 분위기 보고 파악할 정도라...

세계구급 천재들이 현재 가진 모델의 한계가 무엇인지 그리고 어떻게 뚫으면 각이 나올지는나보다 더 잘 알거라고 생각함.

작년 말 딥마인드가 낸 인공지능 최고급 학회 논문 중에

- 사전지식을 추상화해서 지금 정보랑 유사도를 비교한 후 다음 전략을 짜는 인공지능

- 호기심을 기반으로 예상을 탐색하는 모델

두 개가 있음.

이 두 개가 조합되면 내가 생각하는거랑 비슷한 것들이 나올텐데 학습이 얼마나 어려울지는 안 해본 영역이라 감이 안 오지만, 내 생각은

머지 않았음.

본문에 쓴 대로, 빠르면 올해, 길어야 3년 안에 진짜 인간급 창의성에 도전하는 인공지능 모델이 나올거임.

오 이미 해결방안도 가닥이 잡혔구나.

창의성 부분도 해결되면 진짜 굉장하겠네.

난 아직 이 수준으로는 그냥 보조도구 정도라고 생각했는데 그때되면 진짜 ai 혼자 플레이어로 뛸 수 있겠다.

적어도 개붕이가 생각하는 부족함이야 연구자들은 당연히 잘 알고 있고, 개선하려고 미친듯이 덤비고 있음.

창의성을 수학적으로 이해하고 구현하는 일에 대한 필요성을 마주했으니, 적어도 올 해 한 가지 확실한 건

논리를 기반으로한 창의성을 설계해서 데이터셋과 로스펑션 기반 학습의 한계를 뛰어넘으려고 발악하려는 한 해가 될거.

전공생이라는 가정하에 답을 하자면,

가보지 않은 조건부 확률의 chain으로 기존의 latent vector를 MCTS로 찾아가는 과정일 거라고 생각함.

for latent_x in latents:

P(any latent in latents | latent_x) 가 P(latent1|latent2) * P(latent2|latent3) * P(latent3|latent4) * ... 랑 비슷한가? 아니면 탐색 계속

보통은 우변의 확률이 낮게 나오게 마련인데 우변을 이리저리 해보다가 갑자기 뜬금없이 좌변이랑 높은 수로 같게 뜨면 기분좋은 게 인간이 호기심으로 이것저것 해보다가 찌릿한 기분을 느끼는 순간이라고 생각함.

이거 모델링이 올 해 안에 될 거라는게 내 생각인데 이건 글을 새로 하나 써야 할 듯.

조금 내가 생각한거랑 결이 다른거 같은데..

내가 바둑을 예시로 들어서 그런가 너가 얘기하는건 모델의 학습 방식을 얘기하는 것 같고(강화학습 잘모름..)

내가 생각하는 문제는 창의성을 평가하는 지표가 없다는 거지. 모델의 학습방식을 기반으로 평가하기엔 호기심 != 창의성이고.

바둑은 승리라는 명확한 평가가 있어서 강화학습으로 학습이 가능한데 이미지 생성은 그러한 지표가 없다는거임.

그럼 결국 데이터셋분포로 학습을 해야되는 거 아님??

기존에 사용하던 fid같은 평가지표는 기존 데이터셋의 분포와 유사한지를 평가하는 평가지표여서 새로운, 창의적인 이미지를 생성하는 모델의 지표로는 별로 쓸모가 없는 거같고. 요는 창의성을 어떻게 평가하냐는 거지.

ㅇ 이해했음 모델링을 어떻게 할 것이냐가 아니라 어떻게 평가할 것이냐 라는 질문이고 정곡을 찌르는 질문임. 이 질문에 대한 내 생각을 답하기 위해선 글을 하나 써야 할 것 같으니 시간날 때 써 볼게.

짧게만 써 보자면...

"원숭이 엉덩이는 빨개, 빨가면 사과, 사과는 맛있어, 맛있으면 바나나 ...."

랑

"고민 하게돼 // 우리 둘사이" <축의금> - 하상욱

이 두 글 중에 어떤 글이 더 창의적일까?

사람마다 생각이 다르겠지만 나라면 후자에 점수를 줄 것 같고, 그 이유는

전자는 사전정보로부터 연상하는 정보의 깊이가 얕은 반면, 후자는 웃기 위해 연상해야 하는 정보의 연결 길이가 길다. (tree depth)

전자는 사전정보로부터 연상되는 새로운 정보의 난이도?자체가 낮은 반면, 후자는 정보의 난이도가 높음. (Node complexity)

이 두 개 말고도 더 있을 것 같긴 한데 간단하게는 요 정도로 스코어링 해 볼 수 있지 않을까 하는게 내 생각임.

더 쓰려면 글이 필요함.

어...음.. 부정확한 표현에 근질거리는 누군가가 답을 할 거라고 생각했는데 아무도 안 했네...

Base64를 아니 컴공이라고 가정하고, 선형대수를 배웠다는 가정하에 설명하자면,

그림의 정보를 벡터로 변환하는 A라는 연산이 있고,

텍스트의 정보를 벡터로 변환하는 B라는 연산이 있다고 하자.

CLIP은 이 두 연산이 보낸 각각의 벡터에 대해서, 그림에 대해 올바른 설명은 같은 벡터(내적이 1이 되도록)로 보내고, 다른 설명은 직교하도록 (내적이 0이 되도록) 보냄.

그럼 그 A와 B 변환의 내적이 만드는 벡터공간에서는 두 정보가 가지는 의미가 같아짐.

Stable diffusion에서는 이거랑 tansformer의 cross attention아이디어를 이용해서 이미지 생성 하는 작업에서 텍스트 입력이 가이드를 줄 수 있는데, 구형이긴 해도 온갖 ai설계의 좋다는건 다 끌어다 쓴 부분이라 댓글로는 쉽게 설명할 자신이 없다....미안

아 이해하는데 3번읽어봤다 대충 감이옴 ㄳ

Right. Combining words like "avocado" and "chair" IS the creativity.

사전필요지식

transformer, vision transformer(필수 아님, 권장)

두 개 읽고 나면 (쉽다고는 안 했다) clip이야 아무 국내 설명 블로그 읽어도 이해는 차고 넘칠 듯.

궁극적으로 diffusion을 수학적으로 이해하고 싶은 거라면:

Diffusion 설명에 랑주뱅 동역학까지 동원하는건 솔직히 현학적이라고 봄

VAE 공부하면서 elbo가 뭔지 알아보고, 이 녀석이 diffusion 혹은 ddpm에서 어떻게 바뀌었는지 차이점이랑 loss텀의 물리적 의미에 대해서만 감 잡으면 충분함. (역시, 쉽다고는 안 했다 ㅋㅋㅋ)

ㅇㅇ 맞음. 약 인공지능의 대세인 데이터 옵티마이제이션+경사하강과는 다른 방법론이 필요할 수 있음. 계속 쓰게 된다면 그 이야기를 하겠음.

이 이야기는 그림생성인공지능과는 다른 자연어 처리 및 생성 관련 이야기인데, 사실 설계구조를 보면 그럴 수 밖에 없어서 용도를 명확하게 이해하고 강점과 불가능을 알고 쓰는게 중요하다고 생각함. 언어 인공지능이 어떤 방식으로 학습되었는지를 구조랑 학습과정까지 이해하면 그럴 수 밖에 없음. 이것도 글 하나짜리인데 언제 쓰지...

비전공자 입장에서 그림과 언어 인공지능은 대체 어떻게 만들었는가 싶은 건 대체 뭘로 학습조건을 걸었느냐는 거임. 체스랑 바둑은 이긴 게 잘 한거임. 그렇지만 언어랑 그림은 뭐가 더 잘 나온 결과인지 인공지능 스스로는 판정할 수 없을 거고, 사람이 하나하나 판정해서 피드백을 줄 순 있겠지만 너무나도 어마어마한 노동량이 필요했을 거라 이렇게는 안했을 거 같은데.

아, 그리고 이건 내 과거 전공이랑 관련된 거긴 한데, 체스랑 바둑 같은 형태의 게임에는 '무적수'가 존재함. 더 간단한 형태인 오목은 아마 '무적수'가 발견되어 있음. 바둑, 체스 인공지능 ELO가 인간 챔피언의 두배가 넘는다 뭐 이렇게들 이야기 하는데 얘네들도 아직 '무적수'는 찾아내지 못한 거 같네. 얘네들 계속 바둑 두게 시키면 언젠가 '무적수'를 찾아내려나? 그럼 더 이상 인공지능들에겐 바둑 두는 의미가 없어질텐데.

무적수 자체를 찾는 것 보다 현재 상태의 가치(Value)를 완전탐색하지 않고도 추론하는 방법과, 역시 완전탐색 하지 않고도 무적수에 근사한 방법(Policy)을 추측하는 방법을 알아낸 거가 중요함.

직관의 모델링이랄까.

Value Network랑 Policy network로 시간이 천문학적으로 걸리는 완전탐색 대신 직관적으로 적당한 시간 내에 결론을 잘 내리는 방법을 만들어 낸게 기여점임.

참고로 chat gpt와 알파고, 그림 생성 인공지능은 연관성은 있지만 사실상 전혀 아이디어와 문제의식으로 접근함. 그래서 인공지능이라는 추상적인 주제에 대해 이 친구들을 하나씩 가져와서 장단점을 논하면 이야기가 힘들어짐. 서로 전혀 다른 거라서.

비유하자면 삽화가랑 번역가랑 프로게이머 각각이 못하는 거 토론하면서 장님코끼리 만지듯 인간의 창의성을 논하게 될 가능성이 큼.

창의성이 어떻게 수학적으로 표현되며 이를 현대 인공지능에서 어떤 방식으로 만들어가고 있는지에 대해서 이야기하는게 좋음.

땡스, 묻고 싶은 건 많지만 다음에 연재글을 쓰게 된다면 관련되었을 때 기회나면 질문 써봄. 감사

1. Matlab에 그런거 없던 시절에만 써봐서 잘 모르겠지만.. 문서 보니까 이미지 분류 쪽에서 2017년 꺼를 베스트로 놓은 걸 보면 모델 자체는 이바닥에선 옛날거가 맞음.

저 중에 기초라고 할 만한 건 cnn계열에서 주구장창 레퍼런스로 쓰이는 resnet만 알아도 됨. 요샌 transformer로 넘어가는 분위기.

근데 기초냐 라는 질문은 답하기 어려움. 저 모델 하나하나에 들어간 아이디어는 딥러닝 학습과정 전체로 보자면 기초가 아니기 때문.

그리고 엔지니어링 게이면 기초냐 아니냐보다 풀려는 문제가 잘 풀리느냐로 접근해야 한다고 생각함.

2. 그 차원에서 주어진 문제가 딥러닝으로 풀어야 하느냐 라는게 궁금함. 듣기만 해선 동역학 모델링 파라메터를 실험결과에 피팅하고 싶은 것 같음. 동역학 모델은 가설기반으로 픽스되어있고 파라메터가 뭐여아 하는지 모르는 상황이려나. 말만 봐선 단순 회귀문제 같긴 한데..

회귀문제는 기본적으로 주어진 실세계 모델 A에 대해 x를 넣으면 y가 나와야 하는 걸 아주 많이 알고 있을 때, (대량의 실험)

물리적으로 말이 되는 f_deep(x)=y'를 설계해서, 손실=y'-y 로 학습이 가능하다는 것이 기본임.

문제는 f_deep()이 충분히 실세계를 반영할 수 있을 정도의 복잡도와 논리적으로 말이 되는 구조를 가지는 네트워크여야 할텐데, 그건... 도메인 지식이 있는 사람 자문이 필요할 것 같음.

도메인 지식 없이 모델 설계하면 200프로 오버피팅 날 뿐만 아니라 공격받기도 좋음.

2.2는 딥러닝 모델 하이퍼 파라미터를 튜닝하는 문제들과 더 유사해보이는데. Bayesian optimization 쪽을 찾아보는게 좋지 않을까 싶음.

https://youtu.be/XUrRpds9W6Y

RL 로 풀고 싶으면 이런 방법도 가능하지만 개고생길이 훤하니 성과가 필요하면 비추.

일단 이거부터 보고 풀려는 문제에 적용가능한지 보길.

https://wikidocs.net/53560

걱정되는건 시스템의 입력이 아니라 모델 파라메터를 튜닝하고 싶은거면 Axy=z 문제라서 풀려는 문제에 맞는 접근방법일지 확신이 안 섬.

기초부터 시간 들여서 공부하고 싶으면 요샌 이거 보는 듯 함. 라떼는 이런 거 없었는데....

https://youtu.be/BS6O0zOGX4E

시청각은 그럴 가능성이 있음. 다만 나머지 감각, 즉 촉각, 후각, 미각이나 진화하면서 생긴 본능레벨의 감정들은 암만 발달해도 주진 못할거임.

감정과 호르몬과 같은 생물학적 반응, 두려움이나 안도 같은 생존본능에서 발달된 감각은 인공지능이 모사할 수 있을지언정 이해할 수 없고, 이해할 수 있다손 치더라도 물리적으로 제공하긴 어려울 가능성이 큼. 마치 사람이 새나 벌레에게 성욕을 불러일으킬 수 없는 것처럼.

감각기관이 없으니 학습할 방법도 마땅찮고 상호작용은 더더욱 불가능함. 이 지점에서 아마 사람은 여전히 사람을 필요로 할 거고, 이런 분야의 예술은 여전히 유의미할 것.

단, 자본이나 국가 같은 거대 시스템이 계속 인류를 필요로 할 때 이야기 ㅎ

한 방에 의미를 바로 쉽게 이해해줘서 감사... 캐치해서 쉽게 표현해주는게 대단하네. ㅇㅇ 이거 관련해서는 꽤 오랫동안 혼자 정리글을 쓰고 있음.

모름. 찾아보니 rnd 인프라쪽이 업인 것 같네?