기타 지식

(뻘글주의) 자유의지란 존재하는가?

ai가 발전함에 따라서 자유의지에 대한 의학, 과학, 철학계의 해석도 점차 달라질 것으로 (개인적으로) 예상된다. 우리는 누구나 자유의지를 갖고 있다고 생각하지만 과연 정말 그럴까?

 

가령 미래에 ai가 고도로 정교화되고 마침내 감정이라는 개념을 탑재되어 출시되었다고 해보자. 그런 ai가 출근시간이 좀 빡빡한데 아침을 먹을지 말지, 어떤 기분에서 어떤 노래를 들을지, 주말 아침에 피로와 귀찮음에 쩔어 친구와의 약속을 나갈지 파토낼지 등과 같은 결정들을 내릴 때 여러 요소들을 수치화한 뒤 주관적인 관점(자체적인 알고리즘)으로 계산하여 최적의 선택지로 결정을 내린다고 할 때 그것이 우리의 자유의지와 어떤 점이 다르다고 할 수 있을까?

 

우리의 자유의지라는 것은 사실 매순간 의식(감각과 감정, 기억, 운동반응을 총괄적으로 운영하는 주체)에 의해 주관적으로 계산된 최적의 결정을 내리는 자동주행장치와 큰 차이가 없지 않을까? 이는 전적으로 주관적인 망상일 뿐 반박 시 설명할 논리같은 것 따위는 없다

37개의 댓글

사고부터 시작해서 우리가 감정이라고 생각하고 느낀다고 믿는 것도 기억도 그렇고 추상적인 개념이라고 생각하지만 결국 뇌의 특정 부위에서 일어나는 화학물질에 의한 전기신호의 나열일 뿐이라고 생각하는 관점도 있지만 본질이 중요할지 그 결과로서 우리가 얻는 게 더 중요할 지가 논점이라고 생각함

2
2022.03.06
@난널믿었고그만큼내친구도믿었기에

글의 요지는 인간의 의식을 비롯한 정신활동들이 물리적, 화학적 물질에 귀속되는가의 여부라기보다는 자유의지에서 결정을 내리는 알고리즘 자체가 개개인이 주관적으로 생성하여 계속 업데이트 해나가고 있는 어떤 평가 및 결정 프로세스 모델에 의해 단지 최적의 선택지를 자동으로 계산하여 결정하고 있는 것을 마치 스스로의 자유의지에 의한 결정인 것처럼 착각하는 것 아닐까? 싶은 부분임

1
@GB램

최적(술에 꼴아박음)

1
2022.03.07
@사과믹스통조림
0
2022.03.06

온전한 자유의지 라는건 없는것 같음

2
del
2022.03.06

생각이 뇌와 몸의 신경계에서 이루어진다고 가정하면 없을듯

2

자유 의지를 논하기전에

감정 생각 같은것들부터 정립을 하고 하셈

2
2022.03.06

양자역학을 보면, 미시세계에서는 상태가 중첩되어 확률로 존재한다고 하잖아? 우리가 고전적으로 뇌의 생각을 전기적 신호라고 말할 수는 있어도, 그것이 우리의 생각이 결정적이라고는 말할 수 없는 것 같음(미시적 세계로 수도 없이 따져 들어갔을 때).

다만 이러한 비결정적인 상태가 자유의지냐 하면, 그건 사람마다 다르게 생각하겠지. 그렇지만 어쨌거나 운명처럼 모든 것이 결정되어 있는 것은 아니라고 생각해. 내 미래의 행위는 비결정적인 것임.

1
2022.03.06
@스비니

내 논점은 그 논의보다도 원론적인 부분임. 예를들어 저녁시간에 저녁을 먹고 쉬면서 내일을 준비하는 행위의 점수를 0.9라고 하고 이해를 위해 극단적인 예를 하나 들자면 갑자기 집 앞 지하철역으로 나가서 지나가는 사람들에게 만원씩 나눠주는 행위의 점수를 0.05라고 가정해보자. 그럼 나의 알고리즘에 의해 계산된 최고의 점수가 매겨진 전자를 택하겠지?

 

여기서부터 조금 미묘한 부분인듯. 대부분의 그럴듯한 선택지는 비슷한 점수대에 몰려있을테고 그 선택지가 많으면 많을수록 더 깊은 고민 끝에 결정을 내리겠지. 물론 최종적인 결정은 그 선택지 중에서 가장 높은 점수를 받은 녀석이 될테고 말이야. 근데 사실 내가 선택지라는 편리한 개념을 정의해서 설명했지만 현실세계에서는 그것들의 개념은 너무 희미하고 그 경우의 수도 무수히 많아서 그 무수하고 점수차이가 극단적으로 작은 케이스들 중에서 선택하는 부분에서 양자역학이 개입하지 않을까?

 

여튼 개인적으로 궁금하기도한 논점포인트는 우리는 단 한 순간도 빠짐없이 주변환경이라는 컨텍스트에 종속되어있고 그러한 외부의 환경과 내부의 평가 및 결정 알고리즘에 의해서 의사결정하는 것을 자유의지라고 착각하는 것 아닐까 하는 부분이야. 집에 재료가 된장찌개와 김치찌개를 할 것 밖에 없고 나는 된장찌개를 더 좋아할 때 된장찌개를 요리하는 것이 온전한 내 자유의지일까? 혹은 외부 환경(남은 재료)과 내부 알고리즘(나의 취향)에 의해 계산된 시뮬레이션의 일부일까?

0
2022.03.06
@GB램

내가 된장찌개를 좋아해서, 김찌와 된찌 중 선택할 수 있을 때 된찌를 선택하는 사람이야. 근데 오늘은 뭔가 색다른 결정을 하고 싶어서 김치찌개를 선택했단 말이지. 이건 자유의지인가?

 

게이가 말하는 관점에서 봤을 때, 난 자유의지가 아니라고 생각하긴 함. 비결정적인 미시적 세계로부터, 뉴런의 전기 신호, 호르몬, 거시적 세계의 내가 김치찌개를 달라고 말하는 행위까지. 그저 복잡한 기계의 의사결정에 불과하다는 거지. 이 복잡한 기계의 의사결정에는 ‘생각’이라는 것도 당연히 포함되어 있음.

 

우리가 컴퓨터의 복잡한 인공지능을 보아도 사실 마찬가지임. 음성 인식을 어떻게 할까? 음성 파동을 적절한 단위로 나누고, 의미론적으로 합치는 과정을 점진적으로 진행해서 하나의 문장을 출력해낼 것임. 하지만 이건 우리가 생각하기에 그런 것이지. 실제 컴퓨터가 하는 것은 0과 1을 복잡한 튜링 머신에서 규칙에 따라 연산하는 것에 지나지 않음. 우리 생각도 그렇지 않을까? 그저 물리적 상호작용에 지나지 않는데 말야.

 

양자역학의 확률 개념은 미세한 점수차이라는 이야기로 설명할만한 것은 아니라고 생각함. 말그대로 확률임. 점수가 높더라도 낮은 게 선택될 수도 있는 것이지. 이 세상은 ‘결정’되어 있지 않음. 어떤 절대적 알고리즘이 존재해서 미래를 예지하는 일은 없음.

 

이런 것들에 대한 좋은 근본적 질문은 ‘input이 동일하다면, output도 동일한가?’인 것 같음. 가령, 셰익스피어의 삶을 그대로 시뮬레이션 할 수 있다면, 셰익스피어는 죽을 때까지 명작들을 똑같이 써내려갈 것인가? 이 질문은 오묘하지.

 

근데 내 대답은 이건 아니라는 것임. 왜? 미시세계에서는 확률적으로 결정이 되고 있으니깐. 결과가 달라질 수 있다는 것임. 자, 그럼 이건 셰익스피어의 자유의지라고 말할 수 있을까?

2
2022.03.07
@스비니

사실 양자역학뿐 아니라 아직 밝혀지지 않은 디테일들을 파고들면 과학과 기술이 얼마나 발전했든 간에 필연적으로 불가지론이라는 결론 밖에 도출되지 않을거야. 과학조차도 우주의 메커니즘을 설명하는 현재로써 가장 유력한 대안일 뿐 물리적 제약 속에서 물리법칙의 모든 것을 설명하는 것은 논리적으로 불가능하다고 생각하거든. 그래서 그나마 그러한 불가지론으로의 필연적인 결론 도출과 비전공자로서의 지식의 한계를 완화하기 위해서 다소 원론적이고 추상적이고 거시적인 관점에서 접근을 시도해 본거야

 

된찌와 김찌를 결정하는 그 순간에 뭔가 색다른 결정을 하고싶다는 것 자체도 내부의 알고리즘에 의한 평가 및 판단에 해당한다고 볼 수 있고 그로 인해 가장 높은 점수의 선택지가 되어 결정되었다고 설명을 해볼 수 있지 않을까? 다시 얘기하지만 사람의 기질과 성격(스키마), 생각, 감정, 기억 등등의 복잡한 요소들과 양자역학적인 요소들까지 고려에 넣게되면 논의는 필연적으로 불가지론이라는 결론 밖에는 도출할 수 없어

 

그래서 나는 역으로 접근을 해보고 싶었는데 우리 모두는 한 순간도 빠짐없이 자연법칙이라는 컨텍스트 내지는 제약사항들에 종속되어있는 존재야. 제약사항들의 예를 나열해보면 (모든 예들이 거시적인 관점에 해당하지만) 갑자기 어떤 곳으로 순간이동하거나 특정 시간으로 이동할 수는 없을 것이고, 갑자기 하늘을 날 수는 없을 것이고, 갑자기 내가 지불할 수 있는 수단을 아득히 초과하는 집을 살 수 없을 것이고, 갑자기 내가 모르는 것들에 대한 지식이 생겨 자격증이나 관련 직장을 얻을 수는 없을 것이고, 갑자기 내가 접촉한 적이 없던 사람과 친구가 되어 놀러 나갈 수는 없는 것이고, 갑자기 집에 없는 재료를 이용해서 요리를 할 수는 없을 것이고 ... 이러한 무한히 많은 제약사항들을 좁혀나갔을 때 나는 현재의 우주라는 제약사항에 갇혀있다고 볼 수 있지 않을까? 시뮬레이션 우주와 같은 맥락이지만 내가 지금 할 수 없는 무한히 많은 제약사항들을 전부 제외하고 나면 나에게 남은 선택지가 과연 n개일까? 1개일까?

 

그리고 편의상 외부의 컨텍스트(나의 주변환경)와 내부의 컨텍스트(내 기질 및 성격, 기분, 기억, 의식 등등)를 나누어서 설명했지만 결국 그것들은 하나의 우주 안에 종속된 연속된 하나의 컨텍스트에 해당하고 마치 지구가 공전과 자전을 하고 바람이 불고 비가 내리고 나무와 풀들이 자라고 개미가 생존을 위해 페로몬이라는 수단으로 서로 의사소통하며 결정하여 종족유지 및 번식에 최적화를 해나가는 등등의 현상들이 인간의 자유의지라는 현상과 다른 종류의 현상이라고 볼 수는 없다고 생각해. 진화론적인 관점에서도 원숭이까지는 자유의지가 없다가 고대인류부터는 자유의지가 생겼다? 원숭이까지는 자유의지가 있었다고 반론한다면 더 나아가서는 지구에 최초의 생명체가 탄생하는 그 시점으로 가보면 특정 시점에 굉장히 낮을 확률로 특정 물질들의 조합이 생명체가 되었을텐데 그 과정에서 조합이 이루어지기 전의 물질까지는 자유의지가 없었는데 생명체가 되는 순간 자유의지가 생겼다? 라고 보기는 무리가 있을 것 같거든

0
2022.03.07
@GB램

난 우주를 수많은 튜링 머신이 재귀적으로 중첩된, 거대한 하나의 튜링 머신이라고 생각함. 물리법칙이 Action table이고, 우주의 기본 입자들이 기억장치들이 되는 셈이지. 다만 여기서 내가 말하는 튜링 머신은 그냥 비유적인 표현일 뿐이고, 양자역학에 의해서 모든 것이 비결정적이라고 생각함.

 

그래서 인간의 행위나 개미의 행위나 그 근본적 원리를 따지고 들어가다보면 별반 차이는 없다는 거지. 그냥 물리적인 상호작용일 뿐이야. 다만 인간의 관점에서 무엇이 더 복잡한 기계인가? 라고 했을 때는 인간의 손을 들어줄 뿐임.

 

그리고 결국 논의해야 할 것은 자유의지가 정확히 어떤 의미를 지니느냐임. 슈뢰딩거의 상자 안에 죽은 고양이와 산 고양이가 중첩되어 있고, 내가 그걸 열어서 고양이가 죽었음을 확인했을 때, 고양이가 죽은 것은 고양이의 자유의지임? 아니면 단순한 신의 주사위놀음임?

 

이게 무슨 자유의지냐고 말할 수도 있겠지만, 아주 중요한 문제라고 생각함. 난 그리고 저것이 자유의지라고 정의되지 않는다면, 이 세상에 사람들이 말하는 자유의지란 없다고 생각함.

 

게이 말로 돌아와서, 게이가 말하는 것 중에 내게 혼란이 오는 거는, 점수를 따진다는 것은 곧 최선의 하나만을 고려하겠다는 것으로 보이는데, n개의 선택지라는 개념이 생길 수 있나? 이미 답을 정해놓은 것 같아.

 

그리고 나는 그런 생각들을 좀 더 과학에 치우쳐서 이야기하고 있을 뿐임. 게이가 말하는 우주의 컨텍스트니 뭐니 하는 것들을 난 물리 법칙이란 말로 퉁치고 있고, 내가 봤을 땐 별반 다르지 않은 선상의 이야기인 것 같음.

2
2022.03.10
@스비니

실제로 상태가 중첩이 되는게 아니라

그 관찰자시점에서 중첩된것처럼 관찰된겁니다.

 

그리고 이 관찰기구의 한계를 안고도

실효한 연구를 할 수 있으니

확률론적인 수학을 통해서 상태값을 예측하는거고

 

양자역학에서 반도체도

전하 하나 하나의 정확한 공간좌표를 몰라도

A|B 둘중 어느 영역에 분포비율 있는지 대략적으로 알면 분석가능하니까.

 

무슨 미시세계 들먹이면서

자유의지는 과학이라는 이상한 소리 ㄴㄴ

 

과학적인 논리로 자유의지가 있다면

 

미시세계에서 양자는

물리법칙을 다 부수고 다니는 놈이고

전자기학의 법칙이 다 무너지는데

 

네 신체가 구성이나 되겠냐?

지구가 존재는 하겠어?

 

모든게 일시적으로 존재 했다가

우주먼지로 흩어지지 상태겠지

 

동시에 이 수 많은것들이 존재하고

우주, 은하, 항성계, 행성, 생태계, 혈액 순환계

이 모든것들이 서로 영향을 끼치고

순환하며 산 세월이 최소 수 억년인데

 

그 기간동안 모든 물질의 자유의지는 침묵했네?

침묵 했다면 그게 자유 의지일까?

 

자유의지는 우주 불변의 진리가 부숴져야

존재 할수 있는거야.

0
2022.03.06

인간의 행동을 완벽하게 계산할 수 있는 알고리즘적인 규칙이 존재하는가 아닌가를 묻고 싶은듯 한데 글쎄? 아마도 불가능 하지 않을까?

 

일단 난 인간의 감정이나 기억이 뇌의 특정 부위에 일어나는 화학반응 전기신호에 불과하다는 말에는 동의하지 않음.

이것은 인과과 뒤집어진 주장임.

과학은 이미 존재하는 세상의 규칙을 논리적으로 분석하여 알아내는 것을 말함. 세상의 이치를 따지는 것을 말함.

그렇기에 과학은 세상의 존재를 설명하지 못함.

예를 들어 과학이 무지 발달해서, 신이 빅뱅을 만들었다는 것을 과학적으로 밝혀냈다고 치자, 그럼 신은 누가 만듬?

날아다니는 스파게티 괴물이 신을 만들어냈다는 것을 과학적으로 밝혀냈다고 치자. 그럼 날아다니는 스파게티 괴물은 누가 만들었나?

뭐, 루프구조라서 날아다니는 스파게티 괴물은 빅뱅이 만들어냈다는 것을 밝혀냈다고 쳐도 결국 근본적인 질문에는 답을 하지 못함. 그럼 그 루프는 누가 만들었는데?

 

세상의 존재는 유일하게 기적이라고 부를 만한 일이고 기적 그 자체임.

 

(여담으로 이래서 좀 섬뜩한 상상을 할 수도 있음. 갑자기 무에서 세상이 존재하게 되었다. 그렇다면 그 반대로 세상이 갑자기 아무 이유 없이 무가 되거나 현재의 우리가 전혀 이해 할 수 없는 것으로 변질되지 않을까? , 어쩌면 세상은 갑자기 나콰라과 족벌 독재정권에 반한 나카라과 혁명에 영향을 미친 신당동 떡볶이처럼 되지 않을까? 혹은 세상은 어쩌면 방금전까지는 신당동 떡볶이 혹은 물뚝심송이 아니었을까?)

 

뭐, 이야기를 돌려서 세상의 존재가 유일하게 기적인 이유는, 다른것은 기적이라고 부를 만한게 없기때문임.

예를 들어 예수라는 인간이 정말 죽은 인간을 살렸다고 치자.

그렇다면 그것을 어떻게 알게되었는가? 과학기술 발달로 타임머신 비슷한것이라도 발견해서 예수가 살던 시대를 관찰이라도 했겠지.

그렇다면 과학자들은 예수가 어떻게 사람을 살려냈는지 메커니즘을 발견할 수도 있고(예를 들어 예수가 사실 외계인이었고 고도로 발달된 외계기술을 썼다던가.) 도저히 밝혀내지 못할 수도 있음.

그럼 과학자들은 예수의 기적을 예수의 법칙이라고 명명할것임. 예수라는 사람이 특정시간대 동안 죽은 사람을살려낼 수 있다는 법칙으로.

이게 기적이면, 중력도 기적임. 중력도 단지 어떤 특정 법칙에 이름을 붙인거니까. 중력과 다른점은 예수의 법칙은 특정 장소에서 특정 시간대에만 재현 가능해서 타임머신으로만 증명 할 수 있다는 것임.

 

그래서 예수가 사람살리는게 기적이면 중력도 기적이고, 하늘이 푸른것도 기적이고, 내가 어제 저녘을 굶은 것도 기적이고, 헌터헌터가 아직도 휴재인것도 기적이고, 결국 세상의 존재 자체가 기적임.

 

그렇기 때문에 나는 생각한다 고로 존재한다는 것, 즉 내가 있는 세상이 존재한다는것 그것만이 기적이고 그것이 근본임.

과학은 거기서 전제에 따른 규칙을 논리적으로 분석하는것에 불과함.

 

애초에 현재 과학은 시간이란 개념조차 절대적이지 않은것으로 분류하는데, 인간의 감정이나 기억이 뇌의 특정 부위에 일어나는 화학반응 전기신호에 불과하다는 말은 앞뒤가 바뀐것임.

물리도, 시간도 그저 한개의 개념이고 우리는 지금 숨을 쉬는 찰나의 한순간에 존재함. 시간적 기록은 그저 정보에 불과함.

 

내가 존재하는 이세상에서 내가 특정 생각을 할때 뇌라는곳에서 전기신호가 특정하게 바뀌는 것을 밝혀낸것이지, 전기신호가 특정하게 바뀌어서 내가 생각을 하게 된다는 것은 그저 물리학적인 관점에 따른 해석에 불과함.

 

과학의 기반인 논리는 특정 전제에 대해 분석하는게 가능하지 전제(세상의 존재는 가장 근본적인 전제임) 자체에 대해 뭐라고 말하지 못함.

예를 들어.

a. 모든 새는 날 수 있다.

b. 까마귀는 새다.

라는 전제가 있으면

ㅊ. 까마귀는 날 수 있다

결론 낼 수 있는게 논리학인데, 논리학은 a,b가 참이면 c는 참이다 라고 주장 할 수 있어도, 전제 a,b가 참인가? 라는 질문에는 답할 수 없음. 그저 a,b가 참이면 c도 참이라는것만 말해줄 뿐. (실제로 a는 틀리다, 타조는 못나니까.)

 

그리고 논리에 기반을 둔 과학은 마찬가지로 절대적인 전제인 세상의 존재에 대해 아무말을 못함.

중력이란게 존재하면, 이 행성의 움직임은 이렇게 될것이다라고 결론을 내릴 수 있지만.

그 중력이 정말 언제나 존재하는가? 라는것에 답변을 줄수 있는가?

 

만약 사실 중력 요정들이 존재하고 이 요정들이 떄때로 몰래몰래 사람들이 관찰 할 수도 흔적을 찾을 수 없는 곳에서 중력을 없애기도 한다면? 만약 마음만 먹은다면 전 우주의 중력을 꺼버릴 수 있다면.

아 물론 과학이 발달한다면 그럴일은 절대 있을수 없다라는 것을 밝혀 낼 수도 있겠다.

미래에 사실 중력이 울뚝심송력이라는 것에의해서 발생하는데 울뚝심송력의 법칙상 요정은 존재할 수 없다는 것을 밝혀낼 수도 있겠다. 근데 그럼 이제 울뚬심송 요정이 존재하는지 아닌지 밝혀내야겠지.

 

그래서 이야기를 되돌려서, 본제인 자유의지에 대해 말하자면,

인간의 행동을 특정 알고리즘으로 완벽하게 재현하는 것은 난 이게 괴델의 불완전성 비슷한 원리로 불가능할 것이라고 봄.

 

괴델의 불완정성 원리는 좀 쉽게 말하자면,

특정 프로그래밍 언어로 수학 규칙에 대한 증명을 모두 써내리는것은 불가능하다.

그런 언어는 반드시 그 언어로는 증명을 써내리는 것이 불가능한 수학 규칙 a가 존재하게 된다. (그 규칙이 설사 참이라도 그게 왜 참인지 언어로 표현 불가능함.)

그렇다면 그 프로그래밍 언어를 확장(그냥 절대적으로 a는 옳다라는 '전제'를 추가한 언어)하면 a는 증명가능해지지만 그런 언어는 또다시 증명을 써내리는것이 불가능한 수학 규칙 b가 존재하게 된다.

이 프로그래밍 언어를 또 확장해봤자 증명을 써내리는게 불가능한 규칙 c가 존재게 된다.

 

인간의 언어라는 것은 정말 제한적인 표현방식이고, 인간의 생각은 언어에 제한된다는 주장이 있음.

과학 논문도, 다른사람과의 대화도 예술 작품을 보고 아름다움을 표현하는 말도 모두 인간이 쓰는 언어로만 쓰여져있으니까.

 

수학이나 과학적 법칙은 자연어 보다도 표현 범위가 더 하위적인 프로그래밍 언어 같은것을 써도 표현이 쉽겠지만,

기쁨, 슬픔, 환희 같은것은 언어만으로 표현하기 어렵겠지. 정확히 말하자면 언어를 포함해서 몸짓과 제스쳐 표정등을 사용했을 때 보다 더 어려울것임.

 

인간의 언어는 인간이 느끼는 세상을 제한적으로 밖에 표현못함. 불완정선 원리처럼 인간의 언어로는 도저히 처리하지 못할 무언가가 존재하지 않을까?

하물며 자연어로도 이런데, 자연어보다도 더 제한적인 프로그래밍 언어로 전혀 수학적이지 않은 노이즈를 가진 인간의 행동을 계산하는것이 가능할것인가?

 

인간의 수학과 과학은 내가 존재하는 세상에서 언어로 규정 가능한 것들만을 정리하는 것에 지나지 않는데, 과연 그것으로 나의 모든 것을 표현하는 것이 가능할것인가?

과학이 존재해서 내가 세상에 존재하는게 아니라 내가 세상에 존재하고 존재하는 세상에서 언어적으로 분석 가능한것을 분석한게 과학임.

나말고 다른 과학자들이 과거에 분석하고 정리한것이겠지만 그건 그저 시간적 기록에 지나지 않고 존재하는 것은 오직 내가 숨쉬고 있는 지금뿐.

 

인간을 초월한 존재들이 있어서. 그들은 언어를 초월한 무언가로 의사소통과 사고를 정리한다면, 그들은 초월적인 프로그래밍언어를 이용해 인간의 자유의지를 초월적으로 프로그래밍 하는게 가능할지도 모름.

근데 이쯤되면 그것은 프로그래밍이 아니라 그냥 세계창조라고 불러야 되지않을까?

 

만약 미래에 인간 수준의 AI가 나타난다면 그 것은 처음에는 생체공학적인 영역일 것임.

결코 프로그래밍 코드 만으로 만들 수 없을것임.

뇌세포를 배양해서 사용하거나, 아니면 더 나아가서 나노머신을 사용해서 뇌세포의 특정 패턴을 따라해서 만든것을 사용하게 될것임.

왜 그 분자 패턴이 자의식을 발생시키는지는 모를테고.

 

단지, 더 많이 뇌에 대해 알게되서 더 많은 컨트롤이 가능하게 되긴 할것임.

특정 부분을 건드리면 기억이 삭제되는구나.

특정 전기 신호를 증폭하면 슬퍼지는 구나 등등.

 

혹시 미래에 영혼학이라는게 존재해서 영혼의 존재를 증명한다면, 그때는 영혼을 따라해서 AI를 만들겠지.

그리고 더 세밀한 컨트롤이 가능해 질 수도 있겠지.

그럼 영혼은 왜 자의식을 발생시키는거지? 라는 고민을 할테고.

 

그리고 한가지 더 말하자면, 이런 류의 기술은 기술이 발달할 수록 더 카오스를 낳을 것이라고 생각함.

완전히 까지는 아니더라도 상당히 정밀하게 인간의 행동을 예측 하는 알고리즘을 만들었습니다.

어? 그럼 그 알고리즘을 사용해서 미래를 예측 해보자. 아니 아예. 그 기계를 내 뇌에 연결해볼래.

이렇게 되면 그 알고리즘이 예측한 행동은 완전히 틀리게 될것임. 인간이 알고리즘에 예측한 바에 영향을 받아서 결과를 비트니까.

그래서 그걸 신경쓴 더 업데이트된 알고리즘을 만들면, 이번엔 그게 또 결과를 비틀테고.

기술의 발달이 도저히 따라잡을 수 없는 카오스를 발생시키기도 하지 않을까?

5
2022.03.07
@광어튀김

과학이 과학이라 불리는 이유는 어떤 현상에 대해 완벽한 설명을 할 수 있기 때문이 아니라 가장 논리적인 현실에 가깝끼 때문임.

 

사실 우주에서 통용되는 수학이 1+1=2가 아니라 1+1=3이라고 하자. 그래도 우리가 관측가능한 계에서 1+1=2란 사실이 변하지는 않음. 선험적인 사실들을 그러모아 우리가 벽돌을 쌓듯이 만들어 낸 체계가 과학이자 수학이고, 그 논리는 나름 탄탄해서 대학, 논문체계와 과학계란 큰 기틀을 쌓아올렸음. 그리고 주류 집합 안에서 설명 못하는 자연 사실을 과학계에서는 틀리다! 라고 하지 않음. 아직 풀이 불가능. 이라고 표제를 달아놓지.

 

이 때문에 악마의 증명은 너무나도 말장난이 아닌가 싶음. 대우를 취하면 악마의 증명은 정말 쉽게 말장난으로 전락해버림...

 

괴델의 불완정성은 공고해보이는 범체계에서 일어나는 틈새를 논리적으로 공략한 것일 뿐, 한 인간과 그를 구성하는 물리화학적 논점에 적용하기에는 어려워보임. 원숭이들이 햄릿을 절대 못 쓰듯이 '우주'를 헤시안으로 분석하지는 못하지만 과학적 도구가 있는 현대세상에서는 인간 하나쯤이야 충분히 분석 가능함. 구렸던 병렬연산이 물밑에서 올라와서 ANN이 이렇게까지 커진 게 아니겠음? 이건 불가능과 가능의 차이가 아니라, 충분히 달성할 수 있는 범위 안에서 벌어지는 시간문제라고 생각함.

 

사피어-워프 이론은 weak만이 증명됐고(왜 여기에 끌어다 쓰는지는 모르겠음), 굳이 비트겐슈타인을 들고오지 않아도 감정 컴퓨팅은 지금 떠오르는 분야라고 말하고 싶음. 게다가 언어라는 것이 한 사람의 Output을 다른 사람의 Input으로 변환하는 그 중간 전달자라고 가정한다면, 사실 (후세에 인공으로 만들어질) 발화자의 의도를 고려할 필요는 없음. 튜링 테스트에서 시행하듯이 피험자가 그 대화에 몰입하게 되느냐 않느냐의 차이거든.

 

핍진성있는 미래를 그린다면, 라플라스 소피스트는 그만두고 AGI가 발생하는 순간 벽이 세워지듯이 갈릴 기술 계급을 생각해봐야 할 것 같음. 사실 몇 년 전 로봇에 꼬마선충 의식을 업로드했을 때부터 자유의지에 대한 논의는 사실상 끝난 것 같으니까 말임.

4
2022.03.07
@채첨단

뭐. 사실 님이 말한 첫문단이 내가 말하고 싶은 바였음. 과학은 가정 논리적이고 현실에 가까워 질수 있지만 완벽한 설명에는 절대 도달 할 수 없다. 세상의 존재 그 자체를 설명하는것은 아니기때문에.

 

괴델의 불완전성은 비유로 끌어다 쓴건데, 인간이 인간의 행동을 그저 알고리즘적인 코딩으로 완벽히 구현할 수 있다면 그 기술의 존재자체가 영향을 미쳐서 인간의 행동을 예측 못하지 않게 하지 않을까 한것임.

 

괴델의 불완전성이 자연수론을 완벽하게 정리해줄 수 있는 체계를 만드려면 그 체계는 반드시 그 체계로는 반드시 증명 불가능한 것이 생긴다처럼.

수학 <-> 인간, 체계 <-> 코딩

수학이라는 절대적인 진리를 표현하기 위해 인간이 만든 체계로 수학의 모든 것을 표현하고자 하면 할수록 그 체계가 수학을 결코 따라잡지 못하는 것처럼,

이세상의 존재에 불과한 내가(인간이) 인간을 완전히 표현하려는 코딩을 하려고 하면 그 코딩이 완벽에 가까워질수록 결코 따라잡지 못하게 될것이다.

 

라는 주장인데, 뭐, 사실 이건 내 상상이고 님 말대로 빈틈도 많음. 님말대로 어쩌면 계산이 될지도 모름.

그리고 설사 내말대로 된다고 해도 진짜 한 인간의 행동을 완벽하게 100% 코딩으로 재현할지 못하더라도 한없이 적은 오차로 비슷하게 가능할것이라고 생각되긴함. (단 그 경우 이 오차가 시간이 흐르면서 쌓이고 쌓이면 무시 못하게 될지도?)

0
2022.03.08
@채첨단

아. 근데. 완벽한 코딩만으로 인격을 구하는게 가능할지라도,

그 방향으로 기술이 나오는 것은 생체공학을 응용해 인격을 구현하는 것보다 더 뒤에 미래에 나올것이라고 생각함.

더 훨씬 더 쉬운 방법이 있는데, 빙빙 돌아가지는 않을테니.

 

0
2022.03.08
@광어튀김

코딩을 한다는 것을, 무언가를 결정론적으로 예측할 수 있다고 생각하는 것이 오류임. 양자역학만 논의해도 미래는 절대 예지할 수 없음이 자명함. 코딩도 예외는 아님. 단순히 확률을 높일 수는 있겠다만은.. 그리고 불확정성의 원리를 이야기하지 않아도, 코딩에선 얼마든지 결과에 무작위성을 부여할 수 있음. 의사난수라고 말한다면야 이 부분에서는 할말은 없지만.

 

각설, 따라서 흔히 카오스 이론에서 이야기하는, 미래를 앎으로써 벌어지는 패러독스는 논의할 필요가 없음. 애초에 예지가 불가능하거든. 말한 대로 인과가 뒤틀리니 사실 상식적으로 말이 안 되지.

 

그리고 인격을 코딩하지 못하는 이유는 첫째로 복잡도의 문제임. 네가 말하는 자유의지에 대한 논의는 적어도 ‘그러한 복잡도도 충분히 구현할 수 있는 기술력’에 다다르면, 그제서야 의미를 지닐 듯. 아직은 인간에 대한 이해가 덜 돼서 못할 뿐이지, 자유의지 때문에 못한다는 경험적 근거는 전혀 없잖아?

 

이건 내 사견인데, 아마 가상화된 시뮬레이터 위에서 돌아가는 인격체는 절대 등장하지 않을 것임. 둘 중의 하나를 포기해야하는데, 1. 속도가 아주 느리거나(물리법칙 위에서 시뮬레이션 되는 시뮬레이터 위에서 시뮬레이션 되기 때문에), 2. input과 output만 그럴 듯하게 비슷하고 내부 logic은 전혀 다르거나.

 

따라서 인격을 완전히 재현하려면 반도체나 기타 전자부품과 같이 결국 물리법칙을 이용한 코딩을 해야할 것이고 필연적으로 양자역학에서 벗어날 수 없을 거임.

0
2022.03.07
@광어튀김

과알못이라 궁금한건데 양자역학이 말하고자 하는 바가 미시적 스케일에서의 불확정성인걸까, 아니면 미시적 스케일에서도 모든 것은 확정적으로 결정되어 있지만 인간과 같이 물리법칙에 귀속된 존재는 그것을 관찰하는 순간 필연적으로 결과에 영향을 줄 수 밖에 없기 때문에 단순히 그런 우리 능력의 한계로 인해 불확정성이라 규정지어버린 걸까? 만약에 물리적인 영향을 주지 않으면서 관찰할 수 있는 존재가 있다면 (근본적으로 절대로 존재할 수 없겠지만) 그 존재는 있는 그대로의 우주를 관찰할 수 있고 그럼 그 존재만이 완전한 결정론을 주장하고 설명할 수 있다라는 개념인건가?

0
2022.03.07
@GB램

일단. 자유의지 이야기를 할때

미래가 정해져 있으니 자유의지는 존재하지 않는다.

미래가 정해져 있지 않으니 자유의지는 존재한다.

이딴 논쟁은 완전히 틀린 접근법이라고 말하고 싶음.

 

예를 들어 미래는 정해져 있지 않고 랜덤한 요소가 있다고 치자.

근데 이 랜덤한 요소가 인간의 정신에 작용한다고 치자.

그래서 완전히 똑같은 상황에 내가 A,B를 선택해야하는 어떤 상황에 놓여졌고, A를 선택했다.

근데 , 무언가 신적인 존재가 시간을 다시 되돌려서 나를 다시 완전히 똑같은 상황에 놓이게 햇다고 치자. (물론 나는 시간이 되돌려진 기억이 없음.) 그럼 나는 언제나 A만 선택할 것인가?

아니다 나는 자유의지를 가졌으니 이번엔 B를 선택할 수도 있을것이다!

 

위의 예시는 완전히 자유로운 의지가 아님.

신이 던진 주사위의 변덕에 따라서 니 의지가 변할 수도 있다는 것임.

 

완전히 똑같은 상황이고 완전히 똑같은 고뇌를 해온 결과 고심끝에 지금 플레이 중인 미연시에서 히로인 A를 고르고 B를 버리기로 마음을 도려내는 심정으로 결정했는데, 네가 해온 고뇌의 결과 실현한 의지가 그냥 신이 던진 주사위의 변덕이였다는 것임.

이것은 인간의 의지가 신이 던진 주사위의 꼭두각시라는 뜻.

 

이래서 미래가 정해졌냐 아니냐 가지고 자유의지 따지는 것은 완전히 틀려먹은 이야기임.

그래서 난 자유의지라고 한다면 인간의 사고를 완벽하게 코딩만으로 계산하는것이 가능하느냐 아니냐를 가지고 생각함.

 

그럼 일단 질문에 대해 답을 하자면,

세상에 진정한 의미에 평행우주는 존재할 수 없으며 그래서, 미래는 한방향으로 결정되어있다고 답하겠음.

 

이와 반대로 세상이 한방향으로 결정되지 않았다고 할경우.

그게 도데체 뭘 의미하는것인가?

1. 미래는 한방향으로 결정되었으나 미래를 완벽하게 계산하는 것은 불가능 하다. 즉 미래는 정해져 있지만 그것을 아는 것은 불가능하다.

 

2. 미래는 결정되어있지 않고, 그래서 한방향으로 존재하지도 않는다. 무언가 결과를 알 수 없는 랜덤한 요소가 있어서, 이 요소들이 작동하는 순간마다 평행세계로 갈라진다.

 

2번의 경우는 헛소리임.

일단 평행세계는 존재하는 순간부터 평행하지 않음. 그것이 존재하고 그것에 서로 영향을 미치는 시점에서 평행이 아님.

그게 평행우주로 보이는것은 그 우주안에서 사는 사람들 뿐.

그 우주 밖에서 보는 사람에게 있어서는 그냥 시간에 흐름에 따라 공간 하나가 변한것뿐임.

랜덤요소가 작동할때 어떤 결과가 생길지는 정해져있음.

현재 우주가 A선택한 우주와 B 선택한 우주 두개로 갈라진다는 결과가 정해져 있음. 사실 전혀 랜덤 요소가 아니다.

이걸 평행세계라고 한다면 그건 그냥 니가 그렇게 정한 설정일 뿐임.

갈라진 우주 밖에서 본 사람의 입장에서는 그냥 한방향으로 시간이 흐를 뿐임.

 

1번의 경우는 OK. 그럴 수도 있음.

너의 자유의지가 미래에 어떤 결정을 할지는 정해져 있지만 도데체 그게 무슨 결정일지는 알 수 없음.

만약 신적인 존재가 시간 축을 과거로 돌리면 언제나 같은 일이 반복될것이나, 과거 시간에 있는사람들은 미래 시간을 완벽하게 예측 하지 못함.

 

미래를 완벽하게 계산하는 기술을 만들어내면, 그 기술을 사용하는 순간 그로 인해 새로운 변수가 생겨서, 결국 그 기술로는 미래를 완벽하게 예측 못하게 되고, 그 변수마저 포함해서 예측하는 업그레이드된 신기술을 또 만들면, 또 신기술로 변수가 생기는 식으로 무한 반복 하는 식으로 되지 않을까?

 

덧붙여 말하자면 시간여행이라는 현상이 존재할 수 있다면, 미래에 니가 어떤 것을 할지 절대적으로 정해져 있을 수는 있음.

근데 이경우는 과정을 처음부터 끝까지 완벽하게 예측 하는 것은 불가능 할것임.

위에 말한 무한반복으로 인해서.

그렇기에 이게 자유의지에 반하는 것이 아님.

 

시간여행의 기술을 이용해서 예언적인 정보를 받았을 경우.

예를 들어 미래에 너는 페페와 결혼할 것입니다. 라는 절대적인 정보를 받았다고 친다면,

 

그 사람은 그 예언을 들었기때문에 개구리 페페와 결혼한게 아니라 미래에 개구리 페페를 사랑할 사람이고 결혼할 의지를 가지고 결혼할 사람이기에 그 사람은 그런 예언을 듣게 된것이다.라고 생각할 수 있다.

 

덧붙여 진짜 시간여행은 절대로 타임패러독스를 만들 수 없고 과거를 절대 바꿀 수 없다.

 

이미 타임머신이 만들어지기 전부터 시간여행으로 바꿀 수 있는 이미 다 바꿔져 있는 것이기때문.

시간여행이 가능하다는 것은 세상이 존재한 순간부터 일부 과거와 미래의 시간대가 원을 그리면서 이어져있을 수 있다는 것에 불과함.

 

타임 패러독스 비슷한것이라도 발생하는 순간부터 그것은 시간여행이 아님.

예를 들어.

 

1. 과거에 나는 친구 A에게 맞았다. 그런 과거의 나를 돕기위해 시간여행을 해서 과거로 가 몰로 A에게 돌을 던져서 과거의 나를 구함.

 

이건 시간여행이 아님.

 

2. 과거에 나는 친구 A에게 맞을 뻔했는데, 누군가 A에게 돌을 던져서 위험을 피할 수 있었다. 시간여행을 해서 날 도와준게 누군지 알아야겠다. 어 알고보니 돌을 던진게 과거로간 나였구나.

 

이건 시간여행임.

 

타임 패러독스 비슷한것이라도 발생하는 순간 그것은 더이상 시간여행이 아니게 됨.

흔히 라노베등에서 나오는 타임리프 능력은 시간여행이 아님.

타임 리프는 자신의 기억을 제외하고 다른 모든 것을 과거의 시점으로 우주를 재구축 하는 기술임.

그 우주 밖에서 지켜보는 사람과 주인공 입장에서는 그저 시간이 일직선으로 흐르고 있을뿐임.

 

어느 애벌레가 나뭇가지에서 계속 위로 기어 오르고 있는데, 내가 그 애벌래를 몇분전에 있던 나뭇가지 아래부분에 놓는다면, 애벌레는 자신이 시간여행을 했다고 착각할지도 모르지만, 그냥 내가 애벌레를 옮겼을뿐.

애벌레 입장에서도 내 입장에서도 시간은 계속 흐르고 있었음.

 

내가 비디오 테이프를 되감는다고 시간여행을 한것이 아님. 난 비디오 테이프를 되돌렸을뿐.

그렇다면 내가 지구를 과거와 같은 형태로 되감을 수 있는 능력이 있어서 지구만 되감았다면?

그건 시간여행이 아님.

그럼 우주 49%을 내 기억만 제외하고 되감았다면?

우주 절반을 내 기억만 제외하고 되감았다면

우주 전체를 내 기억만 제외하고 되감았다면

마찬가지로 시간여행이 아님.

우주가 변해가는 것을 시간에 흐름에 따라 목격한 내가 있음.

 

같은 이유로 벡투더 퓨처의 타임머신도 시간여행이 아님.

이것은 유사 타임머신으로, 현재 세계를 과거와 비슷한 세계로 변형시킨 다음

그 세계에서 일으키는 일을 AI가 유사 타임머신 사용자에게 약간 멋대로 피드백하고(타임머신 사용자가 가지고 있던 원래 시간대의 사진의 형태가 변한다던가, 멋대로라고 하는 이유는 영화내에서 피드백해서 일어나는 변화가 엄밀한 규칙이 없기때문),

유사 타임머신이 다시 세계를 현시대로 돌렸을때,

과거 시점에 저지른 일을 약간 멋대로 피드백해서 현재 세계를 바꾸는 기계임.

 

뭔가 이야기가 딴대로 샜는데, 요는 미래가 (시간 여행현상등에 인해 일부가)정해져있고, 일직선이더라도 그것은 자유의지의 존재여부와 전혀 상관이 없다라고 이야기 하고 싶었음.

1
2022.03.08
@GB램

뭔가. 내가 시간여행까지 끌고 와서 너무 이야기를 복잡하게 만든것 같은데 좀더 덧붙이자면,

 

시간여행 등의 요소로 인해 완벽하게 절대적으로 정해진 미래는 자유의지와 상관 없다고 말하고 싶었음.

 

시간 여행을 통해 알게된 정해진 미래는, 네가 어떤 행동을 할지 수학적으로 완벽하게 오차없이 계산해서 알게 된것도 아니고, 무슨 운명의 여신이 있어서 운명의 여신이 너의 의지를 조종해서 네가 절대적으로 미래에 페페와 결혼하게 만드는게 아니니까.

 

즉, 미래가 정해져있든 말든 그것은 자유의지와 상관이 없다.

0
2022.03.10
@광어튀김

자유의지가 있다면

빛의 속력은 절대 불변의 속력값을 가질수없고

과거시간 관찰여행도 애초에 성립하지 않습니다.

우주의 진리대로 세상이 돌아가지 않으니까요.

 

자유의지가 인간 같은 일부에게만 존재하고 물질에게는 존재하지 않는다는 생각을 한다면

 

네 선택 받으신 종교나 믿으러가시구요.

0
2022.03.06

주관적으로 계산된 최적의 결정을 내리는 자동주행장치

주관적 = 지 ㅈ대로 = 자유

결정을 내리는 장치 = 뇌 = 의지

 

인간 의식을 기계적(0,1)으로 구현할 수 있을까?

1
2022.03.07

양자역학에선 아인슈타인 1패하긴했는데 인과관계가 존재하지 않는 사건이 존재할수있다고 잘믿기진 않아. 아직 우리가 발견하지 못한(혹은 못할) 물리법칙이 존재할것같아.

만약 존재하더라도 정말 내가 자유의지를 가졌을지도 의문이고

1
2022.03.07
@게이게이킴

모든것이 결정되어있다면 사는 것 자체가 아무런 의미가 없다고 느껴져서 우울해. 우울해 하는 나 자신도 결정되어있겠지.

자유의지가 있다!라고 생각하려고 해도 마음깊은 곳에선 모든 사건은 결정되어있을 것이라는 믿음이 강해서 와닿지가 않아. 자유의지가 존재하는 논리적인 이유가 있어야할것 같아.

신앙심이 강한 기독교인이 부러워

1
2022.03.07

좆같은 양자역학이 자유의지는 개뿔 카오스이론을 불러들였다구요!

1
2022.03.07

인간의 사고와 행동은 신체의 화학적, 전기적 작용의 산물일 뿐이라고 생각해, 그래서 자유의지가 없다고 강하게 믿고있어.

얼핏보면 암울해보이지만 우리가 결말이 정해져있는 영화나 소설을 즐기듯, 인생도 마찬가지가 아닐까

1
2022.03.07

나도 그냥 기억이라는 빅데이터에서 딥러닝을 통해 산출되는 아웃풋이 의식이라고 생각함.

2
2022.03.07

용어정리도 안됐는데 무슨 논의를 하냐

너가 생각하는 자유의지란 무엇이고 자유의지의 조건은 무엇이며 어떤 선을 넘었을 때 그 존재를 인정할 수 있는지 너 나름의 언어로 정리하지 않으면 그냥 개뻘글밖에 안 돼

 

2
2022.03.07
@데니스강

허를 찔렸네..ㅋㅋ 평소에 궁금해서 가볍게 써봤는데 읽판에 올리기엔 너무 뻘글인듯..

0
2022.03.07

https://youtube.com/watch?v=H6u0VBqNBQ8&feature=share

 

관심있으면 나쁘지 않을 듯, 뒤져보면 지성에 대한 영상도 있음

1
2022.03.07

가끔 난 가벼운 결정을 할때 주사위를 굴려서 결정할때가 있음

주사위를 굴리겠다는 것 까지는 내 자유의지겠지만, 그 이후에 행동은 랜덤요소가 들어가겠지.

1

일단 인간의 생각과 기분을 맞추는 ai 시대가 온다? 근데 출근을해? 이런 개같은 세상 아직도 안바뀌었네 하고 ai한테 화풀이 겁나할듯

1
2022.03.07

지 꼴리는대로 선택 할 수 있다면 그것이 자유의지지

1
2022.03.07

자유의지는 없다는 여러 결과들이 나오고 있고 적어도 인간이라는 존재가 부르는 자유의지는 없다고 봄.

우리는 물리현상이라는 상위 법칙급에 지배당하니까 매우 전력효율이 좋지만 여러 버그가 같이 존재하는 유기체 기계에 가깝고.... 우리의 기술이 아직 못 도달하였지만 충분히 조작가능한 기계라고 생각됨. 우리 뇌에서 기억연속체, 전기신호, 화학물질 이 세가지를 뛰어넘는 어떠한 것도 없는 것으로 보이니까 아직까지는...

그러나 아무리 물리학이 노력을 했어도 물리현상을 모두 표현 기술하지 못하는 것을 염두해뒀을때... 물리현상에 어떤 자유의지라고 부를만한 부분이 있다면 모를까... 물리현상에는 있을 수 있으나 그것에 따를 수 밖에 없는 인간은 자유의지를 논할 스케일이 아닐듯... 그건 우리의 의지가 아닐테니...

2
2022.03.07
@섰다
[삭제 되었습니다]
2022.03.08
@구무나

그치...ㅋㅋㅋ 우리는 물리현상에 귀속된 존재이고 물질 그 이상 그 이하도 아니니까 현재 우리에게 밝혀진 것 이상의 물리현상이 있다한들 우린 그걸 따르는 것이지 그게 자유의지는 아니니까...

0
무분별한 사용은 차단될 수 있습니다.
번호 제목 글쓴이 추천 수 날짜
5247 [기타 지식] 아무리 만들어봐도 맛이 없는 칵테일, 브롱스편 - 바텐더 개... 3 지나가는김개붕 1 4 일 전
5246 [기타 지식] 일본에 의해서 만들어진 칵테일들 편 - 바텐더 개붕이의 술 ... 2 지나가는김개붕 6 5 일 전
5245 [기타 지식] 중국에서 안드로이드 폰을 사면 안되는 이유? 10 대한민국이탈리아 22 6 일 전
5244 [기타 지식] 최근 지각변동이 일어나는 국내 항공업계 (수정판) 15 K1A1 23 9 일 전
5243 [기타 지식] 도카이촌 방사능 누출사고 실제 영상 21 ASI 2 13 일 전
5242 [기타 지식] 웹툰 나이트런의 세계관 및 설정 - 지구 2부 21 Mtrap 8 13 일 전
5241 [기타 지식] 100년을 시간을 넘어서 유행한 칵테일, 사제락편 - 바텐더 개... 5 지나가는김개붕 1 16 일 전
5240 [기타 지식] 오이...좋아하세요? 오이 칵테일 아이리쉬 메이드편 - 바텐더... 3 지나가는김개붕 2 17 일 전
5239 [기타 지식] 웹툰 나이트런의 세계관 및 설정 - 지구 1부 31 Mtrap 13 17 일 전
5238 [기타 지식] 칵테일의 근본, 올드 패션드편 - 바텐더 개붕이의 술 이야기 15 지나가는김개붕 14 18 일 전
5237 [기타 지식] 웹툰 나이트런의 세계관 및 설정 - 인류 2부 22 Mtrap 14 17 일 전
5236 [기타 지식] 웹툰 나이트런의 세계관 및 설정 - 인류 1부 13 Mtrap 20 18 일 전
5235 [기타 지식] 서부 개척시대에 만들어진 칵테일, 카우보이 그리고 프레리 ... 3 지나가는김개붕 5 23 일 전
5234 [기타 지식] 모던 클래식의 현재를 제시한 칵테일편 - 바텐더 개붕이의 술... 4 지나가는김개붕 2 24 일 전
5233 [기타 지식] 브라질에서 이 칵테일을 다른 술로 만들면 불법이다, 카이피... 5 지나가는김개붕 1 25 일 전
5232 [기타 지식] 럼, 라임, 설탕 그리고 다이키리 편 - 바텐더 개붕이의 술 이... 2 지나가는김개붕 6 26 일 전
5231 [기타 지식] 1999년 도카이촌 방사능누출사고 대량 방사능 피폭 피해자들 ... 9 ASI 5 26 일 전
5230 [기타 지식] 진짜 레시피는 아무도 모르는 칵테일 싱가포르 슬링편 - 바텐... 3 지나가는김개붕 2 26 일 전
5229 [기타 지식] 통계로 보는 연애 상황에서 외모의 중요성 8 개드립에서가장긴... 11 29 일 전
5228 [기타 지식] 추울 수록 단맛이 유행한다, 위스콘신 스타일 올드 패션드편 ... 1 지나가는김개붕 8 2024.04.03