실제로 원하는 대답을 하게 유도 할 수 있어서 직접 챗 gpt 사용해서 확인하는거 아니면 짤은 안믿는걸 추천

몰랐네 ㄷㄷ

정보 고마워

저정도로 길게 유도는 좀 어려울 수도 있지만

단순한건 안 믿는게 좋음 무슨 뉴진스 멤버로 히틀러 들어간다든지 이런 단순한건

그냥 A라고 물어보면 B라고 대답해 교육시키고 물어보면 그렇게 대답하는 경우 많음

옛날에 심심이 학습시켜서 욕하게 만드는거랑 똑같음

저런건 특정 방향으로 대답하게끔 하는게 얼마든지 유도 가능함

질문도 같이 보여줘야 함

템플런이 뭐임?

아.......

뭐라고 물어봤길래?

똑같이 물어봐도 물어볼 때마다 다르게 나옴 원래

챗GPT 포함해서 모든 AI는 학습을 인간이 만든 서적과 글을 참고해서 한거고 기본 베이스가 "논리적인" 이거임. 결국 학습한 다를 "타(他)"도 인간의 보편적인 시각을 AI가 논리적으로 설명해주는건데 그게 인간의 가치 판단과 크게 다를까? 지금은 부족할지 모르지만 "판단" 할수 없다에는 동의 못함. 나중에 강인공지능이 나온다면 더욱더.

ㅋㅋㅋ 추론 모델이라면 모를까 그 것도 아닌데 논리가 어디있음

LLM은 결국 학습한 데이터를 토대로 확률적으로 가장 적절한 대답을 생성하는 것일 뿐이지 거기에 판단이나 의사결정 과정은 부재함

이해를 못하네. 그 논리가 인간의 관점으로 학습됐다고. AI 말하는건 인간의 논리야. 그걸 부정하는건 의미가 없다는거지(그리고 추론도 지금 AI 쓰고 있는지 모르겠는데 엄청 발전했거든?)

o1조차도 환각이 나타나는뎁쇼, 지금 가장 똑똑하다는 모델에서조차 메타인지가 불가능한데 무슨 가치판단이 가능하다는건지 모르겠네

가치에 대해서 판단한다는 것은 본인이 모른다는 것을 몰라야 가능한 일이지

그리고 인간 관점에서의 논리를 학습했다 하여서 그 것이 실제로 논리를 행사한다는 뜻이 아니라 학습 데이터 내에서 가장 확률적으로 적절한 대답을 생성하는거지

간단하게, 중국어방을 생각해보셈, 그럼 답 나오지 않음?

예를 들어 대문자 A를 누르면 소문자 a로 바꿔주는 일을 맡았다고 했을 때

A의 소문자가 a인 것을 이해하고 그렇게 행동하는게 아니라 그저 A가 입력되면 a를 출력하도록 만들어진거. 그냥 알고만 있을 뿐, 이해하는게 아니라는거야

그래서 말하잖아. 너는 전혀 판단할수 없다 하지만 나는 그 답변의 전제가 "많은 인간의 논리" 부분이라서 충분히 가치판단이 가능하다는거고. 추후 강인공지능 나오면 더 그렇고. 환각증상은 초기에 비하면 많이 좋아지고 있음.

강인공지능쯤 나오면 그래야겠지. 근데 나는 아직은 가치판단이 불가능하고 맡겨서도 안된다고 봄. 어디까지나 보조 용도로서 사용해야지

저정도로도 사람보다 나은듯

그래도 세계적으로 보면 우리나라는 별로 갈등 심한편 아님.

당장 인구수 제일많은 나라 두개 꼽으라면 중국 인도 뽑을수 있는데, 이 둘의 내재갈등은 우리나라보다 훨씬 심해.

우리나라는 최소한 종교의 자유가 있는 나라에, 국교조차 없고, 인종은 단일민족에 최소한 언어 문화는 통일되어있음.

멀리갈거 없이, 인도는 지금 언어만 해도 800개(사투리 빼고)에, 인종도 생각보다 크게 다르고, 카스트 제도도 남아있음. 얘들은 인도라는 나라로 묶여있다고 말로는 그래도 아직 행정조차 통일안된 나라임.

중국은 아직도 티벳, 위구르 등의 문제가 남아있고 하나의 중국 외치면서 발광하고 있지. 중국만 해도 이슬람(위구르) 문제로 테러도 빈번하게 벌어지고, 뭐 티벳 탄압같은건 두말할 나위도 없지.

다른나라도 다 세대갈등 정치갈등 같은거 있지만, 그 전에 민족, 종교 이 두 가지라도 해결되고 세대갈등 정치갈등 같은거 논할 수준이 된 나라도 굉장히 드물어.