기묘한 이야기

"은하계 종이 클립 최대화 기계" -레딧 r/HFY

SF단편이면 일루 들어가나?

ㅊㅊ: https://www.reddit.com/r/HFY/comments/wvdrv0/galactic_paperclip_maximizer/

번역: 내가했음

 

만일 온 은하에서 모인 외교관들의 연회에 참석하게 된다면,
첫째로 바니르 대표에게 정적을 얼마나 암살해봤는지 물어 보지 말 것,
둘째로 류바우 대표에게 군락에 두고 온 자식들의 안부를 물어 보지 말 것,
마지막으로 인간 대표에게 술은 얼마나 잘 마시는지 물어보지 말 것.

- 종족 연합 출입기자 경험에 대해 질문을 받은 신원 미상의 누군가

 

미르는 우주처럼 칠흑같은 피부를 한 말없는 인간에게 다가갔다. 그 인간은 한 손으로 잔을 부드럽게 돌리고 있었다. 그 잔은 그의 출신지에서 석영을 녹여 만들었다고 했던가. 이 대사가 두꺼운 유리 원반 가장자리에서 수직으로 올라오는 종잇장처럼 얇은 유리벽을 눈치채지 못했다면, 황금빛 투명한 액체가 우주선 창문보다도 두꺼운 유리 원반 위에서 떠있는 상태라고 생각했으리라. 바니르 종족 대사는 한 걸음 한 걸음을 타일 바닥 위에 떠서 걷듯이 조용히 내딛었다.

 

음바바지 대사는 친분관계가 있는 바니르 외교관에게 돌아섰다.

 

"오, 미르 대사님이군. 최근 성공적으로 평화 조약을 마무리지은 걸 축하하지."

 

"당신의 초자연적인 감은 항상 흥미롭군, 음바바지 대사. 당신들 종족 정말로 사이오닉 능력이 없는 게 맞는가?"

이제 바니르 대사는 놀랍지도 않은 내색이었다.

 

"초자연적인 감 따위 없어. 이거 덕분이지. 그저 그대가 걸어오는 걸 봤을 뿐이야."

인간 외교관은 온더락 잔을 공중에 높이 들어올렸다. 바니르도 얇은 유리에 상이 비치는 것을 볼 수 있도록.

 

"그런데 그대는 도대체 이걸 왜 바위 위 잔이라고 부르는 건가? 이렇게 투명한 광물을 이렇게 연약한 모양으로 깎은 잔은 본 적이 없는데."

 

"모래도 결국 부서진 바위 아니겠어, 미르?" 음바바지는 향을 맡으며 답했다.

"나한테 이유를 묻지 마. 내가 우리 외교사절단에 언어학자로 들어온 것도 아니고."

 

"내가 잘해서 그렇게 된 것도 아닌데, 뭘." 미르는 가는 금속 관을 들어 인간과 잔을 부딪혔다.

"어차피 확률로 일어날 수 있는 희귀한 경우일 뿐이었어, 음바바지. 그저 결과가 예상치에서 표준편차의 세 배만큼 더 바람직한 방향으로 오차가 났을 뿐이야."

 

"아, 그래. 은하계 벤담 말이지. 우리 선조들이 항상 상상하고 꿈꿨던 거야." 음바바지는 미소를 지었다. "불편부당한 기계장치의 신이 최대한 많은 지성 있는 생물에게 최대한의 번영이 돌아가도록 결정을 내려주는 계산된 세상이지."

 

"당신네 종족은 우리들 나머지보다도 그 결정에 더 쉽게 순종하는 것 같더군." 미르는 들고 있던 잔에서 한 모금을 마셨다.

"하기사, 우리는 이제 막 우주시대에 접어든 종족을 계몽시키라는 결정을 보고도 반신반의했으니."

 

"나는 왜 은하계 벤담이 우리의 기술 수준을 끌어올리라는 결정을 내렸는지 알 것도 같아. 스스로가 더 강력한 기계를 쓰고 싶었던 거지."

인간은 유리잔에 남아있던 액체를 한 번에 들이킨 후, 어두운 색의 병에서 한 잔을 더 따라내었다.

 

"물론이고 말고. 우리가 인간에게 기술을 준 이후로 성운은 12년마다 20퍼센트씩 팽창했어. 이제 전쟁의 사상자는 최소한으로 줄어들었고, 모든 교역협정은 최대한의 부를 창출하지. 류바우 종족은 드디어 최소한의 희생으로 인구과밀 문제를 해결할 방법을 찾았고." 미르는 인간 대사를 존경의 눈으로 바라보았다.

 

"우리는 실물경제에 기여하지 않는 연산자원이라면 언제든지 내어줄 수 있어. 은하계 벤담에 기여하는 대가로 분배되는 그 달콤한 보조금 덕분에 암호화폐 채굴업자들은 과거의 유물이 돼버렸지. 그리고 게이머들. 이 은하의 어떤 민간인들도 우리 게이머들의 연산자원은 따라갈 수 없어."

음바바지는 잔에 담긴 황금빛 액체를 흔들며, 잔의 벽을 타고 가늘게 흘러내리는 액체 줄기를 뚫어져라 쳐다보았다.

 

"가용자원을 이용한 최대 복리는 성운이 이 은하에 가져다준 최고의 선물이지. 성운을 위하여."

미르는 인간들의 관습처럼 금속 잔을 높이 들어올렸다.

 

"은하계 벤담을 위하여." 인간은 그에 화답하며, 다시 한 번 잔을 부딪혔다.

 

"더군다나, 당신네 종족들은 드디어 밤에 발 뻗고 잘 수 있겠어. 이제 곧 대함용 특이점 무기를 개발할 권리를 얻게 될테니." 미르가 음바바지를 축하했다.

 

"우리가 종족연합에 가입할 때 서명한 조약에는 다른 표현을 쓰기는 하지만, 우리 수준에 어울리지 않는 세부사항은 굳이 논하지 말자고."

음바바지는 바니르 대사의 말을 정정해주려 하다, 이를 빠르게 관두었다.

 

"사과하지, 대사. 배치... 였던가?" 미르는 잠시 생각한 뒤 질문했다.

 

"대충 그런 표현이었어. 내 수습기간 시절에는 조약의 한 조항에 들어갈 단어 하나를 위해서 며칠 날밤을 샜다고. 우리 종족을 성간문명으로 도약시킨 바로 그 조약 말이야." 음바바지가 끄덕이며 말했다.

 

"그 때만 해도 온 세상이 당신들이 안시드 종족처럼 언어학자와 시인들의 종족이라고 생각했지. 실생활에 쓰는 단어가 10억개나 되는 그 종족하고 조약을 채결하는 건 정말로 고역이야."

 

"그 치들은 다들 걸어다니는 국어대사전이라도 되는 건가?"음바바지는 놀라운 표정을 지었다.

 

"안시드 뿐만이 아니야. 우리는 우리 종족에서 제일 뛰어난 정보요원들을 외교관으로 보내. 류바우는 제일 큰 군집들에서 무리 어미를 파견하고. 독립국으로 떨어져나온 초거대기업들은 외교관 대신 회계사와 변호사를 보내기도 한다고. 그런데 당신네들 종족은... 그 중 어떤 것도 아니면서 저들 모두를 보내오지. 종족이 제대로 분화하기 전에 기술만 발전해서 그런 건가?" 미르는 여러 종족의 예시를 들어왔다.

 

미르의 말 그대로, 이 의사당의 한 방에서는 새로운 무기를 배치할 권리를 얻기 위해 인류에서 보낸 대표단이 모여 있었다. 법조인, 회계사, 관료들 사이에는 정치인도 한 명 끼어 있었고, 심지어 통역기가 완벽히 의사를 전하지 못할 때를 대비해 언어학자 한 명도 일행으로 동반하고 있었다.

 

"우리가 우리 힘으로 태양계를 벗어났다고 해서 그 때 쯤 걸리버 여행기에 나올 것 같은 종족이 됐을 것 같지는 않아, 미르."

인간은 손가락을 흔들며 술을 들이켰다.

 

미르는 인간의 개인단말기에서 소리가 울리는 걸 눈치챘다. 음바바지는 온더락 잔을 내려놓은 후, 외투에서 단말기를 꺼내 메세지를 읽기 시작했다.

 

"끝났군." 음바바지가 말했다. "드디어 실전배치를 위한 협약의 완성본이 서명됐어. 이제 언제든지 발효될 거야."

 

"음바바지 대사, 인류가 새로운 연구개발 계획을 시작하게 된 것을 축하하네. 성운이 완벽하게 통제하는 기술이전 비례의 원칙에 따라, 그대들 인근의 세력 균형도 계속해서 유지되겠어." 바니르 대사는 인간 외교관에게 축하의 말을 전했다.

 

"물론이지. 대표들은 집에 돌아가면 영웅이 될 거야. 이건 우리가 우리의 성운을 직접 만들기 시작한 이래로 제일 큰 규모의 사업이었어."

음바바지는 바니르 대사의 따뜻한 축하에 감사를 표했다.

 

"지금 생각해도 인간들이 직접 두번째 성운을 만들기 시작했다는 걸 생각하면 어안이 벙벙해. 성운의 비상용 예비시스템이라도 구축하려는 건가?"

미르가 이제 막 세번째로 잔에 술을 따르는 인간에게 질문했다.

 

"아니, 어떻게 한 종족이 은하 전체와 맞먹는 연산력을 가질 수 있겠어? 적어도 지금은 불가능해."

인간이 답했다. "게다가 그거, 은하 전체를 위한 것도 아니고."

 

"그럼 도대체 정체가 뭐지? 아무 의미 없이 자랑하려고 만들기라도 한다는 건가?"

미르는 얼굴에 당혹감이 비치기 시작했다. 표정에서 감정을 숨기지 못하는 바니르 외교관의 모습은 그리 흔치 않다.

 

음바바지는 바니르 대사의 질문에 끼어들며 말했다.

 

"오, 곧 시작할 거야. 곧 인간은 필요하다고 판단하면 모든 상황에서 중력 특이점 탄두를 쓸 수 있게 될 거야. 그러니까, 삼..."

 

"...삼십년?" 미르가 거듭 물었다.

 

"이..." 음바바지가 미르의 눈 앞에서 손가락을 접기 시작했다.

 

미르의 얼굴이 공포로 일그러졌다.

 

"일, 됐어. 조약은 발효됐고, 이제 대함용 블랙홀 탄두는 정식으로 인류가 실전배치한 무기가 되었어. 이제 모든 함선들은 재보급을 위해 기항지로 돌아오는대로 새 탄두를 싣게 될 거야."

 

"당신들 도대체 무슨 짓을 한 거야!" 바니르 대사가 비명을 질렀다.

 

주위의 여러 외교관들과 빈객들이 구석에 서있는 두 외교관을 향해 시선을 돌려, 바니르 대사가 감정을 주체할 수 없어하는 좀처럼 볼 수 없는 모습을 구경하기 시작했다.

 

"있지," 음바바지가 엄지와 검지로 입술을 비비며 말하기 시작했다.

 

"이 은하가 공리주의 중에서도 최악의 냉혹한 해석에 따라 움직이는 스카이넷을 중심으로 돌아간다는 사실을 우리가 알게 되었을 때, 우린 그게 이 은하의 대의를 위해 우리를 짓밟을 수 있지 않을까 걱정했어."

 

입술을 닦던 두 손가락을 공중에서 비비며, 인간 대사는 말을 이어갔다.

 

"수많은 회담에 참석해서는 연구개발과 실전배치가 인류에게 같은 개념이라는 걸 외계인들에게 설득시킨 사람이 바로 나야."

 

음바바지는 그 두 손가락을 바니르 대사 앞에서 들어보였다.

 

이거 봐, 인간은 실전배치를 위해 연구개발을 하지. 그리고 반대로, 우리는 실전배치를 통해 연구개발을 한다고. 그 치들은 보기 좋게 이 말에 속아넘어갔고, 우리는 은하계 벤담이 기술이전 비례의 원칙에 따라 우리에게 새로운 기술을 허락한 순간 바로 그걸 실전배치할 수 있는 권리를 얻었어."

 

"어떻게... 어떻게 이런 모략이 성공할 수가 있지? 성운이 이런 음모를 알아차리고도 그냥 눈감았을 리가 없어."

 

미르는 분노가 뚝뚝 떨어지는 목소리로 대답을 요구해왔다.

 

"첫째, 우리는 현재 은하계 벤담에 제일 많은 연산자원을 제공하는 종족이야. 아직 그 비율이 과반을 넘어서지는 않았지만. 곧 우리는 우리 자신이 심판하게 될 거라고, 미르." 음바바지는 검지를 접으며 엄지를 꼿꼿이 세웠다.

 

"둘째,"

 

엄지가 빠르게 접히며 다른 두 손가락이 바니르 대사의 눈앞에서 펼쳐졌다.

 

"우리가 이 은하의 대의와 우리의 복리가 반드시 일치하지 않는다는 걸 알게 된 순간부터, 우리는 당신들이 성운이라고 부르는 물건의 축소판 두 개를 만들기 시작했어. 더 큰 원본과 똑같은 원리로, 똑같은 방식으로 작동하도록. 그 일부는 우리가 지금 은하계 벤담에 연산 능력을 제공하기 위해 사용하는 바로 그 서버 클러스터를 연산장치로 공유하고 있어. 이걸 세상에 공개해도 절대로 안전하다고 판단하고 나서야, 우리가 이 녀석들의 존재를 공개적으로 인정하게 됐을 뿐이지."

 

음바바지는 그 손으로 공중에서 주먹을 꽉 쥐었다.

 

"만일 이 은하의 왕좌에 냉혹한 제레미가 앉아있다면, 우리는 그 녀석이 휘두르는 주먹으로부터 우리를 지키기 위해서라도 그와 같은 것을 가지겠어. 우리가 가진 것들은 서로 다른 목적으로, 각자의 우선 순위에 따라 당신들이 그렇게 신봉하는 은하계 벤담과는 다른 것들을 최대화하기 위해 움직일 거야. 인사하라고, 미르. 이제 막 이 은하에 종이 클립 최대화 기계 두 개가 새로 나타났으니까. 이름하여,"

 

음바바지는 주먹에서 손가락을 하나씩 천천히 펴기 시작했다.

 

"이마누엘,"

 

연회장에서 친목을 나누던 모든 사람들이 각자의 단말기로 긴급메세지를 수신하는 가운데, 미르는 바닥에 주저앉았다.

 

"그리고 니콜로."

 

-----------------이하 댓글에 올라온 작가의 첨언---------------------

토막상식: 머신러닝 알고리즘은 오류 계산 함수를 어떻게 정의하느냐에 따라, 같은 알고리즘을 무죄추정원칙을 엄격하게 지키는 판사로도, 혹은 조금만 의심이 돼도 상급병원에서 비싼 검사를 받도록 진단서를 써주는 동네 의원의 의사로도 만들 수 있음.

 

부록: 제레미, 이마누엘, 그리고 니콜로가 술을 마시러 갔다. 이마누엘은 바텐더가 칵테일을 정확히 180초동안 섞지 않았다고 실랑이를 하기 시작했다. 제레미는 밀랍 머리를 바닥에 내려놓고는 목구멍으로 술을 그대로 들이붓기 시작했다. 한편 니콜로는 주문한 술이 나오기도 전에 메디치 가문이 소유한 이 술집에서 뒷문으로 쫓겨나 버렸다. 셋 중 누구도 종이 클립이 뭔지는 모른다고 한다.

----------------------------------

 

 

 

 

 

이건 우리말로 옮기면서 든 사견인데, 이야기에서 나오는 저 ㅈ간 새끼 술 들어가자마자 철학자들 이름이 술술 나오는 거 보면 분명 젊어서도 술자리에서 개똥철학으로 일장연설하는 새끼였을 거 같음.

6개의 댓글

2022.08.24

인간의 혐성질은 미래에도 계속된다

0
2022.08.24

솔직히 뭔 소린지 모르겠다

1
2022.08.24

그러니까 성간문명이된 인류와 외계인은 인공지능에 외교를 전담시켜놨는데 인공지능은 본인 안위를 중요하게 생각하기에 보조 연산능력을 제공하는 인류에 유리하게 작동할거라고? 종이 클립은 뭐임

0
@행복한랍스터

https://www.dogdrip.net/422532651

이거인듯ㅇㅇ

0
2022.08.25

은하계 벤담="성운"="스카이넷"

인간 대표는 종족 연합의 정책을 전 은하의 공리주의적 관점에서 결정하는 인공지능을 공리주의자 제레미 벤담에서 이름을 따온 벤담이라고 부름.

 

인류는 아직 우주 외교에 참여한 지 얼마 안된 시점이고, 이는 벤담의 인류 기술개발 지원 결정에 따라 이루어졌음. 벤담이 그렇게 결정한 이유는 인류의 서버 클러스터 제공이 벤담의 연산력 확장에 기여하고, 그것이 공리에 도움이 될 것이기에.

 

인간 외교관 음바바지는 외계종족에게 인류의 언어에서 개발=실전배치를 뜻한다고 설득하는 것에 성공했음. 음바바지는 이를 통해 외계인들로 하여금 전략무기의 실전배치조약을 연구조약으로 오해하게 만들고, 동의하게 만들었음.

 

이와 동시에 벤담에 연산력을 제공하는 과정에서 얻은 내부 연산정보를 이용한 리버스 엔지니어링을 통해 인류는 벤담보다 작지만 거의 동일한 기능을 수행할 수 있는 미니 벤담 2기, 이마누엘과 니콜로를 제작함. 현재 벤담은 은하 공리주의를 위해 연산력을 할당하고 있지만, 이마누엘과 니콜로는 오류평가함수를 조정해 인류가 원하는 행동을 수행할 수 있음. 본문에서는 블랙홀 탄두의 개발을 30초만에 수행한 것이 이에 해당함.

(실제 신경망 인공지능은 저런 식으로는 동작하지는 않음. 뭔들 상관있겠냐마는.)

 

인류가 이런 방식으로 우주 종족연합의 뒷통수를 후린 것은 벤담이 인류를 간단히 우주문명에 합류시킨 것처럼, 반대로 벤담이 우주의 공리를 위해 인류에게 칼을 들이밀었을 때를 대비한 것으로 보임.

 

사설을 붙이자면, 외계인들이 "성운"이라 부르는 강인공지능을 인류가 제레미 벤담의 이름을 따서 부르는 것은 이 인공지능이 외부자의 시선으로도 철저히 공리주의적 관점에서 동작한다는 것을 말해줌. 동시에 인류가 위협을 느낀 지점도 이 부분인데, 개별 종족이 은하 전체에 위협이 된다고 벤담이 판단한 순간 그 종족은 절멸위기를 겪을 것이기 때문임. 인류가 니콜로, 이마누엘 두 인공지능의 존재를 블랙홀 탄두를 확보하기 전까지 숨긴 것도 이 맥락에서 이해할 수 있음. 만약 전략무기 없이 인공지능들을 공개했다면 벤담은 인류를 위협으로 판단하여 제거했을 것임

 

개발한 두 인공지능의 이름이 이마누엘 칸트와 니콜로 마키아벨리인 것은 인류가 이 인공지능들을 어떻게 사용할 것인지에 대한 작가 나름의 함의라고 생각함. 내 생각이지만 이마누엘은 도덕성, 즉 전우주적인 관점에서 인류의 행동을 결정하는 것에 사용하고, 니콜로는 마키아벨리가 메디치 가에 대항해 피렌체에 공화정을 수립하려 한 것처럼 인류가 은하 문명과 독립적인 노선을 걸으려 할 때 사용할 것이라고 추측함. 다만 마키아벨리 말년에 피렌체 공화정이 메디치 가에 의해 와장창된게 작가가 인류의 미래를 암시하는 것 같아 불안하지만... 사실 거까진 생각 안하고 군주론의 이미지만 차용한 걸수도 있음 ㅎ

6
@Veiner
0
무분별한 사용은 차단될 수 있습니다.
번호 제목 글쓴이 추천 수 날짜
1064 [기묘한 이야기] 살면서 겪어본 기묘한 체험 3 로또당첨예정자 3 20 일 전
1063 [기묘한 이야기] [실화] 아직까지 뭔지 모르겠는 경험 하나 10 오골닭 5 22 일 전
1062 [기묘한 이야기] 우리 가족 가위눌린 썰 8 사딸라 6 28 일 전
1061 [기묘한 이야기] 일본 멘헤라 아이템에 대해서 알아보자 24 Overwatch 18 2024.03.13
1060 [기묘한 이야기] 해태 타이거즈의 똥군기 썰.txt 18 군석이 12 2024.01.01
1059 [기묘한 이야기] 소설: 테이블에 남은 빵 부스러기를 주워먹으며 1 유미주의 2 2023.12.05
1058 [기묘한 이야기] 미얀마 범죄조직의 중국공안 생매장 사건 (펌) 6 세기노비는역사비... 12 2023.11.19
1057 [기묘한 이야기] 기묘한 이야기 새시즌 언제 나오냐고! 레몬진7도는너무강해 0 2023.10.03
1056 [기묘한 이야기] 이런 내용의 이야기 아는사람? 5 장규진 1 2023.09.14
1055 [기묘한 이야기] 기묘한 그림 5 월급받으며개드립하기 5 2023.08.12
1054 [기묘한 이야기] 삼각형 UFO 목격한 개붕이는 봐라 41 서대문개고기김 18 2023.08.11
1053 [기묘한 이야기] 해병대썰 3 - 긴빠이와 기수열외 6 파닭파오리 5 2023.08.01
1052 [기묘한 이야기] 죽음만이 가득한 세상 3 VIPS 2 2023.07.28
1051 [기묘한 이야기] '머리없는시신' 훗카이도 삿포로 용의자가족 체포 12 물속티슈뚜껑 8 2023.07.27
1050 [기묘한 이야기] 일본에서 사라지는 한국인들.. 15 물속티슈뚜껑 10 2023.07.26
1049 [기묘한 이야기] 4월의 어느 맑은 아침에 100퍼센트의 여자를 만나는 것에 대... 6 정공 4 2023.06.24
1048 [기묘한 이야기] 사망 9일만에 백골이 되어버린 사건 12 불소주 18 2023.06.11
1047 [기묘한 이야기] 어떻게 된 일이지? 2 84738 0 2023.06.10
1046 [기묘한 이야기] 다중우주가 존재한다고 가끔 생각함 48 REDPILLER 10 2023.05.19
1045 [기묘한 이야기] 이상한 sf 꿈 꾼 얘기 2 푹신푹신 7 2023.04.23