아래의 예는 어디까지나 생각없이 프로그래밍을 했을 때 발생하는 오류입니다.

당연히 제대로 만들면 할 수 있습니다.

0.1+0.1+0.1+0.1+... = 1?

0.1을 10번 더하면 1일까?

아니니까 글의 제목이 저렇겠지?

당근 빳다 1을 출력한다.

그런데 이게 정말 1인지 확인을 하기 위해서 뒤에 코드를 추가해보자.

num을 출력했더니 1이라고 뜨지만, 정작 1과 같은지 체크를 하면 같지 않아서 "1 맞음"이 뜨지 않아.

심지어 num을 2^100번 거듭제곱을 해보니 num은 1이 아닌 무한대로 발산했지.

즉 num은 1보다 아주 조금 큰 숫자라는 뜻이야.

어째서 0.1을 10번 더했는데 1이 아니라 1보다 아주 조금 큰 숫자가 된 것일까?

(cpu에 따라서 1보다 아주 조금 작은 숫자가 되기도 한다.)

이것은 컴퓨터가 2진법으로 계산을 하기 때문에 일어나는 비극이야.

실제로 계산한 숫자의 값은 아래와 같아.

진짜 1보다 조금 크네..

컴퓨터는 2진법으로 동작한다는 것은 대부분의 사람이 알 거야.

그러면 0.1을 2진법으로 나타내는 방법은?

학식만 되어도 가물가물... 할테니 중간과정을 생략하면

'0.00011001100...'(2) 이 되며, 0011이 반복되는 무한소수야.

무한소수를 유한소수로 나타내는 과정에서 어느정도의 오차가 생기기 때문에

0.1을 10번 더해서는 1이 되지 못하는 것이지.

정수는 그냥 진법교환을 하고 종이에 쓸 수 있는 만큼만 표기하면 된다.

그렇다면 길이가 정해져있지 않아서 어떻게 써야 할지 감이 오지 않는 소수는 어떻게 표현하는 것일까?

이것에 대한 표준은 IEEE 754에서 정의되어 있어.

https://ko.wikipedia.org/wiki/IEEE_754 : 부동소수점 정의만 적혀있음

https://en.wikipedia.org/wiki/IEEE_754 : 754내용이 적혀있음.

요약하면

float은 32비트이며, 1bit는 부호,8bit는 지수,23bit는 가수를 의미한다.

부호는 0일때 양수, 1일때 음수이다.

지수는 그 값에서 127을 더한다.

가수는 제일 처음의 1은 제외한 다른 값을 채운다.

따라서 위의 0.1을 2진수로 표현한 0.00011001100...(2)는

1.1001 1001 1001 1001 1001 1001 * 2^(-4)으로 표현을 해.

float에서 가수(소수부분)는 소수점 아래 23개 밖에 적지 못해.

그래서 저 진하게 쓴 1은 어떻게 되는 것일까?

그게 cpu마다 다를 수 있어서 어떤 cpu는 0이 되고, 어떤 cpu는 무한대가 되버려.

어차피 원래 숫자에서 엄청 작은 숫자라서 큰 상관은 없다고 생각했나봐.

(인텔은 대부분의 cpu가 저 경우 올린다고 배웠어.)

일단 내가 쓰는 cpu는 아래와 같이 된다.

1.1001 1001 1001 1001 1001 101 * 2^(-4)

당연히 이 숫자를 10번 더하면 1보다 아주 조큼 큰 숫자가 되겠지?

만약 버림을 하는 시피유라면

1.1001 1001 1001 1001 1001 100 * 2^(-4)

이라서 10번 더하면 1보다 아주 조금 작은 숫자가 되서 0이 되겠지

2진수의 비극으로 인해서 이러한 문제도 발생해

10 000 000 + (1+...10 000 000번) = 20 000 000?

어째서 천만이 더해진게 아니라 이상한 숫자밖에 더해지지 않았을까?

원리는 위의 0.1을 10번 더했을 때 1이 되지 않는 것과 같아.

23자리 문제지.

이처럼 32비트로 표현할 수 있는 40억가지 숫자안에 소수를 표현하려다보니 한계가 있어.

물론 어마어마하게 큰 64비트, 128비트에 넣어도 부동소수점의 한계상 저러한 문제가 생겨.

이 경우에는 안세봤지만, 00이 마지막 숫자라서 그 뒤에 와야 하는 숫자가 버림되었나봐.

결론.

컴퓨터는 소수계산, 큰수+작은 수에서 정확하게 엉뚱한 답을 낸다.

(그런 오류를 내게 프로그래밍이 가능하다.)