[Java lista] ket alap kerdes
Laszlo.Marai at nokia.com
Laszlo.Marai at nokia.com
2007. Feb. 13., K, 13:13:27 CET
Hali!
>1. Szamabrezolosdi:
>
>a kod:
>double i = 2.65f;
>System.out.println(i);
>
>az eredmeny:
>2.6500000953674316
>
>Gondolom, hogy a binaris abrazolas pontatlansagabol ered a problema.
>De orulnek, ha valaki pontosan le tudna irni, hogy mi is tortenik a
>hatterben valojaban.
Semmi nem tortenik :). Kettes szamrendszerben a tort helyiertekek ugye
ugy
neznek ki, hogy 1/2 1/4 1/8 1/16, stb. Ezeknek az osszegebol kene
osszerakni
a tortetedet, es azt pont nem lehet. (Ahogy mondjuk a 0.1-et sem. Vagy
az 1/3-ot
10-es szamrendszerben, pedig 3-asban sima ugy :) )
http://en.wikipedia.org/wiki/IEEE_754
Ba'ly,
Atleta
További információk a(z) Javalist levelezőlistáról