[Java lista] ket alap kerdes

Laszlo.Marai at nokia.com Laszlo.Marai at nokia.com
2007. Feb. 13., K, 13:13:27 CET


  Hali!

>1. Szamabrezolosdi:
>
>a kod:
>double i = 2.65f;
>System.out.println(i);
>
>az eredmeny:
>2.6500000953674316
>
>Gondolom, hogy a binaris abrazolas pontatlansagabol ered a problema.
>De orulnek, ha valaki pontosan le tudna irni, hogy mi is tortenik a
>hatterben valojaban.

Semmi nem tortenik :). Kettes szamrendszerben a tort helyiertekek ugye
ugy
neznek ki, hogy 1/2 1/4 1/8 1/16, stb. Ezeknek az osszegebol kene
osszerakni
a tortetedet, es azt pont nem lehet. (Ahogy mondjuk a 0.1-et sem. Vagy
az 1/3-ot
10-es szamrendszerben, pedig 3-asban sima ugy :) )

http://en.wikipedia.org/wiki/IEEE_754

  Ba'ly,
    Atleta


További információk a(z) Javalist levelezőlistáról