Math.round(VAR*100)/100; <- Rundet blödsin!?

[Netzdiver]

hmmm - also es gibt ja schon ein paar threads über das Problem von Flieskommaproblemen, aber ich dachte der round sollte eigentlich richtig arbeiten, aber habe gerade mal einen kleinen test gemacht, und habe mir eine Zahl *.125 runden lassen und bekomme bei trace einen solchen blödsinn!!??

0.13
1.13
12.13
123.12
1234.13
12345.13
123456.13
1234567.13
12345678.13
123456789.12
1234567890.13
12345678901.13

also nur wenn ich 3 bzw. 9 ziffern vor dem komma habe rundet das ding falsch, und auch nur bei 3 ziffern hinter dem Komma!!

Hat jemand eine Idee woran das liegen könnte??

grezz Netzy

PS:

das ganze ist noch witziger, wenn man nämlich nicht mit einer 1 startet, rundet er richtig!!

123.12
223.13
123456789.12
223456789.13

[bokel]

Math.round kann auch nur das runden, was das Zahlenformat an Genauigkeit hergibt. Wenn du absolut exakte Berechnungen brauchst, musst du ganze Zahlen benutzen.

mfg r.

[webxvideo]

Ist wohl eindeutig ein Bug!
Bei MX 2004 wird's aber korrekt gerechnet.

[Alois]

@webxvideo: Netdiver scheint auch mx2004 zu haben....
...aber auch bei mx kann ich diesen 'Fehler' nicht nachvollziehen (der doch gar kein flash-bug sein kann...), hier mal mein Testscript:

runden=function(zahl){
    trace(Math.round(zahl*100)/100);
}
for(i=1;i<10;i++){
    j=j*10+i;
    runden(j+0.125)
} 

Ausgabe:

1.13
12.13
123.13
1234.13
12345.13
123456.13
1234567.13
12345678.13
123456789.13

...also scheint es schon eher der bug vorm PC zu sein!!!

Gruß

Alois

[webxvideo]

@Alois
Also ich habe auch einen PC und den Rundungsfehler hab ich nicht.
Ich habs auch noch mal mit MX probiert - kein Fehler.

Ich bin davon ausgegangen, daß die Ergebnisse von Netzdiver stimmen, hab's nicht probiert und darum bin ich von einem Bug ausgegangen.

@Netzdiver
Poste doch mal das Script, welches den Fehler verursacht.

[Netzdiver]

hoi Alois,

hast du dein testskript unter dem F-Player 6 oder 7 laufen lassen???

Unter 6 bekomme ich auch das selbe ergeblis, aber unter 7 bekomme ich sogar nur

NaN
NaN
NaN
NaN
NaN
NaN
NaN
NaN
NaN

Ich hoffe nicht das der sch... mit dem Update auf den neuen Flashplayer 7 von MM zu tun hat?!

@ web

ich hatte es nur über ein einfaches eingabefeldundund einem Button mit on function gemacht, und die werte einfach per hand eingegeben

[madflanderz]

das hat damit nix zu tun, du mußt noch ein j=0 vor die schleife schreiben um die variable zu initialisieren.

trozdem verstehe ich nicht dein/euer problem, was soll denn bei z.b. 2.125 herauskommen??

2.125 * 100 =
212.5

round(212.5) =
213

213 / 100 =


2.13

ist doch richtig oder wie jetzt??? oder bin ich schon wieder zu verpeilt?

[Netzdiver]

hmpf!!!

jo das wars, nur jetzt dann noch mal testen warum er so einen quatsch oben gerechnet hat

[madflanderz]

achso, du meinst die

*.12 oder???

[Netzdiver]

also das script von alois futzt, aber wenn man es über ein on (release) berechnen läst, und die Zahlen von Hand angibt kommen die Zahlen von oben raus

Schaut mal ob es evtl. wirklich ein PC bug bei mir ist