[Math.round] Bug?

[thorben.schmitt]

Number.prototype.afertComm = function() {
    var t = this-Math.round(this);
    return t;
};
zahl = 392.39201;
trace(zahl.afertComm()); // 0.392010000000028 
 

[André Michelle]

Floatnumbers in Flash. Such mal danach.

Gleiche wie zb: trace ( Math.sin( Math.PI ) )

oder auch:

trace ( 392.39201 % 1 )
trace ( 392.39201 % 392 )

:o)

[fresh]

interessant. ich dachte immer, dass die floating-point-toleranzen daher kämen, dass intere rundungsfehler auftreten, die aber bei addition oder subtraktion dann keine rolle spielen.
was ich dann bemerkenswert finde, ist, dass jedenfalls
trace (392.39201-392.39201);
richtig ausgewertet wird...

Number.prototype.afertComm = function() {
        var t = this-Math.round(this);
        //trace (Math.round(this));
        //trace (this);
        return t;
};
zahl = 392.39201;
//trace (zahl-Math.round(zahl));
trace (392.39201-392);
trace (392.39201-392.39201);
//trace(zahl.afertComm()); 
//trace ( 392.39201 % 1 )
//trace ( 392.39201 % 392 ) 
 

[André Michelle]

Letztendlich wird jede Zahl in Flash als 64Bit Float umgerechnet.
Dabei passieren Rundungsfehler, die Rechnenoperation als solches ist egal.

trace (392.39201-392.39201);

wird aber offensichtlich anders behandelt.
Generell macht das schon der Compiler, soweit ich weiss.

[thorben.schmitt]

danke andre' für die erklärung

ps: trace (392.39201-392.39202);

[bokel]

Sehr schönes Beispiel Thorben. Wenn wir davon ausgehen, dass dieser Wert vom Compiler berechnet wird, sieht man daran, dass das Problem mitnichten flashspezifisch ist, sondern auch in normalen Exen auftritt. Es ist einfach ein Fakt, dass Fliesskommazahlen auf Computern nicht genau sind.

Davon abgesehen kannst du die Zahlen hinter dem Komma mit mod 1 herausbekommen.

mfg r.

[fresh]

@bokel:
aber hallo!
andre michelle hat's ja schon gepostet:

trace ( 392.39201 % 1 );

edit: entschuldigung!
du wolltest wahrscheinlich nur sagen, dass sich der aufwand mit der funktion nicht lohnt...