Rundungsfehler??

[Fralle]

Sicher gab's schon einige Posts zu Rundungsfehlern, aber woher kommt denn sowas??

var a:Number = 1.2701;
var b:Number = 1.2708;
var c:Number = (a+b)*5000;
var d:Number = (a*5000+b*5000);
trace(c);
trace(Math.round(c));
trace(d);
trace(Math.round(d)); 

xxxx.5 sollte doch immer AUFgerundet werden, oder nicht?

[Alois]

...nun das ist durchaus ein Rundungsfehler, allerdings einer für den Flash nix kann, um zu verstehen wie es zu diesem Fehler kommt ändere erst mal Deinen Code ein wenig:

var a:Number = 1.2701;
      var b:Number = 1.2708;
      var c:Number = (a+b)*5000;
      var d:Number = (a*5000+b*5000);
      trace(c);
      trace(c-12704.5);
      trace(Math.round(c));
      trace(d);
       trace(d-12704.5);
      trace(Math.round(d)); 

...
Ausgabe:

12704.5
-1.81898940354586e-12
12704
12704.5
0
12705

also ist der Wert von c nicht 12704.5 sondern minimal weniger, wie das kommt, na das ist das Standardproblem von Fließkommazahlen am Computer, das ist halt so wurde z.B. hier schon mal ausführlich erklärt.

Gruß

Alois

[Fralle]

ja, ich hatte auch schon diverse Rechenfehler-Threads gelesen, nur daß dies auch vorkommt, wenn ich nur einen Multiplikationsfaktor ausklammere hätte ich nicht gedacht!

[madflanderz]

was sollen die klammern damit zu tun haben? die bestimmen doch nur die reihenfolge der operationen, hat mit der maschinengenauigkeit deshlab auch nix zu tun.

gruß maddin

[Alois]

Natürlich haben die Klammern damit zu tun!!
Das System versucht natürlich den Fehler selbst zu verhindern, solange es nicht mit Fliesskommazahlen rechnen muss ist es ja auch kein Problem die Werte im Speicher zu halten, das ist allerdings vorbei, falls eine Fliesskommazahl mit der anderen addiert wird, die Berechnung findet intern natürlich binär statt, und Flisskommawerte müssen eventuell gerundet werden...
...wird die Fliesskommazahl allerdings direkt multipliziert, so kann der Fehler minimiert werden...
...im Beispiel:

var a:Number = 1.2701;
trace("a-1.2701="+(a-1.2701));
var b:Number = 1.2708;
trace("b-1.2708="+(a-1.2708));
trace("a+b-2.5409="+(a+b-2.5409));
trace("a*5000-6350.5="+(a*5000-6350.5));
trace("b*5000-6354="+(b*5000-6354)); 

[Fralle]

Dieser SCHH...Rundungsfehler macht mich noch waaaaahnisinnig!!

wie kann es sein daß mir dieses Script:

won = -0.6
if ((won*10-Math.round(won*10)) == 0) {
	cent = won/Math.abs(won)*0.1;
} else {
	cent = won/Math.abs(won)*0.05;
}
trace(won+"  "+cent+"  "+(won*10-Math.round(won*10)));

dies hier ausgibt??? -->

-0.6  -0.05  -8.88178419700125e-16

oder: (var won in -1.4 ändern)

-1.4  -0.05  -1.77635683940025e-15

Wenn Flash wenigstens zuverlässig immer den Rundungsfehler machen würde, aber NEIN. Das Script hier taucht in einer Anwendung bei mir auf und produziert dort diesen Rundungsfehler. Stecke ich das Script aber in ein neues Dokument, dann rechnet Flash korrekt....


Vielleicht kennt jemand ja eine andere Lösung zu folgendem Problem:
je nach dem, ob die var won eine zweite Stelle nach dem Komma hat (immer eine Fünf, es sind €uro-Angaben) soll die var cent 0.05 betragen oder eben 0.1 (in Abhängigkeit vom Vorzeichen von won)

eigentlich funktioniert das Script oben. Leider kommen diese Fehler bei Werten von 0.6, 1.2, 1.4 vor....



Ich will eigentlich nur scha

[Alois]

Zitat von Fralle

... Das Script hier taucht in einer Anwendung bei mir auf und produziert dort diesen Rundungsfehler. Stecke ich das Script aber in ein neues Dokument, dann rechnet Flash korrekt....

tja, dann wirst Du den wert won=0.6 wohl in Deiner anderen Anwendung nicht direkt vorliegen, sondern irgendwie berechnet haben, und dann kommt es halt vorher bereits zu diesem Rundungsfehler an dem Flash nun überhaupt keine Schuld trifft .... flash rechnet so korrekt, wie es Rechner und Programmierer (naja scripter) zulassen. Naja, das wird ja im hier von mir verlinkten thread schon ausführlich erklärt.
In Deinem Fall scheint das Problem ja äusserst einfach abzufangen zu sein:

won = -0.6
var won1=Math.round(won*10000)/1000
won=won1/10;
if ((won1-Math.round(won1)) == 0) {
    cent = won/Math.abs(won)*0.1;
} else {
    cent = won/Math.abs(won)*0.05;
}
trace(won+"  "+cent+"  "+(won*10-Math.round(won*10))); 

[Fralle]

Du hast natürlich recht. Der Fehler steckt weiter oben im Programm. Die Variable won wird mir mit trace zwar als "0.6" ausgegeben, weicht in Wahrheit aber minimal davon ab.

Was heißt Flash trifft keine Schuld?? Ich gebe hier niemandem die Schuld!

Aber 6 durch 10 ist immer noch 0.6 und nicht 0.688178419700125e-16wrrf3545mrk4554!

Die Frage ist, wie soll ich damit umgehen??
Da es nie sicher ist, wo genau der Fehler auftritt, müßte man alle Rechenoperationen absichern. Denn hinterher danach zu suchen, ist natürlich sehr mühsam.
In meinem Beispiel habe ich die Variable won so korrigiert:

won = Math.round(won*100)/100;

Trotzdem macht mich das irgendwie nicht glücklich, denn wenn ich mir Wochen später so einen Code ansehe und dann tauchen da plötzlich solch scheinbar überflüssige Rechenoperationen auf, macht das die ganze Sache sehr unübersichtlich.
Am besten, man kommentiert solche "Korrigierungsschritte" immer mit einem Vermerk, damit klar ist, was da im Moment eigentlich gerechnet wird.

[Alois]

...aus meinem link oben:

...dieses Problem ist nämlich in allen Programmiersprachen existent.
es erfordert einfach etwas mathematisch-technisches Verständnis, eine Fliesskommazahl die im Dezimalsystem 'glatt' endet (z.B. 0,1) kann im Hexadezimalsystem unendlich lang sein (0,199999...) um diese also völlig korrekt wiedergeben zu können müsste man unendlich viele Bit haben, es gibt zwar Korrekturroutinen im Prozessor, aber vollig verhindern lässt sich das hardwaremässig nicht (woher soll der Prozessor wissen, ob Du nicht doch nur 0,199999 meinst), deshalb hat halt der Programmierer beim Erstellen der Software auf sowas zu achten.

....also nochmal: flash kann nicht anders, genau so wenig wie C, Java oder sonst eine Programmierspache, weil es technisch einfach nicht möglich ist.
Der Einzige der im diesem System anders kann ist der Entwickler.... und das bist in diesem Fall Du...und Du als Entwickler solltest wissen, daß solche Korrekturen manchmal nötig sind, dann wunderst Du dich auch nicht über eine solche Codezeilen.
Und wenn Du unbedingt auf 30 Stellen hinter dem Komma genau rechnen musst (daß ist kann in der Physik durchaus mal vorkommen), dann kannst Du das auch mit dem Computer, allerdings nur wenn Du den Rechenfehler von vornherein mit in Dein Programm hineindenkst (sonst schiesst Du mit Deinem Satteliten den Pluto ab, statt ihn zu umkreisen).