Was tun gegen ungenaue Variablen bei Flash?

[Markus1982]

Also... ich hab ein Problem:

Ich schreibe gerade ein ActionScript, in dem ziemlich viel Mathematik vorkommt.

Da hab ich einen Ausdruck von der Form if(a-b==c) drin stehen, der lieferte dauernd "false" zurück, obwohl einwandfrei klar war, daß a-b=c ist.

So. Okay. Ich versuchs mal mit "trace(a-b-c);", und was krieg ich raus?

4.44089209850063e-16.


Na toll. Folgerung: ActionScript kann nicht gescheit mit Variablen umgehen.
Was tut man dagegen?

[sebastian]

Na ja das hat nicht zwingend nur was mit AS zu tun

Musst im Grunde bei sowas immer so vorgehen:

a-b-c < ε 

Dabei ist Epsilon möglichst klein.

Also wenn z.B.

a-b-c < 0.0001 

ist, kannst du davon ausgehen, dass es gleich ist.

Gab es aber schon mehrfach, daher gehe ich hier auch nicht auf die genauen
Hintergründe ein. Für mehr Details die Suche benutzen.

gruß

[Markus1982]

alles klar, danke schön.

[hgseib]

Zitat von Markus1982

Na toll. Folgerung: ActionScript kann nicht gescheit mit Variablen umgehen.

sorry da muss ich wiedersprechen! nicht flash kann nicht, sondern du kannst nicht richtig damit umgeben.
die berechnungen werden nicht von flash ausgeführt, sondern vom prozessor. das was du als fehler bezeichnest ist ein vollkommen normales ergebnis, wenn man das zahlensystem wechselt (dezimal für den menschen in dual für den computer) und zur darstellung der zahlen nur ein begrenzer platz zur verfügung steht. also wenn das überhaupt ein fehler wäre, dann betrifft der alle computer und alle programmiersprachen.
siehe:
http://de.wikipedia.org/wiki/IEEE_754

wenn man richtig programmiert, dann ergibt das auch das richtige ergebnis.
schreib doch bitte einmal 1/7 als dezimale zahl auf und zwar exakt! und mach da mal blos keinen fehler ;-)