zahlen vergleichen: 0.42 >= 0.42 = false

[xlive]

hi,

habe eine einfache berechnung, die auch soweit in der test.fla wunderbar funktioniert.

//test.fla
var zahl1:Number = 0.42;
var zahl2:Number = 20;
var zahl3:Number = 1200;
var zahl4:Number = 25;
var columnB4:Number = new Number(Math.round(((zahl2/zahl3)*zahl4)*100)/100);
trace(columnB4); //Ausgabe: 0.42
 
if (columnB4>=zahl1) {
    trace ("true");
} else {
    trace ("false"); 

mache ich jetzt das ganze in meiner anwendung, aus der die zahl 1 aus einer .xml kommt, zahl2 und zahl3 aus einer combobox/eingabefeld, wird mir bei der if-abfrage immer false ausgegeben, d.h.

0.42 >= 0.42 //false 
 

liegt es vielleicht daran, dass die zahl 1 aus der .xml als string ausgelesen wird, und so anders vom interpreter im speicherbereich codiert wird als die Number, somit die 0 und 1 nicht identisch sind, daher = false?
wäre jetzt zumindest meine einzige erklärung.

habe es nun so gelöst.

var columnB4:Number = new Number((Math.round(((combowert2/1200)*volumen)*100)/100)+0.00001); 

gruß xlive

[Alphanimal]

du kannst auch den Wert aus der XML (und alle anderen werte) in Numbers konvertieren.
vl hilft das was?

[xlive]

schau, dass mach ich doch:

//ich importiere meine zahl(0.42) und schreibe sie in columnF
var columnF:Number = new Number(xmlpath.childNodes[6].firstChild.nodeValue);
 
//hier schicke ich das ganze durch ein array, um es zu sortieren
personDB.push({min:columnF, max:columnG, .....});
//--
minSortedArr = personDB.slice();
minSortedArr.sortOn("min", Array.NUMERIC);
 
//hier erzuge ich ein number-object
var min:Number = new Number (personDB[i]["min"]);
 
//hier wird der verleichswert berechnet
var columnB4:Number = new Number(Math.round(((combowert2/1200)*volumen)*100)/100);
 
//und da nun beide werte 0.42 sind, müsste eigenlich ein true rauskommen.
if (columnB4>=min){
trace ("true");
} 

tut´s aber leider nicht!?

[Alphanimal]

extrem krass:

a = Number("0.42");
b = Number(0.42);
trace(a==b); //false! 
 

ausweg:

trace(a.toString()==b.toString()); //true 
 

as sind die kleinen "eigenheiten" von float Werten...

[xlive]

super.danke.
es liegt wirklich daran, dass der interpreter die unterschiedlichen datentypen (strings, number, booleschen werte) in unterschiedlicher reihenfolge der nullen und einsen kodiert. und wenn dann irgendwo an der 15 stelle anstatt einer 0 eine 1 steht, dann ist die ausgabe = false;

bleibt nur noch die stilfrage;-)
so 
 var columnB4:Number = new Number(Math.round(((combowert2/1200)*volumen)*100)/100);
var wertB4:String = columnB4.toString();
if (wertB4>=min && wertB4<=max) {
}  
oder so
ActionScript:
1
2
 if (String(columnB4)>=min && String(columnB4)<=max) {
} 

gruß xlive

[Der Frager]

Hmmm... Ist ja mal ganz interessant, aber was soll der Mist???

a = Number("0.42");
b = Number(0.42);
trace(a-b);//5.55111512312578e-17
trace(1-a);//0.58
trace(1-b);//0.58 
 

[xlive]

ja das ist mal ne gute frage
stell dir vor du hast eine anwendung, die list einen wert (columnF) aus einer xml. nun berechnest du eine zahl (columnB4). wenn columnB>=columnF ist, dann soll eine ausgabe erscheinen. nehmen wir an, beide werte betragen 0.42. also dann hast du

0.42 >= 0.42 //Ausgabe: false. 
 

ja, dann sitzt de vor der kiste und machst
um jetzt allen, ja abers vorzubeugen, hier mal das "alte" script.

stop();
//----------------------------------------------------------------------------------------------
//table content begin
//----------------------------------------------------------------------------------------------
for (var i = 1; i<56; i++) {
    createEmptyMovieClip("container"+i, i);
}
//-------
var xDiv:Number = 0;
var yDiv:Number = 0;
var contentlevel:Number = 10;
var playernum:Number = 0;
var verein:Number = 0;
var vereinheight:Number = 30;
var playerheight:Number = 10;
var playerwidth:Number = 10;
//--
var noresult:Number = 0;
rootnd = mein_xml.childNodes[0].childNodes[5];
var personDB:Array = new Array();
for (var i:Number=droplet1; i<droplet2; i++) {
    for (var k:Number=0; k<rootnd.childNodes[i].childNodes.length; k++) {
        var schleife = rootnd.childNodes[i].childNodes.length;
        var nodes = rootnd.childNodes[i].childNodes[k].childNodes;
        var artikelno = nodes[0].firstChild;
        var pic = nodes[1].firstChild;
        var linkpic = nodes[2].firstChild;
        var xmlpath = rootnd.childNodes[i].childNodes[k];
        var columnF:Number = new Number(xmlpath.childNodes[6].firstChild.nodeValue);
        var columnG:Number = new Number(xmlpath.childNodes[7].firstChild.nodeValue);
        var valuevmin:Number = new Number(Math.round(((columnF*1200)/volumen)*10)/10);
        var valuevmax:Number = new Number(Math.round(((columnG*1200)/volumen)*10)/10);
        //trace(!isNaN(columnF));
        //trace(typeof (columnF));
        //--
        //vmin
        var valuevmin1:String = valuevmin.toString();
        if (valuevmin1.indexOf(".", 0) == -1) {
            valuevmin1 += ".0";
        } else {
            valuevmin1;
        }
        //vmax
        var valuevmax1:String = valuevmax.toString();
        if (valuevmax1.indexOf(".", 0) == -1) {
            valuevmax1 += ".0";
        } else {
            valuevmax1;
        }
        //--
        //personDB.push(columnF);
        personDB.push({min:columnF, max:columnG, vmin:valuevmin1,  vmax:valuevmax1, artikel:artikelno, .....});
    }
}
minSortedArr = personDB.slice();
minSortedArr.sortOn("min", Array.NUMERIC);
//----------------------------------------------------------------------------------
// Sortieren ASC
function sortieren(minSortedArr) {
    var columnB4:Number = ((combowert2/1200)*volumen);
    //-------------------------
    personDB = minSortedArr;
    for (i=0; i<schleife; i++) {
        //-------------------------
        var vminsort:Number = new Number (personDB[i]["min"]);
        var vmaxsort:Number = new Number (personDB[i]["max"]);
        var vmin = personDB[i]["vmin"];
        var vmax = personDB[i]["vmax"];
        var artikel = personDB[i]["artikel"];
        var picture = personDB[i]["picture"];
        var link = personDB[i]["link"];
        var zahlvmin:Number = new Number(vmin);
        var zahlmax:Number = new Number(vmax);
        if (columnB4>vminsort && columnB4<vmaxsort) {
            //trace (artikel + "       " + columnB4 +  " > " + vminsort + " && " + columnB4 + " < " + vmaxsort);
            noresult = 1;
            ausgabe_txt12.text = "";
            //--------------------------------------------------------------
            contentlevel++;
            playernum++;
            if (xDiv == 1) {
                xDiv = 0;
                yDiv = content_mc._height;
            }
            // Play_mc attachen und ausrichten
            var ausgabe = content_mc.attachMovie("player_mc", "player_" add playernum, contentlevel);
            ausgabe._x = xDiv*(playerwidth+20);
            ausgabe._y = yDiv+5;
            //------------------------------------------------------------
            ausgabe.vmin = vmin;
            ausgabe.vmax = vmax;
            ausgabe.artikel = artikel;
            ausgabe.link = link;
            ausgabe.picture.loadMovie("./" add picture);
            //-------------------------------------------------------------
            //Balkenanzeige
            ausgabe.balken._x = ((zahlvmin*3)+218);
            ausgabe.balken._width = ((zahlmax-zahlvmin)*3);
            //-------------------------------------------------------------
            //Highlighten 
            //Artikel No.
            ausgabe.button.onRollOver = function() {
                this._parent.button.artikelcolor.textColor = 0xAACEAB;
                _root["container"+i]._x = 0;
                _root["container"+i]._y = 325;
                _root["container"+i].loadMovie(this._parent.link);
            };
            ausgabe.button.onRollOut = function() {
                this._parent.button.artikelcolor.textColor = 0x0A510A;
                _root["container"+i].unloadMovie();
            };
            //---------------------------------------------------------------
            //--
            xDiv++;
            
            yDiv = content_mc._height;
            xDiv = 0;
            yDiv++;
            //----------------------------------------------------------------
        }
        //Ende > && < Abfrage
        //Ende schleife
        if (noresult == 0) {
            ausgabe_txt12.text = _root.errorvalue4;
        }
    }
    //result
}
//Ende sortieren()-Funktion
//-------------------------------------------------------------
//Funktion aufrufen:
sortieren(minSortedArr);
//-------------------------------------------------------------
//table content end
//------------------------------------------------------------- 
 

[bokel]

Deswegen soll man Gleitkommazahlen auch nie direkt vergleichen, sondern nur den Unterschied zwischen zwei Zahlen messen.

a = Number("0.42");
b = Number(0.42);
epsilon = 0.0001;
trace(Math.abs(a-b) < epsilon); 

Das sollte true ergeben, ist aber ungetestet.
Das Problem ist übrigens nicht flashspezifisch, sondern hat mit der begrenzten Genauigkeit von Gleikommazahlen zu tun.

mfg. r

[hgseib]

"..Das Problem ist übrigens nicht flashspezifisch, sondern hat mit der begrenzten Genauigkeit von Gleikommazahlen zu tun.."
sorry, wenn ich wiederspreche, aber das ist es hier nicht. das dezimalzahlen nicht immer komplett als binäre zahlen wiedergegeben werden können, das ist bekannt. aber der fehler müsste immer der SELBE fehler sein. das ist hier nicht der fall.
zahlen im script werden anders dargestellt (müssen aber intern auch umgerechnet werden, schliesslich ist der script auch nur text), wie die selbe zahl, bei der eine be-/umrechnung gegeben ist.

der 'fehler' liegt offensichtlich darin: das im code angegebene zahlen gerundet werden, was bei berechnungen zur laufzeit nicht der fall ist.
a = 0.42;
trace(0.42-a);
// besonders hierbei könnte man doch einen rundungsfehler erwarten
trace(.42*5944.56733/5944.56733-a);
//
trace(Number("0.42")-a);
trace(parseFloat("0.42")-a);
trace(("0.42").valueOf()-a);
trace((4/10+2/100)-a);
trace((4*Math.pow(10, -1)+2*Math.pow(10, -2))-a);

[bokel]

Das stimmt auch wieder hgseib. Es sieht so aus, als ob der Compiler beim Parsen von Zahlen andere Ergebnisse liefert, als der Flashplayer. Es wäre wirklich schöner, wenn beide gleich arbeiten würden.

mfg. r