Flashforum - Die Community zu Adobe Flash, Flex AIR. Web Design und Inspiration.

m1cha · 05-07-2005, 19:54

hallo

flash kann woll nicht richtig rechnen.

ActionScript:

y=2;
while(y>=-1){
    trace(y);
    y=y-0.1;
}

einfach mal reinschreiben/kopieren und testen

ich habe flash 7.2

aber warum nur im bereich zwischen <1 und >-1.
wenn es im bereich 0 und >-1 wäre könnte ich mir das vorstellen, da der rechner ja binär rechnet und bei zahlen kleiner null wird ja das vorzeichen-bit in der zahl benutzt aber doch nicht bei dem bereich zwischen 0 und 1.

woran liegt das?

gruss m1cha

rendner[i] · 05-07-2005, 20:30

Das ist normal, das sind "Rundungsfehler" die in Flash auftreten.

LINK

r.fish · 05-07-2005, 20:36

dabei handelt es sich um einem Fehler beim Runden von Kommazahlen..

Flash hat eine TechNote darüber rausgegeben:
http://www.macromedia.com/cfusion/kn...fm?id=tn_13989

das kommt aber nicht nur bei ActionScript vor..

lg

05-07-2005, 19:54	#1 (permalink)
m1cha *<):o) Registriert seit: Mar 2003 Beiträge: 83	flash verrechnet sich?! hallo flash kann woll nicht richtig rechnen. ActionScript: y=2; while(y>=-1){ trace(y); y=y-0.1; } einfach mal reinschreiben/kopieren und testen ich habe flash 7.2 aber warum nur im bereich zwischen <1 und >-1. wenn es im bereich 0 und >-1 wäre könnte ich mir das vorstellen, da der rechner ja binär rechnet und bei zahlen kleiner null wird ja das vorzeichen-bit in der zahl benutzt aber doch nicht bei dem bereich zwischen 0 und 1. woran liegt das? gruss m1cha __________________ looser@www:~> su -l Password: root:~ # root:~ # chmod 777 WorldWideWeb root:~ # logout looser@www:~> Optimismus ist ein Mangel an Information!

05-07-2005, 20:30	#2 (permalink)
rendner[i] voidboy Registriert seit: Sep 2004 Ort: München Beiträge: 5.588	Das ist normal, das sind "Rundungsfehler" die in Flash auftreten. LINK __________________ ERROR: Signature is too large

Themen-Optionen
Druckbare Version zeigen Jemanden per E-Mail auf dieses Thema hinweisen
Ansicht
Linear-Darstellung Zur Hybrid-Darstellung wechseln Zur Baum-Darstellung wechseln

05-07-2005, 20:36	#3 (permalink)
r.fish Neuer User Registriert seit: Jul 2005 Ort: Wien Beiträge: 24	dabei handelt es sich um einem Fehler beim Runden von Kommazahlen.. Flash hat eine TechNote darüber rausgegeben: http://www.macromedia.com/cfusion/kn...fm?id=tn_13989 das kommt aber nicht nur bei ActionScript vor.. lg