Kommastelle

[technicus123]

Hi,

habe eine kleine Frage.

Wenn Ich in einem Atmega 8 einen Wert X (als Byte deklariert) durch 2.56 teilen will und das grafisch darstellen will, bekomm Ich irgendwie Rundungsfehler. Habe das Programm in Bascom geschrieben. Habe Ich da einen Denkfehler oder rechnet der Prozessor ohne die Kommastelle?

Gruß Jens

 

[dino03]

Hi Jens,

einen Wert X (als Byte deklariert) durch 2.56 teilen will und das grafisch darstellen will, bekomm Ich irgendwie Rundungsfehler.

Bytes sind Integer (also Ganzzahlen OHNE Nachkommastellen).
Ich weiß nicht ob man ohne Konvertierung in ein anderes Variablenformat
(Float, ...) da irgendwas einfach mal mit Nachkommastellen machen kann.
Ein Controller ist ebend kein PC

Gruß
Dino

 

[Cassio]

....durch 2.56 teilen will und das grafisch darstellen will...

Hallo !

Ich frage mich gerade, ob die Werte hinter dem Komma für dich überhaupt relevant sind.... wenn du es grafisch darstellen möchtest.

Du kannst ja auch deine Variable als WORD definieren und die Zahl mal 100 nehmen. Anschließend kannst du die neue Zahl durch 256 teilen.

Am Ende musst du nur deine grafische Anzeige dem mit um 100 multiplizierten Wert anpassen.

Vielleicht hilft dir der Gedankengang ja auch weiter....


Gruß,
Cassio

 

[Markus]

Hi jens,

stell doch einfach kurz Deinen Code-Schnipsel ein, dann können wir uns das mal ansehen.

Du kannst natürlich den Byte-Wert auch an einen Single übergeben (casten) und dann mit Fliekommazahlen weiterrechnen. Geht auch ..... es kommt darauf an, was Du dann damit machen möchtest. Mit FUSING kannst Du Dir dann auch einen schönen String für die Ausgabe "zusammenbasteln".

Grüße,
Markus