Kurseinheit 2 Was bedeutet Überlauf?

Um ein leichteres Beispiel zu nennen nehmen wir mal an, das die Zahl 128 vom Typ byte dargestellt werden soll.
Da der Wertebereich nur bis 127 definiert ist, wird angefangen an der unteren Grenze (in diesem Fall -128) weiterzuzählen.
die Rechnung 1*128 hat somit das Ergebnis -128 zur Folge.
129 wird zu -127,
130 wird zu -126
131 wird zu -125
……
383 wird zu 127,
384 wird zu -128,
usw. usw. usw.

Beispiel 11.2-3 ergibt sich dann aus der folgenden Rechnung nach dem o.g. Schema:

=1582-127(1 bis 127) -256-256-256-256-256-129 (-128 bis 0) = 46

Viele Grüße

Daniel

gl_prophet
mir hast du die Frage auch gleich beantwortet, das leuchtet ein, vielen Dank!
F

esch sagt dem propheten ganz großen dank - sowas hätte man ja auch mal kurz in den Scipt schreiben können, auch in einem weiteren Java-Buch hatte ich nichts gefunden, und in der Praxis habe ich nur über Talend-ETL mit java zu tun

finde es Schade, dass es im Script nicht beschrieben steht. Habe auch erst recherchieren müssen. Ein, zwei Sätze im Skript hätte ja zur Erklärung gerreicht.... oder den Wert des Überlaufes ganz weg lassen, damit sich keiner den Kopf darüber zerbricht.