Skip to content
EntityQ669129· pop 12· linked from 29 articles

Niedomiar zmiennoprzecinkowy

Sign in to save

Also known as underflow

stan podczas obliczeń arytmetycznych na liczbach zmiennoprzecinkowych

Article · Polski

Niedomiar zmiennoprzecinkowy, w skrócie niedomiar (ang. underflow) – stan podczas obliczeń arytmetycznych na liczbach zmiennoprzecinkowych, gdy wartość bezwzględna uzyskanego wyniku jest mniejsza niż najmniejsza liczba większa od zera możliwa do zapisania w rejestrze lub pamięci. Prostym przykładem wygenerowania niedomiaru zmiennoprzecinkowego jest podniesienie do kwadratu najmniejszej dodatniej liczby zmiennoprzecinkowej. Na przykład dla 32-bitowych liczb zmiennoprzecinkowych w standardzie IEEE 754 można zapisać Uzyskany wynik nie mieści się w zakresie dopuszczalnych wartości powodując niedomiar.

Abstract from DBpedia / Wikipedia · CC BY-SA