Niedomiar zmiennoprzecinkowy
Sign in to saveAlso known as underflow
stan podczas obliczeń arytmetycznych na liczbach zmiennoprzecinkowych
Article · Polski
Niedomiar zmiennoprzecinkowy, w skrócie niedomiar (ang. underflow) – stan podczas obliczeń arytmetycznych na liczbach zmiennoprzecinkowych, gdy wartość bezwzględna uzyskanego wyniku jest mniejsza niż najmniejsza liczba większa od zera możliwa do zapisania w rejestrze lub pamięci. Prostym przykładem wygenerowania niedomiaru zmiennoprzecinkowego jest podniesienie do kwadratu najmniejszej dodatniej liczby zmiennoprzecinkowej. Na przykład dla 32-bitowych liczb zmiennoprzecinkowych w standardzie IEEE 754 można zapisać Uzyskany wynik nie mieści się w zakresie dopuszczalnych wartości powodując niedomiar.
Abstract from DBpedia / Wikipedia · CC BY-SA