stringtranslate.com

Числовая ошибка

В программной инженерии и математике числовая ошибка — это ошибка в числовых вычислениях .

Временной ряд карты Tent для параметра m=2,0, показывающий числовую ошибку: «график временного ряда (график переменной x относительно числа итераций) перестает колебаться, и никаких значений не наблюдается после n=50». Параметр m= 2,0, начальная точка случайна.

Типы

Это может быть совокупным эффектом двух видов ошибок в расчетах.

Мера

Погрешность чисел с плавающей точкой часто измеряется в ULP ( единица измерения стоит на последнем месте ).

Смотрите также

Ссылки