machine precision

1. машинная точность # в ВТ – величина, которая характеризует точность вычислений с плавающей запятой и используется при обратном анализе ошибок алгоритмов в арифметике с плавающей запятой. Известна также как единица округления (unit roundoff, обозначается полужирным символом латиницы u) или как машинный эпсилон (machine epsilon, macheps; часто считается эквивалентным u или 2u); обычно обозначается Emach. Значение Εmach зависит от используемого способа округления;
2. точность станка.

Связные термины

1. precision
2. -

Все термины