Числовая точность IEEE 754 и погрешности в веб-конвертерах

В JavaScript и большинстве современных языков программирования все числа по умолчанию представлены в формате двойной точности Float64 (IEEE 754 Double Precision, 64 бита: 1 бит знака, 11 бит экспоненты, 52 бита мантиссы).

В десятичной системе невозможно точно представить дробь 1/3 (0.33333...). Точно так же в двоичной системе счисления невозможно представить простые десятичные дроби 0.1 и 0.2, так как их двоичный эквивалент является бесконечной периодической дробью:
0.1 = 0.0001100110011... (двоичное)

Классический пример:
console.log(0.1 + 0.2); // 0.30000000000000004

В конвертерах физических величин накопление таких микропогрешностей недопустимо, особенно при переводе единиц веса лекарственных препаратов или технических допусков деталей.

Полезный инструмент: Выполнить вычисления с точностью до 7 значащих цифр позволяет наш точный конвертер величин онлайн.

Для гарантии строгой математической точности в клиентских инструментах Utilora используется нормализация через фиксированную базовую единицу системы СИ (SI) и динамическое округление:

1. Единый базовый знаменатель: все величины сначала приводятся к базовой единице СИ (для длины — метры, для веса — килограммы, для площади — квадратные метры) через целочисленные коэффициенты или коэффициенты высокой точности, а затем переводятся в целевую единицу;
2. Устранение шума плавающей точки:
`javascript

function cleanFloat(val, precision = 8) {

return parseFloat(val.toPrecision(precision));
}
`
Функция toPrecision отсекает паразитный машинный шум младших разрядов (как в случае с ...00004), сохраняя идеальную чистоту расчётов.

Официальные стандарты Международной организации мер и весов:

• Длина:
- 1 дюйм (inch) строго равен ровно 0.0254 метра (по международному соглашению 1959 года);
- 1 фут (foot) = 12 дюймов = 0.3048 метра;
- 1 сухопутная миля (mile) = 5 280 футов = 1 609.344 метра;
• Масса / Вес:
- 1 международный фунт (pound, lb) строго равен 0.45359237 кг;
- 1 унция (ounce, oz) = 1/16 фунта ≈ 28.349523125 грамма;
• Площадь:
- 1 гектар (ha) = ровно 10 000 м²;
- 1 акр (acre) = 43 560 кв. футов ≈ 4 046.8564224 м².