Кодинг
★ Рубрика: Кодинг
★ Тема: Javascript

Решение проблемы точности вычислений с плавающей точкой

Ранее, был показан пример сложения чисел с плавающей точкой, в котором результат не получался точным. Здесь же приведем пример как справиться с этой проблемой при вычислениях. Справиться с ошибкой при вычислениях можно так: каждое из слагаемых следует умножить на 10, а сумму разделить на 10 :
var x = (0.2*10 + 0.1*10) / 10;
Полный пример скрипта, смотрите ниже, а действующий скрипт - в конце статьи.
 Похожие публикации: Javascript

Войдите, чтобы добавить Ваш ответ. [ Регистрация | Вход ]