плавающая запятая
-
Софт
[Перевод] Вычисления с плавающей запятой: сравниваем вывод в разных языках
С вашим языком программирования все в порядке — он просто производит вычисления с плавающей запятой. Изначально компьютеры могут хранить только целые числа, так что им нужен какой-то способ представления десятичных чисел. Это представление не совсем точное. Именно поэтому, чаще всего, 0. 1 + 0. 2 != 0. 3. ИТ-эксперт Эрик Уиффин, директор по инжинирингу компании Devetry, провел любопытный эксперимент: сравнил…
Читать далее » -
Хабрахабр
Нельзя так просто взять и вычислить абсолютное значение
Кажется, задача вычисления абсолютного значения (или модуля) числа совершенно тривиальна. Если число отрицательно, давайте сменим знак. Иначе оставим как есть. На Java это будет выглядеть примерно так: public static double abs(double value) return value;} Вроде бы это слишком просто даже для вопроса на собеседовании на позицию джуна. Есть ли тут подводные камни? Вспомним, что в стандарте IEEE-754 вообще и в…
Читать далее » -
Хабрахабр
Краеугольные камни уничтожения медленного кода в Wolfram Language: ускоряем код в десятки, сотни и тысячи раз
Скачать файл с кодом и данные можно в оригинале поста в моем блоге Так же и с символьным ядром Wolfram — его чудовищную мощь нужно правильно использовать, а если это делать не так, оно может стать настоящим «злом», замедляющим все очень сильно. Картинка к вебинару и посту взята не просто так: в определенном смысле символьное ядро Wolfram Language можно сравнить…
Читать далее » -
Хабрахабр
И все-таки, почему Posit являются достойной альтернативой IEEE 754
Месяц Posit объявлен на Хабре открытым, а значит я не могу пройти мимо и проигнорировать обрушившуюся на них критику. В предыдущих сериях: Часть 1Posit-арифметика: победа над floating point на его собственном поле. Новый подход может помочь нам избавиться от вычислений с плавающей запятойPosit-арифметика: победа над floating point на его собственном поле. Часть 2Испытания Posit по-взрослому Как правило, виной такому поведению…
Читать далее » -
Хабрахабр
[Перевод] Posit-арифметика: победа над floating point на его собственном поле. Часть 1
Часть 2 В этой публикации я предлагаю вашему вниманию перевод статьи Джона Густафсона (автора Posit) и Айзека Йонемото, посвящённой формату Posit.Так как статья имеет большой объём, я разделил её на две части. От переводчика: Тема формата Posit уже была на хабре здесь, но без существенных технических подробностей. Список ссылок находится в конце второй части. В отличие от ранней формы —…
Читать далее » -
Хабрахабр
[Перевод] Posit-арифметика: победа над floating point на его собственном поле. Часть 2
Часть 1 4. Количественное сравнение числовых систем 4.1. Определение десятичной точности Если у нас есть пара чисел x и y (ненулевых и одного знака), расстояние между ними в порядках величин составляет десятичных порядков, это та же самая мера, которая определяет динамический диапазон между самым маленьким и самым большим представимым положительным числом x и y. Точность обратна ошибке. Это шкала децибел,…
Читать далее »