Десяти́чная дробь — разновидность дроби, которая представляет собой способ представления действительных чисел в виде
БЭСМ (Большая электронно-счётная машина) — серия советских электронных вычислительных машин общего назначения, разработанных Институтом точной механики и вычислительной техники АН СССР (ИТМ и ВТ) и предназначенных для решения широкого круга задач.
Математический сопроцессор — сопроцессор для расширения командного множества центрального процессора и обеспечивающий его функциональностью модуля операций с плавающей запятой, для процессоров, не имеющих интегрированного модуля.
Округление — замена числа на его приближённое значение, записанное с меньшим количеством значащих цифр. Модуль разности между заменяемым и заменяющим числом называется ошибкой округления.
−0 в программировании — число, возникающее при вычислениях с плавающей запятой.
Число с плавающей запятой — экспоненциальная форма представления вещественных (действительных) чисел, в которой число хранится в виде мантиссы и порядка. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Используемое наиболее часто представление утверждено в стандарте IEEE 754. Реализация математических операций с числами с плавающей запятой в вычислительных системах может быть как аппаратная, так и программная.
Дробь в арифметике — число, состоящее из одной или нескольких равных частей (долей) единицы.
Число с фиксированной запятой — формат представления вещественного числа в памяти ЭВМ в виде целого числа. При этом само число x и его целочисленное представление x′ связаны формулой
,
Двоично-десятичный код (англ. binary-coded decimal), BCD, 8421-BCD — форма записи рациональных чисел, когда каждый десятичный разряд числа записывается в виде его четырёхбитного двоичного кода. Таким образом, каждая тетрада двоично-десятичного числа может принимать значения от 00002 (010) до 10012 (910).
Прямой код — способ представления двоичных чисел с фиксированной запятой в компьютерной арифметике. Главным образом используется для записи неотрицательных чисел. В случае использования прямого кода для чисел как положительных, так и отрицательных, то есть чисел, запись которых подразумевает возможность использования знака минус, хранимые цифровые разряды числа дополняются знаковым разрядом.
Число́ двойно́й то́чности — компьютерный формат представления числа с плавающей запятой, занимающий в памяти 64 бита, или 8 байт. Как правило, обозначает числа с плавающей запятой стандарта IEEE 754.
Число́ одина́рной то́чности — широко распространенный компьютерный формат представления вещественных чисел, занимающий в памяти 32 бита. Как правило, под ним понимают формат числа с плавающей запятой стандарта IEEE 754.
IEEE 754 — широко используемый стандарт IEEE, описывающий формат представления чисел с плавающей точкой. Используется в программных и аппаратных реализациях арифметических действий.
Число́ четверно́й то́чности — компьютерный формат представления чисел с плавающей запятой, занимающий в памяти четыре последовательных ячейки. Как правило, обозначает формат числа с плавающей запятой binary128 стандарта IEEE 754.
Денормализованные числа или субнормальные числа — вид чисел с плавающей запятой, определённый в стандарте IEEE 754. При записи в форматах float, double, long double их экспонента будет записана как 0. Для получения их значения не требуется использование неявной единицы; мантисса просто умножается на наименьшую для данного формата экспоненту.
В вычислительной математике алгоритм Кэхэна — это алгоритм вычисления суммы последовательности чисел c плавающей запятой, который значительно уменьшает вычислительную погрешность по сравнению с наивным подходом. Уменьшение погрешности достигается введением дополнительной переменной для хранения нарастающей суммы погрешностей.
Число́ восьмерно́й то́чности — компьютерный формат представления чисел с плавающей запятой, занимающий в памяти восемь последовательных двойных слов, т.е. 32 байта. Данное название обусловлено сложившейся терминологией, в которой число одинарной точности имеет размер двойного слова. Как правило, обозначает формат числа с плавающей запятой binary256 стандарта IEEE 754.
Расширенная точность — в длинной арифметике и информатике — относится к форматам чисел с плавающей запятой, которые обеспечивают иную точность, чем основные форматы таковых. Форматы с расширенной точностью поддерживают базовый формат, сводя к минимуму ошибки округления и переполнения в промежуточных значениях числовых выражений в базовом формате. В отличие от стандартных форматов точности, арифметика расширенной (произвольной) точности относится к реализациям иных числовых типов, с количеством бит обычно не равным степени двойки. Реализуется с использованием специального программного или, реже, аппаратного обеспечения.
ISO 31-0:1992 является вводной частью международного стандарта ISO 31 о величинах и единицах измерения. Он содержит рекомендации по использованию физических величин, количественных и единичных символов, а также систем согласованных единиц, особенно СИ. Он предназначен для использования во всех областях науки и техники и дополнен более специализированными соглашениями, определенными в других частях стандарта ISO 31.
Десятичные компьютеры — электронные цифровые вычислительные машины, имеющие внутреннее представление данных и адресов в виде десятичных чисел, а также набор инструкций, ориентированный на работу с такими числами и адресами, без преобразования их в двоичную форму. Некоторые из таких машин имели также изменяющуюся длину машинного слова, что позволяло работать с числами большой разрядности.