Целое, целочисленный тип данных — один из самых простых примитивных типов данных в информатике. Служит для представления целых чисел, ограниченного минимальным и максимальным значением, зависящими от выделенной под число памяти.
Дополнительный код — наиболее распространённый способ представления отрицательных целых чисел в компьютерах. Он позволяет заменить операцию вычитания на операцию сложения и сделать операции сложения и вычитания одинаковыми для знаковых и беззнаковых чисел, чем упрощает архитектуру ЭВМ. В англоязычной литературе обратный код называют первым дополнением, а дополнительный код называют вторым дополнением.
Математический сопроцессор — сопроцессор для расширения командного множества центрального процессора и обеспечивающий его функциональностью модуля операций с плавающей запятой, для процессоров, не имеющих интегрированного модуля.
Нечисло — одно из особых состояний числа с плавающей запятой. Используется во многих математических библиотеках и математических сопроцессорах. Данное состояние может возникнуть в различных случаях, например, когда предыдущая математическая операция завершилась с неопределённым результатом или если в ячейку памяти попало не удовлетворяющее условиям число.
Число с плавающей запятой — экспоненциальная форма представления вещественных (действительных) чисел, в которой число хранится в виде мантиссы и порядка. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Используемое наиболее часто представление утверждено в стандарте IEEE 754. Реализация математических операций с числами с плавающей запятой в вычислительных системах может быть как аппаратная, так и программная.
Машинный ноль — числовое значение с таким отрицательным порядком, которое воспринимается машиной как ноль.
Число с фиксированной запятой — формат представления вещественного числа в памяти ЭВМ в виде целого числа. При этом само число x и его целочисленное представление x′ связаны формулой
,
Экспоненциа́льная за́пись в информатике и вычислительной математике — представление действительных чисел в виде мантиссы и порядка. Удобна для представления очень больших и очень малых чисел, а также для унификации их написания.
Прямой код — способ представления двоичных чисел с фиксированной запятой в компьютерной арифметике. Главным образом используется для записи неотрицательных чисел. В случае использования прямого кода для чисел как положительных, так и отрицательных, то есть чисел, запись которых подразумевает возможность использования знака минус, хранимые цифровые разряды числа дополняются знаковым разрядом.
Число́ двойно́й то́чности — компьютерный формат представления числа с плавающей запятой, занимающий в памяти 64 бита, или 8 байт. Как правило, обозначает числа с плавающей запятой стандарта IEEE 754.
Число́ одина́рной то́чности — широко распространенный компьютерный формат представления вещественных чисел, занимающий в памяти 32 бита. Как правило, под ним понимают формат числа с плавающей запятой стандарта IEEE 754.
Число́ полови́нной то́чности (англ. half precision) — компьютерный формат представления чисел, занимающий в памяти половину компьютерного слова (в случае 32-битного компьютера — 16 бит или 2 байта). Диапазон значений ± 2−24(5.96E-8) — 65504. Приблизительная точность — 3 знака (10 двоичных знаков, log10(211)).
float.h — заголовочный файл стандартной библиотеки языка программирования С, который содержит макросы, определяющие различные ограничения и параметры типов с плавающей точкой.
IEEE 754 — широко используемый стандарт IEEE, описывающий формат представления чисел с плавающей точкой. Используется в программных и аппаратных реализациях арифметических действий.
Число́ четверно́й то́чности — компьютерный формат представления чисел с плавающей запятой, занимающий в памяти четыре последовательных ячейки. Как правило, обозначает формат числа с плавающей запятой binary128 стандарта IEEE 754.
Денормализованные числа или субнормальные числа — вид чисел с плавающей запятой, определённый в стандарте IEEE 754. При записи в форматах float, double, long double их экспонента будет записана как 0. Для получения их значения не требуется использование неявной единицы; мантисса просто умножается на наименьшую для данного формата экспоненту.
Barrel shifter — цифровая электронная схема, производящая сдвиг данных на указанное число позиций за один такт синхронизации. Устройство быстрого сдвига также может производить циклический сдвиг и расширение знакового бита.
Знак вещественного числа в арифметике позволяет отличить отрицательные числа от положительных; традиционно знак обозначается символом плюса или минуса (отрицательные) перед записью числа. Если ни плюс, ни минус не указаны, число считается положительным. Ноль как особое число не имеет знака.
Число́ восьмерно́й то́чности — компьютерный формат представления чисел с плавающей запятой, занимающий в памяти восемь последовательных двойных слов, т.е. 32 байта. Данное название обусловлено сложившейся терминологией, в которой число одинарной точности имеет размер двойного слова. Как правило, обозначает формат числа с плавающей запятой binary256 стандарта IEEE 754.
В компьютерных науках знаковый бит или знаковый разряд(англ. sign bit) это бит, обозначающий знак числа. Знаковый бит имеют лишь числовые типы со знаком, он неизменно находится в позиции старшего бита, в определённых контекстах термин «знаковый бит» употребляют в смысле «старший бит». Обычно, если знаковый бит равен 0, число неотрицательное, а если знаковый бит 1, тогда число отрицательное. Такой нотации знака числа придерживаются наиболее распространённые в вычислительной технике прямой, обратный и дополнительный коды чисел.
