Арифме́тика — раздел математики, изучающий числа, их отношения и свойства. Предметом арифметики является понятие числа и его свойства. В арифметике рассматриваются измерения, вычислительные операции и приёмы вычислений. Изучением свойств отдельных целых чисел занимается высшая арифметика, или теория чисел. Теоретическая арифметика уделяет внимание определению и анализу понятия числа, в то время как формальная арифметика оперирует логическими построениями предикатов и аксиом. Арифметика является древнейшей и одной из основных математических наук; она тесно связана с алгеброй, геометрией и теорией чисел.
Математический сопроцессор — сопроцессор для расширения командного множества центрального процессора и обеспечивающий его функциональностью модуля операций с плавающей запятой, для процессоров, не имеющих интегрированного модуля.
printf — обобщённое название семейства функций или методов стандартных или широко известных коммерческих библиотек, или встроенных операторов некоторых языков программирования, используемых для форматного вывода — вывода в различные потоки значений разных типов, отформатированных согласно заданному шаблону. Этот шаблон определяется составленной по специальным правилам строкой.
Число с плавающей запятой — экспоненциальная форма представления вещественных (действительных) чисел, в которой число хранится в виде мантиссы и порядка. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Используемое наиболее часто представление утверждено в стандарте IEEE 754. Реализация математических операций с числами с плавающей запятой в вычислительных системах может быть как аппаратная, так и программная.
SSE4 — новый набор команд микроархитектуры Intel Core, впервые реализованный в процессорах серии Penryn.
Число с фиксированной запятой — формат представления вещественного числа в памяти ЭВМ в виде целого числа. При этом само число x и его целочисленное представление x′ связаны формулой
,
Число́ двойно́й то́чности — компьютерный формат представления числа с плавающей запятой, занимающий в памяти 64 бита, или 8 байт. Как правило, обозначает числа с плавающей запятой стандарта IEEE 754.
Число́ одина́рной то́чности — широко распространенный компьютерный формат представления вещественных чисел, занимающий в памяти 32 бита. Как правило, под ним понимают формат числа с плавающей запятой стандарта IEEE 754.
Число́ полови́нной то́чности (англ. half precision) — компьютерный формат представления чисел, занимающий в памяти половину компьютерного слова (в случае 32-битного компьютера — 16 бит или 2 байта). Диапазон значений ± 2−24(5.96E-8) — 65504. Приблизительная точность — 3 знака (10 двоичных знаков, log10(211)).
IEEE 754 — широко используемый стандарт IEEE, описывающий формат представления чисел с плавающей точкой. Используется в программных и аппаратных реализациях арифметических действий.
Исчезновение порядка, потеря значимости или антипереполнение — ситуация, когда результат операции с плавающей запятой становится настолько близким к нулю, что порядок числа выходит за пределы разрядной сетки.
Число́ четверно́й то́чности — компьютерный формат представления чисел с плавающей запятой, занимающий в памяти четыре последовательных ячейки. Как правило, обозначает формат числа с плавающей запятой binary128 стандарта IEEE 754.
Матричная библиотека шаблонов (MTL) — это библиотека линейной алгебры для C++ программ.
Денормализованные числа или субнормальные числа — вид чисел с плавающей запятой, определённый в стандарте IEEE 754. При записи в форматах float, double, long double их экспонента будет записана как 0. Для получения их значения не требуется использование неявной единицы; мантисса просто умножается на наименьшую для данного формата экспоненту.
Критика Java — комплекс из большого количества разной степени проработанности критических замечаний, выдвинутых к языку программирования Java, одноимённой программной платформе, проектным решениям, выполненным на основе этого языка и платформы, а также к организации процесса развития языка и базовой платформы.
Intel 8087 — первый математический сопроцессор для линейки процессоров 8086, реализующий архитектуру набора команд x87 и выпущенный в 1980 году компанией Intel.
POWER8 — семейство суперскалярных микропроцессоров с архитектурой POWER, представленное компанией IBM в августе 2013 года на конференции Hot Chips. Производятся по техпроцессу 22 нм, имеют тактовые частоты от 2,5 до 5 ГГц, содержат 6 или 12 ядер.
Число́ восьмерно́й то́чности — компьютерный формат представления чисел с плавающей запятой, занимающий в памяти восемь последовательных двойных слов, т.е. 32 байта. Данное название обусловлено сложившейся терминологией, в которой число одинарной точности имеет размер двойного слова. Как правило, обозначает формат числа с плавающей запятой binary256 стандарта IEEE 754.
Точность в информатике — мера детализации, обычно измеряется в битах, но иногда в десятичных цифрах. Это связано со значимыми цифрами в математике, что являет собой количество цифр, которые используются для значения числового выражения.
Десятичная арифметика с плавающей запятой — машинная арифметика для работы над десятичными числами с плавающей запятой. Работа непосредственно с десятичными дробями позволяет избежать ошибок округление цифр, которые обычно возникают при преобразовании между десятичными дробями и двоичными дробями.