Вычислительная математика — раздел математики, включающий круг вопросов, связанных с производством разнообразных вычислений. В более узком понимании вычислительная математика — теория численных методов решения типовых математических задач. Современная вычислительная математика включает в круг своих проблем изучение особенностей вычисления с применением компьютеров.
Лине́йная а́лгебра — раздел алгебры, изучающий математические объекты линейной природы: векторные пространства, линейные отображения, системы линейных уравнений. Среди основных инструментов, используемых в линейной алгебре — определители, матрицы, сопряжение. Теория инвариантов и тензорное исчисление обычно также считаются составными частями линейной алгебры. Такие объекты как квадратичные и билинейные формы, тензоры и операции как тензорное произведение непосредственно вытекают из изучения линейных пространств, но как таковые относятся к полилинейной алгебре.
Фильтр Байера — двумерный массив цветных фильтров, которыми накрыты фотодиоды фотоматриц. Используется для получения цветного изображения в матрицах цифровых фотоаппаратов, видеокамер и сканеров. Фильтр Байера состоит из 25 % красных, 25 % синих и 50 % зелёных элементов, расположенных как показано на рисунке.
LINPACK — программная библиотека, написанная на языке Фортран, которая содержит набор подпрограмм для анализа и решения плотных систем линейных алгебраических уравнений.
Биоинформа́тика — междисциплинарная область, объединяющая общую биологию, молекулярную биологию, кибернетику, генетику, химию, компьютерные науки, математику и статистику. Крупномасштабные биологические проблемы, требующие анализа больших объёмов данных, решаются биоинформатикой с вычислительной точки зрения. Биоинформатика главным образом включает в себя изучение и разработку компьютерных методов и направлена на получение, анализ, хранение, организацию и визуализацию биологических данных.
Метод конечных элементов (МКЭ) — это численный метод решения дифференциальных уравнений с частными производными, а также интегральных уравнений, возникающих при решении задач прикладной физики. Метод широко используется для решения задач механики деформируемого твёрдого тела, теплообмена, гидродинамики, электродинамики и топологической оптимизации.
Валентин Васильевич Воеводин — российский математик. Академик РАН.
Евге́ний Евге́ньевич Тырты́шников — советский и российский математик, профессор, академик РАН (2016), заведующий кафедрой вычислительных технологий и моделирования ВМК МГУ.
Ме́тод Га́усса — классический метод решения системы линейных алгебраических уравнений (СЛАУ). Назван в честь немецкого математика Карла Фридриха Гаусса. Это метод последовательного исключения переменных, когда с помощью элементарных преобразований система уравнений приводится к равносильной системе треугольного вида, из которой последовательно, начиная с последних, находятся все переменные системы.
Симплекс-метод — алгоритм решения оптимизационной задачи линейного программирования путём перебора вершин выпуклого многогранника в многомерном пространстве.
Ана́логовый компьютер или ана́логовая вычисли́тельная маши́на (АВМ) — вычислительная машина, которая представляет числовые данные при помощи аналоговых физических параметров, в чём и состоит его главное отличие от цифровой ЭВМ. Другим принципиальным отличием является отсутствие у АВМ хранимой программы, под управлением которой с помощью одной и той же вычислительной машины можно решать разнообразные задачи. Решаемая задача жёстко определяется внутренним устройством АВМ и выполненными настройками. Даже для универсальных АВМ для решения новой задачи требовалась перестройка внутренней структуры устройства.
High Dynamic Range Imaging, HDRI или просто HDR — технологии работы с изображениями и видео, диапазон яркости которых превышает возможности стандартных технологий.
Разре́женная/разрежённая матрица — матрица с преимущественно нулевыми элементами. В противном случае, если бо́льшая часть элементов матрицы ненулевая, матрица считается плотной или заполненной.
Гибридный компьютер, гибридная вычислительная машина, аналого-цифровая система — вид гибридной вычислительной системы (ГВС), сочетающий в себе свойства аналоговых и цифровых вычислительных устройств.
Численные (вычислительные) методы — методы решения математических задач в численном виде.
Вычисли́тельная фи́зика — наука, изучающая численные алгоритмы решения задач физики, для которых количественная теория уже разработана. Обычно рассматривается как раздел теоретической физики, но некоторые[кто?] считают её промежуточной ветвью между теоретической и экспериментальной физикой.
Предобуславливание — процесс преобразования условий задачи для её более корректного численного решения. Предобуславливание обычно связано с уменьшением числа обусловленности задачи[уточнить]. Предобуславливаемая задача обычно затем решается итерационным методом.
JPEG — один из популярных растровых графических форматов, применяемый для хранения фотографий и подобных им изображений. Файлы, содержащие данные JPEG, обычно имеют расширения (суффиксы) .jpg, .jfif, .jpe или .jpeg. MIME-тип — image/jpeg.
Техники спектральной кластеризации используют спектр матрицы сходства данных для осуществления снижения размерности перед кластеризацией в пространствах меньших размерностей. Матрица сходства подаётся в качестве входа и состоит из количественных оценок относительной схожести каждой пары точек в данных.
AMG1r5 — исторически первая успешная программа предназначенная для решения больших разреженных линейных систем уравнений алгебраическим многосеточным методом (AMG).