Произведение Адамара

Произведение Адамара[1] (произведение Шура[2], покомпонентное произведение) — бинарная операция над двумя матрицами одинаковой размерности, результатом которой является матрица той же размерности, в которой каждый элемент с индексами — это произведение элементов с индексами исходных матриц. Операция названа в честь французского математика Жака Адамара и немецкого математика Исая Шура.

Произведение Адамара оперирует двумя матрицами одинаковой размерности и создаёт новую матрицу идентичной размерности.

Определение и свойства

Для двух матриц одинаковой размерности произведение Адамара определено как покомпонентное произведение двух матриц:

Для двух матриц, которые имеют разные размерности, произведение Адамара не определено.

Пример для матриц 3×3:

.

Является ассоциативной и дистрибутивной операцией и, в отличие от обычного произведения матриц, коммутативно:

,
,
.

Свойства смешанных произведений с другими вариантами умножения матриц:

, где  — произведение Кронекера;
, где  — торцевое произведение[3];
, где  — столбцовое произведение Хатри — Рао.

Приложения

Используется в алгоритмах сжатия с потерями, например, JPEG.

В программных пакетах MATLAB и GNU Octave операция используется как стандартная операция умножения массивов и обозначается символом «.*»[4].

Операция произведения над векторными типами данных в GPGPU-технологиях программирования также реализована по принципу произведения Адамара. Другие примитивные математические операции над векторными типами данных реализованы как покомпонентные операции над их компонентами.

Блочная версия

Варианты проникающего торцевого произведения

Проникающее торцевое произведение

Данный тип матричной операции базируется на произведении Адамара и позволяет поэлементно умножать матрицу на произвольное количество блоков той же размерности , образующих блочную матрицу [5]:

.

Например, для

получим:

.

Основные свойства:

;
,

где - символ торцевого произведения матриц.

, где - вектор.

Данный вид матричного умножения был предложен в 1998 г. Слюсарем В.И. для описания откликов цифровой антенной решётки с неидентичными приёмными каналами[5]. Кроме того, это произведение позволяет формализовать процесс функционирования свёрточной нейросети. Например, если рассматривать указанную матрицу как массив пикселей изображения на входе нейросетевого алгоритма, то блоки матрицы будут соответствовать различным наборам коэффициентов, используемым для формирования свёрточного слоя в нескольких параллельных каналах обработки изображения нейросетью[6].

Операция проникающего торцевого произведения вектора и матрицы реализована в библиотеке машинного обучения TensorFlow с помощью встроенной функции "tf.multiply"[6][7].

Примечания

  1. Million, Elizabeth The Hadamard Product. Дата обращения: 2 января 2012.
  2. Davis, Chandler. «The norm of the Schur product operation.» Numerische Mathematik 4.1 (1962): 343—344.
  3. Slyusar, V. I. End products in matrices in radar applications // Radioelectronics and Communications Systems.– 1998, Vol. 41; Number 3. — 1996. — 27 декабря. С. 50—53.
  4. Arithmetic Operators + - * / \ ^ ' - (недоступная ссылка). MATLAB documentation. MathWorks. Дата обращения: 2 января 2012. Архивировано 24 апреля 2012 года.
  5. Slyusar, V. I. A Family of Face Products of Matrices and its properties (англ.) // Cybernetics and Systems Analysis C/C of Kibernetika I Sistemnyi Analiz. 1999. : journal. — 1998. — 13 March (vol. 35, no. 3). P. 379—384. doi:10.1007/BF02733426.
  6. Слюсар В.И. Тензорно-матричная модель нейросетей. // Всеукраїнська науково-практична Iнтернет-конференція “Автоматизація та комп’ютерно-інтегровані технології у виробництві та освіті: стан, досягнення, перспективи розвитку”, 15 - 21 березня 2021 року, м. Черкаси, Черкаський національний університет імені Богдана Хмельницького
  7. Tensorflow, how to multiply a 2D tensor (matrix) by corresponding elements in a 1D vector. – 2017.

Литература

  • Хорн Р. Матричный анализ: Пер. с англ. / Р. Хорн, Ч. Джонсон. – М.: Мир, 1989.– 655 с.
This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.