Una matriz ortogonal es una matriz cuadrada con elementos reales , cuyo resultado de la multiplicación por la matriz traspuesta es igual a la matriz identidad [1] :
o, de manera equivalente, su matriz inversa (que necesariamente existe) es igual a la matriz transpuesta:
El análogo complejo de una matriz ortogonal es la matriz unitaria .
Una matriz ortogonal con un determinante se llama ortogonal especial .
En otras palabras, el producto escalar de una fila consigo misma es 1 y con cualquier otra fila es 0. Lo mismo es cierto para las columnas.