Si bien el grupo se llama SO(1,3) y la O viene de Ortogonal, el hecho que no sea del tipo O(N), sino O(N.M) (en este caso N=1, M=3), hace que las matrices no sean ortogonales. Para convencerse rapidamente, consideren la matriz que genera un boost en el plano 0-1: \Lambda_{00}=\Lambda_{11}=\cosh\beta, \Lambda_{01}=\Lambda_{10}=\sinh\beta, \Lambda_{22}= \Lambda_{33}=1,

el resto cero. Esa matriz no es ortogonal. Su inversa se encuentra fácil con un cambio de signo en el parámetro \beta. Entonces se ve que su transpuesta no es su inversa (al transponer no pasa nada porque justo esta matriz es simétrica).