A L I D A
Youtube
Lie Theory 개념 정리 (SO3, SE3)
www.youtube.com
Introduction
본 포스트에서는 SLAM에서 사용되는 Lie Theory에 대해 설명한다. SLAM에서 최적화 부분을 공부하다보면 Lie Theory 기반의 최적화 방법이 자주 나오는데 해당 내용에 대한 선수지식이 없으면 최적화 과정을 이해하기 힘드므로 본 포스트에서는 SLAM의 최적화 부분을 이해하는데 필요한 핵심적인 내용을 간략하게 정리하였다. 대부분의 내용은 [6]을 참고하였다.
Group Theory
군(Group)은 집합과 두 원소의 연산인 이항 연산(binary operation)으로 이루어진 대수적 구조를 말한다. 예를 들어, 어떤 집합을 $A$ 라고 하고 어떤 이항 연산을 $*$ 으로 표시했을 때, 군은 $G = (A, *)$ 으로 나타낼 수 있다. 일반적으로 알고 있는 정수, 유리수, 실수, 복소수와 같은 수의 집합과 덧셈, 곱셈과 같은 연산이 군에 속한다.
군은 일반적으로 다음과 같은 특징을 가지고 있다.
- Associativity : 군 내 임의의 세 원소 $a,b,c \in G$에 대해 $(a* b) * c = a * (b * c)$인 결합법칙 이 성립한다.
- Identity element : 군 내 임의의 원소 $a \in G$에 대해 $a * e = a = e * a$를 만족하는 $e \in G$가 존재하면 $e$를 항등원 이라고 말한다.
- Inverse : 군 내 임의의 원소 $a \in G$에 대해 $a* x = e = x * a$를 만족하는 원소 $x \in G$가 존재하면 $x$ 를 역원 이라고 말한다. 역원은 $a^{-1}$ 로 표기하기도 한다.
- Composition : 군 내 임의의 두 원소 $a,b \in G$에 대해 $a*b \in G$가 성립한다. 이 때, 대부분 군의 경우 이항 연산 $*$는 교환법칙이 성립하지 않는다. 즉, $a*b \neq b*a$이다.
Lie Group
여러 군들 중 Lie Group은 Smooth Manifold를 가지는 군을 의미한다. 이 때, Smooth Manifold란 위 그림과 같이 모든 군의 원소들이 Edge, Spike가 존재하지 않는 부드러운 상태의 Manifold를 의미하며 Lie Group은 모든 원소들이 이러한 Smooth Manifold 상에 존재하는 군을 의미한다. Smooth Manifold 상에 있는 모든 원소는 미분 가능하다는 특징이 있다.
Manifold
N차원의 Manifold $\mathcal{M}$ 은 $\mathcal{M}$ 내부에 있는 임의의 점 $\mathbf{x}\in\mathcal{M}$ 에 대해 지역적으로 Euclidean 구조를 갖는 기하학적 공간을 의미한다. 다시 말하면, $\mathbf{x}$ 근처에 존재하는 모든 점들은 $\mathbb{R}^{N}$ 공간에서 위상동형(Homeomorphic)인 특징을 지닌다. 직관적으로 이해하자면 Manifold는 해당 군이 가지는 제약조건 공간(Constraint Space)를 의미한다.
예를 들어, 임의의 quaternion $\mathbf{q}=[x,y,z,w]$가 3차원 회전 연산자로 사용되기 위해서는 unit quaternion의 성질을 만족해야 하는데 이 때의 제약조건은 $\| \mathbf{q} \| = 1$이다. 이는 곧 $\mathbf{q}$가 4차원 Manifold 상의 한 점을 만족해야 하는데 이를 unit quaternion manifold라고 한다. 4차원 이상의 제약조건은 평면에 시각화가 불가능하므로 일반적으로 3차원 구를 통해 설명한다.
앞으로 설명할 SE(3) Lie Group의 경우는 6차원 원소가 특정 제약조건을 만족해야한다. 즉, SE(3) Lie Group의 원소는 6차원 Manifold 위에 존재해야 한다. 이는 평면 상에서 설명할 수 없으므로 3차원 구를 사용하여 설명한다.
Group Action
군의 특징 중 하나는 또 다른 집합 또는 군을 변환(=act)시킬 수 있다는 것이다. 이는 군이 특정 집합을 변환하는 연산자 역할을 할 수 있다는 것을 의미한다. 이는 Lie Theory가 3차원 공간 상에서 물체의 이동을 표현하기 적합함 도구임을 의미한다.
회전행렬 $\mathbf{R}\in SO(3)$와 3차원 벡터 $\mathbf{x} \in \mathbb{R}^{3}$, 그리고 이항연산 $\cdot$이 주어졌을 때
- $\mathbf{R}$은 벡터 공간의 한 점을 회전(=act)시킬 수 있다 $\rightarrow \mathbf{x}' = \mathbf{R}\cdot\mathbf{x}$
변환행렬 $\mathbf{T}\in SE(3)$와 4차원 벡터 $\mathbf{X} \in \mathbb{R}^{4}$, 그리고 이항연산 $\cdot$이 주어졌을 때
- $\mathbf{T}$은 벡터 공간의 한 점을 변환(=act)시킬 수 있다 $\rightarrow \mathbf{X}' = \mathbf{T}\cdot\mathbf{X}$
Topology of Lie Theory
Lie Theory의 기하학적 구조는 위 그림과 같다.
- Lie Group은 제약조건을 가지는 하나의 Manifold 상의 점들의 집합을 의미하며 non-linear한 특징을 가진다.
- Lie Algebra는 Manifold 상의 한 점인 항등원(identity element)에서 접평면(tangent space)를 의미한다. 이 때, Lie Algebra의 접평면은 오직 항등원에 접했을 때만 유효하며 linear vector space라는 특징을 가지고 있다.
Lie Group과 Lie Algebra가 중요한 이유는 두 공간 사이에 1:1 변환이 가능하기 때문이다. 따라서 복잡한 제약조건을 가진 non-linear manifold space(Lie Group)에서 연산을 직접하지 않고 비교적 간단한 linear vector space(Lie Algebra)에서 연산을 수행한 다음 이를 manifold space로 변환해주는 방식을 사용한다. 이를 가능하게 해주는 연산이 Exponential Mapping, Logarithm Mapping이다.
Exponential Mapping은 Lie Algebra → Lie Group으로 변환하는 연산을 의미하며 Logarithm Mapping은 Lie Group → Lie Algebra로 변환하는 반대의 연산을 의미한다.
Plus and Minus Operators of Lie Group
앞서 설명한 exponential mapping을 사용하면 임의의 Lie Algebra $\tau$를 사용하여 Lie Group의 원소 $\mathbf{x}$을 변환할 수 있다. Lie Group 원소와 Lie Algebra 원소 사이에는 일반적인 $+,-$ 연산자가 적용되지 않으므로 새로운 $\oplus, \ominus$ 연산자를 정의해야 한다. 우선 $\oplus$ 연산자는 임의의 Lie Group 원소 $\mathbf{x}$에 Lie Algebra $\tau$ 만큼 추가적인 변환을 적용하는 연산자이다.
\begin{equation}
\begin{aligned}
\mathbf{x} \oplus \tau \triangleq \mathbf{x} \cdot \text{Exp}(\tau)
\end{aligned}
\end{equation}
이 때, $\mathbf{x}$의 접평면 상의 $\tau$ 벡터는 lie group의 합성(composition) 성질에 의해 identity element 접평면 상의 $\tau$ 벡터와 동일하게 취급한다.
반대로 $\ominus$ 연산자는 두 Lie Group 원소 $\mathbf{x}_{1}, \mathbf{x}_{2}$가 존재할 때 $\mathbf{x}_{2} \ominus \mathbf{x}_{1}$과 같이 사용되며 $\mathbf{x}_{1}$에서 $\mathbf{x}_{2}$의 상대 변화량을 의미한다.
\begin{equation}
\begin{aligned}
\mathbf{x}_{2} \ominus \mathbf{x}_{1} \triangleq \text{Log}(\mathbf{x}_{1}^{-1}\mathbf{x}_{2})
\end{aligned}
\end{equation}
Tangent Space and Lie Algebra
임의의 Manifold $\mathcal{M}$ 위의 한 점 $\mathbf{x} \in \mathcal{M}$이 존재할 때, 이에 대한 접평면은 $\mathcal{T}_{\mathbf{x}}\mathcal{M}$과 같이 나타낸다.
- 접평면 $\mathcal{T}_{\mathbf{x}}\mathcal{M}$은 임의의 한 점에 대해 유일하게 결정되며 vector space이기 때문에 미적분 연산이 가능한 특징이 있다.
- 접평면의 차원은 Manifold의 자유도의 개수에 의해 결정된다. 즉, SO(3)는 회전에 대한 3자유도를 가지기 때문에 so(3)는 3차원 접평면을 가지며 SE(3)는 포즈에 대한 6자유도를 가지기 때문에 se(3)는 6차원 접평면을 가진다.
- 항등원(Identity Element)에서 접평면을 특별히 Lie Algebra라고 한다.
Calculus on Lie Group
Lie Group 위에 두 원소 $\mathbf{x}, \mathbf{y}$가 존재한다고 가정해보자. 이 때, 두 원소의 차이는 $\ominus$ 연산자를 사용하여 $\mathbf{y} \ominus \mathbf{x}$와 같이 접평면 위에 나타낼 수 있다. 앞서 설명한 것과 같이 접평면 $\mathcal{T}_{\mathbf{x}}\mathcal{M}$은 linear vector space이기 때문에 jacobian과 covariance를 계산하기에 비교적 용이하다. 이러한 특성이 Lie Theory를 최적화 계산에 사용할 수 있는 핵심적인 이유가 된다. 예를들어, 두 원소가 비교적 가까운 경우 에러함수 모델링에 사용할 수 있다.
\begin{equation}
\begin{aligned}
\mathbf{e} = \hat{\mathbf{x}} \ominus \mathbf{x}
\end{aligned}
\end{equation}
Jacobians on Lie Group
linear vector space에 존재하는 벡터 함수 $f(\mathbf{x})$가 주어졌다고 하자. 이 때, $f(\mathbf{x})$는 $\mathbf{x} \in \mathbb{R}^{n}, f(\mathbf{x}) \in \mathbb{R}^{m}$를 만족하는 함수이다.
\begin{equation}
\begin{aligned}
f : \mathbb{R}^{n} \mapsto \mathbb{R}^{m}
\end{aligned}
\end{equation}
이 때, 해당 벡터함수의 1차 편미분은 행렬이 되고 이를 특별히 자코비안(jacobian)이라고 한다.
\begin{equation}
\begin{aligned}
\mathbf{J} = \begin{bmatrix} \frac{\partial f_{1}}{\partial x_{1}} & \cdots & \frac{\partial f_{1}}{\partial x_{n}} \\ \vdots & \ddots & \vdots \\ \frac{\partial f_{m}}{\partial x_{1}} & \cdots & \frac{\partial f_{m}}{\partial x_{n}} \end{bmatrix}
\end{aligned}
\end{equation}
이를 미소변화량 $\mathbf{h}$를 사용하여 나타내면 다음과 같다.
\begin{equation}
\begin{aligned}
\mathbf{J} = \frac{\partial f(\mathbf{x})}{\partial \mathbf{x}} \triangleq \lim_{\mathbf{h \rightarrow 0}} \frac{f(\mathbf{x} + \mathbf{h}) - f(\mathbf{x}) }{\mathbf{h}} \in \mathbb{R}^{m \times n}
\end{aligned}
\end{equation}
위와 같이 linear vector space에서는 $+, -$ 연산자를 활용하여 자코비안을 계산할 수 있다. 하지만 Lie Group의 원소의 경우 앞서 설명한 것과 같이 그룹이 $+, -$ 연산에 닫혀있지 않으므로 기존의 방법을 통해 자코비안을 표현할 수 없다.
Lie Group 상에 존재하는 벡터함수 $f(\mathbf{x})$가 다음과 같이 주어졌다고 하자.
\begin{equation}
\begin{aligned}
f : \mathcal{M} \mapsto \mathcal{N} ; \mathbf{x} \mapsto \mathbf{y} = f(\mathbf{x})
\end{aligned}
\end{equation}
이는 함수 $f$가 manifold $\mathcal{M}$에 존재하는 원소 $\mathbf{x}$를 다른 manifold $\mathcal{N}$ 상에 존재하는 원소 $\mathbf{y}$로 매핑하는 함수를 말한다. 이에 대한 자코비안은 다음과 같이 나타낼 수 있다.
\begin{equation}
\begin{aligned}
\mathbf{J} = \frac{D f(\mathbf{x})}{D \mathbf{x}} = \lim_{\tau \rightarrow 0} \frac{f(\mathbf{x} \oplus \tau) \ominus f(\mathbf{x})}{\tau} \in \mathbb{R}^{m \times n}
\end{aligned}
\end{equation}
자코비안 $\mathbf{J}$는 $\mathcal{T}_{\mathbf{x}}\mathcal{M}$ 위의 원소를 $\mathcal{T}_{f(\mathbf{x})} \mathcal{N}$ 위의 원소로 매핑하는 함수로 생각할 수 있다. 이를 그림으로 나타내면 다음과 같다.
Perturbations on Lie Group
접평면이 linear vector space인 성질을 활용하여 Lie Group 원소를 확률변수의 perturbation으로 모델링 할 수 있다.
\begin{equation}
\begin{aligned}
\mathbf{x} = \bar{\mathbf{x}} \oplus \tau \quad \text{where, } \tau = \mathbf{x}\ominus \bar{\mathbf{x}}
\end{aligned}
\end{equation}
\begin{equation}
\begin{aligned}
\mathbf{P}_{\mathbf{x}} = \mathbb{E}[\tau \cdot \tau^{\intercal}]
\end{aligned}
\end{equation}
\begin{equation}
\begin{aligned}
\mathbf{P}_{\mathbf{x}} = \mathbb{E}[(\mathbf{x}\ominus\bar{\mathbf{x}})\cdot(\mathbf{x}\ominus\bar{\mathbf{x}})^{\intercal}]
\end{aligned}
\end{equation}
만약 $\mathbf{y} = f(\mathbf{x})$의 함수가 주어졌을 때, 자코비안은 $\mathbf{J} = \frac{D\mathbf{y}}{D\mathbf{x}}$가 되고 이를 통해 covariance $\mathbf{P}_{\mathbf{y}}$는 다음과 같이 구할 수 있다.
\begin{equation}
\begin{aligned}
\mathbf{P}_{\mathbf{y}} = \mathbf{J} \cdot \mathbf{P}_{\mathbf{x}} \cdot \mathbf{J}^{\intercal}
\end{aligned}
\end{equation}
이는 vector space에서 covariance의 propagataion 공식과 동일하다.
SO(3) Group
Lie Group SO(3)
\begin{equation}
\begin{aligned}
SO(3) = \{ \mathbf{R} \in \mathbb{R}^{3 \times 3} \ | \ \mathbf{R}\mathbf{R}^{T} = \mathbf{I}, \text{det}(\mathbf{R})=1 \}
\end{aligned}
\end{equation}
SO(3) group properties
- Associativity : ($\mathbf{R}_{1} \cdot \mathbf{R}_{2}) \cdot \mathbf{R}_{3} = \mathbf{R}_{1} \cdot (\mathbf{R}_{2} \cdot \mathbf{R}_{3})$와 같이 결합 법칙이 성립한다
- Identity element : $\mathbf{R} \cdot \mathbf{I} = \mathbf{I} \cdot \mathbf{R} = \mathbf{R}$를 만족하는 3x3 항등 행렬 $\mathbf{I}$이 존재한다
- Inverse : $\mathbf{R}^{-1} \cdot \mathbf{R} = \mathbf{R}\cdot\mathbf{R}^{-1} = \mathbf{I}$을 만족하는 역행렬이 존재한다. 이 때 SO(3)군의 특성 상 $\mathbf{R}^{-1} = \mathbf{R}^{\intercal}$이 된다. 즉, $\mathbf{R}\cdot \mathbf{R}^{\intercal} = \mathbf{I}$이다.
- Composition : SO(3)군의 합성은 아래와 같이 행렬의 곱셈 연산으로 수행한다
\begin{equation}
\begin{aligned}
& \mathbf{R}_{1} \cdot \mathbf{R}_{2} = \mathbf{R}_{3} \in SO(3)
\end{aligned}
\end{equation} - Non-commutative : $\mathbf{R}_{1}\cdot\mathbf{R}_{2} \neq \mathbf{R}_{2}\cdot\mathbf{R}_{1}$ 교환 법칙이 성립하지 않는다
- Determinant : $\text{det}(\mathbf{R})=1$을 만족한다. (Reflection, Inversion 없이 순수한 Rotation만 표현한다)
- Rotation: $\mathbb{P}^{2}$ 공간 상의 점 또는 벡터 $\mathbf{x} = \begin{bmatrix} x&y&z \end{bmatrix}^{\intercal} \in \mathbb{P}^{2}$를 다른 방향의 점 또는 벡터 $\mathbf{x}'$로 회전시킬 수 있다.
\begin{equation}
\begin{aligned}
\mathbf{x}' = \mathbf{R}\cdot \mathbf{x}
\end{aligned}
\end{equation} - Adjoint : 임의의 회전행렬 $\mathbf{R}$과 $\mathbf{R}$의 접평면에 존재하는 임의의 각속도 $\omega$가 주어졌을 때 adjoint 행렬의 성질에 의해 다음과 같은 유용한 공식들이 도출된다.\begin{equation}
\begin{aligned}
& \exp((\mathbf{R}\omega)^{\wedge}) = \mathbf{R}\exp(\omega^{\wedge})\mathbf{R}^{\intercal} = \exp(\mathbf{R} \omega^{\wedge} \mathbf{R}^{\intercal})
\end{aligned}
\end{equation}
Lie Algebra so(3)
SO(3)군의 Lie Algebra so(3)는 다음과 같은 $\mathbb{R}^{3\times 3}$ 크기의 반대칭 행렬을 말한다.
\begin{equation}
\begin{aligned}
\text{so}(3) = \Bigg\{ \ \omega^{\wedge} = \begin{bmatrix} 0&-\omega_{z}&\omega_{y} \\ \omega_{z}&0&-\omega_{x} \\ -\omega_{y}&\omega_{x}&0 \end{bmatrix} \in \mathbb{R}^{3\times 3} \ \Bigg| \ \omega = \begin{bmatrix} w_{x}\\w_{y}\\w_{z} \end{bmatrix}\in \mathbb{R}^{3} \ \Bigg\}
\end{aligned}
\end{equation}
so(3)의 생성자(Generator)들은 원점에서 각 축에 대한 회전으로부터 유도된다. 생성자는 서로 직교(orthogonal)하는 basis 행렬을 의미한다.
\begin{equation}
\begin{aligned}
& G_{1} = \begin{pmatrix} 0&0&0 \\ 0&0&-1 \\ 0&1&0 \end{pmatrix}, \ \ G_{2} = \begin{pmatrix} 0&0&1 \\ 0&0&0 \\ -1&0&0 \end{pmatrix},\ \ G_{3} = \begin{pmatrix} 0&-1&0 \\ 1&0&0 \\ 0&0&0 \end{pmatrix} \\
\end{aligned}
\end{equation}
so(3)의 각 원소들은 생성자들의 선형결합(Linear Combination)으로 표현할 수 있다.
\begin{equation}
\begin{aligned}
& \omega \in \mathbb{R}^{3} \\
& \omega_{1}G_{1} + \omega_{2}G_{2} + \omega_{3}G_{3} \in so(3)
\end{aligned}
\end{equation}
이 때, $\omega$ 는 3차원 벡터로써 임의의 축에 대한 각속도를 의미한다. $\omega$ 를 통해 반대칭 행렬을 생성하면 so(3)가 된다.
\begin{equation}
\begin{aligned}
\omega^{\wedge} \in so(3)
\end{aligned}
\end{equation}
Exponential Mapping and Logarithm Mapping
Lie Group SO(3)와 Lie Algebra so(3)는 지수 매핑(exponential mapping)과 로그 매핑(logarithm mapping)으로 서로 일대일 매칭되는 특징이 있다.
\begin{equation}
\begin{aligned}
& \exp(\omega^{\wedge}) = \mathbf{R} \in SO(3) \\
& \log(\mathbf{R}) = \omega^{\wedge} \in so(3)
\end{aligned}
\end{equation}
Exponetial Mapping의 정의에 따라 $\exp(\omega^{\wedge})$ 를 전개하면 다음과 같다.
\begin{equation}
\begin{aligned}
\exp(\omega^{\wedge}) & = \exp\begin{pmatrix} \begin{bmatrix} 0&-\omega_{z}&\omega_{y} \\ \omega_{z}&0&-\omega_{x} \\ -\omega_{y}&\omega_{x}&0 \end{bmatrix} \end{pmatrix} \\
& = \mathbf{I} + \omega^{\wedge} + \frac{1}{2!}(\omega^{\wedge})^{2} + \frac{1}{3!}(\omega^{\wedge})^{3} + \cdots
\end{aligned}
\end{equation}
3차원 공간에서 임의의 각속도 $\omega$는 크기 $| \omega |$와 단위벡터 $\mathbf{u}$로 분리할 수 있다.
\begin{equation}
\begin{aligned}
\omega & = |\omega| \mathbf{u} \\
& = \theta \mathbf{u} \quad (\theta = |\omega|)
\end{aligned}
\end{equation}
반대칭 행렬의 특징인 $(\omega^{\wedge})^{3} = -(\omega^{T}\omega)\cdot \omega^{\wedge} = -\theta^{2} \omega^{\wedge}$ 를 적용하면
\begin{equation} \label{eq:0}
\begin{aligned}
& \theta^{2} = \omega^{T}\omega \\
& (\omega^{\wedge})^{2i+1} = (-1)^{i}\theta^{2i}\omega^{\wedge} \\
& (\omega^{\wedge})^{2i+2} = (-1)^{i}\theta^{2i}(\omega^{\wedge})^{2} \\
\end{aligned}
\end{equation}
가 성립한다. 위 식과 테일러 전개를 통해 식을 다시 정리하면
\begin{equation} \label{eq:1}
\begin{aligned}
\exp(\omega^{\wedge}) & = \mathbf{I} + \omega^{\wedge} + \frac{1}{2!}(\omega^{\wedge})^{2} + \frac{1}{3!}(\omega^{\wedge})^{3} + \cdots \\
& = \mathbf{I} + \bigg( 1 - \frac{\theta^{2}}{3!} + \frac{\theta^{4}}{5!} + \cdots \bigg) \omega^{\wedge} + \bigg( \frac{1}{2!} - \frac{\theta^{2}}{4!} + \frac{\theta^{4}}{6!} + \cdots \bigg) (\omega^{\wedge})^{2} \\
& = \mathbf{I} + \bigg(\sum_{i=0}^{\infty} \frac{(-1)^{i}\theta^{2i}}{(2i+1)!} \bigg) \omega^{\wedge} + \bigg( \sum_{i=0}^{\infty}\frac{(-1)^{i}\theta^{2i}}{(2i+2)!} \bigg) (\omega^{\wedge})^{2} \\
& = \mathbf{I} + \bigg( \frac{\sin\theta}{\theta} \bigg) \omega^{\wedge} + \bigg(\frac{1-\cos\theta}{\theta^{2}} \bigg) (\omega^{\wedge})^{2}
\end{aligned}
\end{equation}
위 공식은 Rodrigues Formula 라고 불린다. 이는 $\mathbf{u}$ 를 회전축으로하고 $\theta$ 만큼 회전하였을 때 회전행렬 $\mathbf{R}$ 을 구하는 공식이다. 즉, angle-axis 표현법과 회전행렬 간의 관계를 나타낸 공식이다. Rodrigues Formula를 사용하면 $\omega^{\wedge} \in so(3)$ 에서 $\mathbf{R} \in SO(3)$ 로 지수 매핑이 가능하다.
이 때, 연산의 편의를 위해 일반적으로 $\omega^{\wedge} \rightarrow \mathbf{R}$로 매핑하는 과정은 $\exp(\cdot)$ 연산자를 활용하며 $\omega \rightarrow \mathbf{R}$로 매핑하는 과정은 $\text{Exp}(\cdot)$ 연산자를 활용한다. 로그 매핑 또한 동일하다.
\begin{equation}
\begin{aligned}
\exp(\cdot) & : \omega^{\wedge} \mapsto \mathbf{R} \\
\text{Exp}(\cdot) & : \omega \mapsto \mathbf{R}
\end{aligned}
\end{equation}
이를 그림으로 정리하면 다음과 같다.
Derivation of Exponential Mapping
임의의 회전 행렬은 다음과 같은 성질을 만족한다.
\begin{equation}
\begin{aligned}
\mathbf{R}^{\intercal}\mathbf{R} = \mathbf{I}
\end{aligned}
\end{equation}
$\mathbf{R}$ 을 시간에 따라 지속적으로 변화하는 카메라 회전으로 보면 시간의 함수 $\mathbf{R}(t)$ 로 표기할 수 있다.
\begin{equation}
\begin{aligned}
\mathbf{R}^{\intercal}(t)\mathbf{R}(t) = \mathbf{I}
\end{aligned}
\end{equation}
위 식을 양측에서 시간에 대한 미분을 수행하면
\begin{equation}
\begin{aligned}
& \dot{\mathbf{R}}^{\intercal}(t)\mathbf{R}(t) + \mathbf{R}^{\intercal}(t)\dot{\mathbf{R}}(t) = 0 \\
& \mathbf{R}^{\intercal}(t)\dot{\mathbf{R}}(t) = -\biggl( \mathbf{R}^{\intercal}(t)\dot{\mathbf{R}}(t) \biggl)^{\intercal}
\end{aligned}
\end{equation}
이를 통해 $\mathbf{R}^{\intercal}(t)\dot{\mathbf{R}}(t)$ 이 반대칭 행렬의 성질을 만족하는 것을 알 수 있다.
임의의 반대칭 행렬 $\mathbf{A}$ 은 아래와 같다. 임의의 3차원 벡터 $\mathbf{a}$를 $\mathbf{A}$로 변환하는 연산자를 $(\cdot)^\wedge$으로 정의하며 반대 방향으로 가는 연산자를 $(\cdot)^\vee$으로 정의한다.
\begin{equation}
\begin{aligned}
\mathbf{a}^{\wedge} = \mathbf{A} = \begin{bmatrix}
0 & -a_{3} & a_{2} \\
a_{3} & 0 & -a_{1} \\
-a_{2} & a_{1} & 0
\end{bmatrix}, \ \ \mathbf{A}^{\vee} = \mathbf{a} = \begin{bmatrix} a_{1} \\ a_{2} \\ a_{3} \end{bmatrix}
\end{aligned}
\end{equation}
어떠한 반대칭 행렬에서도 그에 대응하는 벡터를 찾을 수 있다. 따라서 $\mathbf{R}^{\intercal}(t)\dot{\mathbf{R}}(t)$ 도 그에 상응하는 3차원 벡터 $\omega(t) \in \mathbb{R}^{3}$ 를 찾을 수 있다.
\begin{equation}
\begin{aligned}
\mathbf{R}^{\intercal}(t)\dot{\mathbf{R}}(t)= \omega(t)^{\wedge}.
\end{aligned}
\end{equation}
이 때, 방정식 왼쪽 양쪽에 $\mathbf{R}(t)$ 를 곱한다. $\mathbf{R}(t)$ 은 직교 행렬이므로 아래와 같은 식을 얻을 수 있다.
\begin{equation}
\begin{aligned}
\dot{\mathbf{R}}(t) = \mathbf{R}(t)\omega(t)^{\wedge} = \mathbf{R}(t)\begin{bmatrix}
0 & -\omega_{z} & \omega_{y} \\
\omega_{z} & 0 & -\omega_{x} \\
-\omega_{y} & \omega_{x} & 0
\end{bmatrix}
\end{aligned}
\end{equation}
시간 $t_{0}=0$ 일 때 회전행렬 $\mathbf{R}(0)=\mathbf{I}$ 라고 하면, $\dot{\mathbf{R}}(0)$은 다음과 같이 나타낼 수 있다.
\begin{equation}
\begin{aligned}
\dot{\mathbf{R}}(0) = \omega(0)^{\wedge}
\end{aligned}
\end{equation}
이 때 $\omega$ 는 SO(3) 원점에 대한 접평면을 의미한다. $t_{0}=0$ 근처에서 $\omega$ 가 일정하다고 가정하면 $\omega(t_{0}) = \omega$ 가 된다.
\begin{equation}
\begin{aligned}
\dot{\mathbf{R}}(t) = \omega(0)^{\wedge} = \omega^{\wedge}
\end{aligned}
\end{equation}
위 방정식은 미분방정식이므로 미분방정식의 해는 다음과 같다.
\begin{equation}
\begin{aligned}
\mathbf{R}(t) = \mathbf{R}_{0}\exp(\omega^{\wedge}t).
\end{aligned}
\end{equation}
이 때, $\mathbf{R}_{0} = \mathbf{R}(0) = \mathbf{I}$으로 설정하고 시간에 대한 함수 표현을 생략하여 $\omega^{\wedge}t \rightarrow \omega^{\wedge}$로 나타내면 다음과 같다.
\begin{equation}
\begin{aligned}
\mathbf{R} = \exp(\omega^{\wedge}).
\end{aligned}
\end{equation}
위 식은 회전행렬이 $\exp(\omega^{\wedge})$ 를 통해 계산될 수 있음을 의미한다.
Plus and Minus Operator of SO(3)
지금까지 설명한 exponential mapping을 사용하면 각속도 $\omega$를 사용하여 $\mathbf{R}$을 변환할 수 있다. SO(3)와 so(3) 사이에는 일반적인 $+,-$ 연산자가 적용되지 않으므로 새로운 $\oplus, \ominus$ 연산자를 정의해야 한다. 우선 $\oplus$ 연산자는 임의의 회전행렬 $\mathbf{R}$에 $\omega$ 만큼 추가적인 회전을 적용하는 연산자이다.
\begin{equation}
\begin{aligned}
\oplus : SO(3) \times \mathbb{R}^{3} \mapsto SO(3)
\end{aligned}
\end{equation}
\begin{equation}
\begin{aligned}
\mathbf{R} \oplus w \triangleq \mathbf{R} \cdot \text{Exp}(\omega)
\end{aligned}
\end{equation}
반대로 $\ominus$ 연산자는 두 회전행렬 $\mathbf{R}_{1}, \mathbf{R}_{2}$가 존재할 때 $\mathbf{R}_{2} \ominus \mathbf{R}_{1}$과 같이 사용되며 $\mathbf{R}_{1}$에서 $\mathbf{R}_{2}$의 회전량 차이를 의미한다.
\begin{equation}
\begin{aligned}
\ominus : SO(3) \times SO(3) \mapsto \mathbb{R}^{3}
\end{aligned}
\end{equation}
\begin{equation}
\begin{aligned}
\mathbf{R}_{2} \ominus \mathbf{R}_{1} \triangleq \text{Log}(\mathbf{R}_{1}^{-1}\mathbf{R}_{2})
\end{aligned}
\end{equation}
Adjoint Matrix of SO(3)
SO(3)군의 Adjoint 행렬은 임의의 $\mathbf{R}_{2} \in SO(3)$의 접평면에 존재하는 임의의 각속도 $\tau \in \mathbb{R}^{3}$을 다른 $\mathbf{R}_{1}$의 접평면에 대응하는 각속도 $\sigma$ 로 변환하는 행렬이다. $\mathbf{R}_{12} \in SO(3)$ 에 대하여 Adjoint 행렬을 $\text{Ad}_{\mathbf{R}_{12}}$ 라고 하면 다음이 성립한다.
\begin{equation}
\begin{aligned}
\sigma = \text{Ad}_{\mathbf{R}_{12}}\tau
\end{aligned}
\end{equation}
각속도 $\tau \in \mathbb{R}^{3}$를 다른 각속도 $\sigma$로 변환하는 행렬이므로 $\text{Ad}_{\mathbf{R}_{12}} \in \mathbb{R}^{3\times 3}$ 의 크기를 가진다.
또한 Adjoint 행렬은 다음과 같은 수식을 만족한다.
\begin{equation}
\begin{aligned}
& \mathbf{R}_{12}\cdot \exp(\tau^{\wedge}) = \exp((\text{Ad}_{\mathbf{R}_{12}}\cdot \tau)^{\wedge}) \cdot \mathbf{R}_{12} \\
& \exp((\text{Ad}_{\mathbf{R}_{12}}\cdot \tau)^{\wedge}) = \mathbf{R}_{12}\cdot \exp(\tau^{\wedge})\cdot \mathbf{R}_{12}^{-1}
\end{aligned}
\end{equation}
so(3) 대수에 대한 Adjoint 행렬의 유도 과정은 다음과 같다.
\begin{equation}
\begin{aligned}
(\text{Ad}_{\mathbf{R}_{12}}\cdot \tau)^{\wedge} & = \mathbf{R}_{12} \cdot \bigg( \sum_{i=1}^{3}\tau_{i}G_{i} \bigg) \cdot \mathbf{R}_{12}^{-1} \\
& = \mathbf{R}_{12} \cdot \tau^{\wedge} \cdot \mathbf{R}_{12}^{-1} \\
& = (\mathbf{R}_{12}\tau)^{\wedge} \\
\end{aligned}
\end{equation}
\begin{equation}
\begin{aligned}
\text{Ad}_{\mathbf{R}_{12}} = \mathbf{R}_{12} \in \mathbb{R}^{3\times 3}
\end{aligned}
\end{equation}
SE(3) Group
Lie Group SE(3)
Lie 군 중 하나인 Special Euclidean 3 (SE(3))군은 3차원 공간 상에서 강체의 변환과 관련된 행렬과 이에 닫혀있는 연산들로 구성된 군을 의미한다.
\begin{equation}
\begin{aligned}
SE(3) = \left \{ \mathbf{T} =
\begin{bmatrix}
\mathbf{R} & \mathbf{t} \\
\mathbf{0} & 1
\end{bmatrix} \in \mathbb{R}^{4\times4} \ | \ \mathbf{R} \in SO(3), \mathbf{t} \in \mathbb{R}^{3} \right \}
\end{aligned}
\end{equation}
SE(3) group properties
- Associativity : ($\mathbf{T}_{1} \cdot \mathbf{T}_{2}) \cdot \mathbf{T}_{3} = \mathbf{T}_{1} \cdot (\mathbf{T}_{2} \cdot \mathbf{T}_{3})$와 같이 결합 법칙이 성립한다
- Identity element : $\mathbf{T} \cdot \mathbf{I} = \mathbf{I} \cdot \mathbf{T} = \mathbf{T}$를 만족하는 4x4 항등 행렬 $\mathbf{I}$이 존재한다
- Inverse : $\mathbf{T}^{-1} \cdot \mathbf{T} = \mathbf{T}\cdot\mathbf{T}^{-1} = \mathbf{I}$을 만족하는 역행렬이 존재한다.
\begin{equation}
\begin{aligned}
\mathbf{T}^{-1} = \begin{bmatrix} \mathbf{R}^{T} & -\mathbf{R}^{T}\mathbf{t} \\ \mathbf{0} & 1\end{bmatrix}
\end{aligned}
\end{equation} - Composition : SE(3)군의 합성은 아래와 같이 행렬의 곱셈 연산으로 수행한다
\begin{equation}
\begin{aligned}
\mathbf{T}_{1} \cdot \mathbf{T}_{2} & = \begin{bmatrix} \mathbf{R}_{1} & \mathbf{t}_{1} \\ \mathbf{0} & 1 \end{bmatrix} \cdot \begin{bmatrix} \mathbf{R}_{2} & \mathbf{t}_{2} \\ \mathbf{0} & 1 \end{bmatrix} \\
& = \begin{bmatrix} \mathbf{R}_{1}\mathbf{R}_{2} & \mathbf{R}_{1}\mathbf{t}_{2} + \mathbf{t}_{1} \\ \mathbf{0} & 1 \end{bmatrix} \in SE(3)
\end{aligned}
\end{equation} - Non-commutative : $\mathbf{T}_{1}\cdot\mathbf{T}_{2} \neq \mathbf{T}_{2}\cdot\mathbf{T}_{1}$ 교환 법칙이 성립하지 않는다
- Transformation : $\mathbb{P}^{3}$ 공간 상의 점 또는 벡터 $\mathbf{X} = \begin{bmatrix} X&Y&Z&W \end{bmatrix}^{\intercal} \in \mathbb{P}^{3}$를 다른 방향과 위치를 가지는 점 또는 벡터 $\mathbf{X}'$로 변환할 수 있다.
\begin{equation}
\begin{aligned}
\mathbf{X}' = \mathbf{T}\cdot \mathbf{X} & = \begin{bmatrix} \mathbf{R}&\mathbf{t}\\\mathbf{0}&1 \end{bmatrix} \cdot \mathbf{X} \\
& = \begin{bmatrix} \mathbf{R}(X \ Y \ Z)^{T} + W \cdot \mathbf{t} \\ W \end{bmatrix}
\end{aligned}
\end{equation}
Lie Algebra se(3)
SE(3)군의 Lie algebra se(3)는 다음과 같은 $\mathbb{R}^{4\times 4}$ 크기의 행렬로 정의된다.
\begin{equation}
\begin{aligned}
\text{se}(3) = \Bigg\{ \ \xi^{\wedge} = \begin{bmatrix}
\omega^{\wedge} & \mathbf{v} \\
\mathbf{0} & 0
\end{bmatrix} \in \mathbb{R}^{4 \times 4} \ \Bigg| \ \xi = \begin{bmatrix} \omega \\ \mathbf{v} \end{bmatrix} \in \mathbb{R}^{6} \Bigg\}
\end{aligned}
\end{equation}
이 때, $\xi$ 는 3차원 공간 상에서 물체의 속도를 의미하는 twist 이며 $\omega = \begin{pmatrix} w_{x}&w_{y}&w_{z} \end{pmatrix}^{T} \in \mathbb{R}^{3}$ 는 각속도를 의미하고 $\mathbf{v} = \begin{pmatrix} v_{x}&v_{y}&v_{z} \end{pmatrix}^{T} \in \mathbb{R}^{3}$ 는 속도를 의미한다. $\xi$에서 $\omega$와 $\mathbf{v}$의 순서는 종종 바뀌어 사용하기도 한다.
se(3)는 다음과 같이 회전과 이동에 관련된 6개의 생성자(Generator)들이 존재한다.
\begin{equation}
\begin{aligned}
& G_{1} = \begin{pmatrix} 0&0&0&0 \\ 0&0&-1&0 \\ 0&1&0&0 \\ 0&0&0&0 \end{pmatrix}, \ \ G_{2} = \begin{pmatrix} 0&0&1&0 \\ 0&0&0&0 \\ -1&0&0&0 \\ 0&0&0&0 \end{pmatrix},\ \ G_{3} = \begin{pmatrix} 0&-1&0&0 \\ 1&0&0&0 \\ 0&0&0&0 \\ 0&0&0&0 \end{pmatrix} \\
& G_{4} = \begin{pmatrix} 0&0&0&1 \\ 0&0&0&0 \\ 0&0&0&0 \\ 0&0&0&0 \end{pmatrix}, \ \ G_{5} = \begin{pmatrix} 0&0&0&0 \\ 0&0&0&1 \\ 0&0&0&0 \\ 0&0&0&0 \end{pmatrix},\ \ G_{6} = \begin{pmatrix} 0&0&0&0 \\ 0&0&0&0 \\ 0&0&0&1 \\ 0&0&0&0 \end{pmatrix} \\
\end{aligned}
\end{equation}
se(3)의 각 원소들은 생성자들의 선형결합(Linear Combination)으로 표현할 수 있다.
\begin{equation}
\begin{aligned}
& \xi = (\omega,\ \mathbf{v})^{T} \in \mathbb{R}^{6} \\
& \omega_{1}G_{1} + \omega_{2}G_{2} + \omega_{3}G_{3} + v_{1}G_{4} + v_{2}G_{5} + v_{3}G_{6} \in se(3)
\end{aligned}
\end{equation}
Exponential Mapping and Logarithm Mapping
Lie Group SE(3)와 Lie Algebra se(3)는 지수 매핑(exponential mapping)과 로그 매핑(logarithm mapping)으로 서로 일대일 매칭되는 특징이 있다. 우선, twist $\xi \in \mathbb{R}^{6}$ 를 se(3) lie algebra로 변환하는 연산 $\xi^{\wedge}$ 은 다음과 같이 정의된다.
\begin{equation}
\begin{aligned}
\xi^{\wedge} = \begin{bmatrix} \omega^{\wedge} & \mathbf{v} \\ \mathbf{0} & 0 \end{bmatrix} \in \mathbb{R}^{4\times 4}
\end{aligned}
\end{equation}
se(3)의 지수 매핑은 다음과 같이 정의된다.
\begin{equation}
\begin{aligned}
\exp(\xi^{\wedge}) & = \exp \bigg( \begin{bmatrix} \omega^{\wedge} & \mathbf{v} \\ \mathbf{0} & 0 \end{bmatrix} \bigg) \\
& = \mathbf{I} + \begin{bmatrix} \omega^{\wedge} & \mathbf{v} \\ \mathbf{0} & 0 \end{bmatrix} + \frac{1}{2!} \begin{bmatrix} (\omega^{\wedge})^{2} & \omega^{\wedge}\mathbf{v} \\ \mathbf{0} & 0 \end{bmatrix} + \frac{1}{3!} \begin{bmatrix} (\omega^{\wedge})^{3} & (\omega^{\wedge})^{2}\mathbf{v} \\ \mathbf{0} & 0 \end{bmatrix} + \cdots
\end{aligned}
\end{equation}
이 때, 회전과 관련된 부분은 SO(3)군과 동일하지만 이동과 관련된 부분은 별도의 급수 형태를 가진다.
\begin{equation}
\begin{aligned}
\exp \bigg( \begin{bmatrix} \omega^{\wedge} & \mathbf{v} \\ \mathbf{0} & 0 \end{bmatrix} \bigg) & = \begin{bmatrix} \sum_{0}^{\infty}\frac{1}{n!}(\omega^{\wedge})^{n} & \sum_{0}^{\infty}\frac{1}{(n+1)!}(\omega^{\wedge})^{n} \mathbf{v} \\ \mathbf{0} & 1 \end{bmatrix} \\
& = \begin{bmatrix} \exp(\omega^{\wedge}) & \mathbf{Qv} \\ \mathbf{0} & 1 \end{bmatrix}
\end{aligned}
\end{equation}
\begin{equation}
\begin{aligned}
\mathbf{Q} = \mathbf{I} + \frac{1}{2!}\omega^{\wedge} + \frac{1}{3!}(\omega^{\wedge})^{2} + \frac{1}{4!}(\omega^{\wedge})^{3} + \frac{1}{5!}(\omega^{\wedge})^{4} + \cdots
\end{aligned}
\end{equation}
앞서 SO(3) 파트에서 설명한 Rodrigues 공식과 반대칭 행렬의 원리를 적용하여 다시 정리하면 다음과 같다.
\begin{equation}
\begin{aligned}
\mathbf{Q} & = \mathbf{I} + \frac{1}{2!}\omega^{\wedge} + \frac{1}{3!}(\omega^{\wedge})^{2} + \frac{1}{4!}(\omega^{\wedge})^{3} + \frac{1}{5!}(\omega^{\wedge})^{4} + \cdots \\
& = \mathbf{I} + \bigg( \frac{1}{2!} - \frac{\theta^{2}}{4!} + \frac{\theta^{4}}{6!} + \cdots \bigg) \omega^{\wedge} + \bigg( \frac{1}{3!} - \frac{\theta^{2}}{5!} + \frac{\theta^{4}}{7!} + \cdots \bigg) (\omega^{\wedge})^{2} \\
& = \mathbf{I} + \sum_{i=0}^{\infty} \begin{bmatrix} \frac{(\omega^{\wedge})^{2i+1}}{(2i+2)!} + \frac{(\omega^{\wedge})^{2i+2}}{(2i+3)!} \end{bmatrix} \\
& = \mathbf{I} + \bigg(\sum_{i=0}^{\infty} \frac{(-1)^{i}\theta^{2i}}{(2i+2)!} \bigg) \omega^{\wedge} + \bigg( \sum_{i=0}^{\infty}\frac{(-1)^{i}\theta^{2i}}{(2i+3)!} \bigg) (\omega^{\wedge})^{2} \\
& = \mathbf{I} + \bigg( \frac{1-\cos\theta}{\theta^{2}} \bigg) \omega^{\wedge} + \bigg(\frac{\theta-\sin\theta}{\theta^{3}} \bigg) (\omega^{\wedge})^{2}
\end{aligned}
\end{equation}
지금까지 유도과정을 정리하여 se(3)의 지수 매핑을 표현하면 다음과 같다.
\begin{equation}
\begin{aligned}
& \xi = (\omega, \mathbf{v}) \in \mathbb{R}^{6} \\
& \theta = |\omega| \\
& \theta^{2} = \omega^{\intercal}\omega \\
& A = \frac{\sin\theta}{\theta} \\
& B = \frac{1-\cos\theta}{\theta^{2}} \\
& C = \frac{1-A}{\theta^{2}} = \frac{\theta - \sin\theta}{\theta^{3}} \\
& \mathbf{R} = \mathbf{I} + A\omega^{\wedge} + B (\omega^{\wedge})^{2} \\
& \mathbf{Q} = \mathbf{I} + B\omega^{\wedge} + C (\omega^{\wedge})^{2} \\
\end{aligned}
\end{equation}
\begin{equation}
\begin{aligned}
\exp(\xi^{\wedge}) = \begin{bmatrix} \mathbf{R} & \mathbf{Qv} \\ \mathbf{0} & 1 \end{bmatrix}
\end{aligned}
\end{equation}
SE(3)군의 로그 매핑은 회전 부분은 SO(3)군의 로그 매핑을 사용하고 이동 부분은 $\mathbf{Q}^{-1}$ 을 사용한다.
\begin{equation}
\begin{aligned}
& \mathbf{Q}^{-1} = \mathbf{I} - \frac{1}{2!}\omega^{\wedge} + \frac{1}{\theta^{2}} \bigg( 1 - \frac{A}{2B} \bigg) (\omega^{\wedge})^{2} \\
\end{aligned}
\end{equation}
\begin{equation}
\begin{aligned}
& \omega^{\wedge} = \log(\mathbf{R}) \\
& \mathbf{v} = \mathbf{Q}^{-1}\mathbf{t}
\end{aligned}
\end{equation}
SO(3)와 동일하게 연산의 편의를 위해 일반적으로 $\xi^{\wedge} \rightarrow \mathbf{T}$로 매핑하는 과정은 $\exp(\cdot)$ 연산자를 활용하며 $\xi\rightarrow \mathbf{T}$로 매핑하는 과정은 $\text{Exp}(\cdot)$ 연산자를 활용한다. 로그 매핑 또한 동일하다.
\begin{equation}
\begin{aligned}
\exp(\cdot) & : \xi^{\wedge} \mapsto \mathbf{T} \\
\text{Exp}(\cdot) & : \xi \mapsto \mathbf{T}
\end{aligned}
\end{equation}
이를 그림으로 정리하면 다음과 같다.
Plus and Minus Operator of SE(3)
지금까지 설명한 exponential mapping을 사용하면 twist $\xi$를 사용하여 $\mathbf{T}$을 변환할 수 있다. SE(3)와 se(3) 사이에는 일반적인 $+,-$ 연산자가 적용되지 않으므로 새로운 $\oplus, \ominus$ 연산자를 정의해야 한다. 우선 $\oplus$ 연산자는 임의의 포즈 $\mathbf{T}$에 $\xi$ 만큼 추가적인 변환을 적용하는 연산자이다.
\begin{equation}
\begin{aligned}
\mathbf{T} \oplus \xi \triangleq \mathbf{T} \cdot \text{Exp}(\xi)
\end{aligned}
\end{equation}
반대로 $\ominus$ 연산자는 두 포즈 $\mathbf{T}_{1}, \mathbf{T}_{2}$가 존재할 때 $\mathbf{T}_{2} \ominus \mathbf{T}_{1}$과 같이 사용되며 $\mathbf{T}_{1}$에서 $\mathbf{T}_{2}$의 상대 포즈를 의미한다.
\begin{equation}
\begin{aligned}
\mathbf{T}_{2} \ominus \mathbf{T}_{1} \triangleq \text{Log}(\mathbf{T}_{1}^{-1}\mathbf{T}_{2})
\end{aligned}
\end{equation}
Adjoint Matrix of SE(3)
SE(3)군의 Adjoint 행렬은 임의의 $\mathbf{T}_{2} \in SE(3)$의 접평면에 존재하는 임의의 twist $\tau \in \mathbb{R}^{6}$을 다른 $\mathbf{T}_{1}$의 접평면에 대응하는 twist $\sigma$ 로 변환하는 행렬이다. $\mathbf{T}_{12} \in SE(3)$ 에 대하여 Adjoint 행렬을 $\text{Ad}_{\mathbf{T}_{12}}$ 라고 하면 다음이 성립한다.
\begin{equation}
\begin{aligned}
\xi_{1} = \text{Ad}_{\mathbf{T}_{12}}\xi_{2}
\end{aligned}
\end{equation}
Twist를 다른 twist로 변환하는 행렬이므로 $\text{Ad}_{\mathbf{T}_{12}} \in \mathbb{R}^{6\times 6}$ 의 크기를 가진다. 또한 Adjoint 행렬은 다음과 같은 수식을 만족한다.
\begin{equation}
\begin{aligned}
&\mathbf{T}_{12} \cdot \exp(\tau^{\wedge}) = \exp((\text{Ad}_{\mathbf{T}_{12}}\cdot \tau)^{\wedge})\cdot \mathbf{T}_{12} \\
&\exp((\text{Ad}_{\mathbf{T}_{12}}\cdot \tau)^{\wedge}) = \mathbf{T}_{12}\cdot \exp(\tau^{\wedge})\cdot \mathbf{T}_{12}^{-1}
\end{aligned}
\end{equation}
se(3) 대수에 대한 Adjoint 행렬의 유도 과정은 다음과 같다.
\begin{equation}
\begin{aligned}
(\text{Ad}_{\mathbf{T}_{12}}\cdot \tau)^{\wedge} & = \mathbf{T}_{12} \cdot \bigg( \sum_{i=1}^{6}\xi_{i}G_{i} \bigg) \cdot \mathbf{T}_{12}^{-1} \\
& = \begin{pmatrix} \mathbf{R}_{12}\omega_{12} \\ \mathbf{t}_{12}^{\wedge}\mathbf{R}_{12}\omega_{12} + \mathbf{R}_{12}\mathbf{v}_{12} \end{pmatrix}^{\wedge} \\
& = \bigg(\begin{pmatrix} \mathbf{R}_{12} & \mathbf{0} \\ \mathbf{t}_{12}^{\wedge}\mathbf{R}_{12} & \mathbf{R}_{12} \end{pmatrix} \begin{pmatrix} \omega_{12} \\\mathbf{v}_{12} \end{pmatrix} \bigg)^{\wedge}
\end{aligned}
\end{equation}
\begin{equation}
\begin{aligned}
\text{Ad}_{\mathbf{T}_{12}} = \begin{bmatrix} \mathbf{R}_{12} & \mathbf{0} \\ \mathbf{t}_{12}^{\wedge}\mathbf{R}_{12} & \mathbf{R}_{12} \end{bmatrix} \in \mathbb{R}^{6\times 6}
\end{aligned}
\end{equation}
Applications for estimation
다음으로 Lie Group을 활용한 실제 상태추정 예시를 알아본다. 아래와 같이 3차원 공간 상에 카메라와 랜드마크들이 존재한다고 가정하자.
이 때, $\mathbf{x}_{i}, i=1,2,3$은 카메라의 3차원 공간 상의 포즈를 의미하며 $\mathbf{b}_{i}, i=4,5,6$는 랜드마크들의 좌표를 의미한다.
EKF map-based localzation
만약 $\mathbf{x}_{i}$은 모르는 상태에서 $\mathbf{b}_{i}$의 값만 주어졌다고 했을 때, 카메라는 랜드마크를 사용하여 자신의 포즈 $\mathbf{x}_{i}$를 EKF를 통해 추정할 수 있다.
\begin{equation}
\begin{aligned}
\mathbf{x} \sim \mathcal{N}(\bar{\mathbf{x}}, \mathbf{P}) \in SE(3) & : \text{Unknown} \\
\mathbf{P} = \mathbb{E}[(\mathbf{x} \ominus \bar{\mathbf{x}})(\mathbf{x} \ominus \bar{\mathbf{x}})^{\intercal}] & : \text{Unknown} \\
\mathbf{b} \in \mathbb{R}^{3} &: \text{Known} \\
\end{aligned}
\end{equation}
카메라의 motion model과 measurement model은 다음과 같다.
\begin{equation}
\begin{aligned}
& \text{motion model: } & \mathbf{x}_{i} & = f(\mathbf{x}_{i-1}, \mathbf{u}_{i}) = \mathbf{x}_{i-1} \oplus (\mathbf{u_{i}}dt + \omega) \\
& \text{measurement model: } & \mathbf{y}_{k} & = h(\mathbf{x}) = \mathbf{x}^{-1}\mathbf{b}_{k} + v, \quad \text{where, } v \sim \mathcal{N}(0, \mathbf{R})
\end{aligned}
\end{equation}
- $\omega \sim \mathcal{N}(0, \mathbf{Q})$ : perturbation
- $v \sim \mathcal{N}(0, \mathbf{R})$ : noise
이 때, 카메라의 포즈는 SE(3) 군에 속하므로 $\oplus$ 연산을 사용하여 포즈를 업데이트 한다. 위 두 모델을 활용한 EKF의 prediction, correction step은 다음과 같다
Prediction Step
\begin{equation}
\begin{aligned}
\hat{\mathbf{x}} & \leftarrow \hat{\mathbf{x}} \oplus \mathbf{u}_{i}dt \\
\mathbf{P} & \leftarrow \mathbf{FPF}^{\intercal} + \mathbf{GQG}^{\intercal}
\end{aligned}
\end{equation}
- $\mathbf{F} = \frac{Df}{D\mathbf{x}}$
- $\mathbf{G} = \frac{Df}{D\omega}$
Correction Step
\begin{equation}
\begin{aligned}
\mathbf{z}_{k} & = \mathbf{y}_{k} - \hat{\mathbf{x}}^{-1}\mathbf{b}_{k} \\
\mathbf{Z}_{k} & = \mathbf{HPH}^{\intercal} + \mathbf{R} \\
\mathbf{K} & = \mathbf{PH}^{\intercal}\mathbf{Z}^{-1}_{k} \\
\hat{\mathbf{x}} & \leftarrow \hat{\mathbf{x}} \oplus \mathbf{Kz}_{k} \\
\mathbf{P} & \leftarrow \mathbf{P} - \mathbf{KZ}_{k}\mathbf{K}^{\intercal} \\
\end{aligned}
\end{equation}
- $\mathbf{H} = \frac{Dh}{D\mathbf{x}}$
위 공식은 일반적인 EKF 공식과 동일하다. 따라서 Lie Group 연산자 $\oplus, \ominus, \frac{D*}{D*}, \mathbf{x}^{-1}$ 등을 사용하면 nonlinear한 $SE(3)$ 연산을 linear vector space에서 사용하는 연산과 동일하게 수행할 수 있다.
Pose Graph SLAM
만약 $\mathbf{x}_{i}$과 $\mathbf{b}_{i}$ 모두 모른다고 하면, pose graph SLAM을 통해 두 상태변수를 추정할 수 있다.
\begin{equation}
\begin{aligned}
\mathbf{x} \in SE(3) & : \text{Unknown} \\
\mathbf{b} \in \mathbb{R}^{3} &: \text{Unknown}
\end{aligned}
\end{equation}
이 때, 상태변수는 다음과 같이 벡터 형태로 한 번에 묶어서 표현할 수 있다.
\begin{equation}
\begin{aligned}
\mathbf{x} = (\mathbf{x}_{1}, \mathbf{x}_{2},\mathbf{x}_{3}, \mathbf{b}_{4}, \mathbf{b}_{5}, \mathbf{b}_{6})
\end{aligned}
\end{equation}
이 때 비선형 최적화 문제는 다음과 같이 정의할 수 있다.
\begin{equation}
\begin{aligned}
\mathbf{x}^{*} = \arg\min_{\mathbf{x}} \sum_{p} \left \| \mathbf{r}_{p}(\mathbf{x}) \right \|^{2}
\end{aligned}
\end{equation}
이 때, residual $\mathbf{r}$은 다음과 같이 정의할 수 있다.
\begin{equation}
\begin{aligned}
\text{prior: } & \mathbf{r}_{1} = \Omega_{1}^{\intercal/2} (\mathbf{x}_{1} \ominus \mathbf{x}_{1}^{ref}) \\
\text{motion: } & \mathbf{r}_{ij} = \Omega_{ij}^{\intercal/2} (\mathbf{u}_{j}dt - (\mathbf{x}_{j} \ominus \mathbf{x}_{i})) \\
\text{measurement: } & \mathbf{r}_{ik} = \Omega_{ik}^{\intercal/2} (\mathbf{y}_{ik} - \mathbf{x}^{-1}_{i} \mathbf{b}_{k})
\end{aligned}
\end{equation}
그리고 모든 카메라 포즈와 랜드마크에 대한 residual과 자코비안을 다음과 같이 정의할 수 있다.
\begin{equation}
\begin{aligned}
\mathbf{r} = \begin{bmatrix} \mathbf{r}_{1} & \mathbf{r}_{12} & \mathbf{r}_{23} & \mathbf{r}_{14} & \mathbf{r}_{15} & \mathbf{r}_{25} & \mathbf{r}_{26} & \mathbf{r}_{36} \end{bmatrix}^{\intercal}
\end{aligned}
\end{equation}
위 자코비안을 활용하여 앞서 정의한 비선형 최적화 문제를 Newton step을 통해 iterative하게 풀 수 있다.
\begin{equation}
\begin{aligned}
\Delta \mathbf{x} & = -(\mathbf{J}^{\intercal}\mathbf{J})^{-1}\mathbf{J}^{\intercal}\mathbf{r} \\
\mathbf{x} & \leftarrow \mathbf{x} \oplus \Delta \mathbf{x}
\end{aligned}
\end{equation}
이 때 사용하는 최적화 공식 또한 Lie Group 연산자 $\oplus, \ominus, \frac{D*}{D*}, \mathbf{x}^{-1}$ 등을 통해 nonlinear한 $SE(3)$ 연산을 linear vector space에서 사용하는 연산과 동일하게 수행할 수 있다.
Lie Theory-based Optimization on SLAM
3차원 공간에서 카메라 포즈를 최적화 할 때 lie group(SO(3), SE(3)) 표현법을 그대로 사용하게 되면 회전 표현법이 over-parameterized 되었기 때문에 다양한 문제점이 발생한다. over-parameterized 표현법의 단점은 다음과 같다.
- 중복되는 파라미터를 계산해야 하기 때문에 최적화 수행 시 연산량이 증가한다.
- 추가적인 자유도로 인해 수치적인 불안정성(numerical instability) 문제가 야기될 수 있다.
- 파라미터가 업데이트될 때마다 항상 제약조건을 만족하는 지 체크해줘야 한다.
반면에, lie algebra(so(3), se(3))을 사용하면 비선형 최적화(e.g., GN, LM) 방법을 통해 lie algebra의 증분량을 구하고 이를 지수 매핑 하여 lie group(SO(3), SE(3)) 공간으로 변환하면 제약조건 없는 최적화가 가능하다. 따라서 lie theory를 사용하면 기존의 constrained optimization 문제를 unconstrained opotimization 문제로 변환 하여 푸는 것과 동일한 이점이 존재한다. 또한 lie algebra는 선형 벡터공간(linear vector space)이므로 자코비안과 섭동(perturbation)을 계산하기 비교적 용이하여 기존의 최적화 기법을 적용하기 위한 모델링이 그대로 사용이 가능한 이점이 있다.
se(3) 기반 최적화를 예로 들면, SLAM에서 최적화 변수를 $\delta \xi = [\delta \omega, \delta \mathbf{v}]^{\intercal}$로 설정하여 비선형 최적화(e.g., GN, LM)을 수행하면 매 iteration마다 계산되는 증분량을 $\text{Exp}(\delta \xi)$를 통해 SE(3) 군으로 변환할 수 있다. 이를 기존의 카메라 포즈 $\mathbf{T}$에 곱하여 포즈를 업데이트하면 별도의 제약조건 없이 업데이트를 진행할 수 있다.
\begin{equation}
\begin{aligned}
& \mathbf{T} \leftarrow \text{Exp}(\delta \xi) \cdot \mathbf{T}
\end{aligned}
\end{equation}
기존 상태 $\mathbf{T}$의 오른쪽에 곱하느냐 왼쪽에 곱하느냐에 따라서 각각 로컬 좌표계에서 본 포즈를 업데이트할 것 인지(오른쪽) 전역 좌표계에서 본 포즈를 업데이트할 것 인지(왼쪽) 달라지게 된다.
\begin{equation} \begin{aligned} & \mathbf{T} \leftarrow \text{Exp}(\delta \xi) \cdot \mathbf{T} \quad \cdots \text{ globally updated (left mult)} \\ & \mathbf{T} \leftarrow \mathbf{T} \cdot \text{Exp}(\delta \xi) \quad \cdots \text{ locally updated (right mult)} \\ \end{aligned} \end{equation}
References
1. (Paper) Lie Groups for 2D and 3D Transformations
2. (Paper) A tutorial on SE3 transformation parameterizations and on-manifold optimization
3. (Book) 입문 Visual SLAM
4. (Youtube) Modern Robotics Lecture
5. (Blog) [데이터분석] 매니폴드(manifold)란? - greatjoy
6. (Youtube) Lie theory for the roboticist (by Joan Sola)
'Fundamental' 카테고리의 다른 글
| Plücker Coordinate 개념 정리 (3) | 2022.01.05 |
|---|---|
| 선형대수학 (Linear Algebra) 개념 정리 Part 1 (1) | 2022.01.05 |
| 오일러 각도 (Euler Angle) 개념 정리 (0) | 2022.01.04 |
| 강체 변환 (Rigid Body Transformation) 개념 정리 (0) | 2022.01.04 |
| 회전 행렬 (Rotation Matrix) 개념 정리 (0) | 2022.01.04 |
