Evolution Strategies

그 동안 Reinforcement Learning과 관련된 글을 많이 올렸고 현재도 관심을 가질 만한 논문이 계속 발표되고 있다. 최근 RL의 대안으로서, 다른 접근방법을 사용하여 RL에 필적할 만한 성능을 보이는 논문이 발표되었기에 이 논문을 소개하고자 한다. Evolution Strategies as a Scalable Alternative to Reinforcement Learning Background RL에서 적절한 action을 규정하는 policy를 구하기 위해서는 value function을 구하는 단계를 거쳐… Evolution Strategies 계속 읽기

EKF SLAM

자료를 조사해 보니 최근 수많은 다양한 종류의 SLAM 기법이 있고 그 성능도 높지만 아직 해결해야 할 문제들이 여전히 상존하는것 같다. 여기서 먼저 소개하려는 EKF(Extended Kalman Filter)는 SLAM 분야 연구에서 매우 중요한 위치를 차지한다. 수학적 기법이며, 비선형 움직임에 대한 예측을 시도한 기법이기 때문이다. 혹시나 하여 첨언하지만, 앞서 소개한 Kalman filter를 사용한 localization과는 다른 이야기다. Localization은 기본적으로… EKF SLAM 계속 읽기

Graph SLAM

초기에 출시된 진공청소 로봇은 사실 무작위로 설정된 방향으로 움직이며 청소를 하는 수준이었으며, 장애물과 같은 것만 피하는 기능을 가진 초보적인 로봇이었다. 그러나, 현재의 주율주행차는 과거의 로봇과 비교 불가능할만큼 높은 수준의 능력을 가지고 있다. 그런 능력향상의 중심에는 주변환경을 주행중에 정확히 mapping하는 능력을 바탕으로 한다. 이처럼 주변환경을 인식하고 입체적으로 주변 물체의 움직임 및 속도까지 동시에 알아 내는 능력은… Graph SLAM 계속 읽기

Car Autonomous Control

지금까지 자동차/로봇의 주행과 관련하여 몇개의 글을 올렸으나, 모두 개별적 주제의 이론적 구현에 관한 기초 개념위주였다. 이 분야에서 아직 다뤄야 할것이 더 있다고 판단된다. 그러나 너무 개별적인 이론에만 치우치는 것보다는 이쯤에서 한번 정리를 할 필요가 있다고 생각된다. 우리가 일반적으로 무선조정 (radio control)에 의해 조작되는 RC car를 생각하고 비교한다면, 주행로봇이 수행하는 일을 보면 훨씬 뒤떨어져 있다고 생각된다.… Car Autonomous Control 계속 읽기

Motion Planning : Dynamic Programming

앞서 소개한 A* method로도 훌륭하지만, 이번 포스팅은 다양한 문제에 범용적으로 사용 가능한 강화학습(Reinforcement Learning)기법인 Dynamic Programming을 사용하여 최적 path을 찾아내는 방법에 대한 글이다. RL을 구현하는데 가장 많이 사용하는 environment중의 하나가 grid world이므로, 최적 path를 찾는 환경이 이와 비슷하고, DP가 motion planning에 적용 가능하다는 것은 알 수 있다. Path search의 경우, DP의 reward개념보다는 cost 개념을 도입한다.… Motion Planning : Dynamic Programming 계속 읽기

Motion Planning : A*

움직이는 자동차/로봇은 필연적으로 위치를 알아야 할 필요가 있으므로 Localization을 위한 3가지 filter에 대해 알아보았다. 그 다음 단계는 무었일까? 그것은 목표지점으로 빠르고 효과적인 방법으로 찾아가는 루트를 설정하는 일이다. 이것을 motion planning이라고 하며, 중요한 분야이다 보니 다양한 방법들이 제시되어 있다. 가장 간단한 방법은 현재 위치와 목표지점의 위치를 파악하여 목표지점의 방향으로 로봇이 진행하도록 하는 방법을 생각해 볼 수… Motion Planning : A* 계속 읽기

Localization : Particle filter

앞서 histogram filter와 Kalman filter에 대해 알아 보았다. 특히 Kalman filter의 경우 Gaussian distribution을 보이는 state distribution과 measurements distribution의 이론적 해를 사용하여 계산할 수 있었다. 이번에는 이론적 해를 구하기 까다로운 경우는 접근하는 방법을 소개하고자 한다. 제목과 같이 particle filter를 사용하는 방법이다. 이론적 해를 구하기 어려울 때 사용한다고 하더라도, 개념을 표현하는 수식은 있다. 다른 filter에도 동일하게… Localization : Particle filter 계속 읽기