[정리] A Connection Between Generative Adversarial Networks, Inverse Reinforcement Learning, and Energy-Based Models

title

Paper

1. Introduction

본 논문에서는 서로 다른 세가지 도메인에서의 아이디어(MaxEnt IRL, GAN, EBM)가 다음 사실들을 통해 서로 깊은 연관성이 있음을 보일것이다.

2. Background

GAN, EBM, IRL에 대해 간략히 설명한다.

2.1 Generative Adversarial Networks

다음 두 가지 모델을 동시에 학습시키는 방법이다.

2.2 Energy-Based Model

Sample 에 대한 energy value 로 이루어져 있으며, Boltzmann distribution으로 data를 모델링한다. High-dimensional problem에서 partition function 를 계산하는 것은 보통 intractable한 문제로 알려져있다.

2.3 Inverse Reinforcement Learning

Maximum entropy inverse reinforcement learrning은 demonstration을 다음과 같은 Boltzmann distribution으로 모델링한다. (여기서 energy는 cost function 로 정의한다.) 이때, 는 trajectory이고, 로 parameterized된 학습된 cost function이다. 또한 partition function 이다. (중요: 아래의 유도과정에서 environment dynamics 는 deterministic function이라 가정한다.)

Parameter 는 demonstration에 대한 MLE로 계산되며, 여기서도 마찬가지로 large or continuous domain에서 partition function을 추정하는 것은 계산적인 주요 도전과제에 해당한다.

Guided Cost Learning에서는 MaxEnt IRL formulation에서 iterative sample-based 방식으로 를 추정하였다. 좀 더 자세히 말하자면 다음과 같이 sampling distribution 와 importance sampling을 이용하여 를 추정한다.

(Note: 가 stochastic function이라면 2번째 term의 앞에 가 곱해져야 할 것이다.)

헌데, 이러한 importance sampling 방식은 sampling distribution 가 높은 값을 가진 trajectory를 잘 커버하지 못하는 경우 high variance 문제를 야기할 수 있다. 이 문제(coverage problem)를 완화하기 위해 demonstration data distribution과 generated sample distribution을 혼합한 mixture distribution을 사용한다: . 이때 demonstration data distribution을 근사하는 분포 를 사용한 mixture distribution이 라 하면, guided cost learning은 다음과 같이 변형된다.

Guided cost learning의 학습 과정은 의 KL divergence를 최소화시키는 것과도 같다.

3. GANs and IRL

Discriminator가 특정형태로 정의되어 있을때, GAN의 discriminator가 learned cost를 내포하며 또한 generator가 policy를 나타냄을 알아보겠다.

우선 optimal discriminator의 형태부터 살펴보자. (from GAN)

title

Fixed genetator density를 , data의 actual distribution을 라 한다면 위의 optimal discriminator는 아래와 같이 다시 쓸 수 있다.

Traditional GAN algorithm에서 discriminator는 위 값을 곧바로 출력할 수 있게끔 학습된다. 여기서 를 바로 추정하는 것이 아니라 parameterized 를 통해 추정한다고 해보자.

MaxEnt IRL과의 연결성을 만들기 위해 estimated data density를 Boltzmann distribution으로 바꿔보겠다.

를 만족할때 가 성립할 것이다.

그럼 이제 discriminator의 loss에 위 를 대입해보고, 이것을 maximum entropy IRL의 log-likelihood objective와 비교해보도록 하겠다.

Discriminator’s loss

Maximum entropy IRL’s log-likelihood objective

위 2개의 수식으로부터 3가지 흥미로운 사실을 발견할 수 있다. (이하 수식이 너무 많은 관계로 주요 수식유도 과정은 논문 캡쳐로 대체한다.)

a. Discriminator의 loss를 최소화하는 Z는 partition function에 대한 importance-sampling estimator와 동일하다.

title

b. 에 대해 Discriminator’s loss와 Maximum entropy IRL’s log-likelihood objective을 미분하면 동일한 식이 나온다.

논문의 수식 (8)의 2, 4번째 term만이 에 종속되어 있으므로 두 term을 에 대해 미분하면 아래의 식을 얻을 수 있다.

title

MaxEnt IRL의 objective를 에 대해 미분하면 위 공식과 동일한 결과가 유도된다!

title

c. Generator의 loss는 cost 의 차이며, 이는 와 동일하다.

참고로 는 최적화 과정에서 항상 고정되어 있는 값이므로 무시해도 무방하다.

4. GANs for training EBMs

EBM은 MaxEnt IRL에서 cost function이 energy value로 교체된 형태이므로 3과 동일한 과정으로 GAN과 EBM의 연관성을 유도해 볼 수 있다.