Lagrangian

Constrained Optimization Introduction

다음과 같은 목적함수가 있다. 제약식은 $x^2+y^2=0$ 이다.

$$f(x,y)=x^2y$$

$x^2y$ 는 3축으로 되어 있는데, x, y 관점에서 원을 그리어 본다. 원하고 함수식이 만나는 점이 올라간 부분이 있고, 내려간 부분이 있는데, 이 올라간 부분이 최대점인것이고, 내려간 부분이 최소점인 것이다. contour map을 그려보면 원의 선과 f의 선이 교점이 있는 x,y점을 찾으면 된다. 가장 중요해야할 점은 점선을 이룰때이다.

Lagrangian multiplier, using tangency to solve constrained optimization

각 contour map 선의 그라디언트를 표시하면, 선과 직교함을 알수 있다. contour 선을 따라 걷는다 생각하면 값이 변하지 않는다. 값의 큰 변화를 불러올려면 선과 수직으로 걸어야 한다. 이전 장에서 원과, f 함수의 점점에 주의하여야 한다고 하였다. 원의 contour map 도 마찬가지로 그라디언트를 구하기 위해서는 원과 수직이고 따라서, f의 그라디언트와 g 의 그라디언트가 비례한다고 말할 수 있다.