최적설계 | 등호제약조건 문제

1. 등호제약조건 문제

   대부분의 설계 문제는 설계변수와 성능에 대한 제약조건을 포함하고 있으므로, 최적성 조건을 따질 때 제약조건을 함께 고려해야 한다. 앞서 살펴본 최적성 조건에서는 제약조건을 고려하지 않고 국소적 최소점의 후보군을 찾았지만, 이번에는 등호제약조건을 고려한 국소적 최소점의 후보군을 찾아보자. 아래와 같이 등호제약조건을 포함한 최적화 문제를 고려해보자.
 

$$ \begin{align} f\left ( \mathbf{x} \right ) &= f\left ( x_1,x_2,\cdots ,x_n \right )\\\\ h_i\left ( \mathbf{x} \right ) &= 0;~~~~i=1~to~p \end{align}$$

 

2. 라그랑주 승수

   라그랑주 승수(lagrange multiplier)라고 불리는 스칼라값은 최적화 문제를 라그랑주 함수로 표현하였을 때 제약조건 앞에 붙는 계수로, 목적함수와 제약조건에 의해 결정된다. 만약 제약조건이 변하면 해당 제약조건 앞에 붙은 라그랑주 승수 또한 변한다. 등호제약조건이 있는 목적함수가 한 설계변수벡터에서 국소적 최소값을 가진다면 다음 식을 만족시키는 유일한 라그랑주 승수가 존재한다.
 

$$ \begin{align} \frac{\partial f\left( \mathbf{x^*} \right)}{\partial x_i}+\sum_{j=1}^{p}v^{*}_{j}\frac{\partial h_{j}\left( \mathbf{x^*} \right)}{\partial x_i}=0; ~~~~i=1~to~n,~~~~j=1~to~p \end{align}$$

   위 조건은 라그랑주 함수를 이용해 표현하는 것이 편리하다. 등호제약조건을 가진 최적화 문제는 다음과 같은 라그랑주 함수로 나타낼 수 있다.
 

$$ \begin{align} L\left ( \textbf{x},\textbf{v} \right ) &= f\left ( \textbf{x} \right)+\sum_{j=1}^{p}v_{j}h_{j}\left ( \textbf{x} \right )\\\\ &=f\left ( \textbf{x} \right ) + \textbf{v}^{T}\mathbf{h}\left ( \textbf{x} \right ) \end{align}$$

 
   라그랑주 함수를 이용해 첫 번째 식을 표현하면 다음과 같다.
 

$$ \begin{align} \triangledown L \left ( \mathbf{x^*}, \mathbf{x^*} \right )=0 \end{align}$$

 

$$ \begin{align} \frac{\partial L \left ( \mathbf{x^*},\mathbf{v^*} \right )}{\partial x_i}&=0;~~~~i=1~to~n\\\\ \frac{\partial L \left ( \mathbf{x^*},\mathbf{v^*} \right )}{\partial v_j}&=0;~~~~j=1~to~p \end{align}$$

 

   등호제약조건이 있는 목적함수의 최적점을 찾는 문제가 라그랑주 함수의 최적점을 찾는 문제로 변한다. 다시 말해, 라그랑주 함수의 최적점을 결정하기 위해 설계변수벡터와 라그랑주 승수 벡터를 갖는 비제약조건 함수로 취급할 수 있다. 앞서 최적성 정리를 살펴보았을 때와 동일하게, 이 조건을 만족하지 않는 어떠한 점도 국소적 최소점이 될 수 없다. 하지만 이 조건을 만족한다고 해서 해당 점이 반드시 국소적 최소점이라는 보장은 없다. 이 점들은 국소적 최소점의 후보군이며, 실제로는 변곡점이나 국소적 최대점일 수 있다. 등호제약조건의 라그랑주 승수에는 부호에 제한이 없다. 즉, 이 값은 양수, 0, 또는 음수가 될 수 있다. 추후에 논의하겠지만, 부등호제약조건의 라그랑주 승수는 음수가 될 수 없다는 것과 상반된다.

 

3. 기하학적 의미

기하학적 의미

   첫 번째 식을 살펴보면, 최소점 후보군에서 목적함수의 경사도 벡터는 등호제약조건의 경사도 벡터들의 선형결합으로 나타낼 수 있으며, 이때 라그랑주 승수는 선형결합의 계수처럼 작용한다. 이는 후보 최소점에서 목적함수와 등호제약조건 함수의 경사도 벡터가 동일한 직선 상에 있다는 것을 의미한다. 최소점 후보군이 아닌 다른 유용점에서는 목적함수와 제약조건 함수의 경사도 벡터가 평행하지 않아 이들의 선형결합으로 나타낼 수 없다.

 

4. 예제

등호제약조건

   등호제약조건을 고려하여 아래 목적함수의 후보 최소점을 찾아보자.
 

$$ \begin{align} &f\left ( \textbf{x} \right ) = \left( x_{1}-1.5 \right)^2 + \left( x_{2}-1.5 \right)^2\\\\ &h\left ( \mathbf{x} \right ) = x_{1}+x_{2}-2 = 0 \end{align}$$

 
   위 최적화 문제를 라그랑주 함수 형태로 표현하면 다음과 같다.
 

$$ \begin{align} L\left ( \textbf{x},\textbf{v} \right ) &= f\left( \textbf{x} \right)+vh\left( \textbf{x} \right)\\\\ &=\left( x_{1}-1.5 \right)^2 + \left( x_{2}-1.5 \right)^2 + v \left( x_{1}+x_{2}-2 \right) \end{align}$$

 
   목적함수가 국소적 최소를 가진다면 한 설계변수벡터와 라그랑지 승수에 대해서 라그랑주 함수의 도함수가 0이어야 한다. 라그랑주 함수의 도함수를 계산하고 연립방정식을 풀면 다음과 같다.
 

$$ \begin{align} \triangledown L\left ( \mathbf{x^*}, \mathbf{v^*} \right )= \begin{bmatrix} 2\left(x_{1}-1.5\right)+vx_{1} \\ 2\left(x_{2}-1.5\right)+vx_{2} \\ x_{1}+x_{2}-2 \end{bmatrix} &= \begin{bmatrix} 0 \\ 0 \\ 0 \end{bmatrix} \end{align} $$

 

$$ \begin{align} \left(2+v\right)x_{1}-3 &= 0 \\\\ \left(2+v\right)x_{2}-3 &= 0 \\\\ x_{1}+x_{2}-2 &= 0 \\\\ \\\\ \left( 2+v \right) \left( x_{1}+x_{2} \right)-6 &= 0 \\\\ 2 \left( 2+v \right) &= 6 \\\\ 2+v &= 3 \end{align} $$

 

$$ \begin{align} \therefore~v^{*}=1,~~~~x_{1}^{*}=1,~~~~x_{2}^{*}=1 \end{align} $$

 

 

 

 

 

[함께 읽으면 좋은 페이지]

 

최적설계 | 부등호제약조건 문제

최적설계 | 카루시-쿤-터커 KKT 최적성 조건(1)

 

 

 

 

 

참고문헌

- Arora, J. S. (2016). Introduction to optimum design. Elsevier.