최적설계에서 다루는 대부분의 문제는 설계변수가 연속이고, 문제를 구성하는 모든 함수가 연속이며, 적어도 2회 연속으로 미분이 가능하다는 것을 전제로 한다. 이러한 제약조건 및 비제약조건 최적화 문제에 접근하는 방법은 크게 최적성 기준법(optimality criteria methods)과 탐색법(search methods)으로 나눌 수 있는데, 최적성 기준법은 최적점에서 만족해야 하는 조건들을 확인하여 최적점인지 아닌지를 수학적으로 판별하는 방법이다. 탐색법은 시작 설계를 기준으로 설계 공간을 수치적으로 탐색하여 최적 설계를 찾아가는 방법이지만, 탐색법 또한 최적성 기준법에서 이용하는 원리를 기반으로 동작하므로 최적성 조건에 대한 이해가 필요하다.
2. 전역적 최소와 국소적 최소
일반화된 설계 최적화 문제는 등호 및 부등호 제약조건을 만족시키면서 목적함수를 최소화하는 설계변수를 찾는 것이 목표이다. 목적함수의 최소점은 두 가지 유형으로 나눌 수 있는데, 정의역 내 모든 함수값 중에서 가장 작은 전역적 최소점(global minimum)과, 특정 영역 근방에서 다른 함수값보다 작은 국소적 최소점(local minimum)이 있다. 일반적으로 문제를 풀기 전에 최소점이 존재하는지 그 여부는 알 수 없지만, 특수한 경우에는 최소점이 어디인지는 몰라도 존재 여부는 파악할 수 있다. 바이어슈트라스 이론에 따르면, ①정의역이 닫혀 있는 ②유계 함수(bounded function)가 ③연속이면 해당 함수는 정의역 내에서 전역적 최소점을 갖는다. 하지만 해당 명제의 역은 성립하지 않으므로, 이 조건이 만족하지 않더라도 전역적 최소점이 존재할 수 있다는 것을 염두에 두자.
3. 국소적 최소가 되기 위한 조건
주어진 문제의 상황에 따라 전역적 최소점의 존재가 보장되지 않더라도 국소적 최소점은 존재할 수 있다. 아래와 같은 목적함수를 가진 최적화 문제를 고려해보자.
한 설계변수벡터에 대해서 목적함수가 국소적 최소를 가진다면 해당 설계변수벡터에서의 도함수는 0이어야 한다. 즉, 해당 점에서의 순간기울기가 0이어야 한다. 또한한 설계변수벡터에 대해서 목적함수가 국소적 최소를 가진다면,해당 설계변수벡터에서의 헤세 행렬(Hessian matrix)은 아래와 같고, 해당 설계변수벡터에서 헤세 행렬은 양반정(positive semidefinite) 또는 양정(positive definite)이어야 한다.
만약 한 설계변수벡터에서의 도함수가 0이고, 헤세 행렬이 양정이라면 해당 설계변수벡터가 목적함수의 국소적 최소점이 된다. 따라서 목적함수의 국소적 최소점을 찾고자 한다면, ①먼저 목적함수의 도함수가 0이 되는 설계변수벡터를 찾고, ②해당 점에서의 헤세 행렬을 구한 뒤, ③헤세 행렬의 고유값(eigenvalue)들을 구하여 양정 여부를 판별하면 되겠다.