[라그랑제 승수]조건부 최적화 문제 풀기

일반적인 최적화의 내용(Gradient decent)는 제약조건이 없기때문에 가능한 경우지만 제약조건이 생긴다면 적용치 못한다.

이런 상태에서 최적해(optimization)를 구하기 위해서 라그랑제승수라는 방법을 사용한다.

라그랑제 함수는 아래와 같이 정의 할 수 있다.

제약조건이 아래와 같을때

목적함수(objective function)  의 최소값을 구하는 것이다.

직접적인 예로 해보자.

  라고 했을 때

입력 파라미터 세타와 람다(라그랑제 승수에 대해 편미분을 해서 방정식을 풀어 각 값을 구한다.