Mnożnik Lagrange’a – metoda obliczania ekstremum warunkowego funkcji różniczkowalnej[1] wykorzystywana w teorii optymalizacji. Nazwa metody pochodzi od nazwiska matematyka Josepha Louisa Lagrange’a.
Sformułowanie i analiza problemu
Szukanie ekstremów warunkowych funkcji z warunkiem zerowania będących zarazem punktami regularnymi[2], sprowadza się do rozwiązania układu równań operatorowych
gdzie Wiadomo, że każdy taki funkcjonał jest reprezentowany przez układ liczb rzeczywistych a pochodna jest macierzą wymiaru rzędu[2]. Układ równań operatorowych sprowadza się więc do układu równań skalarnych:
gdzie o zmiennych Wszystkie punkty, w których funkcja może przyjmować ekstrema warunkowe, należą do zbioru rozwiązań tego układu równań. Liczby spełniają tylko rolę pomocniczą i nazywane są często mnożnikami Lagrange’a. Po znalezieniu punktów spełniających warunek konieczny dla ekstremum, należy odwołać się do warunku wystarczającego, tj. zbadać dodatnią (ujemną) określoność
dla
co sprowadza się do badania formy kwadratowej
gdzie:
Warunek jest równoważny równaniu
które w postaci macierzowej przybiera formę
Do badania określoności tej macierzy można stosować kryterium Sylvestera.
W praktyce, gdy wprowadzamy funkcję pomocniczą
i szukamy dla niej warunków koniecznych na istnienie jej ekstremów, jako funkcji dwóch zmiennych[3], tj. rozwiązaniu układu równań a następnie wyrugowaniu z tego układu równań czynnika nieoznaczonego Do otrzymanego warunku dołączamy warunek Równoważnie, wszystkie punkty, które mogą być ekstremami warunkowymi można wyznaczyć z układu równań
gdzie oznacza jakobian funkcji i
Przykład – ekstrema funkcji na okręgu
Wykresem funkcji jest płaszczyzna. W przestrzeni trójwymiarowej równanie powierzchnię boczną walca (którego podstawą jest leżący na płaszczyźnie okrąg jednostkowy). Badanie istnienia ekstremów warunkowych sprowadza się w tym wypadku do analizy punktów ekstremalnych części wspólnej walca i płaszczyzny.
Ilustracją zastosowania metody mnożników Lagrange’a jest problem wyznaczenia ekstremów funkcji:
na okręgu jednostkowym, tj. przy warunku
Zatem funkcja jest postaci
a funkcja wyraża się wzorem:
Wszystkie punkty, które mogą być ekstremami warunkowymi są rozwiązaniami układu równań
Przy założeniu z pierwszego równania uzyskujemy analogicznie z drugiego więc oraz dostaje się warunek skąd wynika Funkcja może zatem przyjmować ekstrema tylko w punktach Ponieważ okrąg jest zbiorem domkniętym i ograniczonym (czyli zwartym[4]), więc na mocy twierdzenia Weierstrassa, funkcja osiąga w tych punktach ekstrema (warunkowe):
minimum warunkowe:
maksimum warunkowe:
Warto zauważyć, że funkcja określona na całej płaszczyźnie (bez dodatkowego warunku) nie ma ekstremów.
Oczywiście, suma prawdopodobieństw jest równa jeden, więc warunek na przyjmuje postać
Stosując metodę mnożników Lagrange’a, dostajemy układ równań:
który sprowadza się do układu
Różniczkując każde wyrażenie względem powyższy układ sprowadza się do poniższego:
Z powyższego wynika, że wszystkie prawdopodobieństwa są równe, tj. a ponieważ ich suma jest równa jeden, wynika stąd, że dla dowolnego
Zastosowania
Metodę optymalizacji przy pomocy mnożników Lagrange’a powszechnie stosuje się w teorii ekonomii, na przykład w celu rozwiązania problemu wyboru konsumenta, w którym konsument maksymalizuje swoją funkcję użyteczności, tak aby nie przekroczyć ograniczenia budżetowego. Mnożniki Lagrange'a mają zastosowanie również w programowaniu nieliniowym.[5]