Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf ·...

53
Otimizac ¸˜ ao Cont´ ınua: Aspectos te ´ oricos e computacionais Ademir Alves Ribeiro Elizabeth Wegner Karas Cap´ ıtulo 8 -M ´ etodos para Otimizac ¸˜ ao com Restric ¸˜ oes Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizac ¸˜ ao Cont´ ınua Cap´ ıtulo 8 - M ´ etodos com restric ¸˜ oes 1 / 31

Transcript of Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf ·...

Page 1: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Otimizacao Contınua: Aspectos teoricos e computacionais

Ademir Alves RibeiroElizabeth Wegner Karas

Capıtulo 8 -Metodos para Otimizacao com Restricoes

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 1 / 31

Page 2: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

1 Programacao Quadratica Sequencial

2 Metodos de filtro

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 2 / 31

Page 3: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Metodo de Programacao Quadratica Sequencial (PQS)

Otimizacao nao linear com restricoes.

Princıpio: A solucao de um problema “difıcil” e aproximada por umasequencia de pontos obtidos como solucao de um problema “facil”, quemuda a cada iteracao de acordo com as informacoes disponıveis noponto corrente.

A cada iteracao, substituir a funcao objetivo por um modelo quadratico doLagrangiano e as restricoes por aproximacoes de Taylor de primeiraordem em torno do ponto corrente.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 3 / 31

Page 4: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Metodo de Programacao Quadratica Sequencial (PQS)

Otimizacao nao linear com restricoes.

Princıpio: A solucao de um problema “difıcil” e aproximada por umasequencia de pontos obtidos como solucao de um problema “facil”, quemuda a cada iteracao de acordo com as informacoes disponıveis noponto corrente.

A cada iteracao, substituir a funcao objetivo por um modelo quadratico doLagrangiano e as restricoes por aproximacoes de Taylor de primeiraordem em torno do ponto corrente.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 3 / 31

Page 5: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Metodo de Programacao Quadratica Sequencial (PQS)

Otimizacao nao linear com restricoes.

Princıpio: A solucao de um problema “difıcil” e aproximada por umasequencia de pontos obtidos como solucao de um problema “facil”, quemuda a cada iteracao de acordo com as informacoes disponıveis noponto corrente.

A cada iteracao, substituir a funcao objetivo por um modelo quadratico doLagrangiano e as restricoes por aproximacoes de Taylor de primeiraordem em torno do ponto corrente.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 3 / 31

Page 6: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

O problema

O problema

minimizar f (x)sujeito a c(x) = 0

onde f : Rn→ R e c : Rn→ Rm sao funcoes de classe C 2.

Lagrangiano associado ao problema

x ∈ Rn,λ ∈ Rm 7→ `(x,λ) = f (x)+λT c(x)

onde λ e o multiplicador de Lagrange.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 4 / 31

Page 7: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Ideia do algoritmo

Dados xk e λk, considere dk solucao do

Subproblema quadratico

minimizar `(xk,λk)+∇x`(xk,λk)T d +12

dT B(xk,λk)d

sujeito a A(xk)d + c(xk) = 0,

onde

A(x): matriz Jacobiana de c no ponto x;

B(x,λ): Hessiana parcial do lagrangiano, ∇2xx`(x,λ).

Definimos entao xk+1 = xk +dk, calculamos o multiplicador de Lagrange λk+1

e repetimos o processo com o novo problema quadratico.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 5 / 31

Page 8: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Ideia do algoritmo

Dados xk e λk, considere dk solucao do

Subproblema quadratico

minimizar `(xk,λk)+∇x`(xk,λk)T d +12

dT B(xk,λk)d

sujeito a A(xk)d + c(xk) = 0,

onde

A(x): matriz Jacobiana de c no ponto x;

B(x,λ): Hessiana parcial do lagrangiano, ∇2xx`(x,λ).

Definimos entao xk+1 = xk +dk, calculamos o multiplicador de Lagrange λk+1

e repetimos o processo com o novo problema quadratico.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 5 / 31

Page 9: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

O algoritmo basico de Programacao Quadratica Sequencial

Dados: (x0,λ0) ∈ Rn×Rm

k = 0ENQUANTO ∇`(xk,λk) 6= 0

Resolva o subproblema quadratico,obtendo uma solucao primal-dual (dk,ξk)

Faca xk+1 = xk +dk

Defina λk+1 = λk +ξk

k = k +1

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 6 / 31

Page 10: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Solucao primal-dual (dk,ξk) do subproblema quadratico

Subproblema quadratico

minimizar `(xk,λk)+∇x`(xk,λk)T d +12

dT B(xk,λk)d

sujeito a A(xk)d + c(xk) = 0,

Condicoes de otimalidade (KKT) do subproblema

B(xk,λk)d +A(xk)T ξ = −∇x`(xk,λk)A(xk)d = −c(xk).

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 7 / 31

Page 11: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Convergencia local

Seja (x∗,λ∗) uma solucao primal-dual do problema original.

Hipoteses

As funcoes ∇2 f e ∇2ci, i = 1, . . . ,m, sao lipschitzianas em umavizinhanca de x∗.

A Jacobiana das restricoes, A(x∗), tem posto linha completo e aHessiana parcial B(x∗,λ∗) e definida positiva no espaco nulo deA(x∗), isto e, dT B(x∗,λ∗)d > 0 para todo d 6= 0, d ∈N (A(x∗)).

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 8 / 31

Page 12: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Resultados de convergencia local

LemaExiste uma vizinhanca V1 de (x∗,λ∗), tal que se(xk,λk) ∈V1, o sistema KKT do subproblemaquadratico tem uma unica solucao (dk,ξk).

Teorema

Existe uma vizinhanca V de (x∗,λ∗), tal que se (x0,λ0) ∈V , oAlgoritmo de PQS esta bem definido e, se o criterio de paradanao for satisfeito, gera uma sequencia (xk,λk)k∈N que convergequadraticamente para esta solucao.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 9 / 31

Page 13: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Resultados de convergencia local

LemaExiste uma vizinhanca V1 de (x∗,λ∗), tal que se(xk,λk) ∈V1, o sistema KKT do subproblemaquadratico tem uma unica solucao (dk,ξk).

Teorema

Existe uma vizinhanca V de (x∗,λ∗), tal que se (x0,λ0) ∈V , oAlgoritmo de PQS esta bem definido e, se o criterio de paradanao for satisfeito, gera uma sequencia (xk,λk)k∈N que convergequadraticamente para esta solucao.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 9 / 31

Page 14: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Outra interpretacaoCondicoes de otimalidade (KKT) do subproblema

B(xk,λk)d +A(xk)T ξ = −∇x`(xk,λk)A(xk)d = −c(xk).

Faca µ = ξ+λk. {B(xk,λk)d +∇ f (xk)+A(xk)T µ = 0A(xk)d + c(xk) = 0,

que representa as condicoes de otimalidade do problema quadratico

minimizar f (xk)+∇ f (xk)T d +12

dT B(xk,λk)d

sujeito a A(xk)d + c(xk) = 0.

Interpretacao: Minimizamos a cada iteracao um modelo quadratico da funcaoobjetivo, sujeito a linearizacao das restricoes. Mas na Hessiana do modeloincorporamos informacoes sobre a curvatura das restricoes.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 10 / 31

Page 15: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Outra interpretacaoCondicoes de otimalidade (KKT) do subproblema

B(xk,λk)d +A(xk)T ξ = −∇x`(xk,λk)A(xk)d = −c(xk).

Faca µ = ξ+λk. {B(xk,λk)d +∇ f (xk)+A(xk)T µ = 0A(xk)d + c(xk) = 0,

que representa as condicoes de otimalidade do problema quadratico

minimizar f (xk)+∇ f (xk)T d +12

dT B(xk,λk)d

sujeito a A(xk)d + c(xk) = 0.

Interpretacao: Minimizamos a cada iteracao um modelo quadratico da funcaoobjetivo, sujeito a linearizacao das restricoes. Mas na Hessiana do modeloincorporamos informacoes sobre a curvatura das restricoes.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 10 / 31

Page 16: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Outra interpretacaoCondicoes de otimalidade (KKT) do subproblema

B(xk,λk)d +A(xk)T ξ = −∇x`(xk,λk)A(xk)d = −c(xk).

Faca µ = ξ+λk. {B(xk,λk)d +∇ f (xk)+A(xk)T µ = 0A(xk)d + c(xk) = 0,

que representa as condicoes de otimalidade do problema quadratico

minimizar f (xk)+∇ f (xk)T d +12

dT B(xk,λk)d

sujeito a A(xk)d + c(xk) = 0.

Interpretacao: Minimizamos a cada iteracao um modelo quadratico da funcaoobjetivo, sujeito a linearizacao das restricoes. Mas na Hessiana do modeloincorporamos informacoes sobre a curvatura das restricoes.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 10 / 31

Page 17: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Outra interpretacaoCondicoes de otimalidade (KKT) do subproblema

B(xk,λk)d +A(xk)T ξ = −∇x`(xk,λk)A(xk)d = −c(xk).

Faca µ = ξ+λk. {B(xk,λk)d +∇ f (xk)+A(xk)T µ = 0A(xk)d + c(xk) = 0,

que representa as condicoes de otimalidade do problema quadratico

minimizar f (xk)+∇ f (xk)T d +12

dT B(xk,λk)d

sujeito a A(xk)d + c(xk) = 0.

Interpretacao: Minimizamos a cada iteracao um modelo quadratico da funcaoobjetivo, sujeito a linearizacao das restricoes. Mas na Hessiana do modeloincorporamos informacoes sobre a curvatura das restricoes.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 10 / 31

Page 18: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Discussao

Hessiana do modelo precisa incorporar informacoes sobre a curvatura dasrestricoes.

Subproblema quadratico

minimizar f (xk)+∇ f (xk)T d +12

dT B(xk,λk)d

sujeito a A(xk)d + c(xk) = 0.

O algoritmo pode nao funcionar bem como mostra o proximo exemplo.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 11 / 31

Page 19: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Discussao

Hessiana do modelo precisa incorporar informacoes sobre a curvatura dasrestricoes.

Subproblema quadratico

minimizar f (xk)+∇ f (xk)T d +12

dT ∇2 f (xk)d

sujeito a A(xk)d + c(xk) = 0.

O algoritmo pode nao funcionar bem como mostra o proximo exemplo.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 12 / 31

Page 20: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Exemplo

Problema

minimizar f (x) =−x21

2+2x2

sujeito a c(x) = x21 + x2

2−1 = 0,

Solucao: x∗ =(

0−1

), com multiplicador λ∗ = 1.

Ponto corrente: x =(

δ

−√

1−δ2

), com δ > 0 suficientemente pequeno.

Calcule o novo iterando supondo que o passo foi obtido por:

PQS.

minimizacao do subproblema em que o modelo e o polinomio de Taylorde ordem 2. Note que neste caso, o novo ponto se distancia da solucao.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 13 / 31

Page 21: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Resolucao por Programacao Quadratica Sequencial

Subproblema quadratico - PQS

minimizar12(d2

1 +2d22)−δd1 +2d2

sujeito a δd1−√

1−δ2d2 = 0,

cuja solucao e o vetor

dpqs =(√

1−δ2−2)δ1+δ2

( √1−δ2

δ

).

Neste caso,

‖x+dpqs− x∗‖‖x− x∗‖2 ≈ 1

2.

−1 −0.5 0 0.5 1 1.5

−1

−0.5

0

0.5

1

c(x) = 0

x∗ x

x+

x+ = x+dpqs

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 14 / 31

Page 22: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Resolucao com modelo obtido por Taylor

Subproblema quadratico

minimizar −d21

2−δd1 +2d2

sujeito a δd1−√

1−δ2d2 = 0

Pelas condicoes de KKT do problema, temos

d =

2δ√

1−δ2−δ

2δ2

1−δ2 −δ2

√1−δ2

Para δ suficientemente pequeno o ponto xfica muito proximo da solucao x∗. No entanto,

‖x+d− x∗‖ ≈ 2‖x− x∗‖.

−1 −0.5 0 0.5 1 1.5

−1

−0.5

0

0.5

1

c(x) = 0

x∗ x

x+

x + d

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 15 / 31

Page 23: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

O problema geral

minimizar f (x)sujeito a cE (x) = 0

cI (x)≤ 0

f ,ci : Rn→ R ∈ C 2, i ∈ E ∪ Im = card(E ∪ I )

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 16 / 31

Page 24: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Medida de inviabilidade

Considere a funcao c+ : Rn→ Rm dada por

c+i (x) =

{ci(x) se i ∈ Emax{0,ci(x)} se i ∈ I

e a medida de inviabilidade h : Rn→ R dada por

h(x) = ‖c+(x)‖

Penalidade Exatah(x) = 0⇐⇒ x e viavel

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 17 / 31

Page 25: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Medida de inviabilidade

Considere a funcao c+ : Rn→ Rm dada por

c+i (x) =

{ci(x) se i ∈ Emax{0,ci(x)} se i ∈ I

e a medida de inviabilidade h : Rn→ R dada por

h(x) = ‖c+(x)‖

Penalidade Exatah(x) = 0⇐⇒ x e viavel

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 17 / 31

Page 26: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Criterio de aceitacao do passo

Duas funcoes a serem minimizadas:funcao objetivo fmedida de inviabilidade h

Algoritmo iterativo: gera uma sequencia de pontos

ponto corrente x↓

ponto tentativo x+

Como decidir se x+ e melhor que x?

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 18 / 31

Page 27: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Criterio de aceitacao do passo

Duas funcoes a serem minimizadas:funcao objetivo fmedida de inviabilidade h

Algoritmo iterativo: gera uma sequencia de pontos

ponto corrente x↓

ponto tentativo x+

Como decidir se x+ e melhor que x?

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 18 / 31

Page 28: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Criterio de aceitacao do passo

Duas funcoes a serem minimizadas:funcao objetivo fmedida de inviabilidade h

Algoritmo iterativo: gera uma sequencia de pontos

ponto corrente x↓

ponto tentativo x+

Como decidir se x+ e melhor que x?

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 18 / 31

Page 29: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Criterio de aceitacao do passo

Duas funcoes a serem minimizadas:funcao objetivo fmedida de inviabilidade h

Algoritmo iterativo: gera uma sequencia de pontos

ponto corrente x↓

ponto tentativo x+

Como decidir se x+ e melhor que x?Como decidir se ( f (x+),h(x+)) e melhorque ( f (x),h(x))?

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 18 / 31

Page 30: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Metodos de Filtro

Fletcher e Leyffer (2002)

Conjunto de paresF = {( f j,h j), j = 1, . . . ,nF}

y e proibido pelo filtro se o par( f (y),h(y)) for dominado por algumelemento de F

f

h

(f i, hi)

(f j , hj)

(fk, hk)

(f ℓ, hℓ)

(f(y), h(y))

Definicao

( f (y),h(y)) e dominado por ( f (x),h(x))⇔ f (y)≥ f (x) e h(y)≥ h(x).

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 19 / 31

Page 31: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Diferentes filtros

Filtro Original (Fletcher e Leyffer, 2002)

R j ={

x ∈ Rn | f (x)≥ f (x j)−αh(x j) e h(x)≥ (1−α)h(x j)}

Filtro Inclinado (Chin, 2003)

R j ={

x ∈ Rn | f (x)≥ f (x j)−αh(x) e h(x)≥ (1−α)h(x j)}

.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 20 / 31

Page 32: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Diferentes filtros

Filtro Original (Fletcher e Leyffer, 2002)

R j ={

x ∈ Rn | f (x)≥ f (x j)−αh(x j) e h(x)≥ (1−α)h(x j)}

Filtro Inclinado (Chin, 2003)

R j ={

x ∈ Rn | f (x)≥ f (x j)−αh(x) e h(x)≥ (1−α)h(x j)}

.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 20 / 31

Page 33: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Filtro permanente e temporario

Filtro permanente: Fk ={( f i,hi),( f j,h j),( f l,hl)

}Filtro temporario: Fk = Fk∪

{( f k,hk)

}

f

h (f i, hi)

(f j , hj)

(f l, hl)

(fk, hk)

Original

f

h (f i, hi)

(f j , hj)

(f ℓ, hℓ)

(fk, hk)

Inclinado

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 21 / 31

Page 34: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Algoritmo geral de filtro

Dados: x0 ∈ Rn, F0 = /0, F0 = /0, α ∈ (0,1).k = 0REPITA

Defina Fk = FkS{( f k,hk)} e

Fk = FkS

Rk, com Rk original ou inclinadoPasso:

SE xk e estacionario, pare com sucessoSENAO, calcule xk+1 /∈ Fk.

Atualizacao do filtro:SE f (xk+1) < f (xk),

Fk+1 = Fk, Fk+1 = Fk (iteracao f )SENAO,

Fk+1 = Fk, Fk+1 = Fk (iteracao h)k = k +1.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 22 / 31

Page 35: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Caso em que o ponto corrente e viavel

Se xk e viavel, entao qualquer x nao proibido deve satisfazer f (x) < f (xk).

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 23 / 31

Page 36: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Tipos de iteracao

f

h

(fk, hk)

Iteracao do tipo fO filtro permanente

nao muda

f

h

(fk, hk)

Iteracao do tipo hO filtro temporario

torna-se permanente

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 24 / 31

Page 37: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Tipos de iteracao

f

h

(fk, hk)(fk+1, hk+1)

Iteracao do tipo fO filtro permanente

nao muda

f

h

(fk, hk)

Iteracao do tipo hO filtro temporario

torna-se permanente

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 24 / 31

Page 38: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Tipos de iteracao

f

h

(fk, hk)(fk+1, hk+1)

Iteracao do tipo fO filtro permanente

nao muda

f

h

(fk, hk)

Iteracao do tipo hO filtro temporario

torna-se permanente

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 24 / 31

Page 39: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Tipos de iteracao

f

h

(fk+1, hk+1)

Iteracao do tipo fO filtro permanente

nao muda

f

h

(fk, hk)

Iteracao do tipo hO filtro temporario

torna-se permanente

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 24 / 31

Page 40: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Tipos de iteracao

f

h

(fk+1, hk+1)

Iteracao do tipo fO filtro permanente

nao muda

f

h

(fk, hk)

(fk+1, hk+1)

Iteracao do tipo hO filtro temporario

torna-se permanente

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 24 / 31

Page 41: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Tipos de iteracao

f

h

(fk+1, hk+1)

Iteracao do tipo fO filtro permanente

nao muda

f

h

(fk, hk)

(fk+1, hk+1)

Iteracao do tipo hO filtro temporario

torna-se permanente

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 24 / 31

Page 42: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Tipos de iteracao

f

h

(fk+1, hk+1)

Iteracao do tipo fO filtro permanente

nao muda

f

h

(fk+1, hk+1)

Iteracao do tipo hO filtro temporario

torna-se permanente

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 24 / 31

Page 43: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

O algoritmo esta bem definido

Lema

Para todo k ∈ N tal que xk e nao estacionario, as seguintesafirmacoes sao validas:

(i) h j > 0, para todo j ∈ N tal que ( f j,h j) ∈ Fk;

(ii) Existe xk+1 /∈ Fk.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 25 / 31

Page 44: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Altura do filtro

vk = min{

1,min{(1−α)h j |

(f j,h j

)∈ Fk

}}

f

h

(fk, hk)

vk

f

h

xk

vk

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 26 / 31

Page 45: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Convergencia global

Hipoteses

A sequencia (xk) permanece em um conjunto convexo e compactoX ⊂ Rn.

As funcoes f ,ci, i ∈E ∪I , sao duas vezes continuamente diferenciaveis.

Dado um ponto viavel nao estacionario x ∈ X , existem M > 0 e umavizinhanca V de x tal que se xk ∈V , entao

f (xk)− f (xk+1)≥Mvk,

onde vk = min{

1,min{(1−α)h j |

(f j,h j

)∈ Fk

}}e a altura do filtro.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 27 / 31

Page 46: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Convergencia global

Hipoteses

A sequencia (xk) permanece em um conjunto convexo e compactoX ⊂ Rn.

As funcoes f ,ci, i ∈E ∪I , sao duas vezes continuamente diferenciaveis.

Dado um ponto viavel nao estacionario x ∈ X , existem M > 0 e umavizinhanca V de x tal que se xk ∈V , entao

f (xk)− f (xk+1)≥Mvk,

onde vk = min{

1,min{(1−α)h j |

(f j,h j

)∈ Fk

}}e a altura do filtro.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 27 / 31

Page 47: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Convergencia global

Hipoteses

A sequencia (xk) permanece em um conjunto convexo e compactoX ⊂ Rn.

As funcoes f ,ci, i ∈E ∪I , sao duas vezes continuamente diferenciaveis.

Dado um ponto viavel nao estacionario x ∈ X , existem M > 0 e umavizinhanca V de x tal que se xk ∈V , entao

f (xk)− f (xk+1)≥Mvk,

onde vk = min{

1,min{(1−α)h j |

(f j,h j

)∈ Fk

}}e a altura do filtro.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 27 / 31

Page 48: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Convergencia global

Resultados sobre viabilidade

Existe um conjunto infinito N′ ⊂ N tal que h(xk)N′→0.

Se o filtro inclinado for usado, entao h(xk)→ 0, ou seja,qualquer ponto de acumulacao da sequencia (xk) e viavel.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 28 / 31

Page 49: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Convergencia global

Resultados sobre viabilidade

Existe um conjunto infinito N′ ⊂ N tal que h(xk)N′→0.

Se o filtro inclinado for usado, entao h(xk)→ 0, ou seja,qualquer ponto de acumulacao da sequencia (xk) e viavel.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 28 / 31

Page 50: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Convergencia global

Considere o conjunto das iteracoes h dado por

Ka ={

k ∈ N |(

f k, hk)

e adicionado ao filtro}

.

LemaSe x ∈ X e um ponto nao estacionario, entao nenhumasubsequencia de (xk)k∈Ka converge para x.

Interpretacao: em uma vizinhanca de x, toda iteracao k e do tipo f .

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 29 / 31

Page 51: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Convergencia global

Considere o conjunto das iteracoes h dado por

Ka ={

k ∈ N |(

f k, hk)

e adicionado ao filtro}

.

LemaSe x ∈ X e um ponto nao estacionario, entao nenhumasubsequencia de (xk)k∈Ka converge para x.

Interpretacao: em uma vizinhanca de x, toda iteracao k e do tipo f .

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 29 / 31

Page 52: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Convergencia global

Teorema

A sequencia (xk) gerada pelo algoritmo de filtro tem um ponto deacumulacao estacionario.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 30 / 31

Page 53: Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e …ewkaras/ensino/ema761/cap8_slides.pdf · Otimizac¸ao Cont˜ ´ınua: Aspectos te oricos e computacionais´ Ademir Alves Ribeiro

Principais Referencias Bibliograficas

R. Fletcher e S. Leyffer.Nonlinear programming without a penalty function.Mathematical Programming - Ser. A, 91(2):239–269, 2002.

C. C. Gonzaga, E. W. Karas e M. Vanti.A globally convergent filter method for nonlinear programming.SIAM J. Optimization, 14(3):646–669, 2003.

G. A. Pericaro, A. A. Ribeiro e E. W. Karas.Global Convergence of a General Filter Algorithm Based on an EfficiencyCondition of the Step.Applied Mathematics and Computation, v. 219, (17), pp. 9581-9597, 2013.

Ademir Alves Ribeiro, Elizabeth Wegner Karas () Otimizacao Contınua Capıtulo 8 - Metodos com restricoes 31 / 31