Mínimos quadrados restritos
Nos mínimos quadrados restritos, resolve-se um problema de mínimos quadrados lineares com uma restrição adicional na solução. [1] [2] Isso significa que a equação irrestrita deve ser ajustada o mais próximo possível (no sentido dos mínimos quadrados), garantindo ao mesmo tempo que alguma outra propriedade seja mantida.
Frequentemente, há algoritmos de propósito especial para resolver tais problemas de forma eficiente. Alguns exemplos de restrições são dados abaixo:
- Mínimos quadrados com restrição de igualdade : os elementos de devem satisfazer exatamente (ver Mínimos quadrados ordinários ).
- Mínimos quadrados estocásticos (linearmente) restritos: os elementos de devem satisfazer , onde é um vetor de variáveis aleatórias tal que e . Isso efetivamente impõe uma distribuição anterior para e é, portanto, equivalente à regressão linear bayesiana . [3]
- Mínimos quadrados regularizados : os elementos de devem satisfazer (escolher em proporção ao desvio padrão de ruído de y evita o sobreajuste).
- Mínimos quadrados não negativos (NNLS): O vetor deve satisfazer a desigualdade vetorial definida por componentes, ou seja, cada componente deve ser positivo ou zero.
- Mínimos quadrados restritos por caixa: O vetor deve satisfazer as desigualdades vetoriais , cada uma das quais é definida componente a componente.
- Mínimos quadrados restritos a inteiros: todos os elementos de devem ser inteiros (em vez de números reais ).
- Mínimos quadrados com restrição de fase: todos os elementos de devem ser números reais ou multiplicados pelo mesmo número complexo de módulo unitário.
Se a restrição se aplicar somente a algumas das variáveis, o problema misto pode ser resolvido usando mínimos quadrados separáveis [4] , permitindo que e representem os componentes não restritos (1) e restritos (2). Então, substituindo a solução de mínimos quadrados para , ou seja,
(onde + indica o pseudoinverso de Moore-Penrose ) de volta à expressão original fornece (após algum rearranjo) uma equação que pode ser resolvida como um problema puramente restrito em .
onde é uma matriz de projeção . Seguindo a estimativa restrita do vetor é obtido a partir da expressão acima.
Veja também
Referências
- ^ Amemiya, Takeshi (1985). "Modelo 1 com Restrições Lineares". Econometria Avançada . Oxford: Basil Blackwell. pp. 20–26. ISBN 0-631-15583-X.
- ^ Boyd, Stephen; Vandenberghe, Lieven (2018). Introdução à Álgebra Linear Aplicada: Vetores, Matrizes e Mínimos Quadrados. Cambridge University Press. ISBN 978-1-316-51896-0.
- ^ Fomby, Thomas B.; Hill, R. Carter; Johnson, Stanley R. (1988). "Uso de informações prévias". Advanced Econometric Methods (edição corrigida de capa mole). Nova York: Springer-Verlag. pp. 80–121. ISBN 0-387-96868-7.
- ^ Bjork, Ake (1996). "Problemas Separáveis e Restritos". Métodos Numéricos para Problemas de Mínimos Quadrados . Filadélfia: SIAM. p. 351. ISBN 0898713609.