Pesquisa Bibliográfica

3. Problemas Inversos

A solução de um problema inverso envolve a determinação de causas desconhecidas, baseadas na observação de seus efeitos; o oposto ocorre nos problemas diretos geralmente abordados, onde a solução é dada pela obtenção dos efeitos, tendo como base uma completa descrição de suas causas. Tais problemas são freqüentemente mal-condicionados, fazendo-se necessário o uso dos conceitos da teoria da regularização e suavidade. É neste contexto que se encontra a maioria dos trabalhos apresentados nesta seção. Alguns desses trabalhos abordam a parte teórica da utilização da regularização em problemas inversos mal-condicionados, analisando pontos específicos como estabilidade, unicidade e otimalidade das soluções, problemas implícitos, etc. A maior parte dos trabalhos realizados na área, contudo, tem um cunho prático, ou seja, aplicam os conceitos de problema inverso e da teoria da regularização a problemas envolvendo conceitos físicos, processamento de imagens, processamento de sinais, imagens médicas, entre outros.

A seguir apresentam-se alguns trabalhos, selecionados de maneira a fornecer a visão mais ampla possível do contexto em que os conceitos de regularização e problemas inversos vêm sendo aplicados, bem como apresentar os principais avanços que vêm sendo alcançados.

Referências:

Referência 216

Barone, P.; Sebastiani, G. Solving an Inverse Diffusion Problem for Magnetic Resonance Dosimetry by a Fast Regularization Method, Real-Time Imaging, Vol. 7, No. 1, February 2001

Fonte: www.bae.unicamp.br - Probe - Academic Press

Resumo: sim

Artigo Completo: sim

Palavras-Chave: problema inverso, ressonância magnética, deconvolução, restrições de suavidade

Comentários: este paper faz um estudo de um problema de difusão inverso que aparece em dosimetria de ressonância magnética. Para lidar com a singularidade do “kernel”, funções de regularização não lineares são consideradas, as quais podem prover soluções regulares, reproduzir gradientes e impor restrições de positividade. Um algoritmo determinístico rápido é usado.
Referência 217

Bertero, M.; De Mol, C.; Viano, G.A. The stability of inverse problems, Inverse scattering problems in optics, Springer-Verlag, Berlin, West Germany; 1980.

Fonte: www.bae.unicamp.br - ERL

Resumo: sim

Artigo Completo: não

Palavras-Chave: problemas mal-condicionados, problemas inversos, restrições

Comentários: este paper esboça as principais características de problemas mal-condicionados, sua conexão com problemas inversos e as idéias básicas que permitem sua resolução. A teoria da regularização é discutida onde as restrições suplementares são limites prescritos na classe de soluções admissíveis.

Referência 218

Busby, H.R.; Trujillo, D.M. Optimal regularization of an inverse dynamics problem, Computers & Structures, vol. 63, no. 2, pp. 243-248, April 1997.

Fonte: www.bae.unicamp.br - Probe - Elsevier

Resumo: sim

Artigo Completo: sim

Palavras-Chave: problema dinâmico inverso, regularização de Tikhonov, parâmetro de suavidade, validação cruzada generalizada

Comentários: este paper trata da resolução de problemas dinâmicos inversos usando a regularização de Tikhonov e programação dinâmica, o que requer a seleção de um parâmetro de suavização ótimo. Dois métodos para a escolha deste parâmetro são estudados: a validação cruzada generalizada e o método da curva L.
Referência 219

Calvetti, D.; Morigi S.; Reichel, L.; Sgallari, F. Tikhonov regularization and the L-curve for large discrete ill-posed problems, Journal of Computational and Applied Mathematics, vol. 123, no. 1-2, pp. 423-446, November 2000.

Fonte: www.bae.unicamp.br - Probe - Elsevier

Resumo: sim

Artigo Completo: sim

Palavras-Chave: problema inverso mal-condicionado, regularização, critério da curva L, quadratura de Gauss

Comentários: os autores deste paper revêem métodos iterativos disponíveis, e apresentam novos, para a determinação de um valor adequado para o parâmetro de regularização através do critério da curva L e a solução de sistemas regularizados de equações algébricas.

Referência 220

Dechevsky, L.T. Wavelet Shrinkage - the Next Generation, Technical Report, 1998.

Fonte: sphere.math.utsa.edu/~kannan/conf/abstracts/dechev.pdf

Resumo: sim

Artigo Completo: sim

Palavras-Chave: wavelets, regressão não-paramétrica, regularização de Tikhonov, problemas inversos mal-condicionados

Comentários: este paper trata da contração de wavelet. O autor faz uso de técnicas de regularização, em particular a de Tikhonov, para problemas inversos mal-condicionados, e analisa os casos de regressão não-paramétrica, sob um ponto de vista estatístico.
Referência 221

Delaney, A.H.; Bresler, Y., Globally convergent edge-preserving regularized reconstruction: an application to limited-angle tomography, IEEE Transactions on Image Processing, vol. 7, no. 2, pp. 204-211, Feb. 1998.

Fonte: base de dados IEEE/IEE - BAE

Resumo: sim

Artigo Completo: sim

Palavras-Chave: reconstrução de imagens, problemas inversos, otimização, otimização não-convexa, aproximações por mínimos quadrados.

Comentários: este paper introduz uma generalização de um algoritmo determinístico para regularização preservadora de contorno em problemas lineares inversos. O algoritmo é aplicado à reconstrução tomográfica a partir de dados limitados. Os resultados demonstram que a aplicação de uma restrição de suavidade adequada através de uma regularização de preservação de contorno fornece ótimas reconstruções.

Referência 222

Engl, H.W.; Rundell, W.; Scherzer, O. A Regularization Scheme for an Inverse Problem in Age-Structured Populations, Journal of Mathematical Analysis and Applications, Vol. 182, No. 3, March 15, 1994.

Fonte: www.bae.unicamp.br - Probe - Academic Press

Resumo: sim

Artigo Completo: sim

Palavras-Chave: dinâmica populacional, problema inverso, problema mal-condicionado

Comentários: este paper considera a questão da determinação estável da taxa de mortalidade na equação fundamental da dinâmica populacional estruturada por idade. A abordagem dos autores é a de formular o problema inverso como uma equação operadora, e então usar o método dos mínimos quadrados para sua solução. Como o problema é mal-condicionado, um método de regularização deve ser considerado.
Referência 223

Johnson, C.R.; MacLeod, R.S. Adaptive local regularization methods for the inverse ECG problem, Progress in Biophysics & Molecular Biology, vol. 69, no. 2-3, pp. 405-423, March 1998.

Fonte: www.bae.unicamp.br - Probe - Elsevier

Resumo: sim

Artigo Completo: sim

Palavras-Chave: eletrocardiografia, problema inverso, suavidade, regularização

Comentários: os autores deste artigo apresentam novos métodos para alcançar melhores estimativas das distribuições potenciais da superfície do coração em termos dos potenciais de torso através de um procedimento inverso. Para isso, eles fazem uso de um algoritmo de refinamento automático e adaptativo e de um novo procedimento de regularização local.
Referência 224

Karayiannis, N.B.; Venetsanopoulos, A.N. Regularization theory in discrete image restoration, Proceedings of the SPIE, The International Society for Optical Engineering, vol.1001, pt.1, p.25-36, 1988.

Fonte: www.bae.unicamp.br - ERL

Resumo: sim

Artigo Completo: não

Palavras-Chave: restauração de imagens, problemas inversos, problemas mal-condicionados, aplicabilidade, função de estabilização

Comentários: os autores apresentam diversos aspectos da aplicação da teoria da regularização em restauração de imagens. Isto é feito pela extensão da aplicabilidade da abordagem da funcional de estabilização para problemas bidimensionais mal-condicionados. A restauração de imagens é formulada como uma minimização restrita de um funcional de estabilização.
Referência 225

Karayiannis, N.B., Venetsanopoulos, A.N. Regularization theory in image restoration--the stabilizing functional approach, IEEE Transactions on Acoustics, Speech, and Signal Processing, vol. 38, no. 7, p. 1155-1179, July 1990.

Fonte: www.bae.unicamp.br - ERL

Resumo: sim

Artigo Completo: não

Palavras-Chave: problema mal-condicionado, problema inverso, suavidade, restrições

Comentários: neste paper são apresentados vários aspectos da aplicação da teoria da regularização em restauração de imagens. Isto é feito através da extensão da aplicabilidade da abordagem de funcional de estabilização para problemas bidimensionais inversos mal-condicionados. A restauração inversa é formulada como a minimização restrita da funcional de estabilização.
Referência 226

Koch, M. The application of regularization theory to the retrieval of stability, uniqueness and optimal solutions in the linear ill-posed 3D-seismic inverse problem, Eos, Transactions, American Geophysical Union 65, pp. 1018, 1984.

Fonte: www.bae.unicamp.br - ERL

Resumo: não

Artigo Completo: não

Palavras-Chave: teoria da regularização, problema inverso, problema mal-condicionado

Comentários: não há informação suficiente.
Referência 227

Lamm, P.K. On the local regularization of inverse problems of Volterra type, in Proc. ASME Design Engineering Technical Conferences - Parameter Identication Symposium, 1995.

Fonte: ResearchIndex (CiteSeer): http://citeseer.nj.nec.com/

Resumo: sim

Artigo Completo: sim

Palavras-Chave: regularização de Tikhonov, semente (kernel) de convolução, regularização de dimensão infinita

Comentários: neste paper considera-se um método de regularização local para a solução de equações integrais de primeiro tipo de Volterra com semente de convolução. A regularização local é baseada em uma divisão do operador de Volterra original em partes “local” e “global”, e um uso da regularização de Tikhonov para estabilizar a inversão do operador local somente.
Referência 228

Lamm, P. K. Future-Sequential Regularization Methods for Ill-Posed Volterra Equations, Applications to the Inverse Heat Conduction Problem, 1997.

Fonte: ResearchIndex (CiteSeer): http://citeseer.nj.nec.com/

Resumo: sim

Artigo Completo: sim

Palavras-Chave: condução de calor, problemas mal-condicionados, equações de Volterra

Comentários: neste paper é desenvolvido um contexto teórico para o estudo de um método de regularização seqüencial futuro, desenvolvido por J.V. Beck para o problema inverso da condução de calor.
Referência 229

Lamm, P.K. Local Regularization Methods for the Stabilization of Ill-Posed Volterra

Problems, Applications to the Inverse Heat Conduction Problem, 2000.

Fonte: ResearchIndex (CiteSeer): http://citeseer.nj.nec.com/

Resumo: sim

Artigo Completo: sim

Palavras-Chave: problemas mal-condicionados, equações de Volterra, suavidade

Comentários: neste paper investiga-se uma classe de métodos de regularização local para a qual o problema original (instável) é aproximado por uma família parametrizada de equações de Volterra de segundo tipo e bem condicionadas.

Referência 230

Lamm, P.K. Regularized inversion of finitely smoothing Volterra operators: predictor corrector regularization methods, Inverse Problems, 13, pp. 375-402, 1997.

Fonte: ResearchIndex (CiteSeer): http://citeseer.nj.nec.com/

Resumo: não

Artigo Completo: não

Palavras-Chave: perturbação, acuidade, operadores Volterra

Comentários: não há informações suficientes.
Referência 231

Lamm, P.K. Variable-smoothing regularization methods for inverse problems of Volterra type, 1997

Fonte: ResearchIndex (CiteSeer): http://citeseer.nj.nec.com/

Resumo: sim

Artigo Completo: sim

Palavras-Chave: suavidade, parâmetro de regularização, problema inverso

Comentários: este paper investiga o grau em que os parâmetros de regularização podem ser utilizados para controlar a suavidade através de vários exemplos numéricos.
Referência 232

Lamm, P.K. Solution of ill-posed Volterra equations via variable-smoothing Tikhonov regularization, in Inverse Problems in Geophysical Applications, SIAM, Philadelphia, 1997.

Fonte: ResearchIndex (CiteSeer): http://citeseer.nj.nec.com/

Resumo: sim

Artigo Completo: sim

Palavras-Chave: não há informação suficiente

Comentários: não há informação suficiente.
Referência 233

Luettgen, M.R.; Clem Karl, W.; Willsky, A.S. Efficient multiscale regularization with applications to the computation of optical flow, IEEE Transactions on Image Processing, vol. 3, no. 1, pp. 41-64, Jan. 1994.

Fonte: base de dados IEEE/IEE - BAE

Resumo: sim

Artigo Completo: sim

Palavras-Chave: problemas inversos mal-condicionados, complexidade computacional, processamento de imagens, resolução, suavidade

Comentários: este paper apresenta uma nova abordagem para métodos de regularização para processamento de imagens. Este novo algoritmo apresenta uma excelente inicialização para algoritmos iterativos associados com a formulação do problema de restrição de suavidade.
Referência 234

Nelson, P.A.; Yoon, S.H. Estimation of Acoustic Source Strength by Inverse Methods: Part I, Conditioning of the Inverse Problem, Journal of Sound and Vibration, vol. 233, no. 4, June 2000.

Fonte: www.bae.unicamp.br - Probe - Academic Press

Resumo: sim

Artigo Completo: sim

Palavras-Chave: acústica, problema inverso, campo de radiação

Comentários: este paper lida com o problema inverso discreto em acústica. Assume-se que um número conhecido de fontes acústicas estão localizadas em posições espaciais conhecidas e que a pressão acústica é medida em um número de posições espaciais no campo de radiação. O artigo ilustra as possibilidades e limitações deste tipo de abordagem.

Referência 235

Nelson, P.A.; Yoon, S.H. Estimation of Acoustic Source Strength by Inverse Methods: Part II, Experimental Investigation of Methods for Choosing Regularization Parameters, Journal of Sound and Vibration, vol. 233, no. 4, June 2000.

Fonte: www.bae.unicamp.br - Probe - Academic Press

Resumo: sim

Artigo Completo: sim

Palavras-Chave: problema inverso, regularização, validação cruzada, validação cruzada generalizada, ruído

Comentários: neste paper são usados dois métodos de regularização (Tikhonov e descarte do valor singular) para melhorar a acuidade da reconstrução de uma fonte acústica através de técnicas inversas. São investigados alguns métodos de escolha dos parâmetros de regularização, com destaque para o uso da validação cruzada ordinária e generalizada.

Referência 236

Nguyen, N.; Golub, G.; Milanfar, P. Blind restoration/superresolution with generalized cross-validation using Gauss-type quadrature rules, Conference Record of the Thirty-Third Asilomar Conference on Signals, Systems, and Computers, vol. 2, pp. 1257-1261, oct. 1999.

Fonte: base de dados IEEE/IEE - BAE

Resumo: sim

Artigo Completo: sim

Palavras-Chave: restauração de imagens, validação cruzada generalizada, problema inverso mal-condicionado, parâmetro de regularização

Comentários: em muitas aplicações de restauração/super-resolução, o processo de borramento não é conhecido. A estimativa da função de espalhamento e os parâmetros de regularização para este problema inverso mal-condicionado é feita através do uso de um método de validação cruzada generalizada.
Referência 237

Piccolomini, E.L.; Zama, F. The conjugate gradient regularization method in Computed Tomography problems, Applied Mathematics and Computation, vol. 102, no. 1, pp. 87-99, July 1999.

Fonte: www.bae.unicamp.br - Probe - Elsevier

Resumo: sim

Artigo Completo: sim

Palavras-Chave: regularização, problemas inversos, tomografia computadorizada

Comentários: neste trabalho os autores resolvem problemas inversos vindos da área de tomografia computadorizada por meio de métodos de regularização baseados em iterações do gradiente conjugado.
Referência 238

Sánchez-Ávila, C.; Figueiras-Vidal, A.R. New POCS algorithms for regularization of inverse problems, J. of Computational and Applied Mathematics, vol. 72, no. 1, pp. 21-39, July 1996.

Fonte: www.bae.unicamp.br - Probe - Elsevier

Resumo: sim

Artigo Completo: sim

Palavras-Chave: regularização, operadores de projeção em conjuntos convexos, deconvolução, problema inverso, problema mal-condicionado

Comentários: este paper apresenta, sob operadores de projeção em conjuntos convexos para introduzir as operações de regularização necessárias, uma série de algoritmos de regularização adaptativos e não-adaptativos que oferecem como principais vantagens uma baixa complexidade computacional e a possibilidade de incluir quaisquer tipos de restrições, lineares ou não.

Referência 239

Shkvarko,Y.V. Multi-sensor remote sensing in scattering media via fusing experiment design and regularization theory methods, Proceedings of the International Society for Optical Engineering, vol. 3068, pp. 341-365, 1997.

Fonte: www.bae.unicamp.br - ERL

Resumo: sim

Artigo Completo: não

Palavras-Chave: problema mal-condicionado, problema inverso, sistema de radar, restauração de imagens

Comentários: neste paper os autores apresentam uma nova abordagem para os problemas de sensoriamento remoto de imagens para sistemas de radar/sonar, estabelecidos e tratados como problemas inversos e mal-condicionados de restauração de sinais de objetos refletidos e distorcidos.
Referência 240

Shulman, D.; Herve, J.Y. Regularization of discontinuous flow fields, Workshop on Visual Motion, Proceedings, pp. 81-86, March 1989.

Fonte: base de dados IEEE/IEE - BAE

Resumo: sim

Artigo Completo: sim

Palavras-Chave: problemas inversos, problemas mal-condicionados, suavidade, distribuições de probabilidade, visão computacional

Comentários: problemas inversos em visão de baixo nível tendem a ser mal condicionados, e suposições de suavidade (regularização) precisam ser feitas para obter soluções únicas que variam continuamente como uma função dos dados. Os autores aplicaram a teoria das estatísticas robustas para obter uma regularização convexa que é também maximamente robusta contra especificações erradas da distribuição probabilidade.
Referência 241

Solo, V. A sure-fired way to choose smoothing parameters in ill-conditioned inverse problems, Proceedings of the International Conference on Image Processing, vol. 3, pp. 89-92, Sept. 1996.

Fonte: base de dados IEEE/IEE - BAE

Resumo: sim

Artigo Completo: sim

Palavras-Chave: processamento de imagens, métodos de suavização, problemas inversos mal-condicionados, regularização, validação cruzada

Comentários: os autores deste paper descrevem um procedimento geral para a estimação de parâmetros dimensionais finitos auxiliares em problemas inversos mal-condicionados. O método é aplicável a problemas não-lineares, não envolve aproximações mas oferece vantagens computacionais sobre validação cruzada e máxima verossimilhança.
Referência 242

Solo, V.; Purdon, P.; Brown, E.; Weisskoff, R. Regularization for functional MRI models, International Conference on Image Processing, Proceedings, vol. 1, pp. 714-716, Oct. 1998.

Fonte: base de dados IEEE/IEE - BAE

Resumo: sim

Artigo Completo: sim

Palavras-Chave: problemas inversos, modelos funcionais MRI, suavidade espacial, ressonância magnética, imagens médicas

Comentários: os autores consideram o modelamento espaço-temporal dos dados da função MRI a partir de um ponto de vista de problemas inversos. Os autores discutem métodos de regularização para esse tipo de modelamento.

Referência 243

Terzopoulos, D. Regularization of inverse visual problems involving discontinuities, IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 8, no. 4; pp. 413-424, July 1986.

Fonte: www.bae.unicamp.br - ERL

Resumo: sim

Artigo Completo: não

Palavras-Chave: problemas inversos mal-condicionados, restrições de suavidade, funcionais de estabilização, regularização

Comentários: este paper trata da maneira como problemas inversos que tendem a ser mal-condicionados podem ser reformulados como princípios variacionais bem-condicionados cujas soluções são computáveis. Para isso, uma classe geral de estabilizadores continuamente controláveis, que provê o necessário controle sobre a suavidade, é proposta.

Referência 244

Wahba, G. Regularization and cross validation methods for nonlinear implicit, ill-posed inverse problems, In Geophysical Data Inversion Methods and Applications, A. Vogel, C. Ofoegbu, R. Gorenflo and B. Ursin, eds., Vieweg, pp. 3-13, 1990.

Fonte: http://www.stat.wisc.edu/~wahba/pubs/wahba.bib

Resumo: não

Artigo Completo: não

Palavras-Chave: validação cruzada, regularização, problemas inversos mal-condicionados

Comentários: não há informação suficiente.

Referência 245

Wahba, G. Comments on A Statistical Perspective on Ill-posed Inverse Problems, Statistical Science, vol. 1, pp. 521-522, 1986.

Fonte: http://www.stat.wisc.edu/~wahba/pubs/wahba.bib

Resumo: não

Artigo Completo: não

Palavras-Chave: problema inverso, problema mal-condicionado, regularização

Comentários: não há informação suficiente.
Referência 246

Yildiz, B.; Subasi, M.; Sever, A. On a regularization problem, Applied Mathematics and Computation, vol. 109, no. 1, pp. 67-72, March 2000.

Fonte: www.bae.unicamp.br - Probe - Elsevier

Resumo: sim

Artigo Completo: sim

Palavras-Chave: regularização de Tikhonov, problema inverso, problema mal-condicionado

Comentários: os autores deste paper consideram o uso do método da regularização de Tikhonov na solução de problemas inversos mal-condicionados.

4. Capacidade de Generalização e Dilema Bias/Variância

A capacidade de generalização significa a capacidade que esta tem de reconhecer, caracterizar ou mapear entradas que ela nunca encontrou antes. A fim de se obter um alto nível de capacidade de generalização, a seleção do modelo e dos pontos de amostragem são cruciais.

O dilema bias/variância está ligado à tentativa de se minimizar o erro associado a uma função de aproximação. É desejado que ambos os valores sejam baixos. Na prática, porém, se a função de aproximação é feita muito flexível, o bias assume baixos valores, mas a variância sobe. Se a função é feita mais rígida, o valor da variância cai, porém o valor do bias sobe. Portanto, a questão a ser respondida é como reduzir a variância sem aumentar proporcionalmente o bias.

Os estudos realizados nos papers e livros aqui apresentados estão, em sua grande maioria, relacionados com as questões acima levantadas, ou seja, o compromisso bias/variância e sua relação com a capacidade de generalização, especialmente para o caso de treinamento e aprendizado de redes neurais regularizadas. Tais estudos incluem a busca por estimadores mais eficientes para o erro de generalização; tentativas de se melhorar a capacidade de se melhorar a capacidade de generalização da rede sem tornar a variância proibitivamente alta, através do uso de técnicas como o uso de derivadas de segunda ordem e parâmetros de regularização adaptativos; análise da generalização em sistemas de aprendizado não-lineares; e por fim, o estudo da capacidade de generalização de redes utilizadas em algumas aplicações práticas. Todos esses casos estão ilustrados pelos artigos apresentados a seguir.

Referências:

Referência 247

Amari, S.I. Training error, generalization error and learning curves in neural learning, Proceedings of the Second New Zealand International Two-Stream Conference on Artificial Neural Networks and Expert Systems, pp. 4-5, Nov. 1995.

Fonte: base de dados IEEE/IEE - BAE

Resumo: sim

Artigo Completo: sim

Palavras-Chave: redes neurais, aprendizado, minimização, erro de treinamento, erro de generalização

Comentários: os autores deste paper analisam o caso em que o número de exemplos de treinamento é pequeno, onde as discrepâncias são grandes, causando um problema sério de sobre-treinamento. Esse fenômeno é analisado através do uso de um modelo simples. É estudado também o comportamento do erro de generalização.