Orientador: João Marcos Travassos Romano

Tese (doutorado) - Universidade Estadual de Campinas, Faculdade de Engenharia Eletrica

Resumo: o trabalho apresentado nesta tese é dedicado ao entendimento e busca de soluções para o problema de instabilidade numérica inerente dos algoritmos de minimos quadrados rápidos. A ênfase do tratamento é dirigida a viabilizar e aperfeiçoar a aplicação destes algoritmos em sistemas de...

Resumo: o trabalho apresentado nesta tese é dedicado ao entendimento e busca de soluções para o problema de instabilidade numérica inerente dos algoritmos de minimos quadrados rápidos. A ênfase do tratamento é dirigida a viabilizar e aperfeiçoar a aplicação destes algoritmos em sistemas de processamento digital de sinais, especialmente na área de transmissão de dados, onde os fenômenos de ocorrência de eco e interferência inter-simbólica exigem procedimentos de filtragem adaptativa em tempo real. Os métodos de ITÚnimosquadrados clássico e recursivo são tratados no Capítulo 1, juntamente com os processos de filtragem digital adaptativa aos quais eles se aplicam. Os algoritmos rápidos são introduzidos no Capítulo 2, onde se procurou elaborar um texto que reuna as principais informações existentes sobre o assunto na literatura. Estes dois primeiros capítulos utilizam uma abordagem clara e ao mesmo tempo inédita do funcionamento dos algoritmos de minimos quadrados, representando uma contribuição no campo didático. Contribuições importantes para o entendimento do problema da instabilidade numérica em vários algoritmos de minimos quadrados são apresentadas no Capítulo 3. Diversas formas de análise são desenvolvidas para explicar a origem e a propagação do fenômeno da instabilidade numérica, incluindo um modelo que descreve o comportamento do processo corruptivo. No Capítulo 4 são discutidos os principais métodos de estabilização existentes. Também é apresentado um método novo, que representa uma significativa evolução técnica na área, sobretudo quando se deseja atender um compromisso entre complexidade computacional e estabilidade numérica. Resultados de simulações e comparações do novo método com outros existentes são apresentados no Capítulo 5, com o objetivo de validar o novo método como um instrumento adequado ao controle da instabilidade numérica nos algoritmos rápidos

Abstract: The work described in this thesis is concerned with the understanding and solution of the numerical instability problem presented by the fast least square algorithm. The emphasis is on the application and performance achieved by the algorithms in digital signal processing systems,...

Abstract: The work described in this thesis is concerned with the understanding and solution of the numerical instability problem presented by the fast least square algorithm. The emphasis is on the application and performance achieved by the algorithms in digital signal processing systems, specially in data transmission, where the echo phenomena and intersymbol interference effects makes the on-line adaptive filtering process a mandatory technique. The traditional and recursive least square methods are presented in Chapter 1, so are their applications on the adaptive digital filtering processo The fast least square algorithms are introduced in Chapter 2. In this chapter we gathered the important information found in the technical literature about the topic.These two first chapters represent a contribution in the didactic area, as they present a clear and original approach to the least square algorithm operation. In Chapter 3, we present important contributions to the understanding of the numerical instability problem in various least square algorithms. Also, we develop several kinds of theoretical and experimental analysis in order to explain the origin and growing of the numerical instability phenomenon, inc1uding a mathematical model that describes the behaviour of the corruptive processo. In Chapter 4, we discusse the existing stabilization methods. Also, we propose a new method, which represents a signiftcant technical improvement in the area, mainly if the goal is a tradeoff between computational complexity and numerical stability. A series of simulation results and comparisons between the new method and the existing ones are presented in Chapter 5 with the objective of validating the proposed methodas an adequate tool to prevent the numerical instability in the fast least square algorithms