PhD Thesis

Statistical Signal Processing: Robustness, Outliers and Temporal Correlation. Applications in target localization, linear regression, mean estimation, Procrustes alignment and distributed detection

João Miguel Oliveira Domingos — 2025

Key information

Authors:

João Miguel Oliveira Domingos (João Miguel Oliveira Domingos)

Supervisors:

João Manuel de Freitas Xavier (João Manuel de Freitas Xavier)

Published in

March 10, 2025

Abstract

A área de processamento de sinal estatístico desempenha um papel crucial em aplicações reais, que vão desde redes de sensores, a radares e a sistemas de posicionamento global (GPS). Embora esta área tenha mais de 75 anos de progresso, existem tópicos que são tipicamente ignorados, devido a limitações numéricas ou teóricas. O objetivo desta tese de doutoramento é abordar alguns destes tópicos, no contexto de estimação robusta e de correlação temporal. No contexto de estimação robusta, consideramos o problema de localização onde queremos determinar a posição de um alvo, a partir de medidas de alcance. A nossa contribuição consiste em delimitar o conjunto de estimativas de Máxima Verossimilhança (ML), para densidades de ruído arbitrárias mas suportadas numa região de incerteza conhecida. Este conjunto torna-se relevante em cenários de alto risco, como em operações de busca e salvamento, onde são necessárias garantias de desempenho fortes. Outra abordagem em estimação robusta consiste em contabilizar a existência de outliers em dados amostrados. O nosso segundo trabalho considera estimativas pontuais que são robustas contra medições atípicas. Ao estudar uma formulação percentil especificamente desenhada para outliers, propomos uma teoria algorítmica capaz de resolver problemas como regressão linear, estimativa de médias, localização de alvos e alinhamento de Procrustes. A nossa teoria oferece (a) soluções globais (mas com tempo exponencial) e (b) esquemas de aproximação (com tempo polinomial) que igualam ou superam os melhores algoritmos conhecidos até à data. Para correlação temporal, consideramos um contexto distribuído onde agentes numa rede querem detectar um sinal variável no tempo embebido em ruído temporalmente correlacionado. A dependência temporal é modelada por estruturas de média móvel auto-regressiva (ARMA), tanto no sinal como no ruído. O nosso trabalho estende um detector distribuído conhecido (o detector de consenso em execução) para lidar com correlação temporal. Os nossos resultados mostram que as probabilidades de erro em cada agente (a) decaem exponencialmente para zero, ou (b) convergem para um valor fixo que consegue ser calculado a-priori. Enquanto o regime (a) cobre resultados conhecidos, o regime (b) é novo em detecção distribuída e provoca alguns fenómenos desconhecidos até à data. Statistical signal processing plays a crucial role in real-world applications, ranging from sensor networks, radar and global positioning systems (GPS). Although the field has over 75 years of impressive progress, there have been topics that are typically overlooked, either due to numerical or theoretical limitations. The goal of this Ph.D. thesis is to address some of these limitations, in the context of robust estimation and temporal correlation. For robust estimation, we consider the target localization problem where we want to determine the position of a target from range measurements. Our contribution is delimiting the set of MaximumLikelihood (ML) estimates, for arbitrary noise densities supported on a known uncertainty region. This set becomes relevant in high-stakes scenarios, such as search and rescue operations, where strong performance guarantees are required. A different approach towards robustness is to account for outliers in sampled data. Our second work considers point estimates that are robust against outlier measurements. By studying a percentile formulation specifically tailored for outliers, we propose an algorithmic framework capable of addressing problems like linear regression, mean estimation, target localization and Procrustes alignment. Our framework delivers (a) global (yet exponential time) solutions and (b) fast approximate schemes that match or improve tailored benchmarks. For temporal correlation, we consider a distributed setup where agents in a network detect a timevarying signal embedded in temporally correlated noise. The temporal dependency is modelled by auto-regressive moving average (ARMA) temporal structures, both in the signal and in the noise. Our work extends the well-known running consensus detector (RCD) to cope with temporal correlation. Our results show that the error probabilities at each agent either (a) decay exponentially fast to zero or (b) converge to a computable error floor. While regime (a) covers known results, regime (b) is actually new in distributed detection and elicits some novel behaviours.

Publication details

Authors in the community:

Supervisors of this institution:

RENATES TID

101637543

Degree Name

Doutoramento em Engenharia Electrotécnica e de Computadores

Fields of Science and Technology (FOS)

electrical-engineering-electronic-engineering-information-engineering - Electrical engineering, electronic engineering, information engineering

Keywords

  • Robust Estimation
  • Percentile Optimization
  • Value-at-Risk
  • Distributed Detection
  • ARMA
  • Estimação Robusta
  • Optimização Percentil
  • Valor em risco
  • Detecção distribuída

Publication language (ISO code)

eng - English

Rights type:

Only metadata available

Institution name

Instituto Superior Técnico

Financing entity

Fundação para a Ciência e a Tecnologia

Identifier for the funding entity: https://doi.org/10.13039/501100001871

Type of identifier of the funding entity: Crossref Funder