Efeitos da quantização dos sinais na obtenção de seu modelo autorregressivo

Efeitos da quantização dos sinais na obtenção de seu modelo autorregressivo

Luiz W. P. Biscainho^I; Paulo S. R. Diniz^II; Mauro F. de Carvalho^III

^ILaboratório de Processamento de Sinais, DEL-POLI & PEE-COPPE, UFRJ Caixa Postal 68504, CEP 21945-970 - Rio de Janeiro, RJ, BRASIL. [e-mail]

^II [e-mail]

^III [e-mail]

RESUMO

Este artigo aborda os efeitos da quantização linear de um sinal de áudio sobre a estimação de seu modelo autorregressivo (AR) pelo método de Mínimos Quadrados (LS). Inicialmente, revisam-se: a descrição estatística do erro de quantização em função do número de bits da representação de um sinal em ponto fixo; a obtenção da estimativa LS do modelo AR para um sinal; e a relação entre as soluções de Erro Quadrático Médio Mínimo (MMSE) para o modelo AR obtidas a partir de sinais ruidoso e não-ruidoso. Examina-se a sensibilidade da localização (em módulo e fase) dos pólos do filtro gerador associado quanto à variação dos parâmetros do modelo. Através da interligação desses tópicos, descreve-se o desvio nos coeficientes do modelo em função do número de bits de representação do sinal modelado, o que permite corrigir o modelo, e explicam-se peculiaridades do desvio nos pólos do filtro gerador.

Palavras-chave: Modelos autorregressivos, algoritmos de interpolação, estimação por mínimos quadrados, ruído de quantização, análise de sensibilidade

ABSTRACT

This paper addresses the effects of the quantization of an audio signal on the Least-Squares (LS) estimate of its autoregressive (AR) model. First, three topics are reviewed: the statistical description of the quantization error in terms of the number of bits used in fixed-point representation for a signal; the LS estimation of the AR model for a signal; and the relation between Minimum Mean-Square Error (MMSE) solutions for the AR model obtained from noisy and noiseless signals. The sensitivity of the associated generator filter poles localization (expressed by magnitudes and phases) to the deviation of the model parameters is examined. Through the interconnection of these aspects, the deviation of the model coefficients is described in terms of the number of bits used to represent the signal to be modeled, which allows for model correction. Conclusions about peculiarities of the pole deviation of the generator filter are drawn.

Keywords: Autoregressive models, interpolation algorithms, least-squares estimation, quantization noise, sensitivity analysis.

1 INTRODUÇÃO

Uma situação recorrente no processamento digital de sinais de áudio (Kahrs e Brandenburg, 1998), incluindo fala (Deller, Jr. et alli, 2000), é a necessidade de se estimar um modelo estatístico para descrever esses sinais. Um modelo freqüentemente adotado é o processo autorregressivo (AR), obtido pela passagem de ruído branco por um filtro digital linear só-pólos (Haykin, 1996). Por outro lado, a discretização e quantização linear de um sinal de áudio resulta na sua representação digital em ponto fixo.

A literatura de processamento de fala tem associado exaustivamente os tópicos ''modelo AR'' e ''quantização''. No contexto de codificação para compressão de sinais (Gersho e Gray, 1997), uma técnica simples e amplamente empregada é o Linear Predictive Coder (LPC), que é uma aplicação direta do modelo AR. Diretamente derivadas do LPC (Deller, Jr. et alli, 2000), a Parcor lattice e o Line Spectrum Pair (LSP) resultaram da busca de parametrizações/representações alternativas aos coeficientes do modelo AR que, quando quantizadas, produzissem menores níveis de distorção espectral. E desde os anos 1980 este assunto tem produzido trabalhos bastante significativos (Kabal e Ramachandran, 1986; Song e Juang, 1993; Paliwal e Atal, 1993; Pan e Fischer, 1998; Kim et alli, 2000).

Entretanto, o objeto do presente trabalho é fundamentalmente diferente. Não se está interessado em obter melhores representações para transmissão dos coeficientes LPC. De fato, a investigação aqui se enquadra num estágio anterior: o efeito da representação quantizada dos sinais que se quer modelar sobre a estimativa de seus modelos. No contexto de restauração digital de áudio, é dado um sinal discretizado com alta qualidade (tipicamente, com taxa de amostragem de 44,1, 48 ou 96 kHz e representação com 16, 20 ou 24 bits em ponto fixo), que será submetido ao processamento. Este, em geral, pode ser realizado por um sistema especializado baseado em computador e não precisa ser em tempo real. Muitos dos problemas característicos a tratar (como remoção de clicks e arranhões) admitem soluções de alta eficácia através de técnicas cuja formulação se baseia no modelo autorregressivo (Vaseghi e Frayling-Cork, 1992; Godsill e Rayner, 1998). Isso leva à necessidade de calcular os parâmetros do modelo para sinais quantizados. Dependendo da plataforma empregada, todo o processamento subseqüente e a própria representação dos coeficientes do modelo pode ser realizada em ponto flutuante, com alta precisão. A questão é preservar a modelagem AR e, ainda que estimando seus coeficientes a partir do sinal quantizado, manter a representatividade do modelo em relação ao sinal contínuo subjacente. É essa a motivação deste artigo.

A origem deste trabalho se deu num contexto de avaliação de algoritmos de restauração de sinais de áudio (Godsill e Rayner, 1998), em particular os de interpolação de amostras faltantes ou degradadas. Em Ó Ruanaidh (1994), o desempenho do Amostrador de Gibbs (Ó Ruanaidh e Fitzgerald, 1994) é comparado com o de outros dois algoritmos de interpolação. Ao tentarem reproduzir os resultados apresentados em Ó Ruanaidh (1994) para as mesmas categorias de sinais artificiais de teste, os autores encontraram divergências de resultados para sinais de conteúdo espectral concentrado em muito baixas freqüências. Após investigação mais detalhada, constatou-se que tais diferenças se deveram ao fato de, na reprodução das simulações, os sinais de teste terem sido previamente quantizados em ponto fixo (o que não fora feito no trabalho original). Naturalmente, a quantização dos sinais cria condições de teste mais próximas de uma situação real de processamento digital de sinais de áudio, e não deve ser desconsiderada nas simulações. Mais tarde, verificou-se ainda que o próprio modelo AR estimado a partir do sinal quantizado já inviabilizava a correta interpolação naqueles casos, pois os pólos encontrados para o filtro gerador associado se desviavam excessivamente de suas posições teóricas-sendo obteníveis, entretanto, a partir do sinal representado com alta precisão.

Neste artigo, inicialmente revisam-se alguns aspectos relacionados com o desvio dos coeficientes do modelo AR devido à quantização do sinal modelado: a descrição estatística do erro de quantização em função do número de bits da representação de um sinal em ponto fixo; a obtenção da estimativa por Mínimos Quadrados (LS) dos coeficientes do modelo AR para um sinal; e a relação entre as soluções de Erro Médio Quadrático Mínimo (MMSE) para os mesmos coeficientes obtidas a partir das versões ruidosa e não-ruidosa do sinal. Isso permite descrever o desvio causado nos coeficientes do modelo AR em função do número de bits da representação do sinal modelado e, potencialmente, corrigi-lo. Em seguida, investiga-se a sensibilidade da posição, expressa em termos de módulo e fase, dos pólos do filtro gerador associado em relação aos coeficientes do modelo AR. Isso permite explicar a ocorrência preferencial do desvio de pólos em dadas regiões do espectro. Toda a discussão é apoiada pelos resultados de simulações.

Após esta Introdução, a Seção 2 apresenta os pressupostos teóricos necessários à discussão proposta. Na Seção 3, apresenta-se o problema de interpolação que motivou o trabalho; passa-se ao sub-problema de modelagem; e utilizam-se os tópicos da Seção 2 para explicá-lo e solucioná-lo. As Conclusões são apresentadas na Seção 4.

2 PREMISSAS TEÓRICAS

2.1 Descrição do Erro de Quantização

Considere-se, inicialmente, um sinal aleatório de média zero x(k), com amplitude contínua limitada por

do qual se obtém uma representação uniformemente quantizada em L níveis com passo d, tal que

O erro de quantização

terá média zero e amplitude contínua limitada por

Atribuindo-se ao erro distribuição uniforme, sua função densidade de probabilidade é

permitindo obter (Haykin, 1996) sua variância

No caso de se adotar representação binária em ponto fixo para x_q(k), pode-se supor x(k) previamente escalado de forma que

Sendo B o número total de bits da representação, então

e

2.2 Estimação LS de Parâmetros de Modelo AR

Considere-se o sinal aleatório x(k) descritível por um processo AR de ordem P (Haykin, 1996)

onde a excitação e(k) é ruído branco com média zero e variância . Redescrevendo-se o problema como a predição linear de x(k) a partir de suas P amostras anteriores, e(k) seria o erro de predição correspondente.

Assumindo-se conhecidas N amostras contíguas de x(k), pode-se descrever matricialmente

onde

e

A estimativa de mínimos quadrados (LS) a_LS dos coeficientes a(j), j = 1,2,...,P, a partir de x(k), k = 1,2,...,N – 1, é obtida pela minimização da energia e²(k) do erro de predição (Haykin, 1996), resultando em

2.3 Desvio na Estimativa de Parâmetros devido a Ruído Aditivo

Considere-se novamente o sinal aleatório x(k) definido como na Subseção 2.2.

Conhecendo-se a estatística de x(k), seria possível calcular a solução de mínimo erro quadrático médio (MMSE) a_MMSE para o vetor de coeficientes pela minimização da potência do erro de predição E[e²(k)] (Haykin, 1996), resultando na conhecida solução das equações de Yule-Walker

onde

e

com

Se, entretanto, só se conhecesse a estatística de uma versão de x(k) contaminada por ruído branco aditivo n(k) de variância

a solução MMSE â_MMSE obtida por y(k)

onde

e

com

seria uma versão polarizada daquela obtida por x(k). Sendo n(·) não-correlacionado com x(·) e e(·), e sendo e(k) não-correlacionado com x(k – 1),x(k – 2),... , pode-se mostrar (Zheng, 1999) que

Num caso real, r_y(l) não seriam conhecidas, e as soluções estocásticas MMSE poderiam dar lugar às estimativas determinísticas LS, que delas se aproximam assintoticamente com N ® ¥. Para N elevado,

sendo

a estimativa LS dos coeficientes AR obtida a partir de y(k),

e

Essa expressão permite, potencialmente, corrigir (ou melhor, reduzir, já que foi aproximada) a polarização da estimativa de coeficientes causada pela contaminação do sinal observado por ruído branco aditivo, desde que se conheça a potência deste.

2.4 Desvio dos Pólos do Filtro Gerador devido ao Desvio nos Parâmetros do Modelo AR

Na tentativa de associar quantitativamente o desvio dos pólos do filtro gerador de um processo AR ao desvio dos coeficientes do processo, são apresentadas a seguir as expressões para a sensibilidade dos módulos e fases dos pólos em relação aos coeficientes, para as ordens mais baixas. Considera-se, aqui, genericamente, a sensibilidade de c em relação a d como

As expressões calculadas serão explicitadas em função dos módulos e fases dos pólos, a cujos valores se quer associar a magnitude das sensibilidades.

Para o filtro de primeira ordem e pólo p com

tem-se

A tabela 1 mostra as sensibilidades para o filtro de segunda ordem e pólos me^±jq com

Para o filtro de terceira ordem e pólos p e me^±jq com

as sensibilidades são mostradas na tabela 2, onde

Por fim, as formas das sensibilidades para o filtro de quarta ordem e pólos e com

são mostradas na tabela 3, onde

Para não carregar desnecessariamente a tabela, os polinômios dos numeradores não foram explicitamente representados.

3 DISCUSSÃO DO PROBLEMA

3.1 Motivação: Interpolação de Amostras Faltantes

A reconstrução de um conjunto de amostras de um sinal discreto cujos valores foram, de alguma forma, perdidos é um tópico de grande interesse na restauração de sinais de áudio corrompidos por distúrbios localizados, como clicks de gravações em disco (Godsill e Rayner, 1998). A interpolação pelo Amostrador de Gibbs foi proposta por Ó Ruanaidh e Fitzgerald (1994), tendo seu desempenho avaliado contra duas outras técnicas (Ó Ruanaidh, 1994), tanto sobre sinais reais quanto sobre sinais artificiais de características particulares. Ao reproduzirem tais simulações, os autores encontraram resultados divergentes para um caso de sinal artificial: enquanto no trabalho original os três algoritmos realizavam corretamente a interpolação, na simulação reproduzida todos falhavam.

O exemplo consistia em interpolar as amostras de índices 375 < k < 775, retiradas de um bloco formado pelas amostras de índices 0 < k < 1000 do sinal definido por

A figura 1 mostra o sinal original e a figura 2, sua versão com as 400 amostras retiradas. As figuras 3 e 4 mostram, respectivamente, a solução desse exemplo pelo Amostrador de Gibbs tal como mostrada por Ó Ruanaidh (1994) e tal como obtida na reprodução de sua simulação. Na figura 4, a senóide de freqüência inferior parece praticamente não ter sido levada em conta na interpolação.

Inúmeros testes foram realizados na tentativa de definir os contornos do problema. A variação das freqüências mostrou que a anomalia ocorria sempre que ambas eram muito baixas e independia (salvo exageros) do número de amostras a interpolar e do tamanho do bloco.

Ocorre que os sinais artificiais submetidos ao processamento estavam sendo quantizados em 16 bits, assim como os sinais reais, embora todos os cálculos fossem efetuados com precisão elevada em ponto flutuante. Verificou-se, ainda, que aumentando-se o número de bits da representação do sinal a modelar a anomalia era gradualmente eliminada; portanto, esta devia originar-se da quantização. Então, provavelmente, no trabalho de origem não se efetuara a quantização do sinal.

Mas, se o problema com a interpolação fora causado pela quantização do sinal a interpolar, restava explicar a relação entre estes dois fatos e qual o motivo da ocorrência preferencial do problema em baixas freqüências.

3.2 O Problema: Cálculo do Modelo AR

Todos os três algoritmos de interpolação testados em (Ó Ruanaidh, 1994) têm em comum uma etapa de estimação de um modelo AR a partir das amostras válidas do sinal. Uma vez que o tamanho do bloco e do segmento a interpolar, que são fatores cruciais para a interpolação propriamente dita, não afetavam a ocorrência do problema, deduziu-se que só o cálculo do modelo já poderia ser responsável pelo insucesso dos algoritmos.

Sabendo que os pólos teóricos do filtro gerador do processo AR degenerado na soma de senóides do exemplo eram e , calcularam-se os pólos referentes à estimativa LS dos coeficientes do modelo AR para o bloco completo do sinal quantizado em 16 bits, obtendo-se aproximadamente 1, -0.093 e . Isso confirmou a observação de que só a senóide na freqüência superior parecia ser interpolada-de fato, só ela era modelada, enquanto a outra dava origem a dois pólos reais.

Com isso, o objetivo passou a ser explicar a relação entre o erro na modelagem e a quantização do sinal a modelar, além do motivo da ocorrência preferencial do problema em baixas freqüências.

3.3 Testes Adicionais

Abandonou-se o caso especial da senóide e efetuaram-se testes sobre processos AR genéricos.

Processos de primeira ordem não trouxeram informações de interesse.

Independendo de quantização, processos de segunda ordem com dois pólos complexos forneceram as seguintes indicações de cunho geral:

• O modelo falha para fase q exageradamente baixa, abaixo de ; mas no caso de áudio amostrado a 44,1 kHz, uma senóide de freqüência corresponde a 22,05 Hz, ou seja, no limite inferior da audição humana.

• A estimativa é tão menos precisa quanto mais m se afasta da unidade; isso não é necessariamente um problema, uma vez que pólos de módulo reduzido contribuem pouco na resposta em freqüência (Biscainho e Diniz, 2000).

Passando ao caso de quarta ordem quantizado, em que se enquadra o exemplo já discutido das duas senóides, fizeram-se outras constatações.

• Embora houvesse a preferência genérica pelas fases reduzidas, a anomalia era dependente dos valores relativos das duas fases; por exemplo, q₁ = não era modelada se combinada com < q₂ < , enquanto que q₁ = não era modelada se combinada com < q₂ < .

• O uso de modelo de ordem superior à teórica pode solucionar o problema; no caso real, isso apenas significa genericamente superdimensionar o modelo.

O comportamento do estimador para ordens mais altas tem comportamento similar ao delineado acima.

Seguem-se alguns comentários sobre a ordem do modelo. Em primeiro lugar, deve ser dito que, ainda que o processamento não precise ser realizado em tempo real, a complexidade computacional muito elevada pode inviabilizar o processamento por problemas numéricos. Assim, o superdimensionamento da ordem do modelo pode não se mostrar uma solução prática para reduzir o desvio dos pólos, já que não é possível prever que ordem mínima utilizar. Pode-se contra-argumentar que, no caso real, já não se conhece a ordem necessária para um sinal real (não-analítico), o que é verdade; mas uma solução que preserva a ordem no caso analítico deve resultar em ordem menor no caso real, se confrontada com uma solução que já eleva a ordem no caso analítico. De qualquer modo, a complexidade ser\' a ditada, em última análise, pelas operações necessárias ao cálculo do modelo. Nesse trabalho, está-se considerando uma solução que preserva a ordem do modelo, embora eleve um pouco a complexidade do seu cálculo.

3.4 Explicações e Solução

Retornando à questão da relação entre a quantização e o desvio nos coeficientes do modelo AR, é possível ligar o exposto nas Subseções 2.1 e 2.2 se o ruído aditivo for considerado como o próprio erro de quantização, ou seja,

com

Nesse caso, é fácil obter a variância do ruído

que permite potencialmente realizar a correção na estimativa polarizada de a através de

com

sendo

e

Isso pode ser confirmado praticamente.

Inicialmente, a fim de atender a hipótese de que o erro de quantização é ruído branco, será examinado o exemplo de um sinal aleatório que se aproxime do sinal com duas senóides que originou toda a discussão. A tabela 4 mostra os pólos do filtro gerador de um processo AR de ordem 4, juntamente com os que resultam das estimativas LS dos coeficientes do modelo a partir de uma realização do processo quantizada em 16 bits, sem e com a correção proposta. Os elementos duplos se referem a dois pólos reais onde se esperavam dois pólos complexos conjugados. Vê-se que os pólos são reposicionados com sucesso pelo recálculo do modelo de acordo com a equação(43).

A tabela 5 mostra um exemplo de ordem 8, também com quantização em 16 bits. Novamente a correção do modelo na forma proposta foi bem sucedida.

Deve ser notado que a estimação corrigida pressupõe bom condicionamento das matrizes e blocos suficientemente longos de dados. Conforme o módulo dos pólos e o grau de estacionaridade do sinal, tais condições podem não ser atendidas. Finalmente, deve-se notar que em casos práticos a formulação ''em bloco'' expressa pela equação(43) não é a mais adequada, dada sua complexidade e conseqüente suscetibilidade a erros numéricos. Existem formulações recursivas (Zheng, 1997) que convergem assintoticamente para a solução desejada capazes de lidar com problemas de ordem superior. A discussão acerca da implementação, entretanto, está fora do escopo do presente artigo.

Por fim, quanto à questão da ocorrência preferencial do problema em baixas freqüências, basta que se recorra à Subseção 2.4. Das tabelas 1, 2 e 3, o que se pode inferir é que, no caso geral, as variações das fases de muito baixo valor com os coeficientes são extremamente elevadas, pela ocorrência de termos da forma q senq nos denominadores de . Por outro lado, a interdependência entre os valores das fases capazes de propiciar a ocorrência do problema vai decorrer da forma com que elas atuam conjuntamente no desvio dos pólos; a expressão para D₄(z) mostrada na equação(38) ilustra isso.

4 CONCLUSÕES

As contribuições deste trabalho são descritas a seguir. Caracterizaram-se quantitativa e qualitativamente os efeitos da quantização linear de sinais sobre o cálculo de seu modelo AR. Apresentou-se uma expressão para correção da polarização na estimativa dos coeficientes do modelo a partir do número de bits da representação em ponto fixo do sinal modelado. Explicou-se a maior intensidade dos efeitos da polarização no desvio do modelo quando os pólos do filtro gerador associado têm fase reduzida.

Uma formulação recursiva do cálculo do modelo corrigido é mais indicada na prática. Qualquer caso de processamento de sinais de alta precisão baseado no modelo AR calculado a partir de sinais quantizados linearmente, como ocorre tipicamente em restauração de áudio, é uma potencial aplicação deste trabalho.

Artigo submetido em 18/12/00

1a. Revisão em 13/11/01; 2a. revisão 20/02/02

Aceito sob recomendação do Ed. Assoc. Prof. Jacques Szczupak

• Biscainho, L. W. P. e P. S. R. Diniz (2000). On the effects of zero-pole pairs and individual zeros and poles on discrete-time transfer functions. Proceedings of the International Symposium on Circuits and Systems (ISCAS-2000), Vol. I, IEEE, Geneva, Switzerland, pp. 363-366.
• Deller, Jr., J. R., J. H. L. Hansen e J. G. Proakis (2000). Discrete-Time Processing of Speech Signals IEEE, New York, NY, USA. First printing in 1993 by Macmillan.
• Gersho, A. e R. M. Gray (1997). Vector Quantization and Signal Compression Kluwer, New York, NY, USA. First printing in 1992.
• Godsill, S. J. e P. J. W. Rayner (1998). Digital Audio Restoration Springer, London, UK.
• Haykin, S. (1996). Adaptive Filter Theory, 3rd. ed., Prentice Hall, Upper Saddle River, NJ, USA.
• Kabal, P. e R. P. Ramachandran (1986). The computation of line spectral frequencies using chebyshev polynomials. IEEE Transactions on Acoustics, Speech, and Signal Processing (Dec.), Vol. ASSP-34, n^o 6, pp. 1419-1425.
• Kahrs, M. e K. Brandenburg (eds) (1998). Applications of Digital Signal Processing to Audio and Acoustics Kluwer, Norwell, MA, USA.
• Kim, H. K., S. H. Choi e H. S. Lee (2000). On approximating line spectrum frequencies to lpc cepstral coefficients. IEEE Transactions on Speech and Audio Processing (Mar.), Vol. 8, n^o 2, pp. 195-199.
• Ó Ruanaidh, J. J. K. (1994). Numerical Bayesian Methods Applied to Signal Processing Ph.D. Dissertation, University of Cambridge, Cambridge, UK.
• Ó Ruanaidh, J. J. K. e W. J. Fitzgerald (1994). Interpolation of missing samples for audio restoration. Electronic Letters (Aug.), Vol. 30, n^o 8, pp. 622-623.
• Paliwal, K. K. e B. S. Atal (1993). Efficient vector quantization of lpc parameters at 24 bits/frame. IEEE Transactions on Speech and Audio Processing (Jan.), Vol. 1, n^o 1, pp. 3-14.
• Pan, J. e T. R. Fischer (1998). Vector quantization of speech line spectrum pair parameters and reflection coefficients. IEEE Transactions on Speech and Audio Processing (Mar.), Vol. 6, n^o 2, pp. 106-115.
• Soong, F. K. e B.-H. Juang (1993). Optimal quantization of lps parameters. IEEE Transactions on Speech and Audio Processing (Jan.), Vol. 1, n^o 1, pp. 15-24.
• Vaseghi, S. V. e R. Frayling-Cork (1992). Restoration of old gramophone recordings. Journal of the Audio Engineering Society (Oct.), Vol. 40, n^o 10, pp. 791-801.
• Zheng, W. X. 1997 . An efficient algorithm for parameter estimation of noisy ar processes. Proceedings of the International Symposium on Circuits and Systems (ISCAS-1997), Vol. 4, IEEE, Hong Kong, pp. 2509-2512.
• Zheng, W. X. (1999). A least-squares based method for autoregressive signals in presence of noise, IEEE Transactions on Circuits and Systems-II: Analog and Digital Signal Processing (Jan.), Vol. 46, n^o 1, pp. 81-85.

Publication Dates

• Publication in this collection
  31 July 2003
• Date of issue
  June 2003

History

• Accepted
  20 Feb 2002
• Reviewed
  13 Nov 2001
• Received
  18 Dec 2000