SciELO - Scientific Electronic Library Online

 
vol.26 número3Sea surface temperature anomaly variability in the southwestern atlantic ocean and its relationship with the El Niño - Southern OscillationEnvironmental susceptibility for the occurance of vegetacion burning under present day and future clobal warming conditions índice de autoresíndice de materiabúsqueda de artículos
Home Pagelista alfabética de revistas  

Servicios Personalizados

Articulo

Indicadores

Links relacionados

  • No hay articulos similaresSimilares en SciELO

Compartir


Revista Brasileira de Meteorologia

versión impresa ISSN 0102-7786

Rev. bras. meteorol. vol.26 no.3 São Paulo set. 2011

http://dx.doi.org/10.1590/S0102-77862011000300006 

ARTIGOS

 

Modelos lineares aplicados à estimativa da concentração do material particulado (PM10) na cidade do Rio de Janeiro, RJ

 

Linear models applied to the assessment of daily concentration of particulate matter (PM10) in Rio de Janeiro city, RJ, Brazil

 

 

Gustavo Bastos LyraI; Melissa Oda-SouzaII; Denise Nunes ViolaIII

IUniversidade Federal Rural do Rio de Janeiro (UFRRJ), Seropédica, RJ, Brasil
IIUniversidade Federal do Recôncavo da Bahia (UFRB), Cruz das Almas, BA, Brasil
IIIUniversidade Federal da Bahia (UFBA), Salvador, BA, Brasil
gblyra@gmail.com, melissa.oda@gmail.com, deniseviola@gmail.com

 

 


RESUMO

Regressão linear múltipla foi aplicada para ajustar dois modelos à concentração média de 24 h do material particulado com diâmetro inferior a 10 µm (PM10). As variáveis explanatórias no primeiro modelo (M1) foram os elementos meteorológicos (temperatura e umidade do ar, precipitação pluvial, velocidade do vento e pressão atmosférica) e o índice de direção do vento (IDV). No segundo (M2), além dos elementos meteorológicos e do IDV, foi incluído como variável explanatória, a concentração de PM10 do dia anterior (PM10,i-1). Para a seleção das variáveis explanatórias a serem incluídas no modelo, utilizou-se a técnica stepwise. Medidas da concentração de PM10 e dos elementos meteorológicos foram realizadas entre 01/05/02 e 31/08/03 em São Cristóvão (22º 53´ S; 43º 13´ W e 24 m) na cidade do Rio de Janeiro. O coeficiente de determinação (r2) para o ajuste dos modelos foi razoável, sendo que o modelo M2 (r2 = 0,557) mostrou ajuste superior ao modelo M1 (r2 = 0,334). Os elementos meteorológicos tiveram correlação negativa com PM10, com exceção do índice de direção do vento, que da mesma forma de PM10,i-1, apresentou correlação positiva. A umidade relativa do ar e a precipitação pluvial mostraram-se os elementos meteorológicos mais significativos nos modelos. Contudo, quando PM10,i-1 é considerada, esta variável se mostrou a mais significativa no modelo. Independente do modelo, a inclusão da temperatura do ar não foi significativa (p > 0,05). O modelo M2 teve concordância entre os valores estimados e observados e precisão superior ao modelo M1. Em termos de previsão da qualidade do ar, os modelos mostraram resultados satisfatórios, sobressaindo-se o modelo M2.

Palavras-chaves: Partículas inaláveis; modelo de regressão linear múltipla; qualidade do ar urbano.


ABSTRACT

Multiple linear regression was used to fit two models to the daily average concentration of particulate matter with diameter lower than 10 µm (PM10). The explanatory variables in the first model (M1) were the weather variables (air temperature, relative humidity, rainfall, wind speed and atmospheric pressure) and wind direction index (WDI). The second model (M2) used the same variables as the M1 model plus the concentration of PM10 in the previous day (PM10,i-1). The stepwise technique was used for the selection of the explanatory variable. Measurements of PM10 concentration were made between 05/01/2002 and 08/31/2003 in the city of Rio de Janeiro, RJ, Brazil. The regression coefficient (r2) for the models fitting was satisfactory, with better results for model M2 (r2 = 0.557) compared to model M1 (r2 = 0.334). The weather variables presented negative correlation with PM10, with the exception of the wind direction index, which, similarly to PM10, i-1, had positive correlation. The air relative humidity and the rainfall were the most significant weather variables in the models. However, PM10, i-1 was the most significant variable, when included in the model. The air temperature was statistically not significant (p > 0.05) for both models. M2 model showed an agreement between the estimated and observed values and a better precision than M1 model. In terms of air quality forecast, both models presented satisfactory results, but model M2 was superior.

Keywords: Particulate matter; linear regression model; urban pollution.


 

 

1. INTRODUÇÃO

A cidade do Rio de Janeiro apresenta elevada variação espaço-temporal nas condições de qualidade do ar, que é função da sua complexa topografia e um padrão peculiar de circulação atmosférica de meso-escala (SMAC, 1997). A circulação de meso-escala na cidade é influenciada, sobretudo, pelas brisas marítimas e terrestres. Algumas de suas áreas são consideradas prioritárias no monitoramento e nas ações de melhoria da qualidade do ar por excederem freqüentemente os limites diários de qualidade, definidos na resolução nº 03/90 do Conselho Nacional de Meio Ambiente (CONAMA, 1990). Dentre estas áreas destaca-se a Bacia Aérea III, que compreende parte da zona norte deste município e alguns municípios da Baixada Fluminense (World Bank, 1996).

A maior parcela do material particulado urbano é originada pela queima de combustível, por processos industriais, pela névoa salina e ressuspensão do solo (Castanho, 1999, Freitas e Solci, 2009). Sua taxa de dispersão é função das condições meteorológicas e da topografia local. Enquanto, os efeitos adversos à saúde humana dependem de suas propriedades físico-químicas, diâmetro médio e tempo de exposição. O principal efeito é irritação no sistema respiratório, devido principalmente, às partículas de diâmetro aerodinâmico inferior a 10 µm (PM10). O PM10 transforma quimicamente os poluentes iniciais em substâncias mais nocivas, e atua como vetor de microrganismos, substâncias orgânicas e cancerígenas.

Estimativas das concentrações e valores extremos de PM10 permitem avaliar os padrões de qualidade do ar e possíveis ações de proteção à população, particularmente em eventos extremos (Chaloulakou et al., 2003a; Goyal et al., 2006). Modelos estatísticos (regressão linear múltipla, redes neurais, entre outros) para estimativa da concentração diária de poluentes atmosféricos são amplamente utilizados por agências de monitoramento da qualidade do ar por sua simplicidade, praticidade e acurácia (Stadlober et al., 2008). Estes modelos relacionam as condições meteorológicas e, ou fontes de poluição com as concentrações dos poluentes e proporcionam estimativas satisfatórias com número reduzido de variáveis de entrada (Comrie e Diem, 1999; Chaloulakou et al., 2003a; Kukkonen et al., 2003; Goyal et al., 2006; Stadlober et al., 2008; Demuzere et al., 2009). A aplicação de modelos lineares permite também avaliar a relação dos elementos meteorológicos com as condições de qualidade do ar (Chaloulakou et al., 2003a; Goyal et al., 2006; Demuzere et al., 2009).

Os objetivos do presente trabalho foram ajustar e estimar a concentração do material particulado, com diâmetro inferior a 10 µm, em função das condições meteorológicas utilizando modelos de regressão linear múltipla, e avaliar a influência dos elementos meteorológicos na estimativa da concentração de PM10 na cidade do Rio de Janeiro, RJ.

 

2. MATERIAL E MÉTODOS

2.1 Concentração do material particulado com diâmetro inferior a 10 µm (PM10)

Concentrações de material particulado com diâmetro inferior a 10 µm (PM10, µg m-3), para o período de 01/05/2002 a 31/08/2003, foram obtidas pela Secretaria Municipal de Meio Ambiente (SMAC) do Rio de Janeiro, RJ. As medidas de PM10 foram feitas na Estação de Monitoramento da Qualidade do Ar (EMQAR), no bairro de São Cristóvão (22º 53´ S; 43º 13´ W e 24 m).

A concentração de PM­10 foi determinada por atenuação mássica da radiação Beta (BAM 1020, MET ONE, Grants Pass, OR), método homologado pela agência de proteção ambiental norte-americana (EPA - Environmental Protection Agency) e aceito pelo Conselho Nacional de Meio Ambiente (CONAMA) como equivalente. Amostras de ar foram levadas ao medidor, através de um circuito pneumático, a um fluxo de 16,6 L min-1. O cabeçote de amostragem estava a 4,5 m de altura acima da superfície. As medidas de PM10 foram feitas em intervalos de 10 minutos com auxílio de um datalogger (9400DAS, ECOTECH, Blackburn, VI). As médias de 24 h foram calculadas como as médias aritméticas dos valores de 10 min, entre às 15:00 h (horário local) do dia analisado e o mesmo horário do dia anterior. Dias com menos de dois terços das medições válidas foram excluídos das análises.

2.2 Medidas meteorológicas

No mesmo período das medidas de PM10, uma Estação Meteorológica Automática (EMA) (S-1000, Squitter Electronics Inc., Deerfield Beach, USA), em intervalos de 15 min, mediu os seguintes elementos meteorológicos: Velocidade (VV, m s-1) e direção (DV, º) do vento, temperatura (T, ºC) e umidade relativa (UR, %) do ar, pressão atmosférica (Patm, hPa) e precipitação pluvial (P, mm). A EMA estava instalada na Fundação Instituto de Geotécnica (Georio) (22º 53´ S; 43º 13´ W e 25 m). As médias de 24 h desses elementos foram determinadas para o mesmo intervalo diário considerado no cálculo da média de PM10. No caso da precipitação foi utilizado o acumulado observado no intervalo.

A direção do vento recebeu um tratamento vetorial para se determinar a direção resultante em 24 h. O vento foi decomposto em seus componentes zonal (u) e meridional (v) pelas seguintes relações:

A direção resultante (DVr, º) foi então determinada como:

em que, o termo sub-escrito i representada i-ésima observação.

Devido à descontinuidade de DVr no ângulo de 360º, aplicou-se nas análises o índice de direção do vento (IDV). O IDV é uma transformação aritmética que expressa a direção do vento resultante como função contínua (Chaloulakou et al., 2003a):

em que, DVr é a direção do vento (rad), com o norte correspondendo a 0.

O termo φ foi estimado pela plotagem da média da concentração de PM10 para as 16 principais classes de direções do vento. Assumiu-se que a direção correspondente à máxima média da concentração de PM10 maximiza a função. A maximização da função IDV foi feita por método iterativo, variando φ até que os valores máximos de IDV coincidissem com a direção da máxima concentração média do PM10. No presente caso, a função do índice de vento mostrou valor máximo de 2, quando θ = 0,375π, ou seja, φ = 1,875π (Figura 1).

 

 

2.3 Modelagem estatística

Para o estudo da relação entre a variável resposta (PM10) e as variáveis explanatórias (VV, IDV, T, UR, Patm e P) foram utilizados dois modelos de regressão linear múltipla. O primeiro modelo (M1) foi definido por:

em que, PM10,i, IDVi, VVi, Ti, Patm,i, URi e Pi são os i-ésimos (i = 1,2,...,n) valores observados das respectivas variáveis; b0, b1, b2, b3, b4, b5 e b6 são coeficientes a serem estimados e ε i é o erro aleatório, suposto independente e com distribuição normal de média zero e variância constante.

De acordo com Chaloulakou et al. (2003b), há persistência nas concentrações dos poluentes atmosféricos favorecida pelas condições sinóticas e topográficas do local. Em função disso, aplicou-se um modelo alternativo (M2), como sugerido por Chaloulakou et al. (2003a), em que se adiciona ao modelo anterior (Equação 5), a variável PM10 do dia anterior (PM10,i-1, µg m-3), isto é:

As verificações de quais variáveis são importantes para explicar o modelo e, portanto, devem ser mantidas nos modelos propostos, foram feitas utilizando-se a técnica stepwise. Esta técnica consiste em se iniciar o ajuste de um modelo reduzido, e iterativamente construir uma seqüência de modelos de regressão, incluindo ou excluindo as variáveis, uma a uma. O critério de inclusão ou exclusão das variáveis foi baseado no teste F parcial (p < 0,05).

Antecedendo a análise de regressão, foi realizada uma análise exploratória descritiva dos dados, com o objetivo de observar as suas características pertencentes à distribuição normal e homogeneidade. Na ausência destes pressupostos, os dados foram transformados pelo método potência ótima de Box-Cox (Box e Cox, 1964). Esse método depende diretamente de um parâmetro λ , que é o coeficiente de transformação dos dados. Na prática, para um conjunto de dados, obtém-se um intervalo de confiança para λ que, caso inclua o valor um, indica que a transformação dos dados não é necessária.

2.4 Critério de avaliação

Foram excluídas aleatoriamente do ajuste dos modelos 60 observações da série, sendo essas observações utilizadas posteriormente nas avaliações dos modelos. Os testes foram realizados como sugerido por Willmott (1981) e utilizados em outros estudos de poluição atmosférica (Comrie e Diem,1999; Chaloulakou et al., 2003a; Demuzere et al., 2009).

Willmott (1981) recomenda que não sejam utilizados na comparação de modelos o coeficiente de correlação de Pearson (r) nem o coeficiente de determinação (r2), por estes serem função do número de dados avaliados. O autor sugere a utilização de um índice de concordância (d), que quantifica o grau de concordância com que a variável observada é estimada pelas variáveis simuladas. Este índice varia de 0 a 1, em que 0 indica nenhuma concordância entre as observações e os valores estimados e 1 indica concordância perfeita entre as variáveis. Além deste, utilizou-se a raiz do quadrado médio do erro (RQME) e a proporção entre os componentes sistemático (QMEs) e não sistemático (QMEp) do quadrado médio do erro (QME) (Willmott, 1981).

Avaliou-se a eficiência dos modelos em prever a qualidade do ar em função de PM10, segundo a resolução CONAMA nº 03/90 (CONAMA, 1990). A resolução nº 03/90 define qualidade do ar BOA, quando os valores da média aritmética de 24 h da concentração de PM10 não ultrapassam 50 µg m-3, e que a partir desse valor até 150 µg m-3 a qualidade é considerada REGULAR. A qualidade do ar pode ainda ser classificada como INADEQUADA, MÁ, PÉSSIMA ou CRÍTICA. Porém, como dos valores utilizados para teste apenas dois ultrapassaram 150 µg m-3 (INADEQUADA), avaliou-se apenas a eficiência dos modelos em prever as duas primeiras classificações (BOA ou REGULAR). Para isso, aplicaram-se os índices apresentados por Wilks (1995): Probabilidade de Detecção (POD) determinada pelo quociente entre as previsões corretas da qualidade do ar REGULAR sobre o total de eventos REGULAR; Razão de Alarme Falso (RAF) calculada como a razão entre as previsões falsas pelo total de previsões corretas, sendo o valor de RAF igual a zero o ideal e Escore de Ameaças (EA) que representa a relação entre as previsões corretas da qualidade do ar pelo total potencial de eventos REGULAR (Tabela 1).

 

 

3. RESULTADOS E DISCUSSÃO

3.1 Ajuste dos modelos

Pela análise de regressão, a variável mais significativa no modelo M1 (Equação 5) foi a umidade relativa do ar, que explicou 22,6% da variação na concentração de PM10, seguida da precipitação pluvial. Nesse modelo, o índice de direção do vento foi a variável menos significativa estatisticamente, sendo a temperatura do ar excluída (Tabela 2). O coeficiente de determinação (r2) para o ajuste do modelo M1 foi de 0,334 (passo cinco do stepwise).

A amplitude da concentração média de PM10 em função da direção do vento (Figura 1) foi de aproximadamente 32 µg m-3 (56 - 88 µg m-3), sendo que na maior parte das classes de direções do vento (10 classes, 62,5 %) avaliadas (Figura 1) a diferença foi menor (17 µg m-3). Essa amplitude representou em torno de 19 % da maior concentração observada, sendo inferior a metade do coeficiente de variação (42 %) das observações de PM10. Devido a essa baixa amplitude de variação das concentrações observadas em função da direção do vento, o IDV foi um dos elementos menos significativos no modelo.

Quando considerada a concentração de material particulado do dia anterior, que foi o caso do modelo M2 (Equação 6), esta variável se mostrou a mais significativa e explicou 37,4% da variação de PM10. Esse resultado indicou que houve persistência nas concentrações de PM10, favorecidas, principalmente, pelas condições sinóticas e topográficas da região em estudo (Chaloulakou et al., 2003b). A inclusão de PM10,i-1 resultou em r2 final de 0,557 (passo seis) para o ajuste do modelo M2, sendo superior ao de M1. Porém, houve alteração na ordem de inclusão dos elementos meteorológicos, sendo similar a do modelo M1 até o passo quatro, a partir desse, IDV foi incluída antes de Patm. De modo similar ao modelo M1, a T foi excluída do modelo M2.

Os valores apresentados na literatura para r2 de modelos ajustados por regressão linear múltipla, para estimativa da concentração de poluentes atmosféricos, variam em função do tipo e número de variáveis consideradas, topografia do local, escala de tempo e da época do ano analisada, o que dificultou a comparação direta com esses modelos. Kukkonen et al. (2003) avaliaram o ajuste das concentrações horárias de PM10 em função dos elementos meteorológicos e de variáveis temporais (dia, hora) na cidade de Helsinque, na Finlândia. Os valores de r2 para os modelos ajustados por esses autores foram inferiores aos determinados no presente trabalho e entre 0,20 e 0,24. Resultados similares foram obtidos por Demuzere et al. (2009) para o ajuste de modelos lineares múltiplos da concentração diária de PM10 em função dos elementos meteorológicos (velocidade e direção do vento, temperatura e umidade relativa do ar, precipitação pluvial e pressão atmosférica) do dia e do dia anterior à análise de quatro sítios rurais na Holanda, com r2 de 0,25, e por Goyal et al. (2006) para o ajuste de modelos para estimativas das concentrações de PM10 em Nova Delhi (r2 = 0,58), na Índia, e em Hong Kong (r2 = 0,31), considerando apenas os elementos meteorológicos (temperatura e umidade relativa do ar, radiação solar e velocidade do vento) do dia avaliado.

Chaloulaku et al. (2003a) aplicaram a análise de regressão (stepwise) para estimar a média diária de PM10 em Atenas, Grécia. Os autores observaram maior influência da velocidade do vento na concentração de PM10. Esses resultados contrariam o determinado no presente trabalho. Entretanto, a direção do vento foi a menos significativa, similar ao observado para o modelo M1. Quando incluído PM10,i-1 no modelo avaliado pelos referidos autores, esta variável se mostrou a mais significativa, contudo a ordem de inserção dos elementos meteorológicos também foi alterada, como observada no presente trabalho. Os valores de r2 determinados para o ajuste dos modelos foram de 0,44, quando considerados apenas os elementos meteorológicos e de 0,654, quando incluído ao modelo o PM10,i-1.

Baseado no ajuste de modelos lineares (stepwise) para estimativa de PM10 em função dos elementos meteorológicos (temperatura do ar, velocidade do vento e ocorrência de chuva), de variáveis temporais (dia da semana), sazonais (mês) e da concentração de PM10,i-1 para três localidades nos Alpes Austríacos, Stadlober et al. (2008) também observaram que o PM10, do dia anterior, foi elemento mais significativo em um modelo, e o segundo mais significativo nos outros dois modelos avaliados. Os coeficientes de determinação desses modelos foram superiores a 0,548.

Os valores superiores de r2 encontrados por Chaloulaku et al. (2003a) e Stadlober et al. (2008), com relação aos determinados no presente trabalho, são justificados pela inclusão do dia da semana, ou também do mês, no caso de Stadlober et al. (2008), como variável explanatória do modelo. A inclusão do dia da semana relaciona indiretamente a variação semanal do fluxo de veículos com as emissões de PM10, enquanto o mês é indicador da variabilidade sazonal do clima. Chaloulaku et al. (2003a) consideraram os dias da semana (segunda a sexta) como um e os de final de semana (sábado e domingo) zero, enquanto Stadlober et al. (2008) consideraram zero ou um, respectivamente, para a ocorrência ou não de sábado ou domingo, avaliados cada um como uma variável explanatória independente. Ou seja, se o dia foi sábado (domingo), a variável explanatória relacionada a sábado (domingo) recebeu o valor um, enquanto que a variável que representava domingo (sábado) recebeu zero. No caso de dia da semana as duas variáveis receberam zero, assim, diferenciou-se dia da semana e final de semana (sábado ou domingo).

Apesar das principais fontes do particulado no município do Rio de Janeiro serem a ressuspensão do solo, pelo vento ou tráfego veicular, e a queima de combustível fóssil, além da tendência de diminuição do PM10 nos finais de semana e aumento gradativo durante a semana, com máximo na sexta-feira, independente da época do ano (Figura 2), não se incluiu uma variável para quantificar a relação de PM10 com o tráfego veicular. Optou-se por não considerar as abordagens de Chaloulaku et al. (2003a) ou Stadlober et al. (2008), por considerarem que as concentrações de PM10 só diferem entre dia da semana ou final de semana, o que não foi observado para as condições do presente estudo.

O modelo M1 apresentou coeficientes para os elementos meteorológicos com valores negativos (Tabela 3), com exceção de IDV, que da mesma forma do intercepto (b0) mostrou valor positivo. Os coeficientes negativos indicam correlação inversa entre os elementos meteorológicos UR, P, VV e Patm e a concentração de PM10, ou seja, o aumento (diminuição) nos valores destes elementos proporcionou diminuição (aumento) nas concentrações de PM10. Enquanto, o aumento (diminuição) do IDV resultou em aumento (diminuição) nas concentrações. Já o modelo M2 mostrou a mesma tendência para os elementos meteorológicos, sendo o sinal do coeficiente de PM10,i-1 positivo, e dessa forma, correlação diretamente proporcional à concentração de material particulado. Assim, espera-se que as condições sinóticas e topográficas locais influenciem na variação do PM10 para o sítio em estudo.

 

 

Resultados similares para a precipitação pluvial foram observados por Vardoulakis e Kassomenos (2008) e Demuzere et al. (2009); para umidade relativa por Goyal et al. (2006) e Vardoulakis e Kassomenos (2008) e; para a velocidade do vento por Goyal et al. (2006), Vardoulakis e Kassomenos (2008), Stadlober et al. (2008) e Demuzere et al. (2009), todos obtiveram coeficientes de regressão negativos para esses elementos meteorológicos, enquanto para a concentração de PM10 do dia anterior, coeficiente positivo foi obtido por Stadlober et al. (2008) e Demuzere et al. (2009).

O material particulado pode atuar como núcleo de condensação (Castanho, 1999; Freitas e Solci, 2009), e assim influenciar no regime de precipitação pluvial local. Associada a propriedade do PM10 de atuar como núcleo de condensação, a UR pode ser indicador da magnitude do processo de ressuspensão do solo (Vardoulakis e Kassomenos, 2008), uma das principais fontes de particulado para atmosfera na cidade do Rio de Janeiro. Dias secos (úmidos) estão relacionados à baixa (alta) umidade, sendo que nesses dias a tendência é de aumento (diminuição) da contribuição da ressuspensão do solo para o particulado atmosférico, particularmente em dias com elevadas (baixas) velocidades do vento (Vardoulakis e Kassomenos, 2008). No caso de baixos valores de UR, pode ainda indicar períodos sem eventos de precipitação pluvial.

A umidade apresentou coeficiente de correlação de Pearson significativo (0,35) em relação à magnitude dos eventos de precipitação pluvial. Ou seja, a variabilidade da UR é indicador dos processos entre precipitação pluvial e a concentração do PM10 e descritos no parágrafo a seguir. Essas relações sugerem correlação negativa entre UR e PM10, coerente com o sinal negativo do seu coeficiente ajustado pelo modelo linear.

No caso da precipitação, o coeficiente negativo nos modelos se deve ao processo de deposição úmida e a atenuação da ressuspensão do solo. Pelo processo de deposição úmida a concentração do particulado da atmosfera tende a diminuir, ou seja, durante eventos de chuva ocorre diminuição do PM10, enquanto que o solo úmido dificulta a ressuspensão do particulado do solo (Vardoulakis e Kassomenos, 2008; Freitas e Solci, 2009), e dessa forma, padrão coerente com o predito pelos modelos.

Pelos resultados obtidos pelos modelos, com o aumento da velocidade do vento espera-se maior taxa dispersão de PM10. Esse resultado está associado ao aumento da dispersão do particulado com o aumento da velocidade do vento. Já para IDV, a transformação aritmética maximiza a função para os valores de PM10, assim é de se esperar que à medida que IDV aumente, ocorra o mesmo com a concentração de PM10, sendo o inverso verdadeiro.

3.2 Teste dos Modelos

A concentração média observada dos valores de PM10, usados na avaliação dos modelos, foi de 77 µg m-3, enquanto as médias dos valores estimados foram 70 (modelo M1) e 72 µg m-3 (modelo M2) (Tabela 4). As diferenças entre o valor médio observado e os estimados foram de -7 e -5 µg m-3 para os modelos M1 e M2, respectivamente, ou seja, de forma geral houve subestimativa dos modelos em torno de 9,1% (modelo M1) e 6,5% (modelo M2) das verificações dos modelos. Os desvios padrão dos valores estimados foram inferiores ao dos valores observados, o que indicou falha dos modelos em representar na sua totalidade a variabilidade dos dados medidos. Isto acontece por causa da tentativa dos modelos em aproximar uma tendência média (Chaloulakou et al., 2003a).

A raiz do quadrado médio dos erros (RQME) apresentou valores elevados de 22,8 µg m-3 (modelo M2) e 28,2 µg m-3 (modelo M1). Em escala absoluta, RQME se mostrou próximo aos determinados por Chaloulakou et al. (2003a), de 18,4 µg m-3 para o modelo que considerou PM10,i-1 e de 23,4 µg m-3, quando utilizados apenas os elementos meteorológicos e superiores aos obtidos por Demuzere et al. (2009) (12,1 µg m-3). Com relação à média observada do material particulado (), os valores de RQME representaram 29,9% (modelo M2) e 39,8% (modelo M1) desse valor. McKendry (2000) apresentou valores de 36,3% para a relação entre RQME e PM10 médio, enquanto Chaloulakou et al. (2003a) encontraram valores inferiores, sendo de 23,9 e 29,8% para os modelos com e sem PM10,i-1, respectivamente, sendo próximos ao determinado por Demuzere et al. (2009) e de aproximadamente 30,2%.

O quadrado médio dos erros (QME) pode ser decomposto em dois componentes: o sistemático (QMEs) e o não sistemático (QMEu). Quando avaliado a contribuição dos erros sistemáticos e não sistemáticos no quadrado médio dos erros (QME) do modelo M1, observou-se QMEs superior a QMEu (Tabela 3). Isto significa que o modelo M1 falhou em conseguir estimativas perfeitas dos dados devido ao próprio modelo. Enquanto no modelo M2 a tendência foi inversa, e QMEu maior do que QMEs, ou seja, os erros foram decorrentes da variabilidade dos dados. Apesar disso, o modelo M1 mostrou QMEs maior do que o M2 e QMEu menor, o que indicou que o modelo M2 teve erros relativos ao seu ajuste menores que M1, sendo maior os proporcionados pela variabilidade dos dados. Assim, o modelo M2 pode ser melhorado com a inclusão de outras variáveis explanatórias nos modelos, tais como, o fluxo médio ou máximo diário de veículos, índices de estabilidade atmosférica, dias da semana, condições sinóticas entre outras.

Independente do modelo houve tendência de superestimativa dos valores abaixo de 60 µg m-3 e subestimativa dos maiores (Figura 3). Entretanto, observou-se que no modelo M1 a subestimativa foi maior do que a proporcionada pelo modelo M2, principalmente para concentrações acima de 100 µg m-3. Os coeficientes de determinação (r2) entre os valores observados e estimados foram de 0,217 (modelo M1) e 0,477 (modelo M2), respectivamente. Isso indicou que as estimativas do modelo M2 mostraram precisão superior às do modelo M1. Resultado similar foi observado por Chaloulakou et al. (2003a). O modelo M2 apresentou valor elevado de d (0,813) e maior do que o obtido pelo modelo M1 (0,6244), e dessa forma, maior concordância entre os valores observados e estimados, o que pode ser observado pela proximidade dos dados em torno da linha 1:1 (Figura 3).

3.3 Estimativa da Qualidade do Ar

Os dois modelos apresentaram o mesmo valor de probabilidade de detecção (POD) (Tabela 5), ou seja, das vezes que foram observados padrões da qualidade do ar REGULAR, os modelos estimaram corretamente 95,7% desses eventos. Entretanto, a razão de alarme falso (RFA) no modelo M2 foi de 0,083, sendo inferior ao determinado para o modelo M1 (0,154). Nesse caso significa que em torno de 8% das previsões do modelo M2 foram que a qualidade do ar apresentava-se REGULAR, quando a observada foi BOA, enquanto no modelo M1 esse resultado foi em torno de 15%. Isso aconteceu pela tendência de ambos superestimarem os valores acima de 60 µg m-3, sendo menos acentuado no modelo M2. Os maiores valores de escore de ameaça mostraram que o modelo M2 foi superior ao modelo M1 na estimativa correta de eventos potenciais de qualidade do ar REGULAR. Independente do modelo, os índices supracitados tiveram resultados superiores para o prognóstico da qualidade em relação aos relatados por Chaloulakou et al. (2003a) (0,93 - POD; 0,17 - RFA e 0,78 - EA).

 

4. CONCLUSÕES

Dentre os elementos meteorológicos avaliados, a umidade relativa do ar e a precipitação pluvial explicam a maior parte da variabilidade do material particulado com diâmetro inferior a 10 µm na cidade do Rio de Janeiro. Quando considerada a concentração do material particulado do dia anterior nas avaliações, esta variável é a mais significativa para a variação do material particulado do dia. A direção do vento é o elemento menos significativo, sendo a temperatura do ar não significativa estatisticamente para a variação da concentração do material particulado.

Os elementos meteorológicos apresentam correlação inversamente proporcional à concentração do material particulado, sendo exceção o índice de direção do vento que mostra padrão similar à concentração do material particulado do dia anterior, ambos com correlação positiva.

Em termos de previsão da qualidade do ar, os modelos mostram resultados satisfatórios, e podem ser utilizados operacionalmente. De qualquer forma, o modelo que considera além dos elementos meteorológicos a concentração do material particulado do dia anterior, resulta em melhor previsão da qualidade do ar em relação ao que utiliza apenas os elementos meteorológicos.

 

5. AGRADECIMENTOS

Os autores agradecem à Coordenadoria de Despoluição dos Recursos Ambientais (CDA) da Secretária Municipal de Meio Ambiente (SMAC) do Rio de Janeiro por fornecer os dados de material particulado (PM10) da Estação de Monitoramento da Qualidade do Ar (EMQAR) de São Cristóvão, bem como à Fundação Instituto de Geotécnica (Georio) por disponibilizarem a série dos elementos meteorológicos.

 

6. REFERÊNCIAS BIBLIOGRÁFICAS

BOX, G. E. P.; COX, D. R. An analysis of transformations. Journal of the Royal Statistical Society B, v. 26, p.211-52, 1964.         [ Links ]

CASTANHO, A.D.A. A determinação quantitativa de fontes de material particulado na atmosfera de São Paulo. 1999. 131 p. Dissertação (Mestrado em Ciências) - Universidade de São Paulo, São Paulo, 1999.         [ Links ]

CHALOULAKOU, A.; GRIVAS, G.; SPYRELLIS, N. Neural network and multiple regression models for PM10 prediction in Athens: A comparative assessment. Journal of the Air & Waste Management Association. v. 53, p. 1183-1190, 2003a.         [ Links ]

CHALOULAKOU, A.; KASSOMENOS, P.; SPYRELLIS, N.; et al. Measurements of PM10 and PM2,5 particle concentration in Athens, Greece. Atmospheric Environment, v. 37, p. 649-660, 2003b.         [ Links ]

COMRIE, A. C.; DIEM, J. E. Climatology and forecast modeling of ambient carbon monoxide in Phoenix, Arizona. Atmospheric Environment, v. 33, p. 5023-5036, 1999.         [ Links ]

CONAMA. Resolução n. 003, de 28 de junho de 1990. Dispõe sobre padrões de qualidade do ar, previstos no PRONAR. Diário Oficial, Brasília, 22 ago. 1990. Seção I, p. 15.937-15.939.         [ Links ]

DEMUZERE, M.; TRIGO, R. M.; Vila-Guerau, J. A., van LIPZIG, N. P. M. The impact of weather and atmospheric circulation on O3 and PM10 levels at a rural mid-latitude site. Atmospheric Chemistry and Physics, v. 9, p. 2695 - 2714, 2009.         [ Links ]

FREITAS, A. M.; SOLCI, M. C. Caracterização do MP10 e MP2,5 e distribuição por tamanho de cloreto, nitrato e sulfato em atmosfera urbana e rural de londrina. Química Nova, v. 32, p.1750-1754, 2009.         [ Links ]

GOYAL, P.; CHANB, A. T.; JAISWAL, N. Statistical models for the prediction of respirable suspended particulate matter in urban cities. Atmospheric Environment,  v. 40, p. 2068-2077, 2006.         [ Links ]

KUKKONEN, J.; PARTANEN, L.; KARPPINEN, A.; RUUSKANENB, J.; JUNNINENB, H.; KOLEHMAINENB, M.; NISKAB, H.; DORLINGC, S.; CHATTERTONC, T.; FOXALLD, R.; CAWLEYD, G. Extensive evaluation of neural network models for prediction of NO2 and PM10 concentrations, compared with a deterministic modeling system and measurements in central Helsinki. Atmospheric Environment, v. 37, p. 4539-4550, 2003.         [ Links ]

McKENDRY, I. Evaluation of artificial neural network for fine particulate pollution (PM10 and PM2,5) forecasting. Journal of the Air & Waste Management Association. v. 52, p. 1096-1101, 2000.         [ Links ]

SMAC. Estudo de dimensionamento da rede de monitoramento da qualidade do ar para a cidade do Rio de Janeiro. Parte I: estudo dinâmico-climatológico. Rio de Janeiro: COHIDRO. 1997. 137 p.         [ Links ]

STADLOBER, E.; HORMANN, S.; PFEILER, B. Quality and performance of a PM10 daily forecasting model. Atmospheric Environment, v. 42, p. 1098-1109, 2008.         [ Links ]

VARDOULAKIS, S.; KASSOMENOS, P. Sources and factors affecting PM10 levels in two European cities: Implications for local air quality management. Atmospheric Environment, v. 42, p. 3949-3963, 2008.         [ Links ]

WILLMOTT, C. J. On the validation of models. Physical Geography, Palm Beach, v. 2, n. 2, p. 184-194, 1981.         [ Links ]

WORLD BANK. Managing pollution problems in the state of Rio de Janeiro. Bretton Woods: Natural Resources, Environment and Rural Poverty Division, Country Department I, Latin America and the Caribbean, 1996. 40 p. Report n. 15488-BR.         [ Links ]

WILKS, D. S. Statistical methods in the atmospheric science. Academic Press: San Diego, CA, 1995, p. 233-281.         [ Links ]

 

 

Recebido Setembro 2009
Aceito Janeiro 2011