SciELO - Scientific Electronic Library Online

 
vol.39 issue6Vegetative development of citric rootstocks produced in different containersCrop rotations sustainability and successions systems in tilled plain areas in Southern Brazil author indexsubject indexarticles search
Home Pagealphabetic serial listing  

Services on Demand

Journal

Article

Indicators

Related links

Share


Ciência Rural

Print version ISSN 0103-8478On-line version ISSN 1678-4596

Cienc. Rural vol.39 no.6 Santa Maria Sept. 2009  Epub June 05, 2009

http://dx.doi.org/10.1590/S0103-84782009005000110 

ARTIGOS CIENTÍFICOS
FITOTECNIA

 

Transformações de dados em experimentos com abobrinha italiana em ambiente protegido

 

Data transformations in experiments with zucchini in protected environment

 

 

Mara Rubia Machado CoutoI; Alessandro Dal'Col LúcioII, 1; Sidinei José LopesII; Ricardo Howes CarpesIII

IDepartamento de Estatística, Centro de Ciências Naturais e Exatas (CCNE), Universidade Federal de Santa Maria (UFSM), Santa Maria, RS, Brasil
IIDepartamento de Fitotecnia, Centro de Ciências Rurais (CCR), UFSM, 97105-900, Santa Maria, RS, Brasil. E-mail: adlucio@smail.ufsm.br
IIIPrograma de Pós-graduação em Agronomia, UFSM, Santa Maria, RS, Brasil

 

 


RESUMO

Em olericultura, o interesse é a produção de frutos comercializáveis. Nesses experimentos, comumente são avaliadas variáveis, tais como a fitomassa e o número de frutos. No entanto, essas variáveis apresentam uma característica particular que está relacionada com sua ausência ou presença no momento da colheita. Esse atributo é representado por valores zeros, para essas variáveis, gerando certa variabilidade e afetando a análise de variância dos dados. Este trabalho teve por objetivo definir uma transformação adequada para as variáveis observadas em experimentos com a cultura da abobrinha italiana, realizados em ambiente protegido, visando a estabilizar a variabilidade gerada pela presença de valores zeros nas múltiplas colheitas dos frutos. Foram analisados experimentos com a cultura da abobrinha italiana utilizando a família de transformações de Box-Cox, com uma adaptação apresentada em YAMAMURA (1999). Concluiu-se que, para experimentos com abobrinha italiana, avaliando a fitomassa e o número de frutos, a transformação indicada é a raiz quarta. Mesmo com redução na variabilidade e a normalidade dos resíduos, observadas em todos os experimentos, o uso do método não foi eficiente para tornar as variâncias homocedásticas.

Palavras-chave: Box-Cox, análise de variância, coeficiente de variação, variância heterocedástica.


ABSTRACT

The interest in horticulture is the production of marketable fruit. In such experiments , phytomass and the number of fruits are commonly measured variables. However, these variables have a particular characteristic related to their absence or presence at harvest time. This attribute is represented by zero values for these variables, generating some variability and affecting the variance analysis. This work aimed to define an appropriate data transformation for the variables observed in experiments with the zucchini culture, realized in protected environment, designed to stabilize the variability values generated by the presence of zeros in harvest multiple fruit. The analysis was based on experiments with the zucchini culture ,using the family of the Box-Cox transformation, with an adaptation made by YAMAMURA (1999). It was concluded that for experiments with zucchini, assessing the phytomass and number of fruits, the square square root transformation is indicated. The same was observed with the reduction in variability and normal errors, observed in all experiments. The use of the method was not efficient to make the variances homocedastic.

Key words: Box-Cox, variance analysis, coefficient variation, heterocedastic variances.


 

 

INTRODUÇÃO

A abobrinha italiana (Curcubita pepo), planta da família das cucurbitáceas, é uma das 10 hortaliças de maior valor econômico e de maior produção no Brasil, principalmente nas regiões Centro e Sul do país. Tem ciclo de 50 a 80 dias, podendo ser cultivada em campo, tanto no verão, quanto na primavera (CAMARGO, 1981). Em cultivo protegido, além desses períodos, pode ser produzida no outono e inverno, quando o preço por quilo pode triplicar. Com isso, no Estado do Rio Grande do Sul, o cultivo da abobrinha italiana em estufas plásticas é uma alternativa para os produtores aumentarem seus rendimentos líquidos, devido à redução de perdas e ao aumento da produtividade. De acordo com STRECK et al. (2003), a produtividade pode alcançar mais que o dobro da relatada por FILGUEIRA (2000), que cita um rendimento de cerca de oito toneladas para cultivos em campo, além de apresentar vantagens, principalmente na qualidade superior dos produtos e produção em baixas temperaturas do ar.

Em cultivos olericolas sob ambiente protegido, a maioria dos tratos culturais são realizados de forma individualizada por planta e o mais uniforme possível. Porém, alguns autores relatam a existência de variabilidade da produção de frutos entre as linhas de cultivo, o que pode prejudicar a condução de experimentos nessas condições. SOUZA et al. (2002) relataram grande variabilidade para crescimento dos frutos de abobrinha italiana no decorrer do ciclo produtivo e, da mesma forma, LÚCIO et al. (2003) verificaram que todas as colheitas de pimentão apresentaram heterogeneidade entre as linhas de cultivo. Já LORENTZ et al. (2005), trabalhando com pepineiro, verificaram que, em 46% das colheitas, as linhas de cultivo se mostraram com variâncias heterogêneas, observando também grandes oscilações das médias da produção entre as linhas de cultivo. Também LOPES et al. (1998) relataram mudanças na concentração da produção de tomate no decorrer das colheitas e constataram diferenças de produção entre as linhas de cultivo.

A variabilidade da produção entre plantas sob cultivo protegido pode acarretar heterogeneidade de variâncias, que deverá ser evitada para a realização da análise de variância e, assim, assegurar o nível de significância dos testes F e das análises complementares. Em análises de dados experimentais com variâncias heterogêneas, o nível de significância passa a ficar acima do especificado (CONAGIN et al., 1993). Assim, tanto o estudo do comportamento da média, quanto o da variância da produção em ambiente protegido, ao longo de diferentes colheitas, se faz necessário. Além disso, a identificação da interferência e da relação dos diferentes manejos culturais naquelas estatísticas também são importantes, pois são fatores que podem afetar os resultados obtidos em trabalhos científicos.

No cultivo de olericolas, a produção de frutos comercializáveis é de grande interesse. No entanto, a ocorrência de valores zeros é bastante frequente, pois nem sempre existem frutos a serem colhidos ou nem sempre estes possuem tamanho adequado para sua colheita e comercialização (SOUZA et al., 2002; LORENTZ et al., 2005; LÚCIO et al., 2008). Essa frequência de zeros gera variabilidade, o que pode provocar distorções nos procedimentos de inferência derivados da análise de variância. Nesses casos, o uso de transformações de variáveis pode ser uma alternativa para atender à pressuposição da homogeneidade das variâncias residuais na análise de variância. Em experimentos em que há variáveis que apresentam como resultados o valor zero, como é o caso de experimentos com culturas olericolas com múltiplas colheitas nas quais nem todas as plantas apresentam frutos aptos a serem colhidos em determinada colheita, a eficácia das transformações fica prejudicada devido à presença de superdispersão que, segundo BORGATTO et al. (2006), pode ocorrer devido à variabilidade da média e ao excesso de zero.

Ao se dispor de um conjunto de dados com vários valores iguais a zero, é comum o acréscimo de uma constante (c) a cada um dos dados (STORCK et al., 2000; BANZATTO & KRONKA, 2006). A determinação do valor constante c que deve ser adicionada à variável original (Y) tem sido bastante discutida na literatura, mas, geralmente, assume-se c= 1. Conforme YAMAMURA (1999), não há base concreta quanto às razões pelas quais a unidade é adicionada ao invés de outra constante, tais como 0,5 ou dois. Outros princípios alternativos foram propostos por HILL (1963), GRIFFITHS (1980) e BERRY (1987) para determinar o valor dessa constante c. Os procedimentos propostos por esses autores são aplicáveis em um determinado conjunto de pressupostos e requerem cálculos complexos. Devido a esse fato, um princípio prático foi proposto por YAMAMURA (1999), sugerindo como uma escolha razoável para o parâmetro c o valor 0,5, se a forma da distribuição não for conhecida. O autor defende o uso de c igual a 0,5 porque uma distribuição definida em (0, 1, 2, ...) pode ser aproximadamente descrita por uma distribuição contínua definida em (0, 8), admitindo-se c=0,5.

Este trabalho teve por objetivo encontrar uma transformação adequada para as variáveis observadas em experimentos com a cultura da abobrinha italiana, realizados em ambiente protegido, visando a estabilizar a variabilidade gerada pela presença de valores zeros nas múltiplas colheitas dos frutos.

 

MATERIAL E MÉTODOS

Os experimentos com abobrinha italiana, cultivar 'caserta', foram conduzidos em 2004, nas estações verão/outono (V/O) e inverno/primavera (I/P), no Departamento de Fitotecnia da Universidade Federal de Santa Maria, com latitude: 29°43 'S, longitude: 53°43 'W e altitude 95m, sendo o clima classificado como Cfa (subtropical úmido sem estação seca definida e com verões quentes) e solo classificado como Argissolo Vermelho Distrófico Arênico. Em cada estação, o cultivo foi realizado em um túnel plástico coberto com poliestireno de baixa densidade (PEDB) de 150 micras de espessura, com dimensões de 25m de comprimento por 4m de largura, com 3,5m de altura na parte central, utilizando irrigação por gotejamento, camalhões com 0,1m de altura e 0,4m de largura cobertos com mulching preto de PEDB de 35 micras, três linhas de cultivo, 25 plantas por linha, espaçamento entre plantas de 0,8m e entre linhas de cultivo 1,2m. As aplicações de fungicidas e inseticidas e as desfolhas das plantas foram realizadas sempre que necessário nos dois túneis, conforme recomendação da cultura (FILGUEIRA, 2000).

Cada planta compôs uma parcela na linha de cultivo, sendo identificadas com o número de ordem da linha e da parcela dentro de cada linha. A definição do momento da colheita baseou-se no tamanho dos frutos, diariamente verificados e colhidos quando apresentaram comprimento acima de 18cm, colocados em sacos de papel e identificados, para posterior determinação, em cada colheita, do número de frutos colhidos por planta e da fitomassa fresca, utilizando balança digital com precisão de um grama. Em cada colheita realizada, as parcelas que não apresentaram frutos aptos a serem colhidos tiveram como valores das variáveis valor zero, indicando produção nula na colheita específica.

Utilizou-se a metodologia Box-Cox (BOX & COX, 1964) para o conjunto de funções potências, para encontrar uma transformação para estabilizar ou reduzir a variabilidade existente entre os tratamentos simulados e normalizar os resíduos. Assim como para valores nulos, a família de transformações de Box-Cox fica restrita, avaliou-se a variável-resposta somada a uma constante. Adotou-se o procedimento proposto por YAMAMURA (1999), com c=0,5, gerando as expressões , λ=0, da família de transformações Box-Cox acrescida da constante c= 0,5.

Para a escolha da melhor potência λ, foram considerados, para λ, valores no intervalo [-2, 2], conforme descrevem DRAPER & SMITH (1998), sendo substituídos nas expressões ou Z(λ) = yln y, λ= 0, em que o jacobiano J(λ,z) = 1, gerando valores transformados (Z(λ)) para cada variável-resposta. Para determinar o estimador de máxima verossimilhança (Lmax), substituiu-se a soma de quadrados residual (SSE(λ)), encontrada para cada valor de λ, na expressão , e o melhor λ foi escolhido como aquele que proporcionou maior valor de Lmax.

Foi realizada a análise de variância (ANOVA) para as variáveis original e transformada. Para a realização da ANOVA, foi adotado o delineamento em blocos ao acaso em faixas, considerando como fator A a posição da planta dentro de linha de cultivo (25 plantas por linha) e como fator D as oito colheitas realizadas, simulando 200 tratamentos, com cada linha de cultivo como uma repetição. Antes a após a transformação dos dados foram aplicados testes de Lilliefors (CAMPOS, 1983), para verificar a aderência dos dados à distribuição normal e também testes de Bartlett para verificar a homocedasticidade dos erros. Posteriormente, foram obtidas as medidas descritivas e foi realizada a análise dos resíduos, antes e após a transformação. Para a análise dos dados, foram utilizados os softwares Statistica 7.0 e SAS, em nível de 5% de probabilidade de erro.

 

RESULTADOS E DISCUSSÃO

Observou-se que a frequência de valores zero, obtidos nas colheitas para o número e a fitomassa de frutos de abobrinha italiana, variou em torno de 40% no inverno/na primavera (I/P) e 60% no verão/outono (V/O). Esse comportamento indica que a maior variabilidade para as variáveis estudadas foi obtida na estação de cultivo V/O, concordando com os resultados obtidos por SOUZA et al. (2002) e LÚCIO et al. (2008). A heterogeneidade das variâncias da fitomassa de frutos, entre plantas para as diferentes colheitas, deve-se, principalmente, à grande variabilidade existente entre o crescimento das plantas e dos frutos em condições de ambiente protegido, conforme descrevem SOUZA et al. (2002), MELLO et al. (2004), LORENTZ et al. (2005) e LÚCIO et al. (2008), causada pelas maiores variações nas condições ambientais nesse sistema de cultivo, tais como temperatura do ar, radiação solar global, nebulosidade e umidade relativa do ar, fatores mais proeminentes na estação V/O que na estação I/P.

O valor da potência λ que minimiza a raiz do quadrado médio do erro (RQME) foi de 0,25 (Tabela 1), indicando que a melhor transformação para as variáveis-resposta foi a raiz quarta. A relação direta entre a fitomassa e o número de frutos colhidos pode ter sido um dos motivos pelos quais se tem o mesmo valor λ para essas duas variáveis. Já na tabela 2 encontram-se as medidas descritivas para o número e a fitomassa fresca de frutos com o acréscimo da constante, antes e após a transformação. Ao se aplicar a transformação na variável acrescida da constante, observou-se uma redução no coeficiente de variação, em comparação ao da variável original + 0,5, indicando uma redução da variabilidade dos dados. Essa redução deve ser considerada interessante, pois o decréscimo no desvio padrão foi proporcionalmente maior que o aumento no valor da média, o que se espera de uma transformação de dados para homogeneizar variâncias.

Pelos resultados obtidos nas análises de variância para o número e a fitomassa fresca de frutos para as duas épocas de cultivo, verificou-se uma redução no quadrado médio do erro (QME) após o uso da transformação, de 90 e 96% na estação V/O, respectivamente, para número e fitomassa fresca de frutos, e de 92% na estação I/P, para as duas variáveis estudadas (Tabela 2). Esse resultado é importante, pois quanto maior o erro, menor a probabilidade de serem encontradas diferenças significativas entre médias de tratamentos. Portanto, a transformação raiz quarta (y0,25) para o número e o peso de frutos de abobrinha italiana permitiu uma redução da variabilidade.

Com a aplicação do teste de Lilliefors, observou-se que a aderência dos dados à distribuição normal foi atendida, tanto com os dados originais, quanto após a transformação via raiz quarta. Esse resultado, além de viabilizar a utilização do teste de Bartlett, indica que, apesar do excesso de zeros no banco de dados e da presença de superdispersão, as variáveis estudadas apresentaram melhoras significativas em relação ao atendimento à normalidade dos erros, verificado na figura 1, com os dados transformados para ambas as variáveis.

A verificação da homogeneidade de variâncias se fez necessária para observar se o emprego da transformação raiz quarta (y0,25) foi eficiente para adequar os dados à pressuposição da homogeneidade das variâncias residuais. Os resultados do teste de Bartlett mostraram que a transformação raiz quarta (y0,25) não foi eficiente para adequar os dados a essa pressuposição, pois foi rejeitada a hipótese de homocedasticidade para o número e a fitomassa fresca de frutos nas duas épocas, apesar da redução no valor do χ2 calculado para as duas variáveis avaliadas, após a aplicação da transformação. Sabe-se que muitas circunstâncias podem interferir na violação da pressuposição de homogeneidade de variância. Em geral, a heterogeneidade da variância pode estar associada com variáveis-resposta cuja distribuição não é normal e cuja variância relaciona-se com a média em decorrência da própria forma da distribuição.

Mesmo se rejeitando a hipótese de homocedasticidade das variâncias residuais, o nível de significância apresentado no teste, após a transformação, foi próximo do adotado no estudo (P< 0,05), além da transformação raiz quarta apresentar a menor relação entre RQME e Lmax. Assim, essa transformação é apresentada como uma alternativa para estabilizar a variância ou, pelo menos, reduzir a variabilidade existente, auxiliando nas análises estatísticas e interpretações dos resultados desse tipo de experimento, sem comprometer a precisão experimental.

Usualmente, em experimentos com olericolas realizados em ambiente protegido, as parcelas experimentais são definidas com uma única planta, devido à limitação de área, favorecendo assim o surgimento de valores zero para as variáveis que indicam a produção de frutos no momento da colheita. Essa condição gera a superdispersão e os problemas subsequentes nas análises estatísticas dos dados que podem ser contornados com a aplicação de transformação de dados ou com a abordagem via modelos lineares generalizados. Essas alternativas podem ser aplicadas após a realização do experimento, o que nem sempre está à disposição do pesquisador responsável pelo trabalho. Dessa forma, o planejamento de experimentos com parcelas compostas de mais de uma planta, combinados com diferentes agrupamentos de colheitas, pode ser uma solução mais prática para evitar ou minimizar a presença de valores zero no banco de dados, reduzindo assim a superdispersão e seus efeitos nas análises estatísticas.

 

CONCLUSÃO

Para o número e a fitomassa fresca de frutos da abobrinha italiana, a transformação indicada é a raiz quarta.

 

AGRADECIMENTOS

Ao Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq), pelo auxílio financeiro para a realização do trabalho e pela concessão de bolsas de produtividade em pesquisa aos autores Alessandro Dal'Col Lúcio e Sidinei José Lopes.

 

REFERÊNCIAS

BANZATTO, D.A., KRONKA, S.N. Experimentação agrícola. 4.ed. Jaboticabal: FUNEP, 2006. 246p.         [ Links ]

BERRY, D.A. Logarithmic transformations in ANOVA. Biometrics, Washington, v.43, p.439-456, 1987.         [ Links ]

BORGATTO, A.F. et al. Modelos para proporções com superdispersão e excesso de zeros - Um procedimento Bayesiano. Revista de Matemática e Estatística, São Paulo, v.24, n.2, p.121-131, 2006.         [ Links ]

BOX, G.E.P.; COX, D.R. An analysis of transformations. Journal of the Royal Statistical Society. Series B (Statistical Methodological), New York. v.26, n.2, p.211-252, 1964.         [ Links ]

CAMARGO. L.S. As hortaliças e seu cultivo. Campinas: Fundação Cargill, 1981. 321p.         [ Links ]

CAMPOS, H. Estatística experimental não-paramétrica. 4.ed. Piracicaba: ESALQ, 1983. 349p.         [ Links ]

CONAGIN, A. et al. Efeito da falta de normalidade em testes de homogeneidade das variâncias. Bragantia, Campinas, v.52, n.2, p.173-180, 1993. Disponível em: <http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0006-87051993000200010&lng=en&nrm=iso&tlng=pt > Acesso em: 11 de novembro de 2008. Doi: 10.1590/S0006-87051993000200010.         [ Links ]

DRAPER, N.R.; SMITH, H. Applied regression analysis. 3.ed. New York: John Wiley, 1998. 706p.         [ Links ]

FILGUEIRA, F.A.R. Novo manual de olericultura: tecnologia moderna na produção e comercialização de hortaliças. Viçosa: UFV, 2000. 402p.         [ Links ]

GRIFFITHS, D.A. Interval estimation for the three-parameter lognormal distribution via the likelihood function. Journal of the Royal Statistical Society. Series C (Applied Statistics), New York, v.29, n.1, p.58-68, 1980.         [ Links ]

HILL, B.M. The three-parameter lognormal distribuition and Bayesian analysis of a point-source epidemic. Journal of the American Statistical Association, Alexandria. v.58, n.301, p.72-84, 1963.         [ Links ]

LORENTZ, L.H. et al. Variabilidade da produção de frutos de pimentão em estufa plástica. Ciência Rural, Santa Maria, v.35, n.2, p.316-323, 2005. Disponível em: <http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0103-84782005000200011&lng=en&nrm=iso&tlng=pt>. Acesso em 28 de maio de 2008. Doi: 10.1590/S0103-84782005000200011.         [ Links ]

LOPES, S.J. et al. Técnicas experimentais para tomateiro tipo salada sob estufas plásticas. Ciência Rural, Santa Maria, v.28, n.2, p.193-197, 1998. Disponível em: <http://www.scielo.br/scielo.php?pid=S0103-84781998000200002&script=sci_arttext&tlng=e>. Acesso em: 21 de maio de 2008. Doi: 10.1590/S0103-84781998000200002.         [ Links ]

LÚCIO, A.D. et al. Tamanho da amostra e método de amostragem para avaliação de características do pimentão em estufa plástica. Horticultura Brasileira, Brasília, v.21, n.2, p.181-185, 2003. Disponível em <http://www.scielo.br/scielo.php?pid=S0102-05362003000200012&script=sci_arttext&tlng=pt>. Acesso em 15 de agosto de 2008. Doi: 10.1590/S0102-05362003000200012.         [ Links ]

LÚCIO, A.D. et al. Variância e média da massa de frutos de abobrinha-italiana em múltiplas colheitas. Horticultura Brasileira, Brasília, v.26, n.3, p.335-341, 2008. Disponível em: <http://www.scielo.br/scielo.php?pid=S0102-05362008000300009&script=sci_arttext&tlng=g>. Acesso em 23 de janeiro de 2009. Doi: 10.1590/S0102-05362008000300009.         [ Links ]

MELLO, R.M. et al. Size and form of plots for the culture of the italian pumpkin in plastic greenhouse. Scientia Agricola, Piracicaba, v.61, n.4, p.457-461, 2004. Disponível em <http://www.scielo.br/scielo.php?pid=S0103-90162004000400017&script=sci_arttext&tlng=en> Acesso em: 05 de maio de 2008. Doi: 10.1590/S0103-90162004000400017.l        [ Links ]

SOUZA, M.F. et al. Tamanho da amostra para peso da massa de frutos, na cultura da abóbora italiana em estufa plástica. Revista Brasileira de Agrociência, Pelotas, v.8, n.2, p.123-128, 2002.         [ Links ]

STORCK, L. et al. Experimentação vegetal. Santa Maria: UFSM, 2000. 198p.         [ Links ]

STRECK, L. et al. Evapotranspiração máxima e coeficiente de cultura da abóbora italiana em estufa plástica. Revista Brasileira de Agrometeorologia, Santa Maria, v.11, n.1, p.43-52, 2003.         [ Links ]

YAMAMURA, K. Transformation using (x + 0.5) to stabilize the variance of populations. Journal Researches on Population Ecology, Tokyo, v.41, n.3, p.229-234, 1999. Disponível em <http://www.springerlink.com/content/ryhwj0c7c79qq8t7/fulltext.pdf>. Acesso em 10 de junho de 2008. Doi: 10.1007/s101440050026.         [ Links ]

 

 

Recebido para publicação 25.09.08
Aprovado em 13.04.09

 

 

1 Autor para correspondência.

Creative Commons License All the contents of this journal, except where otherwise noted, is licensed under a Creative Commons Attribution License