You are on page 1of 22

A Recolha de Dados na Investigao Quantitativa: consideraes genricas e relativas utilizao da internet*

Gabriele Iacobucci

Introduo De uma maneira geral, quando se evocam os conceitos de investigao social, ou de pesquisa de mercado, a discusso que em torno desses se constri ir ter que incluir, quase inevitavelmente, a noo de inqurito, com o significado de qualquer procedimento de medio que envolva a interrogao de um inquirido (http://www.socialresearchmethods.net/kb/survey.php), diferente de outras abordagens baseadas, por exemplo, na simples observao. Definida de uma maneira to ampla, essa prtica implica, basicamente, um acto comunicativo e abrangeria, como evidente, seja metodologias prprias da investigao quantitativa que de investigao qualitativa1, tais como - nesse ltimo caso - entrevistas qualitativas (no baseadas em questionrios) e focus group. No presente estudo, todavia, nos interessar tratar apenas daqueles inquritos que se situam exclusivamente na dimenso da metodologia quantitativa (e, de uma maneira mais aprofundada, daqueles que servem-se da World Wide Web), querendo com isso dizer que iremos descrever mtodos de recolha de dados primrios 2 que, devidamente analisados, dariam resultados (dentro de alguns limites) generalizveis, em virtude das propriedades representativas de uma amostra escolhida para o estudo; esses, de uma forma geral, basear-se-o sobre um questionrio, como instrumento de sondagem. Devendo contextualizar, de acordo com o enquadramento tpico da disciplina da investigao quantitativa, diremos que esse estudo dir, sobretudo, respeito fase da concepo de uma investigao e, em particular nesse domnio definio de uma tcnica de recolha. Consideramos, por outro lado, difcil (se no impossvel) tratar isoladamente essa questo, sem ter que referir-se, ainda que de maneira superficial, s precedentes fases de definio do problema/objectivo, do universo do estudo, do procedimento de amostragem e (sucessiva) de preparao de um questionrio.
* Estudo apresentado no mbito do seminrio Metodos e Tcnicas de Investigao Quantitativa, da psgraduao em Comunicao e Marketing Poltico (ISCSP UTL), orientado pelo Professor Doutor Jos Vidal de Oliveira. 1 Pois, no raro encontrar manuais que, ao abordar a questo genrica da pesquisa de mercado, se preocupem s em segundo lugar de levantar essa distino (veja-se, por exemplo, Kotler P. e Armstrong G. (2012: 127-143). 2 Ou seja de dados que constituam um corpus de informao nova e actualizada para os fins de um caso de estudo especfico, diferentes dos dados secundrios, recolhidos precedentemente para outras investigaes (P. Kotler e G. Armstrong 2012: 128).

De facto - baseando-nos na anlise de alguma literatura sobre o assunto - o que consideramos oportuno hipotisar que se excluirmos s primeiras duas das etapas enumeradas (definio do problema/objectivo e do universo), nem sempre seria possvel falar de sequencialidade, com referncia s restantes trs: a definio de um procedimento de amostragem, de uma tcnica de recolha e da estrutura do questionrio parecem constituir um quadro de natureza sistmica, onde haver sempre que ter uma negociao, em termos das vantagens e desvantagens oferecidas por cada escolha possvel nos trs mbitos. Por exemplo, M. Van Selv e N. W. Jankowski (2006: 439) relam o facto da escolha da internet como meio de contacto inviabilizar, na prtica, qualquer procedimento de amostragem aleatria. Portanto, na maioria dos casos, ser oportuno considerar de maneira conjunta os trs aspectos, de forma a obter a melhor soluo para o caso especfico3. Em termos de natureza da pesquisa, as metodologias que tentamos descrever servem, de maneira preponderante, objectivos descritivos, sendo todavia possvel aplicar as mesmas tcnicas para investigaes que procurem identificar nexos de causa-efeito de alguns fenmenos, bem como para recolhas de dados com fins exploratrios (, essa ltima, por exemplo, uma aplicao aconselhada do inqurito online aberto, que iremos descrever brevemente em seguida). Iremos agora tentar descrever, de forma sumaria, as trs componentes bsicas para a projectao de um inqurito, atendendo concepo de Fowler (veja-se nota n 3), de forma a constituir uns fundamentos para a subsequente discusso. Concepo de um inqurito Amostragem Constituir uma amostra significa, em breve, seleccionar uma pequena poro de um universo, ou populao, que o represente na sua integridade (F. J. Fowler 2002: 5), sendo o ndice de qualidade da mesma determinado pela probabilidade que cada individuo da populao tem de ser seleccionado; idealmente, est deveria ser igual para todos os componentes do universo e, caso isso no seja possvel, deveria ser possvel determina-la (para cada individuo). Para Fowler (ibidem: 12), a maioria dos procedimentos de amostragem pode fundamentar-se em trs tipos de aces diferentes: 1) seleco de um numero de indivduos a partir de listas pr-existentes (mais ou menos completas); 2) seleco de pessoas caracterizadas por uma determinada atitude (who go somewhere or do something), que permita que as mesmas sejam identificadas e, sequentemente, seleccionadas; 3) actuao de um processo de amostragem por etapas, seleccionando antes uma serie de macrounidades (ex: unidade de alojamento) para 3 A ideia decorre, em particular, da definio de concepo complexiva do inqurito (total survey
design) como incluindo a amostragem, o design do questionrio e o mtodo de recolha dos dados (F. J. Fowler 2002: 8) e da observao de que a qualidade dos dados depender, peremptoriamente, pela qualidade de cada uma dessas etapas: the quality of data will be no better than the most error-prone feature of the survey design (idem).

depois proceder com a seleco, dentro cada uma dessas, dos indivduos. Como realam P. Kotler e G. Armstrong (2012: 138), o procedimento de amostragem envolve, antes demais, umas decises com relao a trs perguntas: 1) Quem vai ser o objecto do estudo?; 2) quantas unidades vai ser preciso inquirir?; 3) como vo ser essas mesmas escolhidas?. A primeira pergunta define a unidade de estudo (indivduos? Famlias? Organizaes?...) e, portanto, um quadro de amostra (sample frame). Esse, sempre de acordo com F. J. Fowler (2002: 12), caracterizado por trs qualidades: 1) a abrangncia (comprehensiveness), ou seja o grau de exaustividade do conjunto de unidades seleccionveis, tendo em considerao que a maioria das abordagens de amostragem deixam de fora pelo menos umas poucas pessoas da populao que o pesquisador se prope de estudar (idem)4; 2) a probabilidade de seleco - que j mencionamos -, calculvel para cada unidade seleccionada, se no igual para todas; e 3) a eficcia (efficency), ou seja, o grau de excluso de unidades irrelevantes para a pesquisa, dado que nalguns casos, os quadros de amostra incluem unidades que o pesquisador no quer incluir na amostra (ibidem: 13). A segunda questo (dimenso da amostra) envolve uma serie de consideraes relativas ao grau de representatividade da amostra; este aumenta juntamente com o tamanho da mesma, todavia isto implica tambm um acrscimo dos custos e dos, assim chamados, erros sistemticos (diferentes do erro de amostragem). O problema do procedimento para a escolha final das unidades o que, na literatura tida em considerao, gera mais discusso. De maneira muito sinttica, diremos que as metodologias se dividem em duas grandes tipologias: os procedimentos de amostragem aleatria e os de amostragem dirigida (no aleatria). Entre as primeiras h: a amostragem (aleatria) simples, caracterizada pelo facto de cada membro da populao ter uma mesma probabilidade de seleco; a estratificada, em que a populao dividida em grupos com base em determinadas variveis (idade, sexo), sendo a amostra constituda por subgrupos levantados a partir de cada um daqueles; finalmente, uma amostra por conglomerados, constituda atendendo ao critrio geogrfico, dividindo uma determinada rea em zonas discretas, procedendo logo seleco de uma amostra de tais subconjuntos, em seguida, a partir daqueles, seleccionam-se unidades de habitao e finalmente (se requerido pelos escopos da investigao), dos indivduos l residentes (P. Kotler e G. Armstrong 2012: 140; F. J. Fowler 2002: 20). Entre os procedimentos de amostragem no aleatria distinguimos: a amostragem de convenincia, em que se seleccionam as unidades mais facilmente e rapidamente recrutveis; a amostragem de peritos, em que o pesquisador, com base no seu prprio raciocnio, selecciona membros da populao que parecem oferecer um bom prospecto para a obteno de informao valiosa (P. Kotler e G. Armstrong 2012: 140); a amostragem por quotas, que fundamenta-se na criao de
4 Mesmo as mais abrangentes, como as que se baseiam nas habitaes, ou nas listas de nmeros de telefones.

segmentos populacionais, a partir de cada um dos quais so seleccionadas um numero predeterminado de unidades (idem). No consideramos oportuno, para j, discutir de maneira mais aprofundada as implicaes ligadas escolha de cada uma dessas metodologias; o faremos, em seguida, assim que se torne necessrio ao longo da discusso sobre os aspectos centrais desse estudo. Mtodos de recolha de dados5 Na investigao quantitativa por inqurito identificam-se, substancialmente, quatro tipos de mtodos de recolha, ou mtodos de contacto; dois desses requerem a intermediao de um entrevistador: a entrevista por telefone e a entrevista pessoal, em ambos os casos, o entrevistador pode servir-se de um software, atravs de um computador, que facilita a execuo da entrevista e a gravao de dados. Os outros dois tipos de mtodos de recolha so auto-administrados, ou seja, no requerem a interveno de um intermedirio para a coleco dos dados; trata-se da recolha atravs de questionrio enviado por correio e de inqurito na internet. Cada um desses mtodos traz consigo algumas vantagens e desvantagens, tendo por outro lado em considerao que uma das diferenas mais relevantes entre esses mtodos o custo de implementao. preciso, em primeiro lugar e de acordo com a distino que relatamos - entre inquritos levados a cabo por um entrevistador e auto-administrados -, evidenciar algumas vantagens partilhadas dos dois grupos de mtodos. 1) Entrevistas No que diz respeito s entrevistas, as vantagens que elencamos so comuns as duas modalidades, sendo essas, todavia, mais acentuadas nas entrevistas de tipo pessoal. Atravs desses mtodos possvel estabelecer um certo contacto humano, o qual, amide, resulta numa maior probabilidade de obter cooperao por parte dos entrevistados: altas taxas de respostas, respostas de qualidade, possibilidade de efectuar entrevistas mais longas6. Mais, a administrao por parte de um entrevistador oferece a oportunidade de testar o grau de compreenso da pergunta por parte do entrevistado, sendo possvel, eventualmente, fornecer ulterior clarificao (na entrevista pessoal, por outro lado, pode-se utilizar, a diferena da telefnica, material grfico). Isto todavia se obtm a um custo, que corresponde ao erro gerado pelo entrevistador; este, mesmo que treinado da forma mais obsequiosa, ir sempre at uma certa medida afectar a resposta do entrevistado, colocando as questes de maneira (ainda que levemente) diferente, em consequncia de pequenas mudanas 5 Veja-se: F. J. Fowler (2002: 58-74) e http://www.socialresearchmethods.net/kb/survey.php.
6 Tenha-se tambm em conta que esses tipos de inqurito viabilizam, muito mais do que os autoadministrados, a colocao de questes abertas.

no tom de voz, no lxico, na estrutura frasal, na sequncia das perguntas. A esse tipo de erros, por outro lado, podemos adscrever os gerados pela desejabilidade social, querendo com isso indicar a atitude dos entrevistados a reportar de forma insincera questes sensveis, mais em particular, a sub-relatar as atitudes socialmente indesejveis (consumo de drogas, no ir votar, aborto) e a sobrerelatar as desejveis. Como dissemos, as vantagens acima referidas, so muitas vezes acentuadas no caso das entrevistas pessoais; todavia, em contrapartida h que essas tm um custo muito mais elevado, tempos de implementao mais longos e colocam o problema da disperso geogrfica da amostra (entrevista pessoal vivel quase exclusivamente em reas geogrficas limitadas). Com relao ao tipo de amostragem, evidencia-se, que se o inqurito por entrevista pessoal fica associado amostragem por conglomerados (como evidente), a telefnica viabiliza, em virtude da existncia e disponibilidade de listas de nmeros telefnicos (relativamente) completas e actualizadas, o procedimento de amostragem aleatria simples. 2) Questionrios auto-administrados Omitindo todas as vantagens e desvantagens que se podem intuir por contraste com os dois mtodos acima descritos, diremos, em primeiro lugar, que os inquritos auto-administrados oferecem uma vantagem significativa em termos de custo (a internet mais do que o correio; veja-se anexo 1). Com relao s respostas dos respondentes, esses inquritos permitem perguntas fechadas com listas de respostas muito longas e sequncias de perguntas parecidas, sem que haja uma comunicao quebrada e montona; a falta de contextualizao social (ausncia de um intermedirio) elimina (at um certo grau) o problema da desejabilidade social; finalmente, permite-se ao inquirido de consultar documentos ou outros recursos que o ajudem a responder de maneira mais precisa. Algumas desvantagens comuns consistem na necessidade de recrutar uma amostra composta por indivduos com capacidade de leitura e escritura (e de competncias informticas, no caso da internet) e no facto de nem sempre ser possvel saber de certeza quem, de facto, respondeu ao inqurito. Fundamental, finalmente, notar que, pelo menos para os inquritos por correio, as taxas de resposta so geralmente excessivamente baixas. 3) Escolha de um mtodo A comparao dos benefcios e dos inconvenientes de cada mtodo aqui descritos, no permitem declarar de maneira assertiva que uma das modalidades de recolha seja melhor que as outras. Embora as caractersticas preponderantes de custo, de tempos de resposta e das taxas de resposta colocaram, muitas vezes, a entrevista por telefone numa posio privilegiada respeito pessoal ou por correio (com a internet em fase ascendente nos ltimos anos), costume afirmar que a escolha de um ou outro mtodo ditada por uma serie de outras consideraes 5

especificas ao caso de investigao. Por exemplo: quais informaes de contacto contm a lista a partir da qual se procede com a amostragem (nmeros de telefone, email)? Se requerem informaes sobre indivduos ou famlias?7 Quais so as caractersticas da populao? Sabe ler e escrever? Possui uma habitao/telefone? concentrada numa rea geogrfica ou no? De maneira parecida questes relativas ao contedo do inqurito e ao design visado afectam a escolha do mtodo de recolha. A eventual complexidade das questes poder requerer a interveno de um entrevistador para esclarecer, por outro lado se o assunto for sensvel e apto produo de desejabilidade social talvez um mtodo mais impessoal seria mais oportuno. Mais, se for absolutamente necessrio utilizar material visual inviabiliza-se automaticamente a entrevista por telefone e case se peam informaes precisas relativas a questes tais como, por exemplo, sobre o custo de servios particulares (mdicos, contas de electricidade, agua), ou sobre o sucesso escolar (etc.), o inquirido ter provavelmente que ter a disposio tempo para consultar documentos contendo tais informaes. Concepo do questionrio (design) Com relao ao terceiro elemento da concepo de um inqurito possvel levantar inmeras observaes que dizem respeito macro e micro-organizao do questionrio, envolvendo questes de layout visual, lexicais, sintcticas, para alm das relativas configurao de resposta: utilizao de questes abertas, ou fechadas, de tipo sim/no, incluso ou no da resposta no sei, utilizao de escalas (ordinais) com 2, 3, 4,5 () categorias. Cada uma dessas escolhas implica consequncias importantes para a informao que afinal se ir recolher. Basta aqui fazer algumas consideraes genricas com relao a essa fase. Em primeiro lugar deve-se considerar que s perguntas de um inqurito devem visar obteno de uma informao acerca de uma realidade quantificvel, ou seja, o que aqui importante notar que o verdadeiro valor de uma pergunta de inqurito, mais do que natureza lingustico-conversacional, de natureza numrica (F. J. Fowler 2002: 76). Precondies para que se possa medir um fenmeno atravs de respostas fornecidas por um inquirido que as perguntas sejam confiveis (ibidem: 77) e validas (ibidem: 95-96); a primeira qualidade diz respeito ao grau de plurissignificao da pergunta, esse dever ser quanto menor possvel para que as diversas respostas sejam comparveis entre si. A validade consiste, ao invs, na efectiva relevncia da pergunta para obter informao sobre o fenmeno que o pesquisador se prope de investigar; nesse sentido dever tentar-se maximizar o grau de preciso da informao construindo a questo de forma a evitar os quatros factores que dificultam a obteno da mesma: falta de compreenso, falta de conhecimento sobre o assunto, de memria, ou, ainda, de vontade de responder.
7 No primeiro caso, provavelmente, iriamos querer saber com certeza que o respondente e portanto fazer uma entrevista pessoal ou por telefone.

As estratgias para tal so inmeras; salientamos apenas que qualquer factor que incremente a simplicidade de compreenso da pergunta e do fornecimento da resposta, portanto que diminua o tempo requerido pelo completamento do mesmo positivo para a obteno de informao valiosa. Fundamental, para avaliar tais qualidades, ser a fase do pr-teste (sobretudo dos questionrios autoadministrados). Os Erros: amostragem, cobertura, no resposta e resposta O quadro complexivo de uma investigao sempre, em maior ou menor medida, afectado por uma certa quantidade de erro, ou seja, por uma inexactido na medio do fenmeno estudado. Esse erro total, decorre de um conjunto de erros que vo se acumulando ao longo das etapas da pesquisa. Com relao concepo de uma investigao individuamos erros que so correspondentes s trs componentes acima evidenciadas. Existe sempre um erro de amostragem, estatisticamente determinado e diferente segundo o procedimento de amostragem utilizado; este tipo de erro nsito no conceito de amostra, pelo facto de essa no representar a totalidade do universo, mas apenas uma parte. Por cuidadoso que seja o processo que leva sua constituio, na prtica, a amostra nunca atingir um grau perfeito de representatividade. Todavia, o que nos mais interessa aqui outro tipo de erro, o qual mais do que ao procedimento de amostragem, diz respeito ao j mencionado - quadro, ou base da amostra e ao grau at o qual esse compreenda todos os membros da populao que se quer estudar. Podemos chamar esse erro de cobertura, particularmente relevante na discusso sobre os inquritos na internet (M. Van Selm e N. J. Jankowski 2006: 440). Associamos ao mtodo de recolha de dados escolhido outro tipo de erro: o erro de no resposta, que se produz aquando da falta de resposta - in toto - a um inqurito, por parte das unidades que fazem parte da amostra. O enviesamento causado por esse tipo de erro depende no s da percentagem de no respondentes, mas tambm - como evidente - da maneira (eventualmente sistemtica) em que os que no respondem diferem dos que o fazem8. De acordo com Fowler (2002: 40), h que distinguir trs diferentes causas para isso: 1) o inquirido no contactado (no reside na habitao no perodo de investigao, ou o faz em horas em que impossvel contacta-lo, erros tcnicos na entrega do correio/ e-mail); 2) o inquirido recusa-se a responder; 3) o inquirido no capaz de responder (no sabe ler/escrever, no conhece a lngua em que o questionrio est redigido, est gravemente doente). Tendo em considerao esse conjunto (no exaustivo) de causas e sub-causas ser possvel tomar uma serie de contramedidas para reduzir esse erro. A terceira categoria de erros decorre da forma e contedo do questionrio e
8 Bastante exemplificativo o exemplo proposto por Fowler: It is obvious that if a data collecion effort is carried out between 9.00 a.m. and 5:00 p.m. on Mondays through Fridays, the people who will be available to be interviewed will be distinctive. [] The survey is likely to yield high proportions of housewives and mothers, unemployed persos. and retired people. (ibidem: 43).

da execuo da entrevista. Podemos sinteticamente declarar que o agente que determinam os erros de resposta o respondente quando: no sabe uma resposta, ou no a lembra, no entende uma pergunta, ou no quer responder (inclumos aqui os casos em que as respostas fornecidas so superficiais; por ex. escolha da primeira opo, ou escolha da opo que lembra melhor). Por outro lado esses erros podem ser determinados por erros do entrevistador (se podem atribuir, por outro lado, presena desse os erros decorrentes da desejabilidade social), ou na formulao das perguntas. Com base nos elementos e problemticas introduzidas ao longo dessas pginas, tentaremos agora descrever mais aprofundadamente algumas questes relevantes para um tipo particular de mtodo de recolha: o questionrio na internet. Os inquritos na Internet Ao que parece, no quadro da investigao quantitativa, a recolha de dados atravs da internet est a ganhar cada vez mais adeptos; um estudo da ESOMAR de 2007 (in P. H. Vu e J. Hoffman 2010: 42) realou que j em 2006, 16% dos fundos gastos em pesquisas de mercado a nvel global eram utilizados a fim de implementar investigaes pela internet, ultrapassando assim os inquritos por entrevista pessoal. H, por outro lado, que ter-se em conta que as tendncias esto, sem dvida, a favor da utilizao da internet, que nalguns pases desenvolvidos j se tornou a metodologia de preferncia (idem), enquanto nalguns em desenvolvimento est a crescer a ritmos notveis (ibidem: 43-44). De uma maneira geral, ultrapassadas algumas tcnicas ao longo dos anos (J. H. Watt 1997), pode-se afirmar que existem trs principais configuraes, ou mtodos de distribuio, de inquritos na internet: 1) por e-mail: envia-se o questionrio directamente para a caixa de correio electrnico do inquirido; 2) inqurito num site, aberto para quem queira participar; 3) envio de um link para um site atravs do email, fornecendo um identificativo pessoal e uma password (M. Van Selm e N. J. Jankowski 2006: 442). Embora, segundo os casos, a primeira e terceira metodologia possam ser utilizadas com proveito, ao longo da nossa discusso iremos preferir pensar na segunda opo, como prottipo e modelo do inqurito online. De facto, nota-se com facilidade que a utilizao do inqurito aberto num site tem implicaes importantes para a seleco de uma amostra; essa, utilizando a terminologia de Medlin (1999, in M. Van Selm e N. J. Jankowski 2006: 440) no poder ser recrutada, o que por srios problemas em termos de representatividade da mesma. Por outro lado, a primeira das metodologias elencadas, ao no utilizar a tecnologia HTML, no pode proporcionar uma vantagem muito importante que os inquritos nos sites tm: a de sistematizar os dados recolhidos automaticamente, para a sucessiva fase de anlise dos mesmos (ibidem: 443).

Vantagens e desvantagens dos inquritos online Na seco precedente relatamos alguns prs e contras dos mtodos de recolha por questionrio auto-administrado (correio e internet); falta agora enunciar aqueles especficos do inqurito online. Levantaremos tambm algumas sugestes encontradas na bibliografia tida em considerao - para enfrentar as desvantagens. Do lado das vantagens, j sublinhamos, na seco precedentes as relativas rapidez na recolha de dados, aos custos9 e desejabilidade social10. Mais, podemos relatar a possibilidade dos questionrios serem (caso se torne necessrio) modificados ou enriquecidos facilmente, mesmo aps ter iniciado a recolha de dados; a utilizao de recursos de multimdia para tornar o questionrio atractivo do ponto de vista grfico (J. H. Watt 1997). Como afirmam Van Selm e Jankowski (2006: 450), uma das maiores vantagens dos inquritos online consiste no facto de os dados puderem ser utilizados mais ou menos directamente para a anlise, em virtude do facto que o respondente os introduz j em formado electrnico, sendo que apenas as respostas s perguntas abertas tero que ser codificadas manualmente. H, depois, uma serie de aces facilitadas por software adicionais aplicveis a esse tipo de questionrios, que proporcionam (entre outras) tais possibilidades: requisio do completamento de todas as respostas para proceder no inqurito, medio do tempo empregado para cada resposta e para o questionrio, definio automtica da sequncia das perguntas e do contedo delas, com base nas respostas precedentes (ibidem: 451)11, variao aleatria automtica da ordem das escalas de resposta (J. R. Evans e A. Mathur 2005: 198). Ainda, J.R. Evans e A. Mathur, relatam primeiramente entre as vantagens desse meio a cobertura global, devido enorme quantidade de utilizadores (de lngua inglesa) de internet, espalhados pelo globo (ibidem: 196). Passando agora aos inconvenientes dos inquritos na internet, faz falta, em primeiro lugar, evidenciar um problema amplamente reconhecido: embora o uso da internet esteja a crescer a ritmos elevados e esteja a alargar-se a amplas faixas populacionais, actualmente o nmero de utilizadores do WWW (e de e-mail), que podem ser considerados alvo de inquritos enviados por esse meio, est bem longe de representar a totalidade da populao, mesmo nos pases desenvolvidos, onde as taxas de utilizao so maiores (J. R. Evans e A. Mathur 2005: 201). Em segundo lugar, evidencia-se que esse mesmo alvo, para j, apresenta traos fortemente distintivos com relao aos que no utilizam a internet, sendo o primeiro critrio para tal distino a idade (M. P. Couper et al. 2007: 132).
9 Devendo acrescentar aqui, que os reduzidos custos incrementais por respondente, em comparao ao inqurito por correio, fazem com que sejam mais facilmente viveis grandes amostras e procedimentos de follow-up (envio de ulteriores email em caso de no resposta). 10 Sendo que, S. Kiesler e L. S. Sproull (1986: 409) forneceram alguma evidncia de que a falta de contextualizao social produz efeitos ainda mais positivos nos questionrios electrnicos, em comparao com os enviados por correio. 11 O que simplifica o questionrio, eliminando instrues do tipo em caso de resposta afirmativa para a questo x, continue com a questo y (J. R. Evans e A. Mathur 2005: 200), ou informao adicional entre parntesis (veja-se, por exemplo, F. J. Fowler 2002: 79).

M. P. Couper e seus colegas, num estudo de 2007, punham-se o objectivo de testar a viabilidade de realizar um inqurito pblico (nos Estados Unidos), normalmente efectuado por telefone ou de pessoa, na internet; os resultados lhes sugeriam, considerado o grande numero de variveis que diferenciavam os utilizadores de internet dos no utilizadores, que seria impossvel obter uma resultados generalizveis por esse meio, mesmo aplicando procedimentos de ponderao:
What is striking is that almost all of the variables [muitas das quais no eram demogrficas] included in the model show significant associations with internet use, even after controlling for demographic differences in Internet use. Several researchers using Internet samples have argued that controlling for demographics would correct most of the bias of differential Internet access [] For this sample at least, this does not appear to be the case (ibidem: 138).

Essas observaes, tambm como o facto de no existir registos centralizados de utilizadores da internet levam, de facto, muitos autores a concluir que a utilizao de procedimentos de amostragem aleatrias para essa populao problemtica, se no impossvel (M. Van Selm e N. W. jankowski 2006: 439). Tais inconvenientes, como sugerem alguns autores, poder-se-iam, at uma certa medida, superar prestando muita ateno no desenvolvimento de procedimentos no aleatrios, de forma a conferir representatividade amostra, nomeadamente, atravs o uso de quotas e paneis (idem; J.R. Evans e A. Mathur 2005: 209), ou dirigindo os esforos para o decrscimo da ocorrncia de erros de no resposta e resposta (M. Van Selm e N. W. Jankowski 2006: 441). Outra macro-desvantagem que se observa, aquando da utilizao da internet como meio de investigao por inqurito, consiste nas taxas de resposta no particularmente elevadas, que nem sempre atingem os nveis tpicos de outros tipos de inquritos (J. R. Evans e A. Mathur 2005: 202); em nosso entender, esse problema pode-se relacionar, principalmente, a outros mais especficos, nomeadamente, percepo dos inquritos (ou links para inquritos) enviados por email como spam e falta de experincia/percia na utilizao da internet (ibidem. 201). Configuram-se, em consequncia disso, algumas solues para fazer frente ao risco de obter baixas taxas de resposta: produtivo parece ser o envio de comunicaes precedentes, para os individuos escolhidos, a informar sobre a importncia do inqurito venturo (M. Van Selm e N. Jankowski 2006: 448), assim como a maior simplificao possvel do questionrio (J. R. Evans e A. Mathur 2005: 209). Usos aconselhados Em consequncia das observaes acima referidas, parece oportuno afirmar que o panorama actual de utilizao da internet, embora em evoluo rpida e favorvel a um uso mais amplo para fins de investigao quantitativa, aponte actualmente para um leque (mais ou menos) restrito de quadros de investigao, determinados sobretudo pelo objectivo da pesquisa, pela populao estudada e 10

pelas questes relativas amostragem. J. R. Evans e A. Mathur (2005: 208) relatam um elenco de factores, identificados em estudos antecedentes, que determinariam quando a utilizao da internet constituiria a escolha melhor. Em primeiro lugar, a internet se revela um instrumento poderoso nos casos (embora, provavelmente raros) em que, numa investigao, se queira transcender os confins nacionais; inviabilizada a recolha por entrevista pessoal e admitido o facto de que a por telefone e por correio colocariam, respectivamente, srios problemas em termos de custo e de administrao, a internet revelar-se-ia a nica escolha possvel. H outros dois requerimentos que so particularmente bem satisfeitos por um eventual uso da internet e que so relacionados questo dos custos: a necessidade de uma amostra de grandes dimenses e a de conduzir o inqurito repetidamente; no primeiro caso, devido aos custos incrementais cada vez menos significativos, haver que o valor adicional para constituir uma amostra de 10000 (ou 50000) pessoas, ao invs que 1000, ser bastante reduzido (idem). A mesma observao pode fazer-se caso se necessite efectuar a investigao frequentemente: nos inquritos online, a grande parte dos custos consiste em estabelecer a plataforma tecnolgica (fsica e virtual), sendo que as fases sucessivas so normalmente muito menos gravosas (idem). Naturalmente, tendo em considerao as observaes que fizemos na seco anterior, no ser possvel deixar de ter em conta os factores que afectam o procedimento de amostragem; assim, muitas vezes, condio imprescindvel para obter uma amostra que no seja demasiado enviesada a disponibilidade de um database de endereos e-mail valido (sem repeties e com email funcionantes; Idem). Isto, se tivermos em considerao experincias investigativas j efectuadas, parece ser mais vivel com alguns alvos particulares: profissionais no campo da sade, consumidores, estudantes, utilizadores de internet, pessoas procura de trabalho, empregados, entre outros (M. Van Selm e N. J. Jankowski 2006: 436). Finalmente, entre as questes relevantes que favorecem a escolha da internet como meio de recolha de dados, temos que relatar algumas relativas ao contedo e a configurao do questionrio. Pelo que se disse em relao problemtica da desejabilidade social e de acordo com Coomber (1997 in ibidem: 437), os inquritos online revelar-se-o particularmente teis se o tpico de investigao for considerado sensvel. Para concluir e, ao mesmo tempo, para introduzir o prximo tema, observamos que algumas possibilidades oferecidas pelos software utilizveis na internet fazem com que a escolha desse meio se revele ptima caso se requeira: 1) um preciso controlo da ordem das respostas; 2) completamento do questionrio na sua integridade; 3) um roteiro complexo (variaes em consequncia de respostas precedentes); 4) a incluso de material de multimdia para, por exemplo, testar uma ideia relativa a um produto inovador (J. R. Evans e A. Mathur 2005: 208).

11

Design dos questionrios em HTML e utilizao de recursos tecnolgicos: algumas questes debatidas Parece-nos oportuno, para concluir esse breve estudo sobre o WWW como meio de recolha de dados na investigao quantitativa, levantar aqui alguns tpicos que dizem respeito s inmeras possibilidades que a tecnologia HTML oferece em termos de design, aos recursos proporcionados por outros software e aos efeitos desses nos mecanismos de resposta por parte dos respondentes. A quantidade de observaes, assim como o grau de aprofundamento das mesmas, bem longe do serem exaustivos, visam apenas a uma sensibilizao, relativamente ao caracter ainda experimental do inqurito pela internet; poderemos intuir, de facto, ao fim da discusso que ainda existe um grande nmero de questes abertas, ou seja, onde faltam concluses amplamente aceites. Design dos questionrios online M. P. Couper, M. W. Traugott e M. J. Lamias (2001: 230-231) observam que:
With the graphic and multimedia capabilities of the World Wide Web, the survey researcher has an almost unlimited set of design choices [] As a result, the quality of design seen in Web surveys is higly variable. [] The work of Schwarz and colleagues suggests that in the absence of an interviewer to motivate the respondent or to provide guidance on how to answer each question, the respondente seeks such information from the instrument itself, using both the verbal and visual elements of the interface.

Sendo assim seria oportuno considerar alguns desses elementos e seus efeitos para a qualidade das respostas fornecidas num questionrio electrnico. Partimos, de acordo com Van Selm e N. W. Jankowski (2006: 441), do pressuposto de que a simplicidade, a independncia cultural, a exaustividade, a relevncia e neutralidade so os pressupostos para conceber um questionrio que produza respostas de boa qualidade; no domnio da simplicidade, talvez, se possa adicionar o elemento relativo s suas dimenses, sobre o qual Sheehan e McMillan comentaram: quanto mais longo for o questionrio, menor a probabilidade que as pessoas respondam (1999 in idem); esses mesmos autores sugerem, por outro lado, que essa caracterstica afecta de maneira mais significativa o inqurito online, em comparao com qualquer outra modalidade de recolha. com base em consideraes parecidas que, provavelmente, Couper, Traugott e Lamias resolveram testar, num estudo de 2001, os efeitos da incluso de um indicador de progresso num questionrio online. Essa investigao baseava-se sobre a distribuio de dois questionrios interactivos (mostrando um s ecr de resposta por vez; M. P. Couper, M. W. Traugott e M. J. Lamias 2001: 240) para dois sub-grupos da amostra, um dotado de indicador, o outro no (ibidem: 232-233; veja-

12

se anexo 2). A hiptese dos autores, confirmada pelos resultados12, consistia na observao de que a falta de conhecimento do estado de progresso constitui, para o inquirido, um incentivo para o abandono do mesmo, sendo, portanto, que a incluso dessa informao constitua um factor de acrscimo da taxa de respostas. Nesse mesmo estudo, os autores experimentaram os efeitos de outras duas escolhas, em termos de configurao do questionrio. A primeira tinha como objecto estas duas possibilidades: mostrar uma apenas uma pergunta (1 subgrupo), ou um grupo de quatro (2 subgrupo; ibidem: 233; vejase anexo 3) em cada ecr. Os efeitos esperados iriam ser contrastantes, na medida em que a verso com mltiplas respostas em cada ecr iria requerer menores tempos de completamento do questionrio (o que, normalmente considera-se positivo; idem), mas, ao mesmo tempo, incentivaria respostas no-substantivas, ao colocar em coluna as opes no sei/prefiro no responder (ibidem: 245-246). Os resultados confirmaram a primeira suposio (menos tempo requerido pela verso com respostas mltiplas; ibidem: 244), mas confutaram a segunda (respostas mais ponderadas para a verso com uma s resposta por ecr; ibidem: 246), sugerindo, de facto, que a verso com elementos mltiplos poderia conferir maior qualidade recolha dos dados. A ltima parte desse estudo, para concluir, estudava o confronto entre uma verso que previa resposta atravs boto e outra em que a resposta tinha que ser fornecida numa caixa de texto (ibidem: 236; veja-se anexo 4). Se a verso com boto tinha que implicar menores tempos de completamento (hiptese no verificada; ibidem: 247), ao requerer menos esforo (implicava apenas o uso do mouse, no do teclado), tambm tinha de render respostas menos substanciais (hiptese confirmada; idem), j que a digitao das respostas no sei (DK), ou prefiro no responder (NA), nas caixas de texto, iria requerer, substancialmente, o mesmo esforo que fornecer uma resposta adequada (ibidem: 246). Estes resultados, portanto, atribuiriam superioridade verso com caixas de texto. Funes da medio do tempo de resposta nos questionrios online J mencionamos que um dos recursos disponveis, aquando da utilizao de questionrios na WWW, a precisa13 medio do tempo que um inquirido utiliza para responder a um questionrio (mas tambm a cada pergunta nele contida, caso seja de tipo interactivo14). Vrios autores se debruaram sobre as possveis aplicaes de tal recurso; o enfoque das pesquisas nesse mbito, como veremos, resulta bastante diferenciado. Iremos aqui tentar dar uma ideia geral da natureza do discurso que se gera em torno dessa questo, atravs da descrio de dois estudos.
12 Deve-se relatar, contudo, que a diferena entre os dois grupos de respondentes no atingiu significncia estatstica, sendo todavia isso imputvel ao facto da verso com indicador ter requerido (em media) muito mais tempo para o completamento, o que como evidente neutralizou o efeito positivo do mesmo (ibidem: 243). 13 Essa, note-se, vivel tambm nas entrevistas por telefone assistidas (CATI), mas com margens de erro e custos mais elevados (veja-se: J. N. Bassili e J. F. Fletcher). 14 Contendo apenas um item por ecr.

13

O primeiro (N. Malhotra 2008) toma partida da seguinte pergunta: Ser que os respondentes que completam inquritos na internet mais rapidamente fornecem informao de menor qualidade? (ibidem: 915). A hiptese de uma resposta afirmativa a tal questo seria sugerida pelas atitudes de resposta relacionadas ao satisficing15. Uma dessas a que produz o efeito de primazia (primacy effect), nos casos em que o respondente selecciona a primeira resposta aceitvel sem considerar o leque integralmente, ou at seleccionando sempre a resposta colocada ao mesmo extremo da escala (ibidem: 916). Nessas eventualidades, como evidente, o tempo de resposta ser significativamente menor, o que poderia levar a traar, peremptoriamente, a concluso de que a tempos de resposta muito baixos correspondem altos nveis de efeitos de primazia. Contudo, como demonstra o estudo tido em considerao, no parece ser esse um raciocnio isento do erro. O autor, de facto, observa que:
The cause of faster completion times may vary for different groups of respondents. Indeed, the relationship between completion time and data quality is complicated [] A respondent may respond to an item quickly because he or he has limited cognitive skills or motivation, and consequently does not think extensively about the question []. Alternatively, opinionated, knowledgeable respondentes with strong attitudes may also report their response more quickly (ibidem: 917).

De facto, a anlise dos dados recolhidos atravs do questionrio online no mbito desse estudo, indicava que os inquiridos com baixos nveis de educao que completaram o questionrio mais rapidamente so os que mais seleccionaram as opes de resposta situadas em cima da lista (ibidem: 921), sendo que, contrariamente, os efeitos de primazia resultaram totalmente ausentes nos questionrios completados por pessoas altamente educadas, no tempo mais breve (ibidem: 923). A varivel considerada no estudo tido em considerao a da educao, todavia nos parece bastante bvio colocar a hiptese de que outras variveis (por exemplo a idade?), poderiam afectar as concluses genricas sobre a relao entre satisficing e tempos de resposta. Nos parece, de qualquer forma, bem fundamentada a sugesto do autor de incluir nos questionrios a manipulao aleatria da ordem das respostas, de forma a reduzir o enviesamento devido ao fornecimento improprio das respostas extremas (nas escalas de valores; ibidem: 929). O outro estudo que queremos levar em considerao, adquire uma perspectiva totalmente diferente daquela que acabamos de relatar. Para F. G. Conrad, M. F. Schober e T. Coiner (2007) a medio do tempo de resposta a uma pergunta pode constituir um meio para tornar, at uma certa medida, um questionrio na internet mais parecido a um dilogo humano, em particular, viabilizando um mecanismo tpico dos inquritos levados a cabo por entrevistadores: o de clarificao de conceitos que no foram entendidos pelos entrevistados (ibidem:
15 A expresso inglesa, composto dos verbos satisfy e suffice, indica aquela atitude, nesse caso prpria de alguns respondentes, caracterizada pela tendncia a levar a cabo, pelo menos formalmente, uma tarefa com o mnimo esforo possvel (ibidem: 915)

14

166). Dois diferentes experimentos foram levados a cabo nesse estudo. O que nos mais interessa o que se baseia na utilizao do tempo de resposta para, nos casos em que esse supere determinados limites, activar a visualizao de definies de conceitos considerados susceptveis de mal-entendimento (ibidem: 175-181). Descrevemos, em breve, o experimento: em laboratrio foram proporcionados dois diferentes questionrios electrnicos a dois grupos diversos, um constitudo por pessoas jovens (idade media: 26.8 anos) e outro por pessoas idosas (idade media: 72.4). Os questionrios diferiam entre si na medida em que o limite antes mencionado diferia, sendo mais longo para o grupo de idade media maior (teve-se em considerao o facto de que maiores tempos de espera em pessoas de maior idade pode no ser determinado no s pela incompreenso da pergunta, mas tambm pela menor familiaridade com o meio informtico e declnio na memoria; ibidem: 175). Se j se observava, no primeiro experimento, que de uma maneira geral - o fornecimento de algumas elucidaes implicava um acrscimo da qualidade das resposta, a incluso da medio do tempo de espera, para adaptar o mecanismo efectiva necessidade de esclarecimento, constitua efectivamente um valor acrescentado (ibidem: 181). Trata-se, enfim, de uma sugesto de natureza diferente da que anteriormente analismos, mas igualmente interessante, de utilizao de um recurso disponibilizado pelos questionrios electrnicos. Desejabilidade social e humanizao dos inquritos Para concluir queremos sinteticamente levantar uma ltima questo; essa diz respeito a um contraste, entre uma vantagem dos inquritos na internet que j identificamos, a relativa desejabilidade social, e um eventual recurso de design que, ao que parece, poderia neutralizar at uma certa medida tais efeitos positivos. Descrevendo mais pormenorizadamente a referida vantagem, preciso dizer, antes demais, que o conceito de desejabilidade social assenta na noo de que h normas sociais que governam alguns comportamentos e atitudes e que as pessoas podem relatar informaes falsas para dar uma imagem de si que seja conforme a tais normas (F. Kreuter, S. Presser e R. Tourangeau 2008: 848). Por outro lado, a evidncia de que os questionrios auto-administrados reduzam tais efeitos (levando as pessoas a relatar suas atitudes de uma maneira mais fiel) fundamentar-se-ia no facto de que a falta de contextualizao social (devida ausncia de um entrevistador) tornaria o acto da recolha de dados mais impessoal e annimo (S. Kiesler e L. S. Sproull 1986: 405). Em 2008, Kreuter, Presser e Tourangeau relataram os resultados de um estudo que envolvia a administrao de inquritos para diferentes grupos de antigos estudantes da Universidade do Maryland (F. Kreuter, S. Presser e R. Tourangeau 2008: 850), atravs de entrevistas CATI e questionrios online. O inqurito continha questes relativas a atitudes socialmente desejveis (como ter recebidos meno 15

de honra acadmica) e indesejveis (como ter recebido notas abaixo de 2.5; idem). Mais, dispunha-se, de dados de validao, ou seja, das efectivas realizaes dos dois grupos de estudantes estudados durante s suas carreiras acadmicas, de forma a comparar as taxas reportadas de atitudes socialmente desejveis e indesejveis com aquelas reais (ibidem: 849). No anexo 5 relatamos os resultados dos inquritos (h tambm os resultados do inqurito conduzido atravs IVR), os quais, em breve, indicavam que, mesmo sem ter utilizado perguntas muito sensveis (ibidem: 864), os que responderam atravs do questionrio web relataram muito mais atitudes socialmente indesejveis e muito menos atitudes desejveis (ibidem: 862-863). Ora, se essa , de facto, uma vantagem dos questionrios autoadministrados, devida ausncia de um entrevistador, uma das contrapartidas consiste no facto j evidenciado de que faltando esse falta tambm uma certa quantidade de incentivo resposta, o que, por um lado reduz a taxa de resposta total (ao inqurito), e por outro da como resultado questionrios com uma menor taxa de completamento/ qualidade (idem). Para alguns autores (veja-se: N. Malhotra: 929), seria possvel fazer frente a tal inconveniente incluindo nos questionrios caractersticas de dilogo humano (por exemplo, atravs da voz ou vdeo de seres humanos). Walker, Sproull e Subramani (1994 in R. Tourangeau, M. P. Couper e D. M. Steiger 2003: 2) conduziram um experimento administrando dois questionrios electrnicos para dois grupos, um dos quais caracterizado pela presena de dois caras-falantes; os que interagiram com esse levaram mais tempo para completar o questionrio, fizeram menos erros e escreveram mais comentos. O contraste entre tais recursos e a vantagem da de-contextualizao social, de que falvamos antes, teria base na seguinte afirmao:
People respond to a talking-face display differently than to a texto display. They atribute some personality attributes to the faces differently that to a texto display. They report themselves to be more aroused (less relaxed, less confident). They present themselves in a more positive light to the talking-face displays. (Sproull et al. In R. Tourangeau, M. P. Couper e D. M. Steiger 2003: 3).

esta a afirmao bsica da Social Interface Theory (idem): se a humanizao do questionrio proporciona maior qualidade das respostas sob alguns pontos de vista, tambm verdade que tais efeitos seriam neutralizados caso existam questes sensveis; o que - acrescentamos - indicaria, por consequncia, um uso limitado para aqueles inquritos que no sejam caracterizados por um contedo desse tipo. H todavia de notar-se que todas as evidncias empricas que constituem o corpo de base dessa teoria foram levadas a cabo em laboratrio, o que, de alguma forma poderia ter afectado os resultados (R. Tourangeau, M. P. Couper e D. M. Steiger 2003: 22), sendo que ao fazerem um experimento no campo, Tourangeau, Couper e Steiger encontraram muitos poucos factos a confirmao dessa teoria16.
16 Com a excepo de questes relativas ao gnero sexual: ao administrar um questionrio contendo perguntas sobre esse assunto (Thinking about men as a group, do you think men have too much influence, about the right amount of influence, or too little influence?; ibidem: 5) o interface que

16

Concluses A escolha de uma mtodo de recolha de dados, no quadro de um projecto de investigao quantitativa, constitui de facto uma, entre inmeras, consideraes. Notamos porm como seja uma fase particularmente susceptvel de gerar, se a devida ateno no for prestada, vrios erros, sobretudo pelo facto dessa fase ser intimamente ligada questo do procedimento de amostragem. A internet, em particular, coloca o pesquisador numa situao difcil, ao apresentar vantagens muitssimo atractivas e limitaes gravosas. De facto a internet mostra os pressupostos para ser a melhor opo possvel em alguns casos e a pior em outros. Em nosso entender, isso determinado, de forma preponderante, do tipo de populao objecto do estudo. As observaes relativas aos nexos entre utilizao de internet e caractersticas da populao, tais como aquelas fornecidas por M. P. Couper (et al. 2007), tornam qualquer discurso sobre a viabilidade do uso de inquritos online, para estudos cujos resultados queiram ser generalizaveis a uma populao (de uma cidade, de um pas) na sua integridade, de caracter meramente experimental. H, por outro lado, motivos para crer que logo no futuro como sugerem Evans e Mathur (2005: 201) a situao possa vir a ser significativamente diferente, devido rapidssima difuso de meios informticos para amplas faixas populacionais. No entanto essa outra observao que podemos fazer concluso desse breve estudo parece ainda haver muitas questes a resolver, em termos de distribuio dos inquritos, estruturao do questionrio e utilizao de recursos informticos, para optimizar aquele que muito provavelmente vir a ser o mtodo de recolha de dados do futuro.

mostrava a fotografia da investigadora do projecto (ibidem: 8) deu como resultado mais atitudes profeministas (ibidem: 11).

17

Bibliografia - Bassili, John N. e Fletcher, Joseph F. (1991): Response-time measurement in survey research, Public Opinion Quarterly, 55: 331-346; - Conrad, Frederick G., Schober, Michael F. e Coiner, Tania (2007): bringing features of human dialogue to web surveys, Applied Cognitive Psychology, 21: 165187; - Couper Mick P., Traugott, Michael W. e Lamias, Mark J. (2001): Web surveys design and administration, Public Opinion Quarterly, 65, n 2: 230-253; - Couper, Mick P. et al. (2007): Noncoverage and nonresponse in an internet survey, Social Science Research, 36: 131-148; - Evans, Joel e Mathur, Anil (2005): The value of online surveys, Internet Research, 15, n2: 195-219; - Floyd, J. Fowler (2002): Survey Research Methods, 3 edio, Londres: Sage; - Kotler, Philip e Armstrong, Gary (2012): Principles of Marketing, 14 edio, Harlow: Pearson Education Limited. - Kiesler, Philip e Sproull, Lee S. (1986): Response effects in the electronic Survey, Public Opinion Quarterly, 50: 402-413; - Kreuter, Frauke, Presser Stanley e Torangeau, Roger (2008): Social desirability bias in CATI, IVR and web surveys, Public Opinion Quarterly, 72, n 5: 847-865; - Malhotra, Neil (2008): Completion time and response order effetcs in web surveys, Public Opinion Quarterly, 72, n 5: 914-934; - Van Selm, Martine e Jankowski, Nicholas W. (2006): Conducting online surveys, Quality and Quantity, 40: 435-456; - Tourangeau, Roger, Couper Mick P. e Steiger, Darby M. (2003): Humanizing selfadministered surveys: experiments on social presence in web and IVR surveys, Computers in Human Behavior, 19: 1-24; - Vu, Phuang H. e Hoffman, Jonas (2010): Using online surveys in Vietnam, International Journal of Market Research, 53/1; - Watt, James H. (1997): Using the internet for quantitative survey research, disponvel no endereo: http://www.unt.edu/rss/class/survey/watt.htm (ltima consulta: 12-03-2012); Sites - http://www.socialresearchmethods.net/;

18

ANEXO 117

ANEXO 218

17 Watt, James H. (1997). 18 Couper Mick P., Traugott, Michael W. e Lamias, Mark J. (2001: 233).

19

ANEXO 319

19 Ibidem: 234-235.

20

ANEXO 420

20 Ibidem: 237-238.

21

ANEXO 521

21 F. Kreuter, S. Presser e R. Tourangeau 2008: 860.

22

You might also like