UNIVERSIDADE TECNOLÓGICA FEDERAL DO PARANÁ CENTRO ACADÊMICO DE LÍNGUAS ESTRANGEIRAS MODERNAS CURSO DE ESPECIALIZAÇÃO EM ENSINO DE LÍNGUAS ESTRANGEIRAS MODERNAS MIRIAN MARIA DE RESENDE A AVALIAÇÃO NA SALA DE AULA EM UM INSTITUTO DE ENSINO DE LÍNGUA ESTRANGEIRA TRABALHO DE CONCLUSÃO DE CURSO CURITIBA 2008 MIRIAN MARIA DE RESENDE A AVALIAÇÃO NA SALA DE AULA EM UM INSTITUTO DE ENSINO DE LÍNGUA ESTRANGEIRA Monografia de Conclusão do Curso de Especialização em Ensino de Línguas Estrangeiras Modernas da UTFPR. Orientadora: Profª Dra Miriam Sester Retorta CURITIBA 2008 MIRIAN MARIA DE RESENDE A AVALIAÇÃO NA SALA DE AULA EM UM INSTITUTO DE ENSINO DE LÍNGUA ESTRANGEIRA Monografia aprovada com nota ____, como requisito parcial para obtenção de título de Especialista, pelo curso de Especialização em Ensino de Línguas Estrangeiras Modernas, do Centro Acadêmico de Línguas Estrangeiras Modernas – Universidade Tecnológica Federal do Paraná. Aprovado pela Banca Examinadora em _____ BANCA EXAMINADORA: ________________________________________________________ Profª Dra Miriam Sester Retorta – CALEM/UTFPR Orientadora ________________________________________________________ Profª Márcia dos Santos Lopes – CALEM/UTFPR Dedico este trabalho a todos os funcionários, professores e alunos do InterAmericano. I wish I could create a written test, which shows how well my pupils can use their English and not just how well they have learned grammar and vocabulary. I really dislike objective-style tests like multiple-choice ones, because they are not creative enough. I’d rather give my pupils a test where they can use their English. If I do that, however, I’m left with the problem of marking them objectively and justifying the marks I give to my pupils’ parents and my colleagues. Is there a way to test students, which is both creative and safe? (Kenny and Tsai, 1993) RESUMO RESENDE, Mirian Maria de Resende. A avaliação na sala de aula em um instituto de ensino de língua estrangeira. 2008. 52f. Monografia (Especialização em Ensino de Línguas Estrangeiras Modernas) – Programa de Pós-Graduação em Línguas Estrangeiras Modernas, Universidade Tecnológica Federal do Paraná, Curitiba, 2008. Este trabalho visa investigar se os testes de rendimento de língua inglesa em um instituto de ensino de língua estrangeira estão inseridos no período sociolingüísticopsicolingüístico e se atendem aos princípios de validade de conteúdo e autenticidade. Para atingir tais objetivos, foi desenvolvida uma pesquisa qualitativa interpretativista, na qual o conteúdo programático do curso avançado, o material didático adotado e os testes de rendimento foram apresentados. Os dados coletados foram triangulados, analisados e discutidos. Os resultados deste estudo mostram que há testes do período sociolingüístico-psicolingüístico e de questões com validade de conteúdo e autênticas. No entanto, verificou-se também a existência de testes que datam do período anterior ao sociolingüístico-psicolingüístico e testes com questões não autênticas. Um dos maiores desafios da instituição, assim como do ensino/aprendizado de língua estrangeira em geral é a necessidade de construir testes integradores, onde a atenção não é o item gramatical ou lexical, mas a comunicação. Palavras-Chaves: Testes de rendimento. Período sociolingüístico psicolingüístico. Princípio de validade. Princípio de autenticidade. ABSTRACT RESENDE, Mirian Maria de Resende. A avaliação na sala de aula em um instituto de ensino de língua estrangeira. 2008. 52f. Monografia (Especialização em Ensino de Línguas Estrangeiras Modernas) – Programa de Pós-Graduação em Línguas Estrangeiras Modernas, Universidade Tecnológica Federal do Paraná, Curitiba, 2008. The objective of this monography is to investigate if the diagnostic tests of an English foreign language school meet the characteristics of the psycholinguisticsociolinguistic period and if the principles of content validity and authenticity are present in the tests. In order to reach these objectives a qualitative interpretativist investigation was conducted in which the advanced course syllabus, the course book adopted and the diagnostic tests were presented. Then the data was triangulated, analyzed and discussed. The results of this study show that the characteristics of the psycholinguistic-sociolinguistic period and the principles of content validity and authenticity were observed in the tests. However, tests from the psychometricstructuralist period were also observed as well as tests that fail to meet the principle of authenticity. One of the greatest challenges not only from the language school but also from the learning/teaching a foreign language in general is the need for integrative tests, where one pays attention not to specific structural or lexical items, but to the total communicative effect of an utterance. Key Words: Diagnostic test. Psycholinguistic-sociolinguistic period. Principle of validity. Principle of authenticity. LISTA DE FIGURAS FIGURA 1 - THE SIMPLE PRESENT TENSE...............................................................10 FIGURA 2 - DISCRETE-POINT TEST ITEM.................................................................16 FIGURA 3 - A TYPICAL CLOZE PASSAGE .................................................................18 FÍGURA 4 - EXAME CELPE-BRAS ..............................................................................20 FIGURA 5 - CONTEÚDO PROGRAMÁTICO................................................................32 FIGURA 6 - CONTEÚDO PROGRAMÁTICO................................................................34 FIGURA 7 - FIRST TEST ..............................................................................................38 FIGURA 8 - FIRST TEST ..............................................................................................41 FIGURA 9 - ORAL TEST...............................................................................................43 FIGURA 10 - SECOND TEST .......................................................................................45 FIGURA 11 - SECOND TEST .......................................................................................46 SUMÁRIO 1 INTRODUÇÃO............................................................................................. 9 1.1 OBJETIVO GERAL .................................................................................... 11 1.2 PERGUNTAS DE PESQUISA.................................................................... 12 1.3 O CONTEXTO DA PESQUISA .................................................................. 12 1.4 ORGANIZAÇÃO DO TRABALHO .............................................................. 13 2 REFERENCIAL TEÓRICO ........................................................................ 14 2.1 UM BREVE HISTÓRICO DOS MÉTODOS E ABORDAGENS DE ENSINO E DA AVALIAÇÃO EM LÍNGUA ESTRANGEIRA........................ 14 2.2 TIPOS DE TESTES DE LÍNGUAS ESTRANGEIRAS................................ 21 2.2.1 Testes de proficiência ................................................................................ 22 2.2.2 Testes de rendimento ................................................................................ 22 2.2.3 Testes de diagnóstico ................................................................................ 22 2.2.4 Testes de nivelamento ............................................................................... 23 2.3 PRINCÍPIOS DA AVALIAÇÃO ................................................................... 23 2.3.1 Princípio de praticidade.............................................................................. 23 2.3.2 Princípio de confiabilidade ......................................................................... 24 2.3.3 Princípio de validade .................................................................................. 25 2.3.4 Princípio de autenticidade .......................................................................... 28 3 METODOLOGIA DE PESQUISA............................................................... 29 3.1 BASE METODOLÓGICA ........................................................................... 29 3.2 CENÁRIO DA PESQUISA.......................................................................... 29 3.3 DOCUMENTOS DE PESQUISA ................................................................ 31 3.3.1 O conteúdo programático........................................................................... 31 3.3.2 O livro didático ........................................................................................... 33 3.3.3 Os testes de rendimento ............................................................................ 35 4 ANÁLISE DOS DADOS E DISCUSSÃO DOS RESULTADOS................. 36 5 CONSIDERAÇÕES FINAIS....................................................................... 48 6 REFERÊNCIAS BIBLIOGRÁFICAS.......................................................... 49 9 1 INTRODUÇÃO No início da década de 40, um grupo de idealistas liderados pelo professor Francisco Albizu criou uma sociedade que apoiava e divulgava a cultura norteamericana. Tal idéia concretizou-se quando, aos 13 de novembro de 1941, foi fundado o Centro Cultural Pan-Americano, hoje Centro Cultural Brasil Estados Unidos. As atividades utilizadas em sala de aula correspondiam ao Método Audiolingual, tendo como enfoque a língua oral. A aprendizagem era comparada à formação de hábitos automáticos, adquiridos através de exercícios intensivos visando à repetição e à transformação de estruturas da língua. No ensino de gramática, as estruturas eram apresentadas indutivamente por meio de analogias. O vocabulário introduzido era aquele estritamente necessário para instrumentalizar o exercício da pronúncia e das estruturas gramaticais. A tendência era manipular exaustivamente as estruturas da língua em detrimento de seu significado. Um exemplo de atividade dessa época pode ser observado na figura 1. 10 FIGURA 1 – THE SIMPLE PRESENT TENSE Fonte: WRIGHT, A. Let’s Learn English. New York: Litton Educational Publishing, 1971 p. 106. As avaliações1, nesse período, enfocavam aspectos gramaticais, lexicais, entre outros, sempre em questões isoladas. Hoje, pretendendo fornecer ao aluno algo mais que um simples conhecimento das regras prescritivas e um vocabulário operacional para o uso da 1 Os termos avaliação, teste, prova e exame serão usados como sinônimos. 11 língua, o ensino passa a comunicativo, deixando à margem o tradicional, isto é, temse um ensino centrado no uso autêntico da língua, a fim de organizar os atos de aprendizagem em atividades relevantes, verdadeiramente necessárias ao aluno. Como as aulas objetivam a prática de atividades comunicativas ressaltando tarefas reais de comunicação, as avaliações também sofreram mudanças. Apresentam-se, agora, de forma a verificar a competência comunicativa através de tarefas que incluem amostras lingüísticas mais globais, tais como entrevistas, compreensão de textos autênticos e semi-autênticos, produção de textos do tipo e-mails e essays, revisão literária, entre outras tarefas que possam identificar o que o aluno aprendeu ou deixou de aprender em sala de aula. Para que a avaliação seja um instrumento eficaz, ou seja, para que possa identificar o conhecimento adquirido do aluno em relação ao conteúdo ensinado, a sua elaboração deve respeitar princípios, tais como princípios de validade, confiabilidade, praticidade e autenticidade. A investigação das avaliações em língua estrangeira surgiu como um tópico de pesquisa a partir da reflexão sobre o papel que a avaliação de língua desempenha na sociedade. Papel esse que classifica indivíduos em momentos importantes na sua educação e que interfere expressivamente em suas vidas. Sendo assim, aqueles que trabalham com o ensino e tomam decisões baseadas em resultados de avaliações devem ter conhecimento suficiente do assunto para que possam fazer escolhas conscientes sobre o seu uso e reconhecer o seu impacto nos alunos. Por esse motivo, vale a pena investir na pesquisa da avaliação. 1.1 OBJETIVO GERAL O objetivo principal deste projeto de pesquisa é investigar as avaliações de língua inglesa que estão sendo operacionalizadas em sala de aula e verificar se estas estão inseridas na era psicolingüística-sociolíngüística e se de fato passam pelo crivo dos princípios de validade e autenticidade. Optou-se pelos princípios de validade de conteúdo e autenticidade, por questões de praticidade na investigação. 12 1.2 PERGUNTAS DE PESQUISA Esta investigação será orientada pelas seguintes perguntas de pesquisa: 1. Os testes estão inseridos na era psicolingüística-sociolingüística, isto é, as questões simulam tarefas da vida real? 2. Há validade de conteúdo? Ou seja, o conteúdo dos testes é similar ao que é ensinado em sala de aula? Os testes estão dentro dos temas propostos? 3. O teste contempla o uso autêntico da língua inglesa? 1.3 O CONTEXTO DA PESQUISA Na referida instituição, os alunos, antes de ingressarem no curso regular2, fazem, primeiramente, o teste de nivelamento, que tem a função de verificar o conhecimento lingüístico do examinando em relação ao currículo dos diferentes níveis. O curso, em que se inserem os alunos, adota uma abordagem comunicativa. A avaliação, neste contexto, é considerada uma parte do processo de ensino/aprendizagem. Com base nos objetivos e conteúdos pré-estabelecidos de cada curso, é definido, pela coordenação e supervisão acadêmica, os testes, ou seja, as questões, o peso, e os critérios de correção. Depois que as questões e os pesos estiverem prontos, uma equipe de professores faz uma análise cuidadosa e sugere possíveis alterações. Não há pilotagem das questões pelos examinandos. Os professores recebem treinamento sobre como utilizar os critérios de correção. Ao iniciar o curso, os critérios são apresentados aos alunos. Após a aplicação e correção dos testes, o professor relata os resultados aos alunos e à instituição. Ao relatar os resultados aos examinandos, os professores são orientados a informar as notas e principalmente o desempenho dos alunos em 2 O curso regular consiste do básico ao avançado. 13 relação ao objetivo e conteúdo testado. Por exemplo, para descrever um desempenho de um teste de produção oral, um aluno recebe informações, por escrito, da nota e comentários referentes ao desenvolvimento do tema, a preparação e apresentação da tarefa, fluência e acuidade no uso da língua alvo. Para um teste de escrita, os comentários são referentes à organização, conteúdo, coesão, coerência, gramática, vocabulário, ortografia e pontuação. Mesmo após esse processo, a avaliação ainda pode não ter um resultado preciso do que o aluno aprendeu ou deixou de aprender em sala de aula. Tomá-la como objeto de estudo visa, portanto, buscar compreender melhor esse instrumento e potencializar seu uso de maneira mais eficaz. 1.4 ORGANIZAÇÃO DO TRABALHO Para atingir os objetivos citados acima, este trabalho de pesquisa abordou, na introdução, o contexto no qual o estudo surgiu, a sua justificativa, seus objetivos e as perguntas de pesquisa. A seguir, um breve histórico do ensino e da avaliação em língua estrangeira é apresentado, assim como os tipos de testes de língua estrangeira e os princípios de confiabilidade, validade, praticidade e autenticidade. Após esta apresentação, a metodologia desta monografia é descrita. Em seguida, modelos dos testes operacionalizados em sala de aula na referida instituição são mostrados, para assim apresentar a análise destas avaliações tendo como parâmetro os princípios de validade e autenticidade. Finalmente, teremos a conclusão deste trabalho, bem como sugestões para pesquisas futuras sobre a avaliação. 14 2 REFERENCIAL TEÓRICO O objetivo deste tópico é inicialmente apresentar os métodos e abordagens de ensino de línguas estrangeiras e as avaliações de línguas, para então explorar conceitos como validade, confiabilidade, praticidade e autenticidade de testes. 2.1 UM BREVE HISTÓRICO DOS MÉTODOS E ABORDAGENS DE ENSINO E DA AVALIAÇÃO EM LÍNGUA ESTRANGEIRA Anterior à década de 40, a Abordagem Tradicional, também chamada de Método de Tradução e Gramática, visava ensinar as línguas clássicas como grego e latim, permitindo o acesso a textos literários e a um domínio da gramática normativa. Propunha-se a tradução como base de compreensão da língua em estudo. A aprendizagem da língua estrangeira era vista como uma atividade intelectual em que o aluno deveria aprender e memorizar as regras, com o propósito de dominar a morfologia e a sintaxe. Os alunos recebiam e elaboravam listas exaustivas de vocabulário. As atividades propostas tratavam de exercícios de aplicação das regras de gramática, ditados, tradução e outros. A avaliação era elaborada a partir dos mesmos meios de atividades utilizadas para o ensino da língua estrangeira, ou seja, traduções, ditados, redações. Segundo Spolsky (1976, p. 11), essa época marca o primeiro período da avaliação, chamado de período pré-científico, onde os testes eram responsabilidade e domínio dos professores. O professor confiava na intuição para elaborar e avaliar os testes. As avaliações eram tidas como arte, não uma ciência. Respondendo às novas necessidades e aos novos anseios sociais, surgiu o método direto de ensino de língua estrangeira. O princípio fundamental do Método Direto era o de que a aprendizagem da língua estrangeira deveria se dar em contato direto com a língua alvo. A instrução era realizada totalmente na língua estrangeira, com exclusão absoluta da língua materna. As atividades propostas aos alunos eram 15 compreensão do texto e dos exercícios de gramática, correção fonética e conversação. Essa abordagem não teve grande aceitação devido às doses maciças da língua estrangeira a que eram submetidos os alunos, sem atingir satisfatoriamente as metas esperadas. Sendo assim, o ensino de língua estrangeira volta-se novamente para as técnicas da Abordagem Gramatical. Na década de 40, com a entrada dos americanos na Segunda Guerra Mundial, o exército sentiu a necessidade de produzir rapidamente falantes fluentes em várias línguas. O novo enfoque acarreta profundas modificações nos princípios de ensino de língua estrangeira, a língua é fala e não escrita. A escrita só é introduzida após o domínio da forma oral. Assim, em 1942, surge no cenário do ensino de língua estrangeira The Army Specialized Training Program (ASTP), o Método do Exército, que evoluiu para o Método Audiolingual. O ensino de uma língua estrangeira era visto como um conjunto de hábitos condicionados que se adquiria através de um processo mecânico de estímulo resposta, baseado nos princípios da psicologia behaviorista de Skinner (1957). Nesse período inicia também uma nova era de avaliação de língua estrangeira, definida como psicométrica-estruturalista (Spolsky, 1976, p.12). Por se tratar de uma época sob influência da análise contrastiva e uma época em que a lingüística estrutural e a psicologia do behaviorismo buscavam explicar o caráter científico do ensino de uma língua estrangeira, os testes conseqüentemente enfocavam aspectos da lingüística estruturalista. Os testes de itens isolados (discrete-point item), ou seja, testes com questões que se concentram sobre um ponto isolado de gramática, sistema fonológico, morfológico surgiram nesse período. Os testes passam a ter questões objetivas, tais como múltipla escolha, verdadeiro ou falso, preenchimento de lacuna, levando a uma maior confiabilidade na correção. A intuição não era mais considerada qualidade suficiente para construção de testes. Os testes se tornam ciência ao invés de arte. Um exemplo de teste dessa época pode ser observado na figura 2. 16 FIGURA 2 – DISCRETE-POINT TEST ITEM Fonte: SAVIGNON, S.J. Communicative Competence: theory and classroom practice. (1997, p. 243-244). As questões presentes no teste acima avaliam as habilidades de maneira isolada, ou seja, somente leitura ou escrita. Um item isolado teria como principal 17 vantagem o fato de saber o que o aluno aprendeu ou deixou de aprender numa determinada habilidade. Com a queda do Método Audiolingual, a ênfase, nessa época, passa a ser no desenvolvimento da competência lingüística como condição para o desempenho. Segundo Noam Chomsky (1966), a repetição, e estímulo e o reforço não são suficientes nem necessários para promover a aprendizagem. Também, o fato de ocorrer uma resposta automática a determinado estímulo, não evidencia ter ocorrido a aprendizagem, pois a língua, por ser na sua essência criativa e dinâmica, não é simplesmente um conjunto de enunciados que podem ser memorizados e reproduzidos automaticamente em qualquer situação. Para Chomsky (1966), competência significa conhecimento da língua, isto é, das suas estruturas e regras, e desempenho, o uso da língua em situações reais. Hymes (1971, p.3–28) incorpora a dimensão social ao de competência lingüística. Trata-se de usar as estruturas e as regras da língua apropriadamente no contexto social no qual o indivíduo esta inserido. Isto é, o indivíduo deve considerar a quem diz o quê, para quem e de que maneira. Nos anos 80, Canale e Swain (1980, p.1–47) e Canale (1983, p.2–27) incorporam ao conceito de Hymes (1971, p.3–28), o conceito de competência comunicativa que implica o domínio de quatro competências, sendo elas, a competência lingüística ou gramatical, a discursiva, a estratégica e a sociocultural. A competência gramatical refere-se ao domínio que o aprendiz possui do código lingüístico, isto é, a fonologia, a sintaxe, e a morfologia. A competência discursiva implica em saber combinar as idéias para garantir a coesão e a coerência. Por competência estratégica entende-se a capacidade de usar estratégias para compensar as lacunas lingüísticas. E a competência sociocultural refere-se à capacidade de usar de conhecimentos lingüísticos nos contextos adequados. Segundo Canale e Swain (1980, p.6), se a abordagem comunicativa para o ensino de segunda língua for adotada, então princípios de desenvolvimento de programas têm que integrar aspectos de ambas competências: gramatical e sociolingüística. Mais ainda, metodologia de ensino e instrumentos de avaliação têm que ser desenvolvidos para dar conta não somente da competência comunicativa, mas também do desempenho comunicativo, isto é, a demonstração real desse conhecimento em situações reais de segunda língua e para propósitos autênticos de 18 comunicação. Também é importante manter em mente que uma pessoa não pode mensurar diretamente a competência: somente o desempenho é observável. Nesse período, definido, segundo Spolsky (1976, p.19), por um período sociológico-integrativo, que data do final de 1960, as teorias comunicativas da linguagem trazem uma visão mais integrada dos testes. Os testes se distanciam da ênfase de habilidades lingüísticas isoladas e se direcionam para ênfase da prática comunicativa que representa uma combinação de habilidades que simulam situações que acontecem no dia-a-dia do aluno. O uso das habilidades, portanto, é feita de forma integrada. Alguns dos testes integradores são as questões cloze e ditados. Nos exercícios de cloze, palavras são omitidas de um texto com intervalos regulares, por exemplo, a cada sétima palavra. É uma questão popular entre os professores para testar leitura, ortografia, conhecimento gramatical e lexical. Um exemplo de teste cloze pode ser observado na figura 3. FIGURA 3 – A TYPICAL CLOZE PASSAGE Fonte: SAVIGNON, S.J. Communicative Competence: theory and classroom practice. (1997 p. 257). O Ditado tem como objetivo avaliar a ortografia e a pontuação. No entanto, indiretamente, avalia a compreensão aural, uma vez que o aluno só consegue escrever o que compreendeu. Afirma-se que o teste cloze e o ditado são testes autênticos para mensurar proficiência de língua, pois engloba a maior parte das habilidades. Mas há questionamentos se, na vida real, o cloze e o ditado realmente são utilizados em situações reais do dia-a-dia. 19 A polêmica acerca dos testes integradores, como o teste cloze e o ditado, despertou novos caminhos para uma evolução do período psicolingüísticosociolingüístico. Outros testes com questões integradoras surgiram na tentativa de simular tarefas reais de comunicação. Tarefas que integrem o uso de habilidades na tentativa de aproximar ao máximo a avaliação do mundo real, tais como resposta a uma carta ou e-mail, preenchimento de um formulário, compreensão de um artigo de jornal ou de um programa de televisão. O exame Celpe-Bras, exame de Língua Portuguesa para Estrangeiros do Ministério da Educação, é um exemplo da nova era de testes de base comunicativa. A competência do candidato é verificada por meio de tarefas. Um exemplo de tarefa encontrado no exame Celpe-Bras pode ser observado na figura 4. 20 Tarefa III - SEM MEDO DE AVIÃO O quadro de dicas a seguir será publicado em uma revista de bordo. Escreva um texto para acompanhá-lo. Seu texto deverá contextualizar o assunto abordado e introduzir o quadro. FÍGURA 4 – EXAME CELPE-BRAS Fonte: http://portal.mec.gov.br/sesu/, acessado em 17 de março 2008. Segundo as instruções ao candidato 3 , nesta tarefa, “o foco está na compreensão e na produção, visto que, para escrever um texto para uma revista de bordo apresentando o quadro de dicas, o candidato precisa selecionar no texto as informações relevantes para sua produção textual. Ele demonstrará compreensão ao apresentar o tema (medo de avião) e referir o leitor ao quadro. Neste caso, copiar as 3 http://portal.mec.gov.br/sesu/, acessado em 17 de março 2008. 21 dicas não é necessário, visto que o texto tem como objetivo levar o leitor ao quadro. O candidato deve referir-se a elas e pode levantar alguns problemas para quem viaja de avião, narrar alguma história ou dar alguns exemplos de dicas para tornar o seu texto mais interessante. Sua produção será avaliada em termos de adequação ao gênero discursivo proposto (texto de introdução a um quadro), coesão, coerência, adequação lexical e gramatical, além de adequação ao interlocutor”. Segundo SCARAMMUCI (1999) as principais características desse exame são ênfase na comunicação e interação, isto é, o saber expressar-se e interagir com outras pessoas através da língua alvo. Habilidades integradas, ou seja, ler e escrever, ouvir e anotar, ver, ouvir e falar, portanto é uma avaliação integradora, pois envolve mais de uma habilidade. Outras características do exame são as tarefas, o exame todo é feito por tarefas. As tarefas têm um propósito comunicativo, especificando para a linguagem usos que se assemelham àqueles que se têm na vida real. Os conteúdos são autênticos ou contextualizados. E a correção é predominantemente qualitativa e holística. No Brasil, com exceção do exame Celpe-Bras, os testes em língua estrangeira ainda têm muito a evoluir. 2.2 TIPOS DE TESTES DE LÍNGUAS ESTRANGEIRAS Testes de línguas têm diferentes objetivos, isto é, o resultado obtido dos testes é utilizado para tomar diferentes tipos de decisões. Por exemplo, se o aluno será aceito num programa de língua, se domina o conteúdo estudado, se precisa de orientações especiais. Como o teste é uma amostra do conhecimento lingüístico, tal conhecimento varia de acordo com o objetivo do teste. Os tipos mais comuns de testes de língua são os testes de proficiência, de rendimento, diagnóstico e nivelamento. 22 2.2.1 Testes de proficiência O objetivo dos testes de proficiência é avaliar a competência global em um idioma, independentemente de onde e como o aluno aprendeu a língua. Um exemplo de teste de proficiência é o Examination for the Certificate of Proficiency in English (ECPE) e o Examination for the Certificate of Competency in English (ECCE), da Universidade de Michigan, EUA, que mede a competência lingüística de um candidato por meio de exercícios que englobam habilidades de compreensão e produção oral e escrita, vocabulário e gramática. 2.2.2 Testes de rendimento Os testes de rendimento são utilizados para avaliar o desempenho dos alunos em relação aos conteúdos trabalhados nos materiais didáticos ou aos conteúdos propostos nos currículos. O seu objetivo é detectar o quanto o aluno aprendeu ou deixou de aprender do universo de assuntos abordados. 2.2.3 Testes de diagnóstico Os testes diagnósticos são desenvolvidos com o objetivo de identificar os pontos fortes e fracos de conhecimento dos alunos dentro do assunto testado, assim como procuram explicar porque certos problemas ocorrem e que tratamento pode ser utilizado. Testes como o de proficiência, de rendimento e outros, também podem ser utilizados para diagnosticar conhecimentos diversos. 23 2.2.4 Testes de nivelamento Testes de nivelamento avaliam o conhecimento lingüístico do examinando em relação ao currículo de diferentes níveis para futuro curso de língua que o examinando irá se inscrever. 2.3 PRINCÍPIOS DA AVALIAÇÃO Como saber se um teste é eficaz? A resposta a esta pergunta pode ser obtida por meio de questionamentos sobre aspectos relacionados à validade, ou seja, o teste mede o que é ensinado em sala de aula, o resultado é confiável, o teste esta dentro dos limites de tempo e orçamento, o teste contempla o uso autêntico da língua alvo? Essas entre outras indagações trazem à discussão critérios importantes para avaliar um teste, isto é, critérios de praticidade, confiabilidade, validade e autenticidade. 2.3.1 Princípio de praticidade A praticidade de um teste está relacionada a diversos fatores, entre eles gastos, pois o teste não pode ser muito oneroso para uma instituição ou um professor. De acordo com H. D. Brown (2004, p. 19-20), o fator tempo é também importante para a praticidade, uma vez que o teste não deve ser muito demorado, tanto para aplicação quanto para a correção. 24 2.3.2 Princípio de confiabilidade Um teste deve ser consistente e confiável, ou seja, ao ser aplicado a um ou mais alunos, em ocasiões diferentes, o mesmo teste deve produzir resultados semelhantes. A questão da confiabilidade de um teste está relacionada a um número de fatores que podem interferir ou contribuir para a sua confiabilidade, como alterações no comportamento do aluno, na correção, na administração do teste e a aspectos direcionados ao teste em si. Existem diferentes aspectos relevantes relacionados à confiabilidade, que dizem respeito ao aluno, ao examinador, à administração do teste e do teste propriamente dito, que precisam ser analisados para que se torne possível obter uma avaliação mais confiável. A confiabilidade relacionada ao aluno pode ser ameaçada em situações como doenças, fadiga, um dia difícil, ansiedade e outros fatores físicos ou psicológicos que podem desviar a nota “observada” no dia do teste da nota “real” do aluno, comprometendo a qualidade do seu desempenho na avaliação. Entende-se por nota real, o resultado que confirme a verdadeira habilidade de um aluno, enquanto a nota “observada” pode trazer um resultado alterado por fatores alheios ao conhecimento do aluno. São considerados também neste quesito de confiabilidade, fatores como facilidade para fazer provas ou estratégias para responder uma prova com eficiência. Por exemplo, alunos que estudam regularmente e fazem provas com freqüência, podem estar habituados aos testes e desenvolverem estratégias próprias para responderem às avaliações, com maior facilidade. A confiabilidade relacionada ao corretor é um aspecto importante da avaliação, pois a falha humana, a subjetividade e os julgamentos pré-concebidos podem interferir no processo da correção de duas formas diferentes, confiabilidade inter-corretor e intra-corretor. A confiabilidade inter-corretor pode ser abalada quando dois ou mais corretores atribuem notas diferentes a um mesmo teste, por razões diversas, tais como a falta de atenção aos critérios, pouca experiência, falta de atenção no momento da avaliação ou até pré-concepções sobre o desempenho dos alunos. Já a confiabilidade intra-corretor envolve a inconsistência do próprio professor/corretor ao atribuir notas entre seus alunos. Geralmente, ocorre entre uma 25 turma, ou entre turmas diferentes, por razões como falta de clareza nos critérios de correção, fadiga, pré-concepções em relação ao “bom” ou “mau” aluno, ou simples falta de cuidado. O número elevado de turmas, aulas e alunos, acarretam em muitas correções e notas para atribuir, agravando o cansaço e o estresse do corretor, fator que pode alterar os resultados atribuídos ao teste. No que se refere à falta de confiabilidade na administração do teste, é necessário verificar toda a estrutura do local da aplicação do teste, as condições de temperatura, poluição sonora interna e externa, sonorização em caso de testes com compreensão aural, qualidade das cópias e da digitação dos materiais, aspectos relacionados à segurança da prova, para que essa não seja de conhecimento prévio de alguns alunos, e medidas de segurança para evitar que os alunos troquem informações sobre o conteúdo durante a aplicação do teste. A iluminação da sala também é importante na qualidade dos resultados, tanto quanto a condição e o conforto das carteiras escolares. É de extrema importância que todos os aspectos administrativos sejam considerados anteriormente à aplicação de um teste, para que não interfiram na qualidade do desempenho dos alunos. Por último descrevemos a interferência da confiabilidade do teste em si, ou seja, aspectos relacionados à elaboração do teste, tais como a ambigüidade em algumas questões, o número de itens testados, testes muito curtos não dão oportunidades suficientes de demonstrar conhecimento sobre o conteúdo, o tempo que se tem para responder ao teste pode ser insuficiente ou simplesmente causar ansiedade àqueles alunos que não conseguem pensar contra o relógio. A escolha de questões com nível de dificuldade muito elevado também impede que o aluno possa se sentir um pouco menos pressionado, e não permite que ele se familiarize com a situação de avaliação. 2.3.3 Princípio de validade Outro fator de importância em circunstâncias de avaliação é a validade. Validade significa dizer que um teste de compreensão de texto para ser válido deve testar a habilidade de leitura de um aluno e não o seu conhecimento prévio 26 sobre o assunto, sua capacidade de dedução lógica a partir de um texto, ou outra variável de importância questionável. A validade, segundo H. D. Brown (2004, p. 22-27), pode ser estabelecida a partir de diferentes tipos de evidência, por exemplo, verificar se o desempenho solicitado no teste está apropriado à proposta do curso ou ao conteúdo sendo avaliado; verificar também se o teste determina a extensão da compreensão do aluno relacionada ao nível de competência exigido pelo curso. Para analisar criteriosamente cada aspecto da validade, é necessário avaliar algumas variáveis, tais como as relacionadas ao conteúdo, ao critério, ao construto, à validade conseqüencial e à validade da face. Quando um teste fornece uma amostragem real do conteúdo testado, no sentido de obter do aluno um desempenho da habilidade em avaliação, pode-se dizer que este teste evidencia validade relacionada ao conteúdo. Isto é, se o objetivo do teste é mensurar a competência do aluno ao redigir um texto com criatividade, ele deve ter a oportunidade na prova de criar um texto e demonstrar sua criatividade e competência. Outra perspectiva relacionada à validade de conteúdo é a diferenciação entre testagem direta e indireta. Na testagem direta o candidato demonstra seu conhecimento por meio de tarefas que forneçam uma amostragem da habilidade sob avaliação. No entanto, na testagem indireta, outras habilidades são empregadas na avaliação para que se permita, por meio delas, inferir sobre o possível desempenho de um aluno na habilidade em questão. Por exemplo, para avaliar a produção de parágrafos bem estruturados o aluno se submete a um teste que envolva a organização de idéias apresentadas em um exercício de compreensão aural. Por questões de praticidade nem sempre é possível atender aos aspectos da validade de conteúdo em um contexto de sala de aula real, onde o elevado número de alunos, a falta de materiais de apoio, o custo, o tempo ou até mesmo o nível de preparo do professor comprometem reflexões maiores sobre o assunto. A validade relacionada ao critério tem duas categorias, concomitante e de predição. A validade concomitante existirá se os resultados de um teste aplicado a um grupo puderem ser comparados a outras fontes de desempenhos dos alunos, como outros testes ou instrumentos de avaliação, desde que os resultados sejam similares. Já a validade de predição diz respeito a testes de classificação, testes de admissão ou testes de aptidão lingüística, que possam ser utilizados para mensurar a habilidade de 27 um aluno em um dado momento, como no início de um curso de língua inglesa ou para a sua classificação dentro de um currículo escolar, e que o seu acompanhamento após o início dos estudos possa ser verificado, e constatada a sua probabilidade de sucesso identificada no início, pelo instrumento de avaliação aplicado. A validade de construto é qualquer teoria, hipótese ou modelo que procure explicar fenômenos observados em nossos universos de percepções. A verificação de construtos geralmente requer dados inferenciais, uma vez que não podem ser mensurados diretamente. A proficiência e a competência comunicativa são exemplos de construtos lingüísticos que, assim como outros assuntos na aprendizagem de uma língua estrangeira, são embasados em construtos teóricos. Na maioria das vezes, os professores ficam receosos com a possibilidade de formalizar os procedimentos de validação de construto dos seus testes, por acreditarem ser uma tarefa difícil, e acabam por simplesmente verificar o conteúdo do teste com o conteúdo estudado. A validade conseqüencial abrange todas as conseqüências de um teste no universo acadêmico, inclusive considerações referentes à sua precisão em mensurar os critérios propostos, o seu impacto no preparo dos candidatos ou alunos, o seu efeito no aprendiz e as conseqüências sociais voluntárias ou involuntárias da interpretação e uso de um teste. Nas últimas duas décadas, o aumento pela procura de testes de proficiência ou avaliações de pré-requisito para estudos no exterior, como Test of English as a Foreign Language (TOEFL), Graduate Record Examination (GRE), Graduate Management Admission Test (GMAT), Test of English International Communication (TOEIC), entre outros, teve sua parcela de validade conseqüencial no desenvolvimento de cursos preparatórios e manuais com dicas para obter bons resultados. Outro aspecto importante da validade conseqüencial dos testes é que os resultados podem influenciar a motivação dos alunos, o seu desempenho no curso, a aprendizagem independente, seus hábitos de estudo e até mesmo a sua atitude em relação aos trabalhos escolares. A validade da face de um teste é baseada na percepção que se tenha da sua aparência, no seu impacto na percepção intuitiva daqueles que façam ou apliquem o teste. A percepção da validade da face é meramente intuitiva, esse 28 aspecto da validade compromete a avaliação uma vez que reflete diretamente na percepção daqueles envolvidos com a testagem e, portanto, na imagem que possam desenvolver do processo de avaliação. Não é possível testar empiricamente a validade da face de um teste, mas a validade será alta se o examinando perceber características como: um formato de tarefas familiar e bem elaborado; um teste que seja possível de fazer dentro do espaço de tempo existente; itens claros e simples; enunciados claros e objetivos; tarefas que exijam o conteúdo ensinado, e um nível de dificuldade compatível com o conhecimento. Segundo H. D. Brown (2004, p.22–27), o impacto de um teste desencadeia vários princípios básicos da aquisição de uma língua, como a motivação intrínseca, a autonomia do aprendiz, a autoconfiança, o ego lingüístico, a interlíngua, o investimento em estratégias de aprendizagem, entre outros, e tem uma influência que pode ser positiva ou negativa, dependendo do enfoque dado aos resultados dos testes. Por essas razões é muito importante que o avaliador e/ou professor tenha bastante cautela, no sentido de auxiliar o seu aluno a refletir sobre os seus resultados, sem permitir que o feedback negativo tome uma dimensão exacerbada. 2.3.4 Princípio de autenticidade Outro princípio importante na testagem da linguagem é a autenticidade. Um teste autêntico apresenta tarefas que imitem ou reproduzam o uso real da língua em estudo. A autenticidade pode ser percebida de maneira variada, tais como: o quanto a linguagem do teste é natural; se a apresentação de itens é contextualizada; a presença de tópicos que sejam significativos para o aluno; uma organização temática dos itens; o quanto as tarefas representam ou se aproximam da realidade. Nesta seção um breve histórico do ensino e da avaliação em língua estrangeira foi apresentado, assim como os tipos de testes de língua estrangeira e conceitos como validade, confiabilidade, praticidade e autenticidade de testes para, assim, estabelecer uma base teórica para esta pesquisa. 29 3 METODOLOGIA DE PESQUISA Na seção 2, um panorama histórico dos métodos e abordagens de ensino e da avaliação em língua estrangeira foi apresentado, assim como, os princípios de validade, confiabilidade, praticidade e autenticidade a fim de construir uma base teórica para este estudo que tem por objetivo analisar se as provas para o nível avançado de língua inglesa estão inseridas na era psicolingüística-sociolíngüística e se atendem aos princípios de validade e autenticidade. Na seção 3.1, tem-se por objetivo apresentar a base metodológica desta investigação. Na seção 3.2, será apresentado o cenário da pesquisa, e, finalmente na seção 3.3, se descreverá os documentos de pesquisa. 3.1 BASE METODOLÓGICA O desenho metodológico empregado nesta pesquisa é baseado na pesquisa qualitativa interpretativista, utilizando dados, tais como o conteúdo programático do curso, os exercícios propostos pelo material didático, assim como os testes de rendimento, para assim analisar se eles estão inseridos no período sociolingüísticopsicolingüístico e se atendem ao conceito de validade e autenticidade. A partir da coleta dos dados, se fará a triangulação dessas fontes investigadas, para que se possa identificar os resultados. 3.2 CENÁRIO DA PESQUISA Fundado em 1941, o Centro Cultural Brasil Estados Unidos (CCBEU) situa-se em Curitiba e atende uma comunidade bem diversificada que abrange os bairros do Centro, Batel, Prado Velho, Portão, Cabral e o Colégio Medianeira. 30 A instituição oferece o ensino da língua inglesa como língua estrangeira e o ensino da língua portuguesa para estrangeiros e fornece o certificado de conclusão chancelado com o Outstanding Brazilian-American Binational Center, um atestado de qualidade conferido e reconhecido pela Embaixada dos Estados Unidos. O CCBEU é também o centro oficial aplicador dos exames Test of English as a Foreign Language (TOEFL), Examination for the Certificate of Competency in English (ECCE), Examination for the Certificate of Proficiency in English (ECPE), entre outros testes de proficiência e competência em inglês exigido por universidades e empresas em todo o mundo. A estrutura física da instituição compreende salas de aula equipadas com aparelhos de áudio e vídeo. As bibliotecas, referência em pesquisas e empréstimos de material na língua inglesa para os alunos e à comunidade, possuem um acervo de mais de 20.000 itens, entre livros em inglês e português, incluindo literatura nacional e norte-americana, periódicos nacionais e norte-americanos, mapas, Travel Guides, Road Atlas, entre outros. A metodologia é direcionada para uma abordagem comunicativa com participação ativa do aluno. Na abordagem comunicativa são enfocadas as diferentes habilidades da língua inglesa, compreensão auditiva, expressão oral, compreensão de leitura e expressão escrita. Dentro desta linha, as avaliações dos cursos regulares testam as mesmas habilidades, portanto, os alunos têm avaliações escritas, de leitura, de compreensão aural, conversação, de estrutura gramatical e vocabulário. Os cursos possibilitam que o aluno atinja o conhecimento da língua inglesa através dos cursos regulares, dirigidos e customizados. Os cursos regulares compreendem os níveis básico, pré-intermediário, intermediário e avançado. Os cursos dirigidos e customizados têm objetivos específicos, que são os cursos preparatórios para os exames Test of English as a Foreign Language (TOEFL), Graduate Record Examination (GRE), Graduate Management Admission Test (GMAT), competência e proficiência em Inglês da Universidade de Michigan, os cursos de Português para Estrangeiros, Conversação, Teacher Training Course (TTC), entre outros. O conteúdo programático é um documento que se ocupa em descrever o ensino da língua inglesa com o foco nas quatro habilidades lingüísticas, ou seja, 31 compreensão auditiva, expressão oral, compreensão de leitura e expressão escrita. Sendo assim, ao término de cada um dos níveis básico, pré-intermediário, intermediário e avançado, os alunos deverão ser capazes de realizar as atividades propostas no documento. Optou-se por adotar os materiais didáticos que possam atender às propostas metodológicas da instituição. A escolha do cenário dessa pesquisa deve-se ao fato da minha participação e atuação direta nesta instituição. Por isso, se faz necessário investigar se as avaliações são realmente eficazes, isto é, se são coerentes com os objetivos dos cursos. 3.3 DOCUMENTOS DE PESQUISA Para que se pudesse responder às perguntas de pesquisa propostas, foram selecionados dados de fontes que pudessem ajudar a investigar o objetivo principal deste projeto. As fontes foram o conteúdo programático do curso avançado, curso a ser investigado, o livro didático, American Inside Out upper intermediate, editora Macmillan, utilizado pelos professores, e os testes de rendimento operacionalizados no curso. 3.3.1 O conteúdo programático O conteúdo programático do curso avançado compreende a habilidade de compreensão auditiva e de leitura, expressão oral e escrita, assim como o conteúdo lingüístico proposto pelo livro didático, como demonstrado na figura 5. 32 NÍVEL AVANÇADO COMPREENSÃO AUDITIVA 1º EXPRESSÃO ORAL Em relação direta com um ou vários 1º Em relação direta com um ou vários interlocutores, o aluno deve ser capaz de: entender informações interlocutores, o aluno poderá participar detalhadas de uma conversa sobre assuntos gerais. sobre temas gerais; O aluno deve ser capaz de: fazer inferências sobre as opiniões, objetivos dos falantes, mesmo que Por telefone, com um interlocutor, o aluno deve ser capaz de conversar sobre assuntos gerais. 3º contribuir para discussões expressar opiniões, (ex.: concordar e discordar) 2º O aluno deve ser capaz de fazer O aluno deve ser capaz de entender idéias informações detalhadas; estes não o façam explicitamente; 2º proporcionar essenciais em discursos apresentações durante um breve período e distinguí-las das idéias complementares. de tempo sobre temas de livre escolha. 3º 4º Em relação a programas transmitidos manter uma conversa sobre assuntos através dos meios de comunicação, o aluno deve ser capaz de entender o Por telefone, o aluno deve ser capaz de gerais. 4º essencial da mensagem e os detalhes participar de entrevistas informais sobre temas cotidianos e de trabalho. relevantes. COMPREENSÃO DE LEITURA EXPRESSÃO ESCRITA O aluno deve ser capaz de: entender textos sobre temas cotidianos (ex: meio ambiente, trabalho, viagem, O aluno deve ser capaz de: entender textos complexos assim como reconhecer elementos ensaios mais rebuscada. implícitos (ex.: entender textos literários acessíveis cuja compreensão apenas conhecimento geral sociocultural mesmo desconhecimento gramaticais e requer da de extenso realidade que haja elementos domínio temas de usar estruturas sintáticas e morfológicas humor, ironia, etc.); sobre interesse do aluno; etc.) assim como reconhecer informações mais específicas / detalhadas; escrever do vocabulário. FIGURA 5 – CONTEÚDO PROGRAMÁTICO Fonte: Centro Cultural Brasil Estados Unidos, documento interno (2008). 33 3.3.2 O livro didático Para coletar dados do livro didático, optou-se por investigar o livro American Inside Out upper intermediate, da editora Macmillan, utilizado no curso avançado, por ser o material utilizado no curso que supervisiono. O livro American Inside Out upper intermediate é constituído de 14 unidades. As unidades propõem temas diversos. Os temas abrangem situações do cotidiano que podem ser vivenciados pelo aluno. Essas situações são apresentadas através de entrevistas, diálogos e textos autênticos ou semi-autênticos, ou seja, situações extraídas de jornais, revistas, documentários e outros. Cada unidade é dividida em seções de compreensão/produção textual/oral, gramática, vocabulário e pronúncia. As atividades de gramática, vocabulário e pronúncia são desenvolvidas em sala de aula de forma contextualizada, a partir do tema que a unidade apresenta. Apesar da contextualização, os exercícios de gramática, vocabulário e pronúncia propostos pelo material são extraídos dos textos escritos e diálogos e trabalhados de forma isolada. O conteúdo lingüístico do material American Inside Out upper intermediate das unidades 8 a 13 é apresentado na figura 6. 34 FIGURA 6 – CONTEÚDO PROGRAMÁTICO Fonte: KAY, S.; JONES, V. American Inside Out: upper intermediate. Oxford: Macmillan Education, 2003. 35 3.3.3 Os testes de rendimento Como mencionado anteriormente, na abordagem comunicativa são enfocadas as diferentes habilidades de uma língua: escrita, leitura, fala e compreensão aural. Dentro desta linha, as avaliações devem testar as mesmas habilidades, portanto, os alunos têm avaliações de compreensão textual, aural, expressão oral, escrita e de estrutura gramatical e vocabulário. Em forma de projetos, redações, brochuras, seminários, entrevistas, múltipla escolha etc, as avaliações são bastante diversificadas, respeitando os diferentes estilos de aprendizagem dos alunos e suas diferentes habilidades. Os testes operacionalizados no curso avançado compreendem o first test, second test, oral test, final test, writing test, oral project e classroom performance. O first test, second test, oral test e final test são os testes referentes ao conteúdo do livro didático. São testes que enfocam a compreensão aural, a compreensão de textos, a expressão oral, a estrutura gramatical, o vocabulário e a pronúncia. O writing test compreende a produção de um ensaio argumentativo (essay). O oral project refere-se à apresentação de textos jornalísticos e literários. O classroom performance refere-se ao desempenho do aluno em sala de aula pelo seu engajamento, pela sua participação em atividades que possam verificar e qualificar a sua competência. O estudo desenvolvido neste trabalho de pesquisa analisará apenas os testes que são referentes ao conteúdo do material didático, precisamente o first test, o second test e o oral test. O writing test e oral project atendem ao conteúdo programático da instituição. O first test e o second test são testes que compreendem questões abertas e fechadas. As questões abertas são questões do tipo perguntas e respostas, preenchimento de lacunas, entre outras. As questões fechadas são do tipo múltipla escolha, verdadeiro ou falso. O oral test refere-se a uma entrevista entre professor e aluno. Por questões de praticidade, no oral test o professor da turma entrevista seus alunos. Optou-se por investigar apenas os testes utilizados para avaliar o desempenho dos alunos em relação aos conteúdos trabalhados no material didático, com o objetivo de detectar se os testes têm validade de conteúdo, autenticidade e em qual período estão inseridos. 36 4 ANÁLISE DOS DADOS E DISCUSSÃO DOS RESULTADOS Na seção 3, a base metodológica, o cenário, assim como os documentos para esta investigação foram apresentados. Nesta seção, os dados serão analisados e os resultados discutidos, tendo o conteúdo programático, o livro didático, e os testes de inglês do curso avançado como documentos de análise. O conteúdo programático é um documento de poucas páginas que contempla os objetivos dos cursos com o foco nas quatro habilidades, ou seja, falar, compreender, ler e escrever em língua inglesa, seguindo a abordagem comunicativa. Ao postular um ensino embasado na abordagem comunicativa, o conteúdo do programa deve integrar no ensino/aprendizado das quatro habilidades aspectos que envolvam as competências gramatical, sociolingüística, discursiva e estratégica. Sendo assim, o aluno ao escrever ensaios (essays) sobre temas de interesse, como cita o documento, deve saber escolher o registro adequado à situação, competência que faz parte da competência sociolingüística, assim como utilizar os mecanismos de coesão e coerência na produção em língua estrangeira, competência discursiva, e outras. Entretanto, as teorias de Canale e Swain (1980) e Canale (1983) são apenas inferidas por se tratar da abordagem comunicativa, e não citadas no conteúdo programático, como parte do programa a ser trabalhado. O conteúdo do livro didático adotado no curso avançado também aborda as habilidades de falar, compreender, ler, escrever, de forma integrada. Os aspectos lingüísticos, gramática, vocabulário e pronúncia, são apresentados de forma contextualizada. O que se observa é que há uma relação coerente entre o conteúdo proposto da instituição e do material didático, o que faz com que as aulas sigam, em grande parte, os índices do livro didático. Como mencionado anteriormente, se fará a triangulação do conteúdo programático da instituição, do material didático, e os testes de rendimento, para que haja maior confiabilidade a esta pesquisa. Os testes de rendimento que servirão para este estudo são os testes referentes ao conteúdo do material didático, conteúdo este que atende ao conteúdo programático da instituição. As questões propostas nesses testes, isto é, no first test, second test e oral test, compreendem questões de 37 leitura, compreensão auditiva, expressão oral, questões gramaticais e lexicais. Essas questões serão analisadas separadamente e respectivamente, isto é, primeiramente se fará a analisa de uma questão de leitura, a seguir uma questão de compreensão auditiva, de expressão oral, de gramática e finalmente uma questão de vocabulário. O conteúdo programático da instituição cita, ao se tratar da compreensão de leitura no curso avançado, o aluno deve ser capaz de: entender textos sobre temas cotidianos (ex: meio ambiente, trabalho, viagem, etc.) assim como reconhecer informações mais específicas; entender textos complexos assim como reconhecer elementos implícitos (ex: humor, ironia, etc.); entender textos literários acessíveis cuja compreensão apenas requer conhecimento geral da realidade sociocultural mesmo que haja desconhecimento de elementos gramaticais e extenso domínio do vocabulário. A aquisição dessa habilidade constitui-se no domínio de técnicas de leitura, isto é, técnicas, tais como, skimming (leitura corrida para se apreender o sentido geral do texto), scanning (leitura mais detalhada em que se buscam informações específicas), inferences (leitura em busca de informações implícitas), e outras. O desenvolvimento de técnicas de leitura envolve atividades de pré-leitura, leitura e pós-leitura. As atividades de pré-leitura envolvem exploração prévia do assunto abordado no texto, levando em consideração o conhecimento de mundo do aluno/leitor. As atividades de leitura devem expor claramente o propósito para a leitura, isto é, o aluno/leitor vai ao texto com uma proposta específica. As atividades pós-leitura desenvolvem atividades de expansão do assunto reforçando a participação ativa do aluno. O que se pode observar é que com as atividades propostas pelo livro didático, os alunos são preparados para compreender textos autênticos sobre temas cotidianos. Os tipos de textos escolhidos para os testes de compreensão de leitura de língua inglesa giram em torno de temas abordados nas unidades, tais como, saúde, dinheiro, turismo, arquitetura, e outros. Os textos são, geralmente, adaptações de textos autênticos, extraídos de fontes da própria editora Macmillan. O que se espera 38 desses alunos/leitores é que eles estejam aptos a entenderem textos sobre temas cotidianos (ex: meio ambiente, trabalho, viagem, etc.) assim como reconhecer informações mais específicas. Um exemplo de questão de compreensão textual do tipo verdadeiro ou falso, extraído do primeiro teste, pode ser visto na figura 7. Read the passage about a river journey. Mark sentences 1 to 5, T (True) or F (False) or N (No Information). As the boat slowly made its way down the river and emerged from the trees into the sunlight of the grasslands, I got my first view of Boze Village. For the last mile of narrow, winding river, naked village children had been following us, running out of the seemingly impenetrable jungle to shout their welcome, only to disappear again. A hundred yards further on, we would see the same children balanced precariously on an over-hanging branch, laughing and waving. This was to be my Papua New Guinea home for the next two years, and as we tied up to the roots of a giant mango tree, the entire population was standing on the bank, partly to welcome me and partly to have a good look at its very own volunteer. As I carefully stepped over the tree’s exposed roots, hands appeared from everywhere to help me on to the bank. The villagers and I had waited a long time for this day, and they would never have forgiven themselves had I slipped into the muddy brown water below. Inu Dai, the headman, was screaming instructions to everyone. One look at me must have convinced him that whatever talents I possessed, agility was not one of them. I am not quite sure just what he expected, but the arrival of a short, portly, slightly balding, and middle-aged volunteer must have given him some pause for thought. 1. This was the volunteer’s first visit to Papua New Guinea. T/F/N 2. The villagers gave the volunteer a warm welcome. T/F/N 3. Inu Dai was in charge of the boat. T/F/N 4. The volunteer tripped over tree roots and fell into the river. T/F/N 5. The volunteer speaks a little of the local language. T/F/N FIGURA 7 – FIRST TEST Fonte: Centro Cultural Brasil Estados Unidos, documento interno (2008). No teste de compreensão de texto acima, para que o aluno/leitor responda às questões verdadeiro, falso ou sem informação, é necessário ler o texto todo para, primeiramente, apreender o sentido geral, uma segunda leitura em busca de informações específicas, e implícitas. Na questão 1, a informação não esta contida no texto, sendo assim, a alternativa N, sem informação, é a alternativa correta. Na questão 2, as palavras “shout their welcome”, na 2º frase; “waving”, na 3º frase; “to welcome me”, na 4º frase são informações específicas 39 que corroboram a opção verdadeira da questão 2. Além da resposta ser facilmente localizada no texto, o aluno/leitor conta com o reconhecimento da palavra “welcome” que faz parte da competência lexical do aluno. Na questão seguinte, o aluno/leitor deverá buscar na frase 7 informação implícita para optar por responder como falsa a questão 3. Mesmo que o aluno/leitor não saiba o significado da palavra “headman”, ele pode inferi-lo quando compreende que “Inu Dai was screaming instructions to everyone” (Inu Dai estava dando instruções a toda a população), portanto, Inu Daí era o chefe do vilarejo, o que faz com que a questão 3 seja falsa. Na questão 4, o aluno/leitor precisa de suas habilidades lingüísticas para optar pela alternativa falsa. A frase “they would never have forgiven themselves had I slipped into the muddy brown water below” subentende que o voluntário não caiu dentro do rio, se tivesse caído, os habitantes do vilarejo nunca teriam se perdoado. O texto não fornece informação para a última questão, sendo assim, a alternativa N, sem informação, é a alternativa correta. O teste de compreensão textual acima atende ao princípio de validade de conteúdo, isto é, o teste mensura o desempenho do aluno ao ler e entender um texto utilizando técnicas de leitura similares ao que é ensinado em sala de aula. Apesar do tópico do texto ser significativo para o aluno, pois aborda o mesmo tema da unidade testada, a questão do tipo verdadeiro ou falso não simula tarefas da vida real. Sendo assim, o teste não atende ao princípio de autenticidade. Um teste autêntico apresenta tarefas que reproduzem o uso real da língua, isto é tarefas que representam ou se aproximam da realidade. As habilidades, por exemplo, de ler o texto e escrever, ou ler o texto e narrar o episódio, são tarefas com propósitos comunicativos, o que não ocorre na questão acima. O material didático não contempla textos literários, como cita o conteúdo programático da instituição, por essa razão, optou-se em incluir no programa do curso avançado, textos literários autênticos que são trabalhados paralelamente ao livro didático. As avaliações são em forma de projetos de literatura, tendo como foco, elementos literários, tais como, personagens, enredo, aspectos culturais, entre outros. Os alunos fazem apresentações durante um breve período de tempo dos projetos. Por optar em analisar apenas os testes que contemplam o conteúdo do livro didático, American Inside Out upper intermediate, os projetos de literatura não serão analisados. 40 O conteúdo programático também afirma que, ao desenvolver a compreensão auditiva, 1º em relação direta com um ou vários interlocutores, o aluno deve ser capaz de: entender informações detalhadas sobre temas gerais; fazer inferências sobre as opiniões, objetivos dos falantes, mesmo que estes não o façam explicitamente; 2º por telefone, com um interlocutor, o aluno deve ser capaz de conversar sobre assuntos gerais. 3º o aluno deve ser capaz de entender idéias essenciais em discursos e distinguí-las das idéias complementares. 4º em relação a programas transmitidos através dos meios de comunicação, o aluno deve ser capaz de entender o essencial da mensagem e os detalhes relevantes. Observa-se que, no material didático, as atividades contemplam técnicas de pré-compreensão aural, compreensão aural, e pós-compreensão aural. As técnicas são similares às técnicas utilizadas para compreensão textual. Se compararmos as questões de compreensão aural abaixo, extraídas do primeiro teste do curso avançado, observamos que as questões atendem ao conteúdo programático da instituição, o qual cita que o aluno deve ser capaz de entender o essencial da mensagem e os detalhes relevantes. Ou mesmo, o conteúdo do livro, ao mencionar que o aluno deve ser capaz de contar uma historieta (anecdote) utilizando os elementos lingüísticos, discurso indireto. 41 FIGURA 8 – FIRST TEST Fonte: Centro Cultural Brasil Estados Unidos, documento interno (2008). 42 Para resolver a questão A., o aluno deve ser capaz de entender o essencial da mensagem para assim colocar as figuras em ordem. Na questão B., o aluno deve extrair detalhes relevantes para assim escrever a anedota utilizando o discurso indireto. O aluno para resolver esta questão de forma satisfatória deve ter o domínio da competência lingüística, isto é, gramatical e lexical, competência discursiva, para garantir coesão e coerência, estratégica, para compensar as lacunas lingüísticas e competência sociocultural, por se tratar de um artigo para revista de viagem. As questões são bem elaboradas, pois integram o uso das habilidades, isto é, o aluno ouve o episódio, anota os pontos essenciais, tendo assim elementos suficientes para narrar o acontecido. Portanto, são questões integradoras, pois envolvem mais de uma habilidade. A ênfase é combinar habilidades que simulam situações que acontecem no dia-a-dia do aluno, como mostra o exercício acima, característica do período sociológico-integrativo. Outra característica que as questões apresentam está relacionada à validade de conteúdo. Para que o aluno reporte o episódio satisfatoriamente, ele se submete a desenvolver uma questão que envolve a organização de idéias apresentadas em uma questão de compreensão aural, assim como o conhecimento do discurso indireto. A autenticidade aqui pode ser percebida da seguinte maneira, tais como: a apresentação contextualizada da questão, a presença de um tópico significativo para o aluno, e a presença de uma tarefa que se aproxima da realidade. Uma porcentagem significativa dos alunos, principalmente os alunos que estudam em escolas de língua, priorizam a produção oral em língua estrangeira. Comunicar na sua própria língua ou em uma língua estrangeira significa, para muitos alunos, falar a língua com acuidade e principalmente fluência. A proposta do conteúdo programático para que o aluno desenvolva a expressão oral é: 1º em relação direta com um ou vários interlocutores, participar de uma conversa sobre assuntos gerais e ser capaz de: proporcionar informações detalhadas; contribuir para discussões (ex: expressar opiniões, concordar e discordar) 43 2º fazer apresentações durante um breve período de tempo sobre temas de livre escolha. 3º por telefone, manter uma conversa sobre assuntos gerais. 4º participar de entrevistas informais sobre temas cotidianos e de trabalho. A proposta do material didático adotado é desenvolver fluência utilizandose dos temas das unidades e dos exercícios de gramática e vocabulário, assim como os exercícios de historietas (anecdotes), nos quais o aluno conta um episódio baseado em situações pessoais, tais como memórias de infância, viagens de turismo, entre outros. Segundo Sue Kay e Vaughan Jones, autores do livro didático American Inside Out upper intermediate, quando você aprende a tocar um instrumento musical, você não pode passar todo o tempo exercitando escalas; você também precisa aprender a conjugar todas as notas para tocar uma música. O aluno ao contar, por exemplo, momentos de uma viagem de verão, também estará organizando os elementos lingüísticos para formar um discurso. As avaliações orais são em forma de entrevistas sobre temas cotidianos. Os temas são os apresentados nas unidades do material didático. Sendo assim, a avaliação oral valida a proposta do conteúdo programático da instituição e do material didático. Um modelo de historieta, extraído do teste oral, pode ser visto na fig. 9. Think about a family vacation you went on when you were a child. You are going to tell the interviewer about it. Choose from the list below the things you want to talk about. Think about what you are going to say and how you are going to say it. o Where did you go? o Was it the first time you’d been there, or had you been there before? o Who went on this vacation with you? o How did you get there? o Was it a good place for a vacation? o Where did you stay? o How did you spend your time there? o Did everybody have a good time, or was there somebody who didn’t enjoy the trip very much? o Have you been back to the same place since you were a child? FIGURA 9 – ORAL TEST Fonte: Centro Cultural Brasil Estados Unidos, documento interno (2007) 44 O aluno entrevistado para desenvolver o tema acima também deve ter o domínio das quatro competências: lingüística, discursiva, estratégica, e sociocultural. Ou seja, o entrevistado deve conhecer desde a fonologia até a semântica, saber combinar e expressar suas idéias para garantir coerência. Deve ser capaz de usar estratégias verbais e não-verbais para compensar as lacunas lingüísticas, ser capaz de estabelecer uma interação com o entrevistador. E, por se tratar de uma entrevista, ser capaz de distinguir entre a formalidade e a informalidade para escolher os elementos lingüísticos adequados. Atingir o domínio das quatro competências e três dos elementos: vocabulário, gramática e pronúncia é o objetivo do aluno, que deseja estar falando satisfatoriamente após um determinado período de aprendizagem. Apesar da proposta do material didático de desenvolver fluência utilizando-se dos temas das unidades e dos exercícios de gramática, vocabulário, assim como os exercícios de historietas (anecdotes), na realidade, as competências mencionadas acima, poucas vezes transparecem no livro didático. As práticas orais apresentadas no material são, geralmente, diálogos que servem de pretexto para o léxico, a pronúncia e a gramática. E no final, o enlace é muito superficial, repetindo a compartimentação do modelo tradicional de vocabulário, pronuncia e gramática. Contudo, a questão atende ao principio de autenticidade, por se tratar de uma entrevista, onde o entrevistado narra um episodio vivenciado por ele. O tema é significativo, ou seja, relevante para o aluno. O documento também afirma que, ao desenvolver a expressão escrita, o aluno deve ser capaz de: escrever ensaios sobre temas de interesse do aluno; usar estruturas sintáticas e morfológicas mais rebuscadas. O material didático não contempla ensaios (essays), sendo assim, optouse em incluí-los no programa. Os ensaios (essays) são trabalhados dentro do processo de escrita, paralelamente ao conteúdo do livro didático. Os alunos, no processo, escrevem ensaios (essays) argumentativos, discursivos. Os ensaios são revisados várias vezes pelos colegas de sala e pelo professor para assim chegarem ao produto final. Não há nota no processo e nem no produto, apenas acompanhamento, comentários e sugestões. O teste escrito é a produção de 45 ensaios (essays) argumentativos, discursivos sobre temas do cotidiano. O teste sugere dois temas e o aluno opta por um deles. Para desenvolver o tema no formato de ensaio (essay), o aluno deve ter o domínio lingüístico, utilizando as estruturas sintáticas e morfológicas mais rebuscadas, o domínio do discurso, o que implica em saber combinar as idéias para garantir a coesão e a coerência. E o domínio sociocultural, que se refere à capacidade de usar dos conhecimentos lingüísticos no contexto adequado. Por optar em analisar apenas os testes que contemplam o conteúdo do livro didático – American Inside Out upper intermediate, não analisaremos os testes escritos. Um exemplo de questão gramatical, extraído do segundo teste (second test), pode ser visto na figura 10. Write the second sentence, beginning with the words given, so that it means the same as the first. 1. “He stole my bag,” she said. She claimed ____________________________________________________. 2. “Don’t worry. Your money is safe with us,” the financial advisor told the woman. The financial advisor reassured _____________________________________. 3. “You will receive an end of year bonus,” she said to the workers. She told _______________________________________________________. FIGURA 10 – SECOND TEST Fonte: Centro Cultural Brasil Estados Unidos, documento interno (2008). A questão é do tipo item isolado na qual o aluno tem que saber apenas como transformar discurso direto, direct/quoted speech, em discurso indireto, indirect/reported speech, considerando os tempos verbais introdutórios claimed, reassured, told. A questão gramatical acima, isto é, questão de item isolado de gramática, está embasada na concepção behaviorista da linguagem, que data do período psicométrico-estruturalista. Os testes de itens isolados, testes que fragmentam a língua em pedaços, fazendo com que as características da língua em uso para comunicação sejam negligenciadas, aparecem nesse período. A origem desses testes se deu a partir dos testes psicométricos da psicologia e dos lingüistas estruturalistas. As questões eram de múltipla escolha, questões de itens isolados, o 46 que levava a uma maior objetividade na correção e confiabilidade. Testes do período posterior ao psicometrico-estruturalista, ou seja, testes da era psicolingüísticasociolingüística, integram as habilidades de maneira mais próxima do uso lingüístico real. Um exemplo de questão de vocabulário do tipo preenchimento de lacunas, também extraído do segundo teste, pode ser visto na figura 11. Complete the sentences below by adding a suitable prefix or suffix to each word in parentheses to make an adjective. 1. Umm. These chocolates are ___________ (resistible)! 2. __________ (Regard) of what I do, he’s never satisfied with my work. 3. I wish he’d make up his mind. He’s not usually this (decisive). FIGURA 11 – SECOND TEST Fonte: Centro Cultural Brasil Estados Unidos, documento interno (2008). Esta questão também é do tipo item isolado. O aluno tem que saber prefixos e sufixos das palavras que foram extraídas da unidade testada, para resolver a questão. Tanto a questão gramatical como a de vocabulário ilustra uma visão de língua estruturalista na qual observamos uma quebra do sistema lingüístico em pequenas unidades. As questões se limitam em avaliar a sintaxe e o léxico, desconsiderando a capacidade do aluno de, por exemplo, recontar uma anedota ou artigo de revista e/ou jornal utilizando assim de tais elementos gramaticais. O que se observa é que o conteúdo do livro didático não abandonou itens gramaticais e de vocabulário isolados. Isso leva a avaliação, esporadicamente, incluir fragmentos da língua. Se o que se pretende com a avaliação é avaliar a compreensão da leitura de um texto, compreensão auditiva, expressão oral e escrita, tanto a formulação da pergunta como a resposta (aberta no caso de um teste dissertativo) ou alternativas (no caso de múltipla-escolha) têm que ser desenvolvidos para dar conta não somente da competência comunicativa, mas também do desempenho comunicativo, isto é, a demonstração real desse conhecimento em situações reais e autênticas de comunicação. 47 O que ocorre com os testes apresentados e analisados nas páginas 45 e 46 é a preocupação de avaliar o conhecimento do aluno em resolver questões de gramática e vocabulário, com questões de itens isolados, que datam da era psicométrica-estruturalista. São testes confiáveis, isto é, testes objetivos facilmente corrigidos e dificilmente há alteração dos escores. Entretanto, são testes com validade e autenticidade questionáveis. Observa-se também a preocupação de incluir questões integradoras, como os testes citados nas páginas 41 e 43, que mostram o desempenho do aluno em resolver tarefas que se assemelham àquelas que se têm na vida real. São testes que têm maior validade e autenticidade, mas menor confiabilidade por serem testes subjetivos, vulneráveis na correção. 48 5 CONSIDERAÇÕES FINAIS Este trabalho teve como objetivo principal investigar as avaliações de língua inglesa que estão sendo operacionalizadas em sala de aula em um instituto de ensino de língua estrangeira e verificar se estas estão inseridas na era psicolingüística-sociolíngüística e se de fato passam pelo crivo dos princípios de validade de conteúdo e autenticidade. Os resultados do estudo oferecem evidências de que a validade de conteúdo foi adequada uma vez que os itens constantes do programa do curso foram abordados nas avaliações analisadas. Os testes analisados procuram copiar situações autênticas de maneira a avaliar a capacidade do aluno de reproduzir situações cotidianas utilizando as estruturas gramaticais e o léxico de maneira contextualizada. Os resultados também mostram evidências de que questões do tipo estruturalistas são encontradas nos testes analisados, como os exercícios de gramática e vocabulário apresentados nas páginas 45 e 46. Mas, também podemos observar que há questões do período psicolingüístico-sociolingüístico, como os exercícios das páginas 41 e 43, nos quais o examinando pode mostrar seu desempenho através de tarefas que se assemelham àquelas encontradas em situações da vida real. Isso mostra que os resquícios do período psicométrico-estruturalista estão ainda impregnados na própria metodologia de ensino/aprendizado e também no próprio método de avaliação. A quebra desse paradigma, isto é, a tentativa de adequar os testes ao período psicolingüístico-sociolingüística, abandonando questões de itens isolados e privilegiando tarefas que se assemelham àquelas encontradas em situações da vida real, é um dos desafios, não apenas da nossa instituição, mas do ensino/aprendizado de língua estrangeira em geral. 49 6 REFERÊNCIAS BIBLIOGRÁFICAS BACHMAN, Lyle F. Modern language testing at the turn of the century: assuring that what we count counts. Language Testing. v. 17, n. 1, January 2000. p. 1-42. BAILEY, K. M. Learning about language assessment: Dilemmas, decisions, and directions. New York: Heinle & Heinle, 1998. BROWN, H. D. Principles of Language Learning and Teaching. 4. ed. White Plains, NY: Pearson Education, 2000. ____________ Teaching by principles: An interactive approach to language pedagogy. 2. ed. White Plains, NY: Pearson Education, 2001. ____________ Language assessment: Principles and classroom practices. White Plains, NY: Pearson Education, 2004. CANALE, M. From communicative competence to communicative language pedagogy. In J. Richards and R. Schmidt (eds.), Language and communication. London: Longman, 1983. p. 2-27. CANALE, M.; SWAIN, M. theoretical bases of communicative approaches to second language teaching and testing. Applied Linguistics. n.1, p.47, 1980. CELCIA-MURCIA, M.; LARSEN-FREEMAN, D. The grammar book: an ESL/EFL teacher’s course. Massachusetts: Heinle & Heinle, 1983. CHOMSKY, N. Aspects of the theory of syntax. Cambridge, Mass.: MIT press, 1966. CELPE-BRAS. Certificado de Proficiência em Língua Portuguesa. Disponível em: http://portal.mec.gov.br/sesu/ Acesso em: 17 de março 2008. ECO, H. Como se faz uma tese. Tradução de Gilson Cesar Cardoso. 20.ed. São Paulo: Perspectiva, 2006. 50 ELLIS, R. Understanding second language acquisition. Oxford: Oxford University Press, 1994. ____________ Second language acquisition. Oxford: Oxford University Press, 1998. HADLEY, A. O. Teaching language in context. Massachussets: Heinle & Heinle, 1993. HALLIDAY, M.A.K.; HASAN, R. Cohesion in English. London: Longman, 1976. HYMES, D. Competence and performance in linguistic theory. In R. Huxley & E. Ingram (eds.), Language acquisition: Models and methods. London: Academic Press, 1971. KAY, S.; JONES, V. American Inside Out: upper intermediate. Oxford: Macmillan Education, 2003. LADO, R. Language testing: The construction and use of foreign language tests. New York: McGraw-Hill Book Company, 1961. LARSEN-FREEMAN, D. Techniques and principles in language teaching. New York: Oxford University Press, 1986. LIGHTBOWN, P. M.; SPADA N. How languages are learned. Oxford: Oxford University Press, 1999. MARCUSCHI, L. A. Exercícios de compreensão ou copiação nos manuais de ensino de língua? Em aberto, Brasília, ano 16, n. 69, p. 64-82, jan. /mar. 1996. NERY.R. M. Questões sobre questões de leitura. Campinas, São Paulo: Editora Alínea, 2003. PALMA, A. C. A busca pela minimização dos efeitos da subjetividade na avaliação da escrita em língua estrangeira. 2005. Dissertação. (Mestrado em Estudos Lingüísticos) Setor de Ciências Humanas da Universidade Federal do Paraná, Curitiba, 2005. Não Publicado. 51 RETORTA, M. S. Efeito Retroativo do Vestibular da Universidade Federal do Paraná no ensino de língua inglesa em nível médio no Paraná: uma investigação em escolas públicas, particulares e cursos pré-vestibulares. 2007. Tese. (Doutorado em Ensino-Aprendizagem de Segunda Língua e Língua Estrangeira) Departamento de Lingüística Aplicada do Instituto de Estudos da Linguagem da Universidade Estadual de Campinas, São Paulo, 2007. Não Publicado. RICHARDS, R.J.; RODGERS, T. S. Approaches and methods in language teaching. Cambridge: Cambridge University Press, 1986. SAVIGNON, S.J. Communicative Competence: Theory and classroom practice. New York: The McGraw-Hill Companies Inc, 1997. SCARAMUCCI, M. V. R. Avaliação: mecanismo propulsor de mudanças no ensino/aprendizagem de língua estrangeira. Revista Contexturas. São Paulo, APLIESP, p. 75-81, 1998-1999. SCARCELLA, R. C.; OXFORD, R. L. The Tapestry of Language Learning. Boston: Heinle & Heinle Publishers, 1992. SHOHAMY, E. A practical handbook of language testing for second language teachers. Tel Aviv, Israel, 1998. Manual não publicado. SPOLSKY, B. Language Testing: art or science. INTERNATIONAL CONGRESS OF APPLIED LINGUISTICS, 4, 1976, Stuttgart- Germany, Paper. StuttgartGermany: HochSchulVerlag. 1976. WRIGHT, A. Let’s Learn English. New York: Litton Educational Publishing, 1971.