Ensino da Língua Gestual Assistido por Personagens 3D Virtuais Leonel Domingues Deusdado - PDF
Ensino da Língua Gestual Assistido por Personagens 3D Virtuais Leonel Domingues Deusdado
Download "Ensino da Língua Gestual Assistido por Personagens 3D Virtuais Leonel Domingues Deusdado"
Maria das Graças Clementino Diegues
1 Ensino da Língua Gestual Assistido por Personagens 3D Virtuais Leonel Domingues Deusdado!"!#$!%!&'() ("(!*&(! &)!+!,-.!!
2 ( The Portuguese Sign Language (LGP) faces a low diffusion level, among the deaf as well as the hearing communities. The communication of a deaf person, to be effective, requires the knowledge of LGP, not only on the speaker s side, but also from the listener s. It is also essential that both speak the same sign language. Due to the shortage of information, or lack of availability of the language, it is common to see people of distinct regions, using different gestures for the same words. It is in this babylon that, in linguistic terms, the deaf people live nowadays. As communication is an essential factor to learning, it is fundamental to explore all the possible ways of taking the LGP to a large number of people. The presented work, focuses on the use of the new technologies in the diffusion and teaching of the sign language. Even thought there is an agreement on the need of human intervention in the teaching of a sign language, it is also true that there is no dispute in relation to the added value that the new technologies represent as support material in the teaching. In this dissertation, it is given special emphasis on the technologies that use images and/or models based in three-dimensional graphics to create virtual signers.
3 A Língua Gestual Portuguesa (LGP) debate-se com um nível de divulgação demasiado baixo, tanto entre a comunidade surda como na comunidade ouvinte. A comunicação por parte de um surdo, para ser eficaz, envolve o conhecimento da LGP, não só da parte do emissor como também do receptor. É também fundamental que ambos falem a mesma língua gestual. Devido à falta de informação, ou falta de disponibilização da mesma, é frequente verificar-se que, na prática, pessoas de regiões distintas, utilizam gestos diferentes para as mesmas palavras, sem que cada um entenda a variação do seu vizinho. É nesta babilónia, em termos linguísticos, que os surdos actualmente vivem. Sendo a comunicação um factor crucial para a aprendizagem, torna-se fundamental explorar todas as formas possíveis para fazer chegar a LGP ao maior número de pessoas. O trabalho apresentado, debruça-se sobre a utilização das novas tecnologias para divulgação e ensino da língua gestual. Embora exista um consenso sobre a necessidade de intervenção humana no ensino de uma língua gestual, também é verdade que não há contestação em relação ao valor acrescentado que as novas tecnologias representam como material complementar desse ensino. Nesta tese é dado um especial ênfase às tecnologias que utilizam imagens sintetizadas e/ou modelos baseados em gráficos tridimensionais para produzir gestualistas virtuais.
4 %(! Ao meu orientador, Professor António José Borba Ramires Fernandes, pelo tema de investigação e pela oportunidade que me facultou em trabalhar numa área que tanto me motivou. Ao meu pai, à minha mãe e aos meus irmãos que permitiram que pudesse chegar até aqui, e que tanto se esforçaram e me motivaram para olhar sempre em frente. A todos os meus amigos e namorada que me souberam compreender e me suportaram durante os tempos mais difíceis. À Escola Superior de Tecnologia e Gestão do Instituto Politécnico de Bragança, pelas facilidades concedidas durante o período de elaboração desta tese.
5 /!( Introdução A Língua Gestual A Língua Gestual na Europa Questões mais Frequentes a Propósito da Língua Gestual A Comunidade Surda A Revolução Silenciosa O Futuro Ideal, as Possibilidades Tecnológicas Perante as Pessoas Surdas Objectivos da Tese Resumo dos Capítulos Seguintes Estado da Arte Integração e Trabalho de Apoio Formação de Pessoas Surdas: Análise da Situação Dificuldade no Processo Formativo Necessidades Específicas Testes de Suportes Multimédia Para a Educação e Supressão de Barreiras de Comunicação Para Pessoas Surdas Symbol CD_Rom Interactivo de Visita ao Palácio Real de Madrid Critérios e Adaptações Especificas Para Pessoas com Necessidades Especiais Representação de ASL na World-Wide Web com Soletração Através de Dedos O Modelo da Mão Painel de Controlo Animação Soletrar Através dos Dedos Modelos de Markov Para o Ensino Interactivo de Gestos Objectivos do Projecto Construção do Sistema Projecto Mudra - Multimédia e Animação 3D Para Pessoas Surdas O Projecto As Vantagens Descrição Técnica A Mostra de Material 3D Avatar Gestualista na Web Gravação e Visualização dos Dados a Partir dos Movimentos dos Gestos Dos Dados Extraídos dos Movimentos Para a Página Web O Projecto Simon Futuros Desenvolvimentos Modelação e Animação de Língua Gestual Representada por meio de Linhas Modelação de Língua Gestual Expressões Faciais Definição da Postura Sintetização de Gestos Animação de Gestos i
6 2.8.6 Visualização Exemplos de Expressões Faciais Exemplos de Gestos Discussão e Conclusões Retiradas Tecnologias Gráficas de Apoio Computação Gráfica Origens da Computação Gráfica O Crescimento da Computação Gráfica O que é a Computação Gráfica Interacção em Ambientes Tridimensionais Parâmetros do Processo Interactivo Resolução da Interacção Graus de Liberdade Interacção em Ambientes Virtuais Interacção Indirecta sobre Objectos Manipulação com Controlos Comuns Manipulação com Controlos Específicos Para Manipulação 3D Interacção Directa Sobre Objectos Interacção com Manipuladores Tridimensionais Cinemática e Cinemática Inversa Navegação Classificação das Metáforas de Navegação Características Típicas do Movimento de uma Câmara Virtual A Aplicação Construtor de Movimentos para Língua Gestual Os Modelos Poser Construção dos Modelos Simplificação dos Modelos (mãos) Construtor de Movimentos Pulse3D Descrição do Ambiente de Trabalho A Biomecânica da Mão Definição de Joints e Bones na Articulações dos Modelos Especificação da Interface Implementação e especificação da Interface (manipulador 3D + rotação + translacção) para o Construtor3D Abecedário 3D O Modelo Exportação Morpher Modifier no 3DStudioMax Display no Pulse 3D Página Web Animações Vídeo Gestuário 2D Testes de Usabilidade Perguntas e Respostas Resumo Geral ii
7 5.2.1 A Aprendizagem de Língua Gestual Recorrendo à Informática O Abecedário3D O Construtor 3D O Gestuário2D As Animações Vídeo Propostas A Aplicação no Geral Conclusões e Trabalho Futuro Conclusões Trabalho Futuro Bibliografia Anexos... C Respostas Individuais aos Inquéritos... C Conteúdo e Instalação do CDROM... B iii
8 0% Figura 1 Painel de controlo (mão direita) Figura 2 Tradução ASL de cadeia de letras e números (mão direita) Figura 3 Posição final da mão para o gesto C Figura 4 Interface do sistema de demonstração para reconhecimento de gestos Figura 5 Humanóide 3D Figura 6 Características para a interacção 3D Figura 7 Conversões entre o Servidor e Cliente Figura 8 Captura de movimentos com ajuda de um intérprete de língua gestual Figura 9 Reprodutor de língua gestual Figura 10 Gestualista virtual Simon Figura 11 Captura de movimentos a partir de um intérprete em língua gestual Figura 12 Editor de linhas com várias possibilidades para conseguir uma expressão facial específica Figura 13 Modelo do esqueleto da parte superior do corpo com as suas articulações específicas Figura 14 Janela de diálogo de composição de gestos e biblioteca de armazenamento de gestos Figura 15 Dois tipos de linhas são válidos nas expressões faciais, neste caso gerando um ar de surpresa Figura 16 Expressão facial sorridente através de gráficos de linhas Figura 17 Dois tipos de representação dos gestos com ênfases em diferentes partes do corpo para captar a atenção do espectador Figura 18 Relacionamento da computação gráfica com outras áreas Figura 19 Controlo dos Graus de Liberdade Figura 20 Écran com excesso de controlos Figura 21 Redução do número de controlos Figura 22 Interface com ícones de transformação Figura 23 Widget tipo Relógio Figura 24 Widget 3D a Escala Figura 25 Disposição de vistas ortográficas Figura 26 Disposição incorrecta de eixos coordenados em vistas ortográficas Figura 27 Controlo de Movimentação de objectos do GLEEM Figura 28 Movimento em diferentes sistemas de referência Figura 29 Eixos do sistema de referência do objecto no Cinema 4D Figura 30 Figura articulada por Joints e Bones Figura 31 Cinemática do modelo de um braço humano Figura 32 Rendering do modelo do tronco superior humano Figura 33 Modelo movimentando a mão para junto do objectivo, utilizando a cinemática inversa, com imposição dos constrangimentos dos ângulos de junção do ombro e cotovelo Figura 34 Componentes de um observador virtual Figura 35 Alternativas para movimento de câmara Figura 36 Lista de opções Poser Figura 37 Vista Geral do ambiente de trabalho Interface do Poser Figura 38 Modelo da mão utilizada em experiências por Ouhaddi e Horain iv
9 Figura 39 Comparação de parâmetros entre a fotografia e o modelo Figura 40 Modelo completo de onde foram retiradas as duas mãos Figura 41 Modelos das mãos resultante Figura 42 O modelo 3D de humanóide completo Figura 43 Modelos com redução do número de polígonos Figura 44 Modelo de mão inicial polígonos Figura 45 Modelo de mão simplificado polígonos Figura 46 Modelo de mão final optimizado no Pulse3D Figura 47 Vista geral do Interface Pulse3D Figura 48 Esqueleto e articulações da mão Figura 49 Movimentos ao nível das articulações Metacarpo-Falanges Figura 50 Bones e Joints do polegar da mão direita Figura 51 Pontos de possível articulação do modelo representativo da mão direita Figura 52 Estrutura hierárquica de todos os componentes e funções do modelo mão direita Figura 53 Pontos de possível articulação do modelo de corpo inteiro Figura 54 Restrições de movimentos nos pontos articulados Figura 55 Modelos finais de interacção para a mão com os respectivos controladores 70 Figura 56 Interface do Construtor 3D Figura 57 Corte do modelo necessário à animação Figura 58 Interface da aplicação Maximum Pose Figura 59 Animação do tipo Morphing Figura 60 Momento de redefinição dos estados de Morpher no 3DStudioMax Figura 61 Estrutura hierárquica do Abecedário3D Figura 62 Representação da letra F Figura 63 Animação gestual do verbo amar Figura 64 Imagem 2D do gesto representando o número zero v
10 Capítulo 1- Introdução 1 Capítulo 1 Introdução A língua gestual é uma língua de movimento e de espaço, das mãos e dos olhos, da comunicação abstracta assim como do contar de uma história icónica, mas acima de tudo, é a língua da comunidade surda. Não se trata de uma nova língua nem de um sistema recente de comunicação desenvolvido por pessoas ouvintes, pelo contrário, tratase de uma forma de comunicação que ocorre entre pessoas que não ouvem. É uma língua que até há bem pouco tempo tinha sido algo ignorada e por esse motivo parecia subvalorizada no seu potencial. É diferente, muitas vezes impressionantemente diferente das línguas faladas, mas partilha características e processos gramaticais com muitas outras línguas faladas. A verdade é que o mundo da comunicação em língua gestual não é um mundo triste, cinzento, um mundo de silêncio. É um mundo alegre, colorido e ás vezes mesmo muito barulhento. É a primeira língua para os surdos, aquela que em primeiro lugar e naturalmente utilizam para comunicar. A língua gestual existe em Portugal, há incontáveis gerações. Mas por ser falada por uma minoria, ela, pura e simplesmente, aos olhos do cidadão comum, não existia. Mas isso não obsta a que, no nosso país, haja efectivamente duas línguas autóctones: a Portuguesa e a Gestual Portuguesa. Isto para não falar do Mirandês e dialectos afins. A necessidade de remover as barreiras que impedem o reconhecimento das línguas gestuais tem estado presente em diversos documentos de cariz internacional. Assim, vários congressos de surdos a nível internacional recomendaram quer o reconhecimento das línguas gestuais, quer da profissão de intérprete. Também as Nações Unidas se pronunciaram sobre o assunto, integrando esta problemática na resolução nº 48/96 que definiu as "normas sobre igualdade de oportunidades para as pessoas com deficiência". Finalmente, o Parlamento Europeu aprovou uma resolução sobre línguas gestuais que prevê a abolição pelos estados-membros dos obstáculos à utilização das línguas gestuais e sublinha a importância do intérprete de língua gestual. Também a Constituição
11 Capítulo 1- Introdução 2 Portuguesa passou a ter, após a última revisão constitucional referência à língua gestual Portuguesa. Trata-se de uma língua própria, diferente da língua Portuguesa e das línguas gestuais dos outros países, isto é, das outras comunidades de surdos. A aprendizagem da língua gestual Portuguesa é por isso um instrumento indispensável para a verdadeira integração dos surdos portugueses e para que usufruam da sua plena cidadania. As crianças e os jovens surdos são talvez os principais afectados por não estar ainda garantido o ensino e o acesso generalizado da língua gestual Portuguesa e a sua utilização nas mais diversas situações na sociedade. Contrariamente à crença popular, a língua gestual não é internacional. Cada país tem a sua própria língua gestual. Nos países onde existem duas ou mais línguas faladas, por exemplo, a Bélgica e Espanha, existem o mesmo número de línguas gestuais. As pessoas surdas tal como as pessoas ouvintes, são educadas na língua da sua região e raramente o serão numa outra língua do país. Por exemplo, na Bélgica, as pessoas surdas flamengas são educadas em escolas de surdos flamengas e não nas escolas de surdos de expressão francófona, e vice - versa. Em Portugal isto também tende a acontecer, daí ser fundamental também um unificador da língua gestual Portuguesa para que os surdos não se sintam fora cá dentro. As línguas gestuais não dependem das línguas dos seus respectivos países. Isto pode ser comprovado pelo facto de a Grã-Bretanha, Irlanda e os Estados Unidos da América serem todos países falantes de Inglês, mas terem línguas gestuais completamente diferentes. De facto, a língua gestual Americana (ASL 1 ) está mais próxima da língua gestual Francesa (LSF 2 ) do que da língua gestual Britânica (BSL 3 ). A explicação é simples: as raízes da ASL encontram-se em França, e não na Inglaterra. É quase impossível determinar o número de utilizadores de língua gestual na União Europeia, pois não foram recolhidos dados nesse sentido, e existem muito poucas pesquisas quantitativas para nos reportamos. O número de gestualistas surdos deverá ser mais ou menos o mesmo da incidência de pessoas surdas pré-linguais, 1 por 1000/1500, apesar de nem todos os surdos pré-linguais gestualizarem e, pelo contrário, alguns surdos pós-linguais são gestualistas. 1. A língua gestual é "universal"? NÃO. Cada país, por vezes cada região, tem uma língua gestual própria, testemunha de uma cultura e dos modos de vida que são exclusivos da comunidade surda desse país ou região. 2. É possível exprimir um pensamento totalmente abstracto na língua gestual? 1 American Sign Language 2 Langue des Signes Française 3 British Sign Language
12 Capítulo 1- Introdução 3 SIM. Do mesmo modo que nas línguas orais. 3. É difícil aprender a língua gestual? SIM... e... NÃO. As pessoas ouvintes não estão habituadas a exprimirem-se numa base totalmente visual, nem de utilizarem as mãos e o corpo para tal. No entanto o nível de dificuldade depende igualmente das capacidades de cada pessoa. 4. Os surdos "soletram" todas as palavras para comunicar? NÃO todas. Os surdos utilizam os gestos que são as imagens simbólicas dos conceitos exprimidos. É o conjunto dos parâmetros do gesto assim como a expressão da face e o movimento do corpo que criam uma imagem precisa da ideia exprimida. No entanto há palavras que por serem pouco usuais ou muito específicas necessitam de ser soletradas 5. Como se chama a língua gestual em Portugal? Chama-se língua gestual Portuguesa, abreviadamente designada por LGP. Erroneamente ainda há muitas pessoas que continuam a designá-la só por linguagem gestual. 6. Que diferença existe entre a língua gestual Portuguesa e o Português gestual? A língua gestual Portuguesa é uma verdadeira língua com um léxico e uma gramática próprios. É a comunicação das pessoas surdas, cada língua gestual é portadora da cultura das pessoas que a utilizam. O Português gestual é um método deturpado de comunicação que utiliza o vocabulário da língua gestual Portuguesa numa estrutura gramatical e numa ordem pertencente à língua oral Portuguesa. Serve unicamente para mostrar a ordem dos gestos numa frase em Português mas não transmite de maneira válida o pensamento de alguém, visto não respeitar as regras gramaticais da língua gestual Portuguesa e a necessidade duma lógica visual. 7. Existe um gesto para cada palavra em Português? Como nas línguas orais, a língua gestual tem por vezes várias traduções diferentes (segundo os sentidos) para uma palavra de Português ou, ao inverso, um só gesto permite traduzir várias palavras de Português.! Para dissipar quaisquer dúvidas, convém esclarecer, desde já, que nem todos os surdos pertencem à comunidade surda, e que esta inclui também pessoas ouvintes. A comunidade surda é um conceito antropológico e linguístico: são os falantes da língua gestual portuguesa, é uma minoria linguística do nosso país. Os filhos ouvintes de pais surdos também fazem parte dela, porque aprenderam a língua gestual, desde miúdos, para comunicar com os pais [1]. Para classificarmos um indivíduo como surdo, devemos levar em consideração, aspectos anatómicos-fisiológicos e também significados qualitativos, pois a surdez possui graus muito diferentes, nuances extremamente subtis. Dentre as muitas e
13 Capítulo 1- Introdução 4 diferentes formas de classificação de surdez, usaremos a que Oliver Sacks (1986) utilizou no seu livro Vendo Vozes : 1. Audição deficiente, pessoas que só conseguem ouvir alguma coisa com o uso de acessório auditivo e bastante paciência por parte daqueles que lhes falam. Muitos de nós terão pais ou avôs nessa categoria. 2. Extremamente surdos, muitos em decorrência de uma doença ou lesão no ouvido nos primeiros anos de vida, mas no caso deles, como também acontece com as pessoas de audição deficiente, ainda é possível ouvir e falar, especialmente com os novos aparelhos auditivos. 3. Profundamente surdos, que não tem qualquer esperança de ouvir alguma fala. As pessoas profundamente surdas não podem conversar de maneira usual, podem interpretar a leitura labial, usar a língua gestual ou fazer as duas coisas. Calcula-se que existam cerca de 100 a 150 mil pessoas que não ouvem bem em Portugal. Há as pessoas que nasceram surdas, outras perderam o ouvido, por vários motivos, por acidente, por trabalhar expostos ao ruído intenso durante vários anos, etc. Mas alguns deles, por variadíssimas razões (incompreensão, falta de informação ou preconceito) nunca chegaram a entrar em contacto com a LGP. Portanto, não fazem parte da comunidade surda. Há cerca de 15 mil pessoas, em Portugal, que têm como língua primeira a língua gestual Portuguesa, o seu modo de expressão, o seu principal traço de identidade pessoal e de grupo. A língua gestual tem para eles exactamente o mesmo papel que tem para nós o Português. Daí que, naturalmente, prefiram 'juntar-se aos seus'. Não se trata de um apartheid, mas de uma comunidade diferente, que fala a mesma língua. E tal como os surdos podem sentir-se 'noutro país'quando comunicam com um ouvinte, também um ouvinte se sentirá 'estrangeiro'se entrar, por exemplo, no bar da Associação Portuguesa de Surdos, onde a língua gestual é falada por todos. A leitura labial também é importantíssima, é talvez a primeira coisa que em qualquer escola de surdos se ensina a uma criança surda, é fundamental para que qualquer pessoa surda possa comunicar com pessoas ouvintes, ou pelo menos conseguir entendê-los. Em Portugal o ensino da leitura labial não se generaliza muito a surdos que ensurdecem na idade adulta. Como facilmente se entende a língua gestual é mais rica, mais esclarecedora, mais eficaz, mas o desejável é o complemento destes dois tipos de comunicação. "#$%&!' Portugal e a Finlândia são os únicos países europeus que reconhecem os surdos como minoria linguística na Constituição. A Lei Fundamental Portuguesa consagra, no art. 74, ponto 2, alínea h, a necessidade de o Estado 'proteger e valorizar a língua gestual portuguesa, enquanto expressão cultural e instrumento de acesso à educação e de igualdade de oportunidades '.
14 Capítulo 1- Introdução 5 Pela primeira vez, é reconhecido o direito de uma criança surda frequentar a escola com possibilidade de ter o ensino em língua gestual Portuguesa. E o salto qualitativo é por demais evidente, visto que, de acordo com os estudos existentes, só assim ela poderá, mais facilmente, aprender o Português. Em Copenhaga, numa escola onde se concentram parte dos alunos surdos da Dinamarca, e cujo corpo docente é constituído por professores surdos e professores ouvintes, os miúdos aprendem como segunda língua, e sem dificuldade nenhuma o Dinamarquês, sendo por consequência bilingues. Fazem todo o seu percurso escolar juntos, comunicam em língua gestual e tiram apontamentos em Dinamarquês, com toda a naturalidade. Em Portugal, esta é ainda uma realidade nova, mas os estudos feitos nos países escandinavos concluem que as crianças surdas que têm a língua gestual do seu país como língua primeira tem resultados semelhantes às crianças ouvintes. Em Portugal, os professores surdos escasseiam. Ora, sem um professor que fale em LGP ou um intérprete, nenhum aluno surdo consegue ultrapassar as dificuldades inerentes às matérias leccionadas no ensino secundário. Para já nem falar no ensino superior. Faltam, portanto, os intérpretes. Existem alguns intérpretes que não escolheram, por assim dizer, a aprendizagem, porque são filhos de pais surdos. Barbara Schmidbauer (PSE/D), em nome da Comissão do Emprego e dos Assuntos Sociais, questionou a Comissão Europeia com a pergunta oral B4-489/98 nos seguintes termos: - O projecto Linguas Gestuais demonstrou que o principal problema com que os surdos se vêem confrontados consiste na ausência de reconhecimento oficial das linguagens gestuais por parte dos Estados-Membros da UE que lhes permita afirmarem os seus direitos enquanto cidadãos da UE de pleno direito. Estará a Comissão disposta a publicar uma Comunicação ou uma Directiva relativa ao reconhecimento oficial das linguagens gestuais utilizadas pelos surdos em cada um dos Estados-Membros? - Dada a ausência de intérpretes qualificados em línguas gestuais em muitos países da UE, que medidas adoptou a Comissão Europeia visando garantir o financiamento da UE a programas no domínio da educação e da formação profissional destinados à formação de formadores e de intérpretes de línguas gestuais? - Atendendo à importância de que para os surdos se reveste a informação visual, tenciona a Comissão Europeia introduzir legislação-quadro relativa à transmissão, em línguas gestuais, de um número mínimo de programas televisivos? - Existem nos Estados-Membros da UE sete sistemas diferentes de "telefone e teletexto", os quais não são compatíveis entre si, o que gera inúmeros problemas aos utilizadores surdos que telefonam a amigos surdos em outros Estados-Membros da UE. Tenciona a Comissão introduzir legislação-quadro que garanta a compatibilidade dos equipamentos de telecomunicação por texto e de videofone destinados aos surdos em toda a Europa?
15 Capítulo 1- Introdução 6 - Tenciona a Comissão Europeia adoptar medidas que garantam um "design" universal das aplicações multimédia, por forma a que os surdos não sejam excluídos das novas aplicações? - Que medidas tenciona a Comissão adoptar, a fim de garantir que os funcionários actuantes nas instituições da UE sejam formados nas questões relativas à surdez e que as reuniões públicas realizadas pelas instituições da UE sejam acessíveis aos surdos? O Comissário Franz Fischler, durante a sua intervenção, confirmou o facto de a Comissão estar consciente da importância da língua gestual, tendo afirmado ainda que a Comissão tudo fará para sensibilizar os cidadãos para se prestar um maior apoio às pessoas que fazem uso da língua gestual como meio de comunicação. ()*+,-.''! O que é que aconteceu realmente ao longo destes últimos anos? Os meios audiovisuais já estão a ser efectivamente usados na educação e formação das pessoas surdas? Já existem conteúdos pedagógicos em CD-ROM s, sites WWW, Cassetes Vídeo, ou noutro suporte audiovisual destinados ao ensino da língua gestual Portuguesa de modo a alargar as possibilidades de comunicação, aprendizagem, integração e socialização de todas as pessoas surdas? É um dos objectivos desta tese, procurar caminhos novos para o futuro, na aprendizagem de LGP, para essas novas gerações de cidadãos que só tem a comunicação visual como suporte para acederem à informação e ao conhecimento: as pessoas surdas. Actualmente, uma nova forma de uso do computador no processo de ensinoaprendizagem, tem sido a educação à distância. Esta modalidade de ensino (dito virtual) remonta a sua origem ao final do século XIX, quando era feita através de cartas. No século XX este forma de ensino foi gradualmente incrementada, incorporando os avanços tecnológicos, começando com a rádio, passando à televisão, e chegando ao uso do computador e da Internet. E é exactamente este último avanço que tem sido o foco de diversos estudos e pesquisas nestes últimos anos. As suas características acarretam certamente vantagens no apoio ao ensino de pessoas com deficiências auditivas. Está em desenvolvimento desde 1996, num consórcio formado sobretudo por universidades, uma rede ultra rápida de comunicação, chamada de Internet2. Esta rede seria bem parecida com a Internet que se tem hoje, com a diferença de ser bem mais veloz. Isto permitiria o uso de vídeo-conferência em tempo real, sem aqueles problemas (muito desconfortáveis) que muitas vezes acontecem hoje em dia devido à falta de largura de banda. Esta rede já está em funcionamento em algumas universidades dos EUA como a Universidade de Gallaudet e a Universidade de Georgetown, que têm aproveitado para ensinar língua gestual através da Internet. E isto é só o começo, pois as potencialidades desta nova rede são realmente muito grandes.
16 Capítulo 1- Introdução 7 No entanto, algo que está actualmente na vanguarda da tecnologia é a realidade virtual, com imagens em três dimensões (3D), que se aproximam bastante da nossa realidade concreta. A realidade virtual apresenta um grande potencial de interacção entre as pessoas, e pode fazer uso, além dos recursos audio-visuais a que estamos acostumados, de outros sentidos para uma interacção mais humana e realista. O que se percebe é o grande potencial pedagógico e integrador desta nova realidade. Várias pesquisas estão em curso, e muitas outras ainda são necessárias para, de facto, poder fazer-se uso das potencialidades que esta nova tecnologia parece oferecer. O telefone de voz tornou-se num importante meio de comunicação, aproximando as pessoas, mas esta tecnologia não pode ser usada directamente por todos. Pessoas com deficiências auditivas precisam de serviços de telecomunicações alternativos, os quais têm que ser disponibilizados em iguais termos. A conversação pessoal via telecomunicações pode agora dar um grande passo em direcção à acessibilidade para todos. Os futuros serviços de telecomunicações podem oferecer aos utilizadores a possibilidade de comunicar simultaneamente através de vídeo, texto e voz. Um dos principais serviços que uma grande parte dos países europeus já possui é o serviço de intermediação telefónica e conversores de texto-voz e voz-texto para cidadãos com deficiência de audição e fala. Baseado num serviço de intermediação entre o emissor e o receptor, constituído por operadores que transcrevem de voz para texto ou de texto para voz consoante a necessidade dos interlocutores da comunicação, dão assim a possibilidade de se estabelecer uma comunicação entre uma pessoa surda e um ouvinte. A 3ª geração de telemóveis (UMTS) vem aí e promete abrir uma nova era de comunicações a surdos e a pessoas com dificuldades na fala, já que se poderá alargar as potencialidades da Internet e da multimédia a um dispositivo móvel de reduzidas dimensões. Nos últimos quinze anos a comunidade surda assistiu com expectativa a esta saga prodigiosa da evolução das tecnologias de informação. Para eles aquilo que encontravam de mais fascinante nas tecnologias de informação era a comunicação com o computador se poder processar no modo ideal para uma pessoa surda: através da comunicação visual. Também é com as pessoas ouvintes que devemos contar, pessoas que vivem fascinadas na aprendizagem desta língua ou aquelas que por necessidade têm de aprender a comunicar em língua gestual. São pessoas que adoram ou necessitam praticar essa forma de comunicação mas que se vêem por vezes frustradas na concretização desse objectivo. Uma das coisas que mais tem impressionado é a atitude da juventude actual. São muitos os jovens que querem aprender a comunicação em língua gestual. São jovens do chamado ensino integrado que querem aprender a comunicar com os seus colegas surdos. E, para o comprovar, apresenta-se um "estudo de caso" feito junto das escolas de instrução da Guarda Nacional Republicana. Há quase mil agentes actuais e futuros da Guarda Nacional Republicana muito interessados em conhecer um conjunto de expressões em língua gestual que os habilitassem a comunicar com uma pessoa surda em momentos específicos que acontecem na comunicação com os agentes das forças de segurança: um acidente, um crime, uma transgressão às regras de trânsito ou um simples pedido informação.
17 Capítulo 1- Introdução 8 A verdade é que tudo o que possa contribuir para dar resposta as necessidade das pessoas surdas é sempre bem vinda. A resposta poderá encontrar-se naquilo que nós designamos como os meios de comunicação interactivos dos quais "et pour cause" a Internet surge como meio privilegiado. A Internet está na moda. Para a comunidade surda sempre houve um relacionamento difícil com as modas do momento, mas a Internet é apenas uma faceta surgida a "posteriori" daquilo que já pensavam há 25 anos : potenciar para a efectiva integração social das pessoas surdas os meios audiovisuais, na sua componente "visual". Portanto, não é uma moda mas apenas uma "peça de roupa" que já imaginavam há um quarto de século em meio "virtual". Aprender uma língua gestual é um processo difícil, trabalhoso e exigente em termos de vontade e de perseverança. Contudo, e tal como acontece com as línguas faladas, esse processo exige uma prática constante num meio que mesmo não sendo real, pode ter feição virtual através animações virtuais WWW, CD-ROM s ou cassetes. E porque o tempo corre, e é preciso desenvolver uma estratégia que possa responder aos anseios de muitas pessoas no tempo mínimo útil, que se concebe aquilo a que designamos como a produção de suportes digitais interactivos em 3D de comunicação/formação em língua gestual. É esta a realidade que se impõe com toda a evidência. Ou seja, com a estratégia que se tem seguido até hoje nunca se conseguirá uma eficiente formação na comunicação em língua gestual [2]. E, por tabela, a efectiva integração das pessoas surdas na comunidade sempre continuará como uma miragem algo distante e inacessível. E, pelo contrário, uma estratégia que tire partido das tecnologias multimédia e da Internet já abre perspectivas mais vastas para essa integração. É uma estratégia que não só envolverá as pessoas surdas, mas também as suas organizações. Ou seja, a estratégia conducente à produção de um Gestuário digital interactivo em 3D acessível através da Internet. Isto é um objectivo perfeitamente ao alcance do estado actual da arte nas tecnologias da informação. Mas, as possibilidades tecnológicas e da Internet não se ficam por aqui. Actualmente, perante os recursos mais rápidos na computação gráfica e processamento de imagem, já nos encontramos num estádio em que a comunicação visual se poderá realizar de um modo efectivo e acessível. As modernas animações tridimensionais e a conversão da voz em texto abrem às pessoas surdas possibilidades que ainda há bem poucos anos só eram imagináveis no mundo da ficção científica. Aquela façanha do computador HAL, de ser capaz de interpretar pela leitura labial, que Stanley Kubrick imaginou no seu filme "2001 Odisseia no Espaço" já é hoje possível. /)0'$. A possibilidade do uso das novas tecnologias, principalmente da Internet, dos CD- ROM, e todos os serviços associados a estas, para a supressão ou redução de barreiras linguísticas e sociais, que ainda vigoram entre uma sociedade dita normal e uma sociedade com dificuldades auditivas com uma língua própria, permanece ainda nos nossos dias como um claro objectivo.
18 Capítulo 1- Introdução 9 Os novos desenvolvimentos em áreas como a computação gráfica, bases de dados distribuídas, redes de computadores, paralelamente ao desenvolvimento galopante do hardware, renovam as esperanças de obter um sistema global de aplicações integradas, capazes de se adaptar e preencher carências de utilizadores com necessidades especiais sob a forma de ajuda linguística ou de comunicação num mundo dominado pelas maiorias. Pretende-se com esta dissertação implementar um sistema de apoio à língua gestual Portuguesa, virado sobretudo para o ensino de pessoas com deficiências auditivas que se iniciam nesta língua. Este tipo de aplicação não se poderá resumir à comunidade surda, o objectivo é também dar a conhecer esta língua aos ouvintes, pois para uma comunicação entre surdos e não surdos é necessário um esforço também dos segundos. O sistema contará com as potencialidades multimédia da Internet, com a apresentação de ambientes gráficos tridimensionais com personagens virtuais. A aplicação será proposta através de quatro directrizes principais: 1- Construtor 3D Será a componente mais ambiciosa de toda a aplicação. Em geral permitirá a construção de gestos completos de LGP. Uma página Web interactiva será proposta com um modelo completo 3D de um humanóide, e mãos adicionais (direita e esquerda). Assim sendo, o utilizador comporá os gestos com a ajuda de manipuladores tridimensionais, rotações e translações dos modelos, que após a sua composição serão associados a palavras, letras ou números em língua gestual, para numa fase futura, serem armazenados numa base de dados. Esta componente permitirá assim memorizar a construção dos gestos pormenorizadamente, bem como organizar e armazenar uma série de construções de gestos próprios a utilizar em várias traduções aquando da aprendizagem da LGP. 2- Abecedário 3D Serão construídas animações 3D realistas para todas as letras do abecedário LGP, com a possibilidade de visualizar a animação de vários pontos de vista. Assim sendo, e a partir do modelo do braço e mão de um humanóide 3D, serão armazenadas as animações de todas as letras, e apresentadas numa página Web, permitindo assim a aprendizagem ou aperfeiçoamento de gestos da língua gestual. Pretende ser uma animação bastante perfeita com modelos e cinemática proporcionada por aplicações externas. 3- Animações Vídeo À imagem do que acontece com tantos sites, animações vídeo serão adicionados para descrever gestos em LGP. Mas as animações serão construídas a partir de modelos 3D animados e não a partir de imagens reais. Serão numa primeira fase animados somente os verbos.
19 Capítulo 1- Introdução Gestuário 2D Imagens 2D serão apresentadas a partir do Gestuário [3] e associadas a um texto explicativo sobre a posição dos dedos e mãos. Será também associada uma chamada de atenção para possíveis confusões ou erros com gestos semelhantes. 1#! O texto que se segue toma uma sequência lógica desde a observação de estudos e projectos para o apoio de ensino de língua gestual até à apresentação da aplicação desenvolvida com os respectivos resultados, testes de usabilidade e conclusões. Assim, no capítulo 2 é apresentada uma vista geral do estado da arte no que respeita à integração e trabalho de apoio na formação de pessoas surdas, respectivamente no desenvolvimento de aplicações específicas direccionadas para pessoas com dificuldades auditivas no campo das interfaces, ensino e aperfeiçoamento de língua gestual. No capítulo 3 é descrito em linhas gerais a interface do ambiente gráfico onde se incluem aplicações virtuais multimédia e o modo de interacção destas com utilizadores, com especial atenção à manipulação de objectos tridimensionais, cinemática e cinemática inversa como recurso à construção de modelos articulados, navegação em mundos virtuais e diferentes interfaces para uma possível e correcta utilização das tecnologias gráficas 3D. No capítulo 4 é apresentada a descrição do trabalho desenvolvido no CD-ROM que acompanha esta dissertação, começando com a realização de um construtor de movimentos para língua gestual. Desde a construção dos modelos até à aplicação propriamente dita passando pela biomecânica e articulação dos modelos, especificação da interface e manipuladores bem como do uso de cinemática inversa para controlar de forma natural e humana os modelos apresentados. É também dedicado à descrição do restante trabalho prático para complementar esta tese que resulta de uma aplicação global, interactiva, 3D, distribuída na rede (www) ou CDROM, para ajudar o ensino e aperfeiçoamento de LGP a pessoas surdas e ouvintes que a queiram aprender para poder comunicar-se com pessoas com dificuldades auditivas que comuniquem neste tipo de língua. Através de um numerário, abecedário, vídeos e restantes palavras em língua gestual num gestuário 2D, apresentar-se-à a construção da respectiva aplicação. Será também uma oportunidade de uniformizar a língua gestual que dentro de um mesmo país poderá conter certas diferenças que representam os hábitos de uma sociedade numa dada região. O capítulo seguinte é reservado a testes de usabilidade com base nos resultados obtidos a partir de inquéritos sobre a integração do trabalho prático numa instituição de ensino de LGP. Por último são retiradas as conclusões e apresentadas sugestões para um possível trabalho futuro.
20 Capítulo 2- State of the Art 11 Capítulo 2 Estado da Arte +%&.2 As tecnologias de comunicação e informação desenvolvem-se a uma velocidade difícil de seguir, inclusive por parte dos profissionais de informática. Isto significa, entre outras coisas, que se não é fácil fazer previsões no se que refere à incidência sobre a sociedade em geral, menos ainda no relativo às necessidades de pessoas com deficiências. O futuro está cheio de possibilidades e infelizmente também de problemas. Em determinadas sociedades de alto nível tecnológico, por exemplo os Estados Unidos da América, o reconhecimento da necessidade de acesso das pessoas com ausência de algumas capacidades a um emprego remunerado, deu lugar a leis com as quais se pretende impedir a discriminação, nos casos em que já existem soluções técnicas. O que se tem hoje, em termos tecnológicos, e ao nível da Internet, é algo que possibilita ao surdo uma independência quase total em relação ao ouvinte. Esta é uma característica extremamente positiva para o surdo, uma vez que não precisa mais contar com a boa vontade de um ouvinte. O surdo, através da Internet, começa a ter a possibilidade de se desenvolver de forma mais independente e auto-determinada, seguindo os ditames da sua própria consciência. Numa sociedade com uma linguagem eminentemente verbal, parece provável que o grupo de pessoas com deficiências auditivas possam ser os que tenham, talvez, uma maior necessidade de aceder a sistemas que facilitem a aquisição de conhecimentos e a interpretação da realidade. Já é uma realidade, desde a década de 60, o uso do computador no suporte ao processo ensino-aprendizagem. Neste contexto, há aqueles que acreditam na substituição do professor pelo computador, sem perdas para o processo de aprendizagem, como também há os que não vêem ganho algum com o uso do computador na "escola". O que se tem percebido desta (longa) discussão, e dos resultados que já foram obtidos, é que o computador, usado como actividade complementar, pode trazer grandes ganhos a este processo.
21 Capítulo 2- State of the Art 12 %&!34!%& Dificuldade no Processo Formativo A pessoa surda enfrenta no seu processo formativo uma série de dificuldades centradas em três eixos principais: 1. A sua própria surdez que o situa em inferioridade de condições quando o principal meio de comunicação é a fala. 2. O professor ou qualquer outro agente mediador, por falta muitas vezes de um sistema de comunicação partilhado. 3. Os materiais, principalmente textos escritos, supõem um bom domínio do idioma correspondente para extrair informação dos mesmos. Necessidades Específicas A pessoa surda necessita para a sua formação de um meio de comunicação eficaz. Para isso, podem contribuir as aplicações informáticas específicas quando as aplicações convencionais, com ou sem adaptações, resultem insuficientes. O outro objectivo prioritário de qualquer programa informático educativo, pensado para pessoas com surdez, deveria ser o permitir o acesso à informação em condições adaptadas à sua deficiência sensorial e às peculiaridades da sua comunicação. Este objectivo não se pode limitar a adaptações curriculares, mas também, à adaptação do contexto educativo. Dentro do campo das tecnologias de informação, poder-se-ia pensar numa série de aplicações informáticas dirigidas ao melhor aproveitamento das possibilidades educativas que, em principio, ninguém nega a pessoas com surdez. No entanto, para que estas aplicações sejam efectivas deverão ter em linha de conta alguns princípios elementares. De outro ponto de vista, as tecnologias de informação oferecem possibilidades de desenvolver certas aptidões que se encontram geralmente minimizadas em alunos com surdez. No entanto, este ponto introduz elementos complexos que se referem concretamente à aquisição e uso do conhecimento. Enquanto que as condições anteriores se referiam a sistemas de adaptação sobre esquemas de ensino já estabelecidos, neste caso tratar-se-ia de programas desenhados para o ensino de determinadas destrezas. Os tempos recentes têm testemunhado um aumento de interesse no campo da comunicação homem-máquina que implica a linguagem falada acompanhada de gestos e expressões faciais. Cassel [4] introduziu um sistema onde agentes virtuais pudessem comunicar automaticamente com outros agentes através de canais sincronizados que representam a fala, gestos e expressões faciais. Os agentes têm o seu próprio conhecimento do mundo e actuam de acordo com esse conhecimento. O sistema simula um comportamento real da comunicação humana. A geração de gestos consiste basicamente em símbolos com pouco ou nenhum movimento dos dedos, mas em qualquer dos casos já o bastante para anotar evoluções neste campo. Thalmann, Noser e Haung [5] desenvolveram seres humanos virtuais autónomos para actuar em filmes, jogos e Televisão Interactiva. Os seres humanos virtuais
22 Capítulo 2- State of the Art 13 trabalham como objectos independentes e podem enfrentar situações complexas. Uma característica especial é o comportamento dos agentes virtuais. Podem representar conclusões sobre o seu conhecimento baseados na percepção do entorno virtual. As mãos, equipadas com sensores, reconhecem tamanhos e objectos, os agentes podem pegar nesses objectos, movê-los e largá-los. Um complexo comportamento com base em movimentos de braços e mãos simula realisticamente o comportamento humano. Um dos projectos pioneiros no treino e ensino de língua gestual com o apoio de modelos 3D virtuais foi o sistema de diálogo para sintetizar e compreender a língua gestual Japonesa, descrita e desenvolvida por Lu e Igi em 1997 [6]. Este sistema de treino, ajuda a comunicação de pessoas surdas com a comunidade falante. Um conjunto de palavras e frases são predefinidas e capturadas através de gestos para posterior utilização. A desvantagem deste sistema é a representação pouco detalhada dos modelos, principalmente da mão e da cara. Após este projecto, muitos outros se seguiram, alguns dos mais importantes que abarcaram muito de perto a génese desta dissertação serão enunciados a seguir. Não se pretende assim, um método de visualização que compita com pessoas reais na produção de língua gestual, já que uma qualidade tal só muito dificilmente poderá ser alcançada. Em continuação, serão descritos vários projectos envolvidos na investigação e testes de suportes computacionais para o ensino de língua gestual..!5 6'%&!&7 '%&! Foram analisados suportes multimédia por um grupo de profissionais em centros de integração onde estudam alunos com deficiências auditivas [7]. Os programas testados foram sobretudo aplicações adaptadas à aprendizagem para pessoas surdas. Foram eles: Symbol Base de dados, para a aprendizagem de vocabulário, destinado a pessoas com transtornos para se comunicar oralmente [7]. CD_Rom interactivo de visita ao Palácio Real de Madrid [7]. Teve-se em linha de conta uma dupla vertente, a técnica e a adaptabilidade dos utilizadores, com o fim de analisar a possível distância entre ambos, e acima de tudo para analisar o que se consideram elementos básicos, como em qualquer teste.!8 Em geral, tira pouco partido da tecnologia multimédia que utiliza, há poucas imagens em movimento, narração e sons, ajustando-se basicamente às oportunidades que oferece um computador. Neste sentido poder-se-iam introduzir muitas melhoras no que respeita à interacção, movimento, etc. A ideia de uma base de dados de imagens com
23 Capítulo 2- State of the Art 14 possibilidade de associar a cada imagem o seu significado em língua gestual, tal como a aplicação faz, pode contribuir a melhorar os requisitos básicos do desenvolvimento verbal na comunidade surda. Como ideia e formato, para trabalhar na aprendizagem com pessoas de deficiência auditiva, é um bom produto, já que permite a observação dos modelos operativos do aluno e têm uma forma flexível de apresentação da informação. O tipo de cenário utilizado, uma casa, faz que talvez não seja idóneo para jovens em formação, pelo que trabalhando noutro entorno, poderia dar um melhor resultado. A utilização de imagens reais desperta muito interesse entre os utilizadores. O modelo da aplicação pode constituir um entorno adequado para a formação de conceitos, entretenimento lógico, metalinguistico, memorização do léxico, etc, no entanto poder-seiam sugerir as seguintes melhorias: Seria conveniente pensar na aplicação deste programa a campos semânticos específicos. A navegação pelo sistema (selecção do caminho a seguir em cada momento) não é de todo intuitiva e é relativamente fácil esquecer alguns passos. Sente-se falta de um sistema de ajuda que permita escolher a opção desejada em cada momento. 9:# +'$;4'#5 Em geral, como ferramenta de apoia à docência, é um elemento motivador e que ajuda a que os alunos participem na busca de informação, o que no caso das pessoas com deficiência auditiva, é muito importante, já que supõem um entretenimento cognitivo. A sua eficácia para pessoas com deficiência auditiva seria muito maior se pudesse dispor de resumos em linguagem clara e fácil dos textos contidos no programa. É um programa que resulta atractivo pela motivação e aquisição de novas formas de conhecimento, mas para se adequar às necessidades curriculares das pessoas com deficiência auditiva, teria que sofrer modificações sobretudo no que respeita à língua. O seu aproveitamento para pessoas com deficiência auditiva passaria, então, por acrescentar um glossário de fácil acesso dentro da estrutura do programa para as palavras complexas mais frequentemente utilizadas nos diferentes textos, esse glossário deveria usar uma linguagem o mais simples possível e incluir a sua tradução em língua gestual. " 6%'<''=' ' Segundo Vanderhiden [8], devemos partir da ideia de que não se devem gerar sistemas especiais fechados para pessoas com ausências de algumas capacidades, salvo quando não se possa resolver de outra forma. Para este, existem uma série de considerações básicas a ter em linha de conta:
24 Capítulo 2- State of the Art 15 Utilizar uma perspectiva de sistema aberto. Cooperação com as utilidades de acessibilidade do sistema operativo e programas específicos. Minimizar as habilidades necessárias para o manuseamento do programa. Facilitar manuais e formação acessível. Certamente, que se os requisitos atrás mencionados fossem levados à prática, a adaptação destas ferramentas às pessoas surdas seria muito menos complexa e nalguns dos casos desnecessária. Não obstante, convêm fazer uma série de recomendações de forma a que estes sistemas se possam utilizar como se fossem feitos à medida. Em geral e no caso de pessoas com deficiências auditivas: É necessário um formato visual para todos aqueles avisos/sinais sonoros do programa. Eleição de uma linguagem adaptada ao nível compreensivo do utilizador evitando o calão informático. Maior frequência de imagens. Possibilidade de complementar algumas explicações mediante a língua gestual. A necessidade de qualidade de interfaces é ainda maior para pessoas com deficiências auditivas, pela sua incidência no processo de aprendizagem. "#%&!>?> > '!%&$69 Este trabalho apresenta técnicas que possibilitam alargar o vocabulário de gestos em ASL (American Sign Language) através de VRML 2.0 com propósitos educacionais. O VRML (Virtual Reality Modeling Language) [9] é uma linguagem standard na descrição de modelos gráficos tridimensionais na WWW. Dado que os modelos 3D em VRML proporcionam uma documentação visual mais efectiva quando comparada com os tradicionais 2D, através de imagens ou vídeos [10], a construção de gestos em VRML não ajudará unicamente na aprendizagem de ASL aos surdos, como também proporciona um acesso universal na aprendizagem deste tipo de material. Depois de um primeiro olhar, o conceito de construção de modelos 3D para gestos ASL em VRML é simples e intuitivo. No entanto, descobrir como ampliar um vocabulário estático de desenhos de mãos em VRML, tal com o criado por Geitz, et al [10], num vocabulário mais alargado, já não é trivial. A seguir, são apresentadas técnicas que sistematicamente resolvem este problema. O trabalho foi realizado assumindo que os gestos ASL podem ser descritos em termos de características linguísticas de gestos com as mão (modelo das mãos, posições, orientações e movimentos). A ideia baseia-se em sistemas de gestos de Stokoe, Casterline e Croneberg [11]. Dado que cada movimento têm um ponto de partida e um ponto final, o problema de descrição de gestos dinâmicos pode reduzir-se ao seleccionar
25 Capítulo 2- State of the Art 16 de vários gestos estáticos como key-frames, e depois, construir a animação entre eles para a formação do gesto. A expressão facial e linguagem corporal não foram consideradas neste trabalho. Neste estudo é descrita a colocação em prática de uma interface acessível via Web para gestos com base em ASL. O trabalho teve inicio com o modelo tridimensional simples da mão e foram adicionadas especificações para todos os graus de liberdade na mão para possibilitar a construção de gestos estáticos. Na interface, os graus de liberdade de uma mão podem ser alterados pela manipulação de um painel de controlo. Tanto o controlo entre os dedos e pulso, como a localização e orientação do modelo da mão são passíveis de ajustamento individual. Depois, foi utilizada a função de animação key-frame para a composição gestos dinâmicos através da especificação e integração de gestos estáticos pré-seleccionados em key-frames. O Web site proporciona um protótipo de um conceito de professor virtual. Aqui os utilizadores poderão introduzir uma cadeia de caracteres ou números e ver a sequência de animação correspondente em ASL gerada dinamicamente em VRML. ")5 5& O primeiro passo para a representação de gestos em VRML foi a construção de um modelo 3D de uma mão. Para guardar o ficheiro com o tamanho de menor dimensão possível, foi decidido preservar os graus de liberdade na mão mas ignorar outros detalhes, tais como a textura. O modelo da mão consiste nas seguintes entidades: antebraço, palma, e três ossos para cada dedo e polegar, estes últimos construídos por um cilindro e duas esferas associadas as extremidades dos cilindros para representação de cada uma das articulações. Os cilindros e as esferas são nodos geométricos em VRML (primitivas). Para simplificar ainda mais a implementação deste modelo, foi ignorada a parte de ligação de carne entre o polegar e o dedo indicador, o que torna sem dúvida o modelo um pouco menos real. Dado que o modelo é de facto simples, foi conseguido um tamanho de ficheiro muito reduzido (cerca de 9KB). Os graus de liberdade principais na mão podem ser caracterizados como o seguinte [12]: cada dedo pode fazer a flexão distal, flexão média, flexão próxima e desvio próximo. O polegar é similar. No total temos 20 graus de liberdade para os dedos e polegar. Além disso, o punho pode flectir em dois sentidos e o antebraço tem 6 graus de liberdade: x,y,z para desvio lateral, desvio frente-trás e rotação. O resultado final são 28 graus de liberdade no modelo completo da mão, o que representa a totalidade dos graus de liberdade existente numa mão humana, e assim sendo, um modelo com capacidades de emular muito razoavelmente os movimentos desta extensão humana.
26 Capítulo 2- State of the Art 17 " O meio proporcionado para especificações dos graus de liberdade no modelo da mão é através de um painel de controlo. A Figura 1 é uma imagem do painel de controlo construído em VRML. Cada controlo do tipo roda é usado para ajustar um grau de liberdade, cada controlo do tipo bola é usado para ajustar dois graus de liberdade ao mesmo tempo. Para uma fácil compreensão, as rodas e as bolas foram dispostas nas posições correspondentes ao ângulo de visão do modelo da mão onde cada grau de liberdade poderá ser ajustado com alguma facilidade. Figura 1 Painel de controlo (mão direita) Após a definição de um gesto, podemos clicar no botão de controlo para o envio dos valores de graus de liberdade remotamente para uma script CGI, de nome GestureMaker. O GestureMaker responderá com um novo ficheiro VRML contendo todas as especificações. Este foi o método usado para a produção de todos os gestos estáticos do alfabeto ASL incluindo também números (do 0 ao 9). Nesta especificação, foi escolhida arbitrariamente uma das possíveis variações para cada gesto [13], no entanto seria de todo interessante adicionar as diversas variações. "" %& Com modelos de mãos estáticos, gestos dinâmicos poderão ser criados através de animação tipo key-frame. Foram usados nodos para interpolação linear de valores para campos de translação e rotação. Os valores de graus de liberdade para a sequência de key-frame são passados à script GestureMaster, o qual retorna um ficheiro VRML para interpolar gestos dinâmicos sobre o modelo.
27 Capítulo 2- State of the Art 18 Por exemplo, a letra Z no alfabeto ASL é um gesto realizado com o uso do dedo indicador para desenhar um Z. Quatro pontos (instâncias do modelo) são usados como key-frames para a criação do gesto dinâmico para o Z. A letra J usa o dedo midinho para desenhar o J, são portanto necessários 3 pontos que depois de interpolados apresentam a sequência e animação pretendida. "(!$69 Após a criação de gestos dinâmicos de letras ou números, foi dado o passo seguinte, a criação da animação entre as várias letras e números. A Figura 2 demonstra através do web site a animação da mão direita traduzindo gestos formados por cadeias de letras e números introduzidos numa caixa de entrada. Os utilizadores podem também visualizar dígito a dígito animações de letras ou números. Figura 2 Tradução ASL de cadeia de letras e números (mão direita) O problema óbvio no sistema é a colisão e penetração de dedos e polegar em várias entradas de textos, como por exemplo a passagem da letra A para a letra B. Neste caso, foi necessário inserir caminhos de movimentos durante estes casos específicos e especiais. Mas o ideal seria o desenvolvimento de um algoritmo geral para detectar e solucionar este problema.
28 Capítulo 2- State of the Art 19 (5 ()0'$0' Christopher Lee e Yangsheng Xu [14] desenvolveram em 1996 um sistema de reconhecimento de gestos baseado em modelos ocultos de Markov (HMM 4 ), que podem interactivamente reconhecer gestos e a capacidade de aprender e realizar novos gestos online. Além disso, é capaz de fazer modificações após reconhecimento interactivo do exemplo de alguns gestos. Este sistema demostrou reconhecimentos de confiança em 14 gestos diversos depois de somente um ou dois exemplos de cada um deles. A interface do sistema tem ligação com uma Cyberglove 5 para a captura de gestos do alfabeto da língua gestual (Figura 3). O sistema foi implementado como parte de uma interface interactiva para, por exemplo, programação e tele-operações num robô. Figura 3 Posição final da mão para o gesto C As motivações por detrás deste tipo de interacções, para além da aplicação à língua gestual, incluem o aumento da efectividade da tele-operação, dispondo as pessoas para interactivamente ensinar novas tarefas a robôs ou refinar as suas habilidades e permitir um controlo do sistema mais eficaz e semi-autónomo como acontece com os sistemas dos aviões e plantas industriais. ( %&! Este trabalho teve como objectivo a construção de um sistema que possa não só interagir com o utilizador no reconhecimento de gestos, mas também que possa aprender novos gestos, modifica-los de modo interactivo e online. O resultado foi assim a geração 4 Hidden Markov Models 5 Luva de Dados Virtual do tipo Cyberglove
29 Capítulo 2- State of the Art 20 automatizada e um treino interactivo de um conjunto de HMM que representam gestos humanos. Usando este caminho como objectivo, foi construído e testado um sistema capaz de reconhecer palavras e letras da língua gestual usando tecnologia virtual baseada numa Cyberglove para a entrada de dados (Figura 4). Figura 4 Interface do sistema de demonstração para reconhecimento de gestos. Neste sistema, cada tipo de gesto é representado por um modelo de Markov, uma lista de sequências de observações e uma acção opcional a ser realizada sobre o reconhecimento do gesto. O conceito de treino interactivo é baseado geralmente nos seguintes procedimentos: 1. O utilizador faz uma série de gestos. 2. O sistema automaticamente divide o conjunto de dados de entrada em imagens e gestos separados, e tenta imediatamente classificar cada gesto. 1. Se o sistema está certo da sua classificação, ele realiza a acção associada a esse gesto (se alguma foi especificada). Esta acção poderia passar o resultado da classificação a um nível superior de HMM, ou enviar o comando a um robô. 2. Se o sistema de alguma forma se mostra inseguro na classificação de um determinado gesto, pergunta ao utilizador para confirmar essa classificação. O utilizador ou: Confirma a classificação do sistema, ou Corrige a classificação, ou Adiciona um novo tipo de gesto à base de dados de gestos do sistema. 3. O sistema adiciona todos os símbolos do gesto encontrado à lista de sequência de exemplos desse próprio modelo de gesto, a seguir actualiza os parâmetros da reentrada do modelo de HMM em acumulação com exemplos de sequência já existentes.
30 Capítulo 2- State of the Art 21 Encontra-se nesta implementação um reconhecimento e actualização automática de gestos com base em HMM e algoritmos de Baum-Welch, suficientemente rápidos durante o normal uso do sistema o que representa um sistema com carácter verdadeiramente interactivo. /0'5?5 6 %&"9! /)0' Com o intento do projecto intitulado "3D Techniques for Computer-Based Training in Sign Language", um protótipo de hardware/software para gravação, editoração e visualização de gestos foi desenvolvido, com base em modelos em três dimensões e animação por computador [15]. Este projecto de investigação e desenvolvimento começou em Abril de 1998 e durou até Março de 2000 no departamento de Media Technology and Design da Universidade Politécnica de Upper na Áustria. Este projecto envolveu a colaboração de algumas empresas de mídia austríacas e foi suportado pelo Ministério da Ciência daquele país. A comunicação entre aqueles que podem ouvir e a comunidade surda não poderá ser melhorada sem formação e o conhecimento da língua gestual. O primeiro passo nessa direcção poderá ser criado oferecendo, a quem pode ouvir, a oportunidade para apreender a língua gestual em larga escala. Os gestos podem ser apresentados com verdadeira qualidade através de tecnologias multimédia, produtos de treino deste género estão a ser desenvolvidos um pouco por todo mundo incluindo todos os diferentes tipos de língua gestual. Até agora, gestos únicos eram apresentados através de sequências de vídeo como programas de treino. O objectivo principal desta ideia/projecto é o desenvolvimento de técnicas para gravação de gestos e a sua visualização através de animações 3D via computador. Técnicas de captura de movimentos foram implementadas através de sensores e de seguida armazenados numa base de dados. Este projecto permite assim, armazenar gestos usando captura de movimentos com ajuda de hardware, seguindo a posição e movimentos das mãos, braços e do corpo superior, ocorrendo a visualização já durante a gravação dos movimentos. Os dados dos movimentos obtidos são aplicados ao software de animações 3D onde aí poderão também ser editados e corrigidos. Após isso, os dados da animação deverão ser exportados para um formato de um ficheiro específico onde são tratados por um motor 3D na aplicação MUDRA. As características interactivas são proporcionadas ao utilizador do programa através de várias opções de câmaras e ângulos de visualização 3D. Resumindo, os três aspectos mais importantes que resultam do projecto são: Captura de movimentos
31 Capítulo 2- State of the Art 22 Visualização, edição e correcção de dados Integração das animações 3D numa aplicação multimédia A verdadeira meta deste projecto é posta em prática pela implementação de técnicas mencionadas mais adiante na gravação, visualização e geração de animações gestuais gráficas. A gravação da multiplicidade de gestos que serão necessários ao projecto MUDRA, não foi tarefa deste projecto. / ; Em contraste com os vídeos onde os gestos a estudar são apresentados apenas de um ponto de vista fixo, na visão através de animações interactivas 3D pode escolher-se arbitrariamente o ângulo de visão. Neste sentido um gesto poderá ser mostrado através de um humanóide nos vários ângulos (Figura 5), o que facilita consideravelmente a aprendizagem de todos os gestos. Figura 5 Humanóide 3D Os dados da animação poderão ser interpolados. Assim, a mesma taxa de frames poderá ser mantida para qualquer velocidade playback escolhida. Além disso, o utilizador poderá alterar a escala de representação em tempo real da animação para um tamanho arbitrário. Quando o faz, não há decréscimo de qualidade como acontece no caso dos vídeos. Os dados que descrevem os polígonos do humanóide 3D serão unicamente guardados uma vez para qualquer animação. As animação 3D consomem menos espaço de memória do que as sequências em vídeo já que para cada frame da animação somente os ângulos de junção do corpo humano necessitam de ser conhecidos. As técnicas 3D poderão ser incorporadas em aplicações tendo como base a Internet.
32 Capítulo 2- State of the Art 23 Outros problemas tais como cenas adequadas de iluminação são muito comuns nas produções em vídeo, mas não com o uso de animações por computador, por exemplo, fontes de luz poderão ser adicionadas ou removidas arbitrariamente pela animação. As técnicas 3D aqui utilizadas poderão também á posteriori ser usadas como um intérprete para língua gestual em transmissões televisivas. /"9'%&.6'' As origens das técnicas da captura de movimentos para a gravação digital dos movimentos através de sensores foi encontrada no campo do exército e aviação. Para a animação por computador várias técnicas foram primeiro refinadas. No armazenamento de dados e consequente reprodução das animações gestuais 3D com movimentos tão exactos, são necessários meios que geralmente não são necessários para animações em vídeo ou jogos de computador. Neste projecto, no entanto, uma modelação correcta da cinemática humana e a colocação exacta das partes constituintes do corpo é essencial. Assim como o ajuste do humanóide 3D com as proporções do actor, bem como a calibragem dos sensores utilizados. Para a gravação dos movimento de mãos e dedos são utilizadas duas Cybergloves. A versão destas luvas de dados utilizadas neste projecto tem capacidade de medir até 18 ângulos de junção de dedos e pulso através de sensores em cada uma das mãos. Para conseguir a posição e orientação dos braços e a parte superior do corpo são usados três sensores do sistema Frank Polhemus. Um quarto sensor é utilizado para medir os movimentos da cabeça. Cada um destes 6 sensores trabalha com 6 graus de liberdade em cada ciclo de medida, determinando os campos gerados pela voltagem electromagnética com a ajuda de um transmissor. No início de 1999 o Cyberglove era o único método comercial (para o propósito deste projecto) suficientemente exacto de luvas de dados. Mas, manteve-se também o contacto com a Universidade Técnica de Berlim, onde uma Sensorglove estava em desenvolvimento num projecto cujo objectivo seria o reconhecimento de gestos. Infelizmente esta luva de dados ainda estava numa fase de protótipo (naquela época), sem nenhum software lógico de calibração e visualização disponível. A decisão pela Frank Polhemus foi baseada no resultado de vários trabalhos científicos. Outras tecnologias com sensores foram abandonadas com problemas de exactidão e multiplicidade de vistas. Até há bem pouco tempo, a visualização em tempo real da animação de um humanóide era observada basicamente através da última geração de hardware, especialmente através da captura paralela (luvas virtuais) de movimentos e os dados adicionais resultantes dos sensores que deveriam ser processados posteriormente. Uma animação suficientemente realista da face humana realizada com deformações 3D, ainda não é possível de tratar em tempo real num equipamento comum.
33 Capítulo 2- State of the Art 24 /(5 5 "9 A calibragem das duas Cybergloves deu lugar ao uso do software que acompanhava as luvas de dados. É um programa com visualização dos movimentos das mãos esquerda e direita, com um painel de comandos tipo barras de deslocamento, que podem ser usados para a calibragem de cada um dos sensores em particular de uma das luvas. Assim sendo, o valor dado pelo sensor dos Cyberglove poderá ser ajustado ao tamanho da mão do actor. Os dados calibrados são gravados num ficheiro para cada luva de dados. A captura de movimentos foi suportada pelo software de animação 3D Softimage3D num Pentium III sobre Windows NT. O sistema foi equipado com um acelerador gráfico OpenGL (FireGL 1). Os dados recebidos pelos sensores são encaminhados por três portas série e aplicados a um humanóide 3D em tempo real pelo nomeado Softimage Channel Drivers. Os drivers da Cyberglove usam a biblioteca VirtualHand fornecida com a Cyberglove. O humanóide 3D para a representação dos gestos de nome Daniel - consiste num conjunto de polígonos com capacidade de rotações sobre eixos de junção das peças. Não há deformações nesta malha de polígonos. A posição e orientação da parte inferior dos braços, parte superior do corpo e cabeça são determinados pelos sensores Polhemus. A parte alta dos braços é orientada e adequadamente escalada durante a captura de movimentos para a construção de uma correcta conexão entre os ombros e os cotovelos. Figura 6 Características para a interacção 3D Foram feitos muitos avanços para poder ajustar as proporções do actor com os elementos do humanóide 3D, e os sensores Polhemus conseguiram fazer uma representação correcta no humanóide 3D. Este avanço e a cinemática da parte superior dos braços realizada no Softimage permitiram representar uma multitude de expressões.
34 Capítulo 2- State of the Art 25 Houve como não poderia deixar de ser um cuidado com a exactidão durante a gravação dos movimentos, para que representassem verdadeiros gestos com a maior exactidão possível. Um manual de correcção das trajectórias foi obtido, e implementado devido ao elevado número de gestos a serem guardados. 1*$*> Este trabalho é parte do projecto ViSiCAST [16], subsidiado pela União Europeia. O projecto tinha o objectivo de anunciar previsões meteorológicas a partir de um humano virtual (Avatar), guardando as traduções semi-automáticamente a partir de texto para língua gestual. Com a ajuda do computador, palavras escritas são analisadas e transpostas numa sequência de gestos. Posteriormente, este gestos são exibidos, usando animação por computador a partir de um humanóide. As áreas de foco da aplicação seriam a televisão, www/multimédia e as chamadas transacções cara a cara [17,18]. Assim sendo, a aplicação estaria disponível também numa página da world-wide-web. Para isso, foi desenvolvido um Plug-in para os Browsers e gerado o conteúdo inicial em língua gestual, conteúdo inicial este que focava como foi dito atrás a previsão do estado do tempo. Tecnicamente há duas formas de animar língua gestual: com base na captura de movimentos e baseada na criação de gestos sintéticos. No projecto ViSiCAST a parte de gestos totalmente sintetizados estava ainda em fase de desenvolvimento [19,20]. Por outro lado, o anúncio da previsão meteorológica é realizado com base na captura de movimentos reais. Para a aplicação web, previsões meteorológicas reais foram usadas como fluxo de Input. Antes da previsão de um determinado dia em particular poder ser gesticulada na página web, teriam de se suportar algumas conversões como se mostram na Figura 7. Previsão do Tempo Palavras Standard Internet Browser + Plug-in para leitura de movimentos = (Avatar) Lista de Gestos Página na Internet com gestos codificados Figura 7 Conversões entre o Servidor e Cliente
35 Capítulo 2- State of the Art 26 As secções apresentadas descrevem as conversões das previsões via modelos de línguas standard para listas de gestos e as conversões das listas de gestos via página web para a animação no écran do utilizador. 1$%&;A%&95 $ Como foi mencionado atrás, a aplicação para anunciar a previsão do estado do tempo na web através de um Avatar é baseada na captura de movimentos [21]. Por conseguinte, todos os gestos potencialmente relacionados com uma possível previsão meteorológica foram capturados e gravados. A captura de um gesto significa que os movimentos de um gestualista real são recolhidos através dos seguintes periféricos de Input: um sistema óptico para a recolha de expressões faciais, um fato magnético para a definição das posturas e luvas de dados para o movimento das mãos e dos dedos (Figura 8). Com estes periféricos no corpo, o gestualista realiza os gestos necessários à aplicação, para este caso, gestos como: sol, chuva, zero graus, outros números, partes do dia, etc. Figura 8 Captura de movimentos com ajuda de um intérprete de língua gestual Foram também construídos gestos para três tipos de línguas gestuais: língua gestual Holandesa, Alemã e Britânica, cada uma a partir de um gestualista nativo do país correspondente. O equipamento construído originalmente era próprio unicamente para a captura de movimentos globais. Para os gestos, a qualidade dos requisitos de captura foram muito maiores do que os usados com esta técnica em aplicações prévias. Para a geração de língua gestual animada, fizeram-se testes para a velocidade e direcção dos gestos como base para testar o suporte animado do significado inerente ao gesto. O
36 Capítulo 2- State of the Art 27 equipamento sofreu assim melhoramentos, e na versão final, os movimentos corporais, posturas, movimento das mãos e expressões faciais foram capturadas com uma resolução elevada (mais elevada do que a normalmente usada nos jogos de vídeo). Os gestos resultantes poderiam assim ser facilmente ser reconhecidos aquando da sua exibição no écran do computador. O parceiro no projecto responsável pelo equipamento de captura, também desenvolveu um software que tornasse possível o posterior processamento dos gestos. A parte da visualização significava então também, que o programa do humano virtual Avatar, estava dotado com dados gravados a partir de três sistemas (captura, sintetização e edição). Esta visualização era assim necessária para um posterior processamento manual. Alguns gestos eram guardados num único ficheiro, o que derivava que alguns dados teriam de ser cortados para obtenção de gestos em separado. Além do mais, era necessário rever os dados e editar aqueles que se achasse necessários. Podia por exemplo, acontecer que o gestualista humano, ele próprio, não realizasse o gesto na perfeição ou o sistema das luvas de dados não registasse o declive necessário em certos movimentos de dedos, porque, por exemplo, as luvas poderiam estar um pouco largas em relação às mãos do gestualista. O Avatar desenvolvido pelo ViSiCAST foi chamado de Visia. Os gestos capturados (e possivelmente editados) podem ser assim re-especificados, um a um, separadamente ou numa sequência perfeitamente fluente. O software de visualização em tempo real tinha possibilidade de misturar duas sequências capturadas, o que resultava numa performance gradual dos gestos. Isto não seria possível com a junção de clips de vídeo. No sistema de previsão meteorológica ViSiCAST, há também a secção de construção e geração de frases gesticuladas incluindo algumas variáveis na construção de gestos tal como temperaturas, estados do tempo e direcção do vento. 1 99B5 $ 4> Tecnicamente, o vasto conjunto de ficheiros de movimentos e o software descrito eram suficientes para visualizar sequências de gestos do Avatar Visia. No entanto, esta tecnologia não era amigável para com o utilizador como também não era a forma correcta para a sua integração na Internet. O problema do envio de informação através da Internet é assim resolvido em dois passos. Por um lado, o software Avatar e os ficheiros de movimentos são guardados num PC. Por outro lado, a lista de carregamentos dos movimentos é codificada numa linguagem especial ( SIGML Signing Gesture Markup Language, desenvolvida no ViSiCAST) e incluída numa página HTML normal. De modo a visualizar e controlar o Avatar de uma forma correcta e amigável para o utilizador, foi criado uma interface simples e de uso fácil. O software para a visualização gestual foi criado para correr como um Active X control. Isto permitiu a criação de versões compatíveis com as aplicações Microsoft Windows, em particular com o Internet Explorer. Com base em experiências com pessoas surdas, com limitações literárias ou não, foi desenhada uma página web para a previsão do estado do tempo através então de um humanóide que reproduziria língua gestual (Figura 9).
37 Capítulo 2- State of the Art 28 Figura 9 Reprodutor de língua gestual Na Figura 9 pode ver-se o avatar Visia, encontram-se presentes três botões, similares aos encontrados num reprodutor de vídeo. As funções são: Início dos gestos, possibilidade de fazer pausa num dado ponto da previsão e parar toda a animação. Uma barra de deslocamento poderá ser usada também para saltar para um ponto particular de modo a resumir ou repetir uma parte da previsão. Concluindo, foi o primeiro protótipo no anúncio da previsão do estado do tempo a partir de uma aplicação do género, resultando da combinação de técnicas de conhecimento de vários campos: animação virtual humana, e captura de movimentos em língua gestual. C)0'*!, No Reino Unido, a ITC (Independent Television Commission) comissionou em 1999 o projecto da Televirtual [22] para o desenvolvimento do Simon, um gestualista virtual (Figura 10) para tradução de textos impressos e capturas televisivas em língua gestual, para resolver alguns problemas de agregação de língua gestual a programas televisivos. Figura 10 Gestualista virtual Simon
38 Capítulo 2- State of the Art 29 A apresentação com gestualistas humanos em directo é algo dispendioso para os canais televisivos, e os serviços gestuais requerem ainda facilidades específicas ao nível de estúdios e de pessoal. No Reino Unido, o reconhecimento crescente das necessidades inerentes à comunidade surda resultaram numa legislação em relação às televisões de forma a passarem a fornecer a tradução em língua gestual, incrementando ao longo do tempo, o número de programas acompanhado por esta tradução. O problema para os canais televisivos poderia ser resolvido então com um novo sistema de geração de língua gestual, capaz de resolver a maioria das edições televisivas. Seria perceptivelmente mais barato de produzir para os canais televisivos, necessitaria significantemente de menor capacidade de transmissão do que um segundo sinal vídeo MPEG-2 de um gestualista humano num quarto do écran, proporcionaria então gesticulação automática a todos os programas legendados ou não, resolvendo assim as necessidades da comunidade surda. O software consiste em dois módulos básicos: traduções linguísticas a partir de Inglês impresso em língua gestual, e a animação de um humano virtual. O software de animação permite que o Simon possa traduzir em tempo real. Um dicionário de gestos permite ao sistema o acompanhamento do movimento físico, expressão facial e posições do corpo, que são guardadas como dados de movimento capturado (não em imagens ou em vídeo) num disco rígido. O sistema pode chamar esses movimentos físicos (em qualquer ordem), e fazer interpolação entre eles de forma a criar sequências naturais e graduais dos gestos. Os dados de captura de movimentos que incluem informação de mãos, corpo e cara são aplicados a um modelo 3D de um humano virtual com alto grau de detalhe. Este modelo inclui representações muito realistas e exactas das mãos e cara de forma a criar a máxima expressão e realismo na caracterização dos gestos. Outros modelos gráficos foram construídos com personagens muito mais novas e até desenhos animados de forma a poderem ser escolhidos pela audiência televisiva consoante a idade. Os dados dos movimentos foram capturados a partir dos gestos de intérpretes experientes em língua gestual, usando três formas de captura avançada de movimentos (Figura 11): Figura 11 Captura de movimentos a partir de um intérprete em língua gestual
39 Capítulo 2- State of the Art Cybergloves VR como luvas de dados para a captura do movimento das mãos. 2. Um fato especial magnético foi utilizado para adquirir as posições do tronco superior, braços e posições da cabeça. 3. Foi utilizado o dispositivo óptico Facetrack na captura de expressões faciais e posições dos lábios. C9$$ Ainda em 1999 houve um debate sobre a data a partir da qual seria razoável os operadores de televisão começarem com as transmissões de serviços gestuais. Naturalmente, esta data dependeria também da capacidade das set-top-boxes a utilizar já terem a tecnologia disponível, e também, a realização de um acordo para a estandardização gestual a transmitir. Era também esperado que a comunidade surda preferisse usar a British Sign Language (BSL) em prol da Sign Supported English (SSE). Mas o sistema estava ainda unicamente funcional para SSE, um dos desenvolvimentos futuros seria a sua conversão para BSL. Além disto, havia três etapas bem definidas para o presente e futuro do projecto: 1. Etapa dos movimentos corporais. Melhoria na captura de movimentos corporais. Um pequena quantidade de dados comprimidos a partir desta captura representariam os movimentos transmitidos no sinal digital de televisão até às set-top-boxes, onde o Simon imitaria os movimentos com exactidão. 2. Reconhecer que o sistema de tradução linguístico pode ser empregue num estúdio produzindo automaticamente língua gestual. 3. Etapa para a tradução de língua gestual a partir unicamente de áudio. D5 %& %& # 2 É agora apresentado um projecto com uma abordagem diferente, mas com os mesmos objectivos, o ensino de língua gestual através de modelos computacionais, que não se fiquem unicamente pelos vídeos de personagens reais ou imagens estáticas. Godenschweger e Wagener [23] consideram que um dos objectivos desde há muito para ajudar as pessoas surdas é o desenvolvimento de sistemas automáticos para produzir língua gestual. Este grande problema pode decompor-se em pontos mais específicos: Obter um modelo de linguagem capaz de ser gestualizado.
40 Capítulo 2- State of the Art 31 Modelar e descrever os movimentos corporais necessários na composição de gestos. Obter gráficos 3D via computador capazes de simular esses movimentos gestuais. Não houve progressos satisfatórios na solução de nenhum deste três pontos, mas o trabalho está em curso em cada uma destas áreas. Outro problema que ocorre na animação de seres humanos virtuais está na sincronização dos movimentos e gestos humanos. A dificuldade de apresentar uma postura certa no momento certo, conduziu na utilização de agentes reais para ajudar na captura de movimentos através de dispositivos especiais. Assim se garante uma especificação estética realista dos movimentos do agente virtual. No entanto este método de registo somente pode ser usado para o caminhar e movimentos gestuais. Outras tarefas adicionais para o actor virtual, como por exemplo a expressão facial, requerem novos processos de captura de movimentos mais caros e que consomem mais recursos, por isso, se mantém o grande problema na geração de língua gestual. Foram propostos algoritmos para a geração de expressões de língua gestual através de gráficos de linhas. É usada a vantagem da natureza abstracta das linhas, onde não é necessária uma apresentação muito detalhada. Nos gráficos de linhas, somente são visualizados os contornos e algumas outras linhas e é possível focar certas áreas usando diferentes estilo de linhas [24]. Neste caso uma apresentação através da traçagem de linhas leva-nos longe na simplicidade, modelos de menor detalhe mas com uma imagem estética fácil de entender pelas pessoas surdas. O uso de gráficos de linhas para a língua gestual não é um campo de investigação desconhecido. Nos livros de texto, as ilustrações são representadas por norma em gráficos de linhas. A razão, aqui, é que o desenho através de linhas de mãos e dedos, podem ser facilmente reconhecidos e distinguidos. Os algoritmos aqui descritos foram desenhados para serem usados em numerosas aplicações. Por exemplo, um dicionário pode ser construído e editado para representar gestos. Ainda, um sistema de ensino para tradutores de língua gestual poderia ser desenvolvido. Este tipo de algoritmo é especialmente atractivo para aplicações via Internet devido a velocidade de transmissão. D5 %& Foi desenhado e implementado um sistema no qual a língua gestual é gerada através de simples modelos 3D e apresentada em forma de gráficos de linhas. As animações gestuais são construídas através de um conjunto estático de gestos actuando em diferentes frames. A transição entre os gestos estáticos é produzida através de técnicas de interpolação. A especificação de um gesto estático é aplicada ao esqueleto subjacente do modelo 3D. Através do modelo deformável, as linhas específicas principais de certa direcção ou vista são extraídas e apresentadas. Uma importante característica da língua gestual é a expressão facial. Sem a expressão facial, os gestos poderão ser interpretados de modo erróneo ou então não na
41 Capítulo 2- State of the Art 32 sua totalidade. É descrito então uma nova técnica para modelar expressões faciais que é muito simples, tendo-se assim conseguido apresentar de uma forma bastante rica as linhas para representar expressões faciais aceitáveis. D B' O método de modelação utiliza um modelo fixo em 3D de uma cabeça sobre a qual são editadas as correspondentes e relevantes expressões faciais da língua gestual, isto é, a boca, olhos, pestanas e as possíveis rugas para acentuar certas posições e movimentos. Não existe limite no número de linhas que poderão ser editadas ou associadas ao modelo da cabeça. A Figura 12 apresenta a aplicação desta implementação posta em prática, na qual a especificação das linhas faciais está representada. Um utilizador poderá adicionar, eliminar ou mover as linhas associadas assim como pontos de controlo específicos de forma a obter várias aparências e expressões da cara. Figura 12 Editor de linhas com várias possibilidades para conseguir uma expressão facial específica. Uma definição para a expressão facial é associada a uma descrição verbal e guardada numa biblioteca de expressões. Quando se compõe um gesto, é possível fazer referência a esta expressão facial a qualquer momento. A transição entre as diferentes expressões é interpolada suavemente. Aqui, a especificação Bézier é usada para o esquema de interpolação.
42 Capítulo 2- State of the Art 33 D"9<%& Na língua gestual, a postura é por norma construída com certos gestos da mão, dos movimentos dos braços e cabeça. Há imensos gestos para a mão esquerda e direita que podem ser usados numa representação de língua gestual. A postura nesta aplicação é definida pelos gestos da mão esquerda e direita e pelo movimento superior do corpo. A especificação do movimento das mãos e corpo é-nos dada por ângulos de rotação de um esqueleto que se aproxima ao esqueleto humano (Figura 13). Cada especificação das mão e do corpo é associado a uma descrição verbal e guardada numa biblioteca. Figura 13 Modelo do esqueleto da parte superior do corpo com as suas articulações específicas. D(!A%& Um gesto nesta aplicação é composto pelos movimentos das mão (ambas as mãos), o movimento do corpo e pelas expressões faciais. A Figura 14 mostra uma janela com vários gestos armazenados, onde a composição dos gestos se poderá realizar facilmente. Figura 14 Janela de diálogo de composição de gestos e biblioteca de armazenamento de gestos
43 Capítulo 2- State of the Art 34 Dois valores de tempo deverão ser adicionados para a definição dos gestos, os períodos antes (pre. time) e depois (fal. time) influenciam a interpolação durante a transição entre dois gestos. O período precedente define o tempo de espera do início do movimento mas já com a postura inicial, o período depois define durante quanto tempo este gesto continuará imóvel após a conclusão do gesto. Na janela de diálogo, cada gesto poderá ser modificado trocando a referência do nome das acções, ou os valores de tempo. Após a modificação dos nomes de referência sobre as acções a janela de rendering é imediatamente alterada e reestruturada, e o novo gesto estará apto a ser examinado. D/ %& A composição dos gestos é uma combinação gesticular de realização estática e dinâmica acompanhada de expressões faciais. Os movimentos são realizados suavemente com velocidade variável e tempos controlados. Neste sistema, a geração de gestos animados consiste em definir um conjunto de gestos usados nos diferentes frames para a composição da animação. Para a definição dos movimentos entre cada um destes frames assim como a transição entre as diversas expressões faciais, foram utilizados esquemas lineares de interpolação. Um utilizador poderá escolher a velocidade de saída e entrada entre cada ponto do gesto definindo a inclinação das tangentes de entrada e saída. Para uma animação de gestos aceitável foram calculados e idealizados 15 frames por segundo. Por vezes nalguns gestos mais simples unicamente são necessários dois frames (inicial e final) para a identificação correcta do gesto. No entanto, na definição de gestos mais complicados o utilizador é forçado a incluir vários frames de gestos entre os 15 frames para conseguir obter uma animação e apresentação conveniente do gesto em questão. É necessário sublinhar que todos os passos de progressão descritos nesta secção funcionam num modelo analítico ou descritivo de gestos e sinais. D1;A%& São agora descritos os modelos para visualização e animação. Foi utilizada uma ferramenta de rendering [24] para produzir o desenho das linhas para a descrição dos modelos. Esta ferramenta permite que o utilizador varie significativamente a qualidade das linhas, em particular no que diz respeito à largura, saturação, esboço, aparência final das linhas, etc. Isto, alternadamente permite ao utilizador acentuar certos aspectos dos gestos, em particular até ao uso excessivo de ênfases para propósitos de ensino. Nesta secção temos resultados de exemplos do trabalho até aqui apresentado. Na primeira parte são mostradas algumas expressões faciais com várias linhas e estilos de linhas. Na segunda parte, são mostrados alguns gestos que se podem utilizar como keyframes para a animação gestual.
44 Capítulo 2- State of the Art 35 DCB B' O exemplo seguinte mostra-nos dois estilos diferentes de linhas para expressões faciais. O primeiro exemplo reflecte a expressão facial de surpresa que pode ser visto na Figura 15. Para a simulação de rugas à volta da boca aberta, linhas adicionais foram associadas ao modelo principal. Junto com olhos abertos e sobrancelhas levantadas, obtém-se um olhar de assombro. Figura 15 Dois tipos de linhas são válidos nas expressões faciais, neste caso gerando um ar de surpresa. Na Figura 16 é apresentada uma face sorridente. Neste exemplo é utilizado o mesmo número de linhas associadas do caso anterior. Uma expressão completamente diferente poderá ser encontrada trocando levemente alguns aspectos das linhas. Figura 16 Expressão facial sorridente através de gráficos de linhas DDB Na Figura 17-a) é apresentada uma representação do gesto Alemão Niemals (Port. nunca). Neste exemplo os dedos da mão direita são acentuados para conduzir a atenção dos espectadores a uma característica importante do gesto, que neste caso é a posição dos dedos e mão direita.
45 Capítulo 2- State of the Art 36 No exemplo seguinte da Figura 17-b) é apresentado o gesto Alemão ``Baum '(Port. árvore). Neste gesto o modelo está representando a copa da arvore e seguidamente o tronco. Além de gesticular, a boca também se mexe para dizer a palavra `` Baum '. Aqui o realce é fixado na cara traçando aí linhas mais densas que as restantes a) b) Figura 17 Dois tipos de representação dos gestos com ênfases em diferentes partes do corpo para captar a atenção do espectador. DE9'& '# Neste trabalho foi apresentado o desenho e a posta em prática de um sistema de modelação e visualização de linguagem gestual usando gráficos de linhas. Este sistema está preparado para variar a visualização de modo a acentuar diferentes partes de gestos individuais variando o estilo de linhas utilizado. Foram apresentadas imagens e animações a professores de língua gestual (um deles surdo) e foi recebido um feed-back de observações muito encorajador. Em particular a possibilidade para variar a visualização para o acentuar de partes importantes consideradas como elementos chave na aprendizagem e ensino por parte dos professores da língua gestual. O facto de serem utilizados gráficos de linhas foi bem recebido já que este estilo se presta naturalmente para representações de ênfase localizadas e é um tipo de representação facilmente impresso. O trabalho futuro deverá prosseguir em duas direcções. Primeiro, melhorar o sistema de interacção com o utilizador e o sistema de definição e acentuação de gestos. Segundo, idealizar métodos para integrar este modelo e sistema de visualização num outro ambiente, por exemplo, saber que características de ajuda serão necessárias para o suporte via ensino.
46 Capítulo 3- Tecnologias Gráficas de Apoio 37 Capítulo 3 Tecnologias Gráficas de Apoio " %&4<' ") %&4<' A computação gráfica está presente em todas as áreas, desde os mais inconsequentes jogos electrónicos até ao projecto dos mais modernos equipamentos para viagens espaciais, passando também pela publicidade, com os mais incríveis spots publicitários feitos por computador e pela medicina onde a criação de imagens de órgãos internos do corpo humano possibilita o diagnóstico electrónico de males que noutros tempos somente seria possível com intervenções cirúrgicas complicadas e comprometedoras. Parece existir consenso entre os pesquisadores da história da computação gráfica de que o primeiro computador a possuir recursos gráficos de visualização de dados numéricos foi o "Whirlwind I" (furacão), desenvolvido pelo MIT 6. Este equipamento foi desenvolvido em 1950, com finalidades académicas e também possivelmente militares pois, logo de seguida, o comando de defesa aérea dos EUA desenvolveu um sistema de monitorização e controlo de voos (SAGE - Semi-Automatic Ground Enviroment) que convertia as informações capturadas pelo radar em imagem num tubo de raios catódicos (na época uma invenção recente) no qual o utilizador podia apontar com uma caneta óptica. 6 Massachusetts Institute of Technology
47 Capítulo 3- Tecnologias Gráficas de Apoio 38 Acontece que nesta época os computadores eram orientados para fazer cálculos pesados para físicos e projectistas de mísseis não sendo próprios para o desenvolvimento da computação gráfica. Em 1962, surgiu uma das mais importantes publicações de computação gráfica de todos os tempos, a tese do Dr Ivan Sutherland ("Sketchpad - A Man-Machine Graphical Communication System"), propunha uma forma de interacção muito semelhante ao que hoje chamamos interfaces WIMP Window-Icon-Menu-Pointer. Esta publicação chamou a atenção das indústrias automobilísticas e aeroespaciais americanas. Os conceitos de estruturação de dados bem como o núcleo da noção de computação gráfica interactiva levaram a General Motors (GM) a desenvolver o percursor dos primeiros programas de CAD 7. Logo de seguida diversas outras grandes corporações americanas seguiram este exemplo sendo que no final da década de 60 praticamente toda a indústria automobilística e aeroespacial utilizava software CAD. " ) ' %&4<' Dois factores, entretanto, foram fundamentais para o desenvolvimento da computação gráfica tal como hoje a conhecemos: a) O desenvolvimento da tecnologia de circuitos integrados durante a década de 70 que permitiu a redução de preços e a consequente popularização das máquinas. b) O fim da ideia de que os fabricantes de computadores devem fornecer apenas a máquina e o sistema operativo e que os utilizadores devem escrever seus próprios programas de aplicação. A popularização dos programas de aplicação prontos e integrados (editores de texto, editores gráficos, processadores de imagem, bases de dados, etc) permitiram a popularização da computação gráfica na medida em que possibilitaram que o utilizador comum sem conhecimento ou tempo para desenvolver aplicações gráficas (nem sempre tão simples de serem programadas) pudessem utilizar as facilidades das mesmas. "")6 %&4<' Segundo a ISO ("International Standards Organization") a computação gráfica pode ser definida como um conjunto de métodos e técnicas utilizados para converter dados num dispositivo gráfico, via computador. Se tomarmos como base a definição da ISO, duas áreas têm uma estreita relação com a Computação Gráfica; são elas: a) Processamento de Imagem: envolve técnicas de transformação de imagens. As transformações visam, em geral, melhorar características visuais da imagem como por 7 Computer Aided Design
48 Capítulo 3- Tecnologias Gráficas de Apoio 39 exemplo aumentar o contraste, alterar a focagem ou ainda aumentar/reduzir cores e reduzir eventuais distorções. b) Reconhecimento de Padrões: também conhecida como análise de imagens, busca isolar e identificar os componentes de uma imagem a partir da sua representação visual. A Figura 18 ilustra o relacionamento entre a Computação Gráfica, o Processamento de Imagem, o Reconhecimento de Padrões e o Processamento de Dados convencional, segundo a visão da ISO. Computação Gráfica Processamento de Dados Dados Imagens Processamento de Imagens Reconhecimento de Padrões Figura 18 Relacionamento da computação gráfica com outras áreas Já Rogers [25] classifica a computação gráfica em passiva e interactiva. Como computação gráfica passiva entende-se o uso do computador para definir, armazenar, manipular e apresentar imagens gráficas. O computador prepara e apresenta dados armazenados sob a forma de figuras e o observador/utilizador não interfere nesse processo. Exemplos deste tipo de actividade podem ser simples como a geração automática de um gráfico de barras a partir de uma tabela, bem como a simulação do movimento de um veículo espacial a partir dos dados recolhidos em campo. Computação gráfica interactiva também utiliza o computador para preparar e apresentar imagens. Neste caso, entretanto, o observador/utilizador pode interagir em tempo real com a imagem. A manipulação de imagens em tempo real apresenta como principal problema o número de cálculos envolvidos para se trabalhar com imagens relativamente complexas. Para contornar este tipo de problema podem ser adoptadas soluções tais como: Utilizar máquinas mais rápidas; Melhorar os algoritmos tornando-os mais eficientes; Construir módulos de "hardware" dedicados a certos tipos de operações;
49 Capítulo 3- Tecnologias Gráficas de Apoio 40 Reduzir a complexidade da imagem. Nesse caso corre-se o risco de se produzirem imagens de qualidade insuficiente conforme a aplicação. " +'%&. O ambiente tridimensional é um cenário, dinâmico ou não, armazenado no computador e exibido, em tempo real, através de técnicas de computação gráfica. Estes ambientes podem ser divididos em duas categorias básicas: ambientes tridimensionais imersivos e ambientes tridimensionais não-imersivos. Nos ambientes imersivos as imagens são exibidas ao utilizador de tal forma que o faça acreditar que ele está imerso neste ambiente. Normalmente, esta exibição, a fim de atingir a sensação de imersão, é realizada através de dispositivos especiais. Nos ambientes não-imersivos, as imagens são exibidas no écran de um computador, projectadas em telas, etc. Pinho [26] definiu que, na interacção virtual não-imersiva, toma-se o utilizador como alguém que observa e interage com um cenário tridimensional através do écran de um computador. Na interacção virtual imersiva considera-se que o utilizador está a utilizar dispositivos de realidade virtual capazes de impedir que este veja o mundo real que o cerca, passando a visualizar apenas o ambiente gerado pelo sistema gráfico. O processo de interacção num ambiente virtual, seja ele imersivo ou não, é considerado actualmente como um sistema contínuo onde cada acção do utilizador deve ser respondida com uma acção do controlador do sistema do ambiente virtual [27]. A ideia de interfaces entre seres humanos e sistemas deste tipo é bastante antiga. Entretanto, algumas premissas básicas aplicamse totalmente à interacção em ambientes virtuais. As técnicas de interacção, neste contexto, permitem mapear entradas do utilizador (posições de mãos, braços, cabeça, comandos de voz, etc) capturadas por dispositivos, em acções e comandos nos ambientes virtuais. Apesar dos sistemas gráficos interactivos serem capazes de exibir imagens de alta qualidade em tempo real a partir de modelos tridimensionais, ainda persiste o problema de como interagir em ambientes virtuais de uma maneira natural e livre de erros. Por isto, o projecto de uma interface homem-máquina deve possuir não só o conhecimento das capacidades motoras do ser humano, mas também, deve ter conhecimento de como se realizam as tarefas tridimensionais. A interacção com objectos em ambientes tridimensionais é realizada com objectivo de efectuar operações de selecção, manipulação e navegação no ambiente tridimensional. Por manipulação entende-se a tarefa de alterar algum parâmetro de um objecto tridimensional que acarrete mudança das suas propriedades, por exemplo: tamanho, posição ou orientação. Por selecção entende-se o processo de definir, de entre os objectos num ambiente tridimensional, sobre qual deles se deseja operar. A navegação, por sua vez, é o processo de mudar a posição do observador no ambiente tridimensional.
50 Capítulo 3- Tecnologias Gráficas de Apoio 41 Neste capítulo analisar-se-á o processo de interacção em ambientes virtuais. " F '+'$ As operações básicas do processo interactivo em ambientes tridimensionais possuem dois parâmetros comuns, que devem ser considerados na construção das metáforas de interacção. São eles a resolução e o número de graus de liberdade dos processos interactivos. Resolução da Interacção A resolução trata do tamanho ou intervalo obtido entre dois quaisquer valores consecutivos na definição de um parâmetro como rotação ou posição. Numa análise prévia, pode parecer que quanto menor o intervalo, melhor será a qualidade da ferramenta de interacção. Entretanto, este é um aspecto que depende muito da aplicação e dos seus objectivos. O alinhamento de objectos entre si, por exemplo, pode tornar-se bastante difícil se a resolução disponível no processo interactivo for muito grande. Imagine-se dois objectos cujas alturas sejam controladas por dois sliders 8 que o utilizador pode manipular com o rato. Neste caso, a dificuldade surge quando o utilizador tenta colocar os dois objectos numa mesma altura dentro de um cenário. Caso os intervalos entre os dois valores consecutivos sejam muito pequenos, o utilizador terá dificuldade para definir valores iguais (a não ser que utilize uma interface textual). Outro exemplo é a traçagem de uma linha perfeitamente horizontal. Caso a ferramenta de interacção dê ao utilizador um controlo muito fino do movimento dos extremos da linha, tornar-se-á bastante difícil criar dois pontos com a mesma coordenada Y. Em casos como estes, frequentemente, as ferramentas de interacção disponibilizam recursos como grades de realinhamento. Nestas, ocorre uma espécie de redução forçada da resolução do movimento, tornando a escolha de duas posições alinhadas entre si um processo mais rápido e simplificado. Graus de Liberdade O segundo parâmetro, comum a todas as técnicas de interacção com objectos tridimensionais, é o número de graus de liberdade da ferramenta ou da técnica de interacção. O número de graus de liberdade define o número de eixos de coordenadas que podem ser manipulados simultaneamente durante o processo interactivo. Um rato, por exemplo, tem intrinsecamente dois graus de liberdade no que se refere ao seu movimento. Uma metáfora de interacção construída utilizando-se de um rato pode, entretanto, ter apenas um grau de liberdade desde que o movimento num dos eixos seja ignorado. A necessidade do controlo dos graus de liberdade de um processo interactivo surge, por exemplo, quando se precisa mover um objecto apenas numa direcção, como no caso 8 Barras de Deslocamento
51 Capítulo 3- Tecnologias Gráficas de Apoio 42 de encaixar um rectângulo entre dois outros já existentes. Na Figura 19 pode observar-se um caso em que a diminuição dos graus de liberdade pode auxiliar no deslocamento. Considere-se que o objectivo é levar com o rato o rectângulo R do ponto A, ao ponto E, sem colidir com as paredes do mapa durante o trajecto. No percurso entre os pontos A e B, o objecto R não precisa mover-se no eixo Y, pois se o fizer, poderá colidir com os blocos já posicionados. No ponto B os graus de liberdade devem ser novamente restaurados. Ao iniciar o movimento em direcção ao ponto C o movimento deve ficar restrito ao eixo Y e assim sucessivamente até que o utilizador consiga posicionar o objecto no local desejado. E C D B A R Figura 19 Controlo dos Graus de Liberdade ""+'%& ; Os principais sistemas a utilizarem a interacção com ambientes tridimensionais não-imersivos são os editores gráficos tridimensionais, seja para modelação de objectos ou para a criação de animações. Nestes sistemas o utilizador geralmente observa os objectos tridimensionais projectados numa janela no écran de um computador. Por meio de comandos com o rato, teclado ou outro dispositivo, pode seleccionarse e editar as propriedades destes objectos e também alterar parâmetros como a posição ou o ângulo de visão do observador, configurado-se, nestes casos, um processo de navegação. Noutras palavras, em ambientes tridimensionais não-imersivos a interacção com um objecto é realizada com objectivo de efectuar operações de selecção, rotação, translação e variação de escala sobre estes objectos ou então para realizar alterações na configuração do observador do ambiente virtual. Em todos estes casos, a imagem está exibida sobre uma écran de um computador, através de uma projecção bidimensional (ortográfica ou perspectiva). As metáforas de interacção em ambientes não imersivos podem ser classificadas de acordo com a forma como o utilizador altera os valores que definem os parâmetros de rotação, escala, translação e navegação. Esta manipulação pode ser feita directa ou
UNIVERSIDADE DO MINHO DEPARTAMENTO DE INFORMÁTICA Ensino da Língua Gestual Assistido por Personagens 3D Virtuais Leonel Domingues Deusdado Dissertação submetida à Universidade do Minho para obtenção do
APOIO 3D AO ENSINO DA LÍNGUA GESTUAL Leonel Domingues Deusdado 1 Abstract There is an agreement on the need of human intervention in the teaching of a sign language; it is also true that there is no dispute