Júlio César Peixoto Gama
1 UNIVERSIDADE DE LISBOA Faculdade de Ciências Departamento de Informática INFRA ESTRUTURA DE UM SERVIÇO ONLINE DE RESPOSTA A PERGUNTAS COM BASE NA WEB PORTUGUESA Lino Miguel Silva Rodrigues Mestrado em Engenharia Informática 2007
3 UNIVERSIDADE DE LISBOA Faculdade de Ciências Departamento de Informática INFRA ESTRUTURA DE UM SERVIÇO ONLINE DE RESPOSTA A PERGUNTAS COM BASE NA WEB PORTUGUESA Lino Miguel Silva Rodrigues Projecto orientado pelo Prof. Dr. António Horta Branco Mestrado em Engenharia Informática 2007
5 Declaração Lino Miguel Silva Rodrigues, aluno nº da Faculdade de Ciências da Universidade de Lisboa, declara ceder os seus direitos de cópia sobre o seu Relatório de Projecto em Engenha ria Informática, intitulado Infra estrutura de um Serviço Online de Resposta a Perguntas com base na Web Portuguesa, realizado no ano lectivo de 2006/2007 à Faculdade de Ciências da Universidade de Lisboa para o efeito de arquivo e consulta nas suas bibliotecas e publicação do mesmo em formato electrónico na Internet. FCUL, 20 de Julho de 2007 António Horta Branco, supervisor do projecto de Lino Miguel Silva Rodrigues, aluno da Fa culdade de Ciências da Universidade de Lisboa, declara concordar com a divulgação do Rela tório do Projecto em Engenharia Informática, intitulado "Infra estrutura de um Serviço Online de Resposta a Perguntas com base na Web Portuguesa". FCUL, 20 de Julho de 2007
7 Resumo A Internet promoveu uma nova forma de comunicação global, com um impacto profundo na disseminação da informação. Em consequência, tornam se necessárias novas soluções tec nológicas que permitam explorar os recursos actualmente disponíveis. Numa era em que os motores de busca de documentos já fazem parte da vida quotidiana do cibernauta, o próximo passo é permitir que os utilizadores da rede obtenham breves respostas a perguntas específi cas. O projecto QueXting foi encetado pelo Grupo de Fala e Linguagem Natural (NLX) do De partamento de Informática da Faculdade de Ciências da Universidade de Lisboa com o objec tivo principal de contribuir para um melhor acesso à informação, possibilitando a realização de perguntas em Português e a obtenção de respostas a partir da informação disponível nos documentos escritos em língua portuguesa. Para tal, pretende oferecer livre acesso a um servi ço online que processa os documentos da Internet escritos nesta língua e que começará por proporcionar respostas a perguntas factuais. O sistema de resposta a perguntas QueXting tem como pilares a arquitectura e metodolo gia recentemente amadurecidas neste domínio científico e diversas ferramentas linguísticas, específicas para a língua portuguesa, que o NLX tem vindo a desenvolver. O processamento linguístico específico é um dos factores chave que distingue a tarefa de resposta a perguntas das restantes tarefas de recuperação e extracção de informação, permitindo um processamento profundo dos pedidos de informação e a obtenção de respostas exactas. Esta dissertação apresenta os resultados do desenvolvimento da infra estrutura do sistema QueXting, que servirá de base ao processamento específico de diversos tipos de perguntas factuais. Apresenta ainda os resultados obtidos no processamento de um tipo de pergunta es pecífico, para o qual foram realizadas avaliações preliminares. PALAVRAS CHAVE: Resposta a Perguntas, Recuperação e Extracção de Informação, Processamento de Linguagem Natural, Processamento Computacional do Português.
9 Abstract The Internet promoted a new form of global communication, with deep impact in the dissemination of information. As a consequence, new technological solutions are needed for the exploitation of the resources thus made available. At a time when document search engines are already part of the daily life of Internet users, the next step is to allow these users to obtain brief answers to specific questions. The QueXting project was undertaken by the Natural Language and Speech Group (NLX) at the Department of Informatics of the Faculty of Sciences of the University of Lisbon, with the main goal of contributing to a better access to information available in the Portuguese language. To this end, a web service supporting questions in Portuguese should be made freely available, gathering answers from documents written in this language. The QueXting question answering system is implemented through a general methodology and architecture that have recently matured in this scientific domain. Furthermore, it is supported by several linguistic tools, specific for Portuguese, that the NLX group has been developing. This specific linguistic processing is a key factor distinguishing the task of question answering from the remaining tasks of information retrieval and extraction, allowing the deep processing of information requests and the extraction of exact answers. This dissertation reports on the development of the infra structure of the QueXting system, which will support the specific processing of several types of factoid questions. Such processing has already been applied to one specific type of question, for which some preliminary evaluations were completed. KEYWORDS: Question answering, Information Retrieval, Information Extraction, Natural Language Processing, Portuguese, Computational Processing of Portuguese
11 Agradecimentos Neste ano de adaptação a novas realidades pessoais e profissionais, certas pessoas tiveram uma presença determinante. Aproveito esta oportunidade para deixar os meus sinceros agrade cimentos a todos eles. Ao Professor António Branco, pela orientação e pela união que fomenta no grupo NLX. Aos membros do NLX: João Silva, Pedro Martins, Eduardo Ferreira, Filipe Nunes, Mariana Avelãs, Rosa Del Gaudio, Francisco Costa e Marcos Garcia. À FCT pelo financiamento do projecto e ao DI FCUL pela disponibilização do espaço. À Linguateca, pela disponibilização dos recursos de avaliação da conferência CLEF. A toda a minha família, pelo espaço concedido para que eu pudesse terminar este trabalho. Ao Pantufa, por lembrar me que casa é onde estão as nossas tarefas e laços mais importantes. Ao Leo, Hugo Marrão, Ana Cruz, Raquel e Cátia pelo apoio e boas memórias. Ao Dino e Amílcar, pela companhia na FCUL. Ao Tiago e a Hideaki Anno por uma obra única, e aos Tool por Lateralus. A todas as crianças, pelas perguntas mais difíceis
13 Índice 1 INTRODUÇÃO Enquadramento institucional Enquadramento tecnológico e científico Objectivos Estrutura da dissertação CONTEXTO Fundações dos Sistemas de Resposta a Perguntas Perspectiva histórica Conferências de avaliação Características dos SRP Utilizadores e pedidos Fontes de respostas e domínio de aplicação Processo de resolução Recursos e métodos de PLN que sustentam os SRP Tipos de SRP SRP baseados na Internet SRP em Língua Portuguesa O SISTEMA QUEXTING Panorâmica Abordagem Processos e recursos Interface de testes Processamento de questões Palavras chave Tipo semântico e padrões sintácticos Recolha de documentos fonte Identificação...35
14 3.3.2 Recolha Análise Evitando duplicados Extracção de respostas Segmentação em frases Detecção de palavras chave Detecção de padrões sintácticos e do tipo semântico AVALIAÇÃO Pontos chave Recursos Critérios Métricas Avaliação automática Avaliação do QueXting Perguntas de teste Automatização Primeira avaliação de respostas curtas Primeira avaliação na Internet Avaliação comparativa CONCLUSÃO Principais resultados Infra estrutura Processamento de perguntas Quem..? predicativas Páginas web Notas, recursos e resultados de avaliação Trabalho futuro Comentário crítico...70 ANEXOS A Lista de serviços online de resposta a perguntas...73 B Text Retrieval Conference: Question Answering track...75
15 C Exemplo de execução do sistema...79 D Perguntas Quem..? predicativas usadas nas avaliações...89 REFERÊNCIAS...93 GLOSSÁRIO DE SIGLAS...97
16 Índice de Figuras e Tabelas Figura 1: Caixa de pesquisa num motor de recuperação de documentos...2 Figura 2: Excerto da lista de resultados relevantes...2 Figura 3: Níveis de sofisticação de utilizadores e perguntas...12 Figura 4: Processos e arquitectura típica...14 Figura 5: Pergunta ao SRP AnswerBus: Qual é a diferença entre ovos de galinha brancos e castanhos?...21 Figura 6: Processos e recursos do SRP QueXting...26 Figura 7: Processos e recursos actuais ao nível da implementação Java...28 Figura 8: Logótipo...29 Figura 9: Envio de um pedido ao sistema...29 Figura 10: Distribuição de respostas por posição...63 Figura 11: Primeiras respostas exactas do QueXting à pergunta: "Quem é Edward Norton?".71 Tabela 1: Tipos de perguntas...11 Tabela 2: Fontes de respostas e domínio de aplicação de um SRP...13 Tabela 3: Valores médios de abrangência, precisão e medida F das respostas curtas obtidas..58 Tabela 4: Posição das melhores respostas curtas por pergunta...59 Tabela 5: Contagem de respostas correctas, inexactas, incompletas e erradas...62
19 Capítulo 1 Introdução 1.1 Enquadramento institucional Esta dissertação foi realizada no ano lectivo de 2006/2007, no âmbito do Mestrado em En genharia Informática da Faculdade de Ciências da Universidade de Lisboa (FCUL). O traba lho apresentado neste documento foi levado a cabo no Grupo de Fala e Linguagem Natural (Grupo NLX) do Departamento de Informática da FCUL, enquadrando se no projecto de I&D QueXting. O NLX realiza actividades de investigação e desenvolvimento nos domínios de Inteligên cia Artificial e Ciência Cognitiva, focando se particularmente no Processamento de Lingua gem Natural. O grupo tem vindo a desenvolver diversos recursos e ferramentas linguísticas para o processamento computacional da língua portuguesa. O QueXting é um projecto finan ciado pela Fundação para a Ciência e Tecnologia, sob o contrato POSI/PLP/61490/ Enquadramento tecnológico e científico Informação na rede O crescimento da Internet ofereceu novas oportunidades de acesso a informação e servi ços, mas fez surgir novas necessidades para a exploração dessas oportunidades. Constituindo a informação espalhada pelo ciberespaço um enorme repositório de conhecimento, estas neces sidades incluem ferramentas para lidar com grandes quantidades de dados de forma relevante e atempada. Os actuais motores de busca (e.g. Yahoo, Google1) constituem se como os instru mentos actualmente mais utilizados para responder a estas necessidades, permitindo encontrar documentos que poderão ser relevantes dadas as palavras chave introduzidas pelo utilizador. 1 Os endereços de Internet destes motores e doutros mencionados adiante estão disponíveis no Anexo A. 1
20 Estas aplicações não foram as primeiras ferramentas implementadas para facilitar o acesso à informação. Na realidade, as primeiras ferramentas com esta finalidade foram os directórios, que apenas agrupam endereços de páginas por tópicos e deixam o resto da busca nas mãos do utilizador. Os motores de busca de documentos vieram facilitar esta tarefa ao permitir encon trar documentos relevantes dado o conjunto de palavras chave introduzidas. As Figuras 1 e 2 exemplificam a interface, provavelmente familiar para o leitor, de uma destas aplicações. É possível verificar como, para pedidos genéricos de informação sobre um determinado tema, são obtidas referências interessantes, e até um pequeno excerto do conteú do desses documentos. Figura 1: Caixa de pesquisa num motor de recuperação de documentos Figura 2: Excerto da lista de resultados relevantes Para encontrar as respostas de muitas perguntas, um utilizador terá que realizar uma tarefa complexa pelas suas próprias mãos: a de seleccionar e ler vários documentos de entre os que parecerem mais promissores. Infelizmente, mesmo os documentos relevantes (cujo assunto se refere realmente à pesquisa feita) podem não conter uma resposta. Por exemplo, o primeiro documento devolvido pelo Google à pesquisa Quem são os Gato Fedorento? é o blogue desse grupo de comediantes, mas em nenhuma parte desse blogue é dada uma resposta especí fica. No entanto, é frequente o cibernauta precisar de respostas para questões específicas, como 2
21 Quem foi a segunda pessoa a pisar a Lua? ou Qual é a diferença entre ovos de galinha brancos e castanhos?. Questionar é uma forma natural de expressão e raciocínio do ser hu mano que não se traduz simplesmente em palavras chave e que não fica respondida com uma lista de documentos. Avanços em Resposta a Perguntas Nos últimos anos, vários projectos de I&D têm formulado técnicas para Sistemas de Res posta a Perguntas (SRP) que obtêm respostas concretas, em vez de listas de documentos, como resultado de uma pergunta formulada em linguagem natural. Protótipos que participam em competições como a TREC/QA (Text Retrieval Conference / Question Answering track) têm vindo a mostrar progressos neste domínio. Para as questões mais simples, de carácter fac tual, alguns destes sistemas já atingem bons resultados. As arquitecturas e métodos utilizados nestes sistemas podem considerar se estáveis e agora muitos investigadores e as próprias con ferências de avaliação começam a atacar seriamente tipos de questões mais complicados. Apesar de este ser um campo que está há muito tempo em desenvolvimento, desde as pri meiras aplicações da Inteligência Artificial, a resposta a perguntas automática em domínio aberto (sem restrição de tema) é uma tecnologia que só na última década tem dado frutos. Ac tualmente, alguns protótipos online já foram adquiridos por empresas (Ask, Brainboost); as empresas que detêm os motores de busca de documentos começam a dar alguma atenção ao assunto [36]; e muito recentemente formou se uma nova empresa (Powerset) dedicada à res posta a perguntas na Internet, com o objectivo explícito de destronar o Google como porta de acesso privilegiada à rede global. Havendo SRP de acesso livre e sem restrição de domínio cuja base de conhecimento é a Web (cf. lista no Anexo A), um aspecto relevante a focar é o de que essas aplicações são cen tradas na língua inglesa. Mesmo quando é permitido ao utilizador introduzir perguntas em Português (por exemplo, no caso do sistema AnswerBus), as questões são traduzidas automati camente para Inglês e é a rede de documentos em Inglês que é pesquisada para se obter res postas. A questão da língua é um problema inexistente na busca de documentos: um motor de bus ca é em grande medida independente dos idiomas visto que os algoritmos que usa são apropri 3
22 ados para encontrar documentos escritos em qualquer língua. Porém, um SRP usa ferramentas de Processamento de Linguagem Natural (PLN) que o restringem a encontrar respostas a par tir de documentos escritos em idiomas com os quais esses componentes PLN possam lidar. Tal como a maioria das redes de idiomas diferentes do Inglês, a rede portuguesa ainda não se encontra acessível através de RP tal como é já tecnologicamente viável. O projecto QueX ting do grupo NLX pretende colmatar essa lacuna, proporcionando um melhor acesso à infor mação pelos utilizadores da rede portuguesa. Para tal, pretende oferecer livre acesso a um ser viço online que proporcione respostas a perguntas factuais formuladas em Português, com base na informação contida na rede dos documentos escritos nesta língua. Este sistema será a primeira aplicação deste tipo a focar se directamente nos documentos da Internet escritos na língua portuguesa. 1.3 Objectivos O trabalho realizado no âmbito desta dissertação visa a implementação da infra estrutura projectada para o sistema QueXting. A partir desta primeira versão de base, novas ferramentas e capacidades foram e serão adicionadas ao sistema. Entretanto, diferentes tipos de perguntas serão alvo de processamento específico. O conhecimento linguístico envolvido é suportado por ferramentas e recursos linguísticos desenvolvidos no grupo NLX, enquanto que a recolha de documentos fonte se apoia nos motores de busca existentes online. Com esta aplicação pretende se, em traços gerais, tirar partido de toda a informação que se encontra disponível na rede e indexada por motores de busca, proporcionar uma interface em língua portuguesa para toda essa informação e contribuir para o avanço da área de RP no pa norama científico português. O objectivo principal de concretização da infra estrutura básica do QueXting implicou um estudo da arquitectura prevista e a implementação dos módulos que a constituem. Os diferen tes módulos resolvem partes complementares do problema, desde o processamento da questão até à selecção de respostas, passando pela recolha de documentos fonte. Alguns destes módulos socorrem se de ferramentas linguísticas, algumas delas específicas para o Português. Consequentemente, um sub objectivo consiste na adaptação das ferramentas e recursos linguísticos que já existem (e.g. segmentador de frases, ontologias), e no desenvol 4
23 vimento de outros que ainda não estão concretizados (e.g. dicionário de perguntas/respostas). Outro objectivo importante consiste na disponibilização do serviço, ou seja, na colocação da aplicação online através de uma página web. Este objectivo implica uma avaliação e opti mização da qualidade do serviço e dos resultados obtidos nas pesquisas. À medida que se ini ciou o desenvolvimento tornou se premente a definição de mecanismos adequados de avalia ção do sistema, que permitirão guiar o seu desenvolvimento. 1.4 Estrutura da dissertação Após esta introdução ao tema e aos objectivos do projecto, os próximos capítulos irão abordar em pormenor o contexto do trabalho (Capítulo 2), a arquitectura do QueXting (Capí tulo 3) e a avaliação (Capítulo 4). O segundo capítulo Contexto dará uma perspectiva científica e histórica da área; abor dará as características dos SRP segundo factores como tipos de utilizadores/pedidos, domínio de aplicação, fontes de respostas, recursos; discriminará os tipos de SRP segundo as capacida des possibilitadas pelas características descritas acima; e fará uma análise aos SRP disponíveis na rede e aos SRP em língua portuguesa. O terceiro capítulo O Sistema QueXting irá descrever a abordagem de desenvolvimen to, o processo de resolução de pedidos e os recursos utilizados pela aplicação. Em seguida, irá descrever pormenorizadamente cada um dos módulos do sistema. O quarto capítulo Avaliação abordará as conclusões alcançadas sobre as necessidades essenciais para avaliação: recursos, critérios e métricas. Finalmente, são descritas as medidas tomadas para avaliação do QueXting e os resultados das avaliações preliminares efectuadas. O capítulo final Conclusão irá resumir os principais produtos e resultados da pesquisa e do trabalho levados a cabo. Serão ainda abordados os aspectos que poderão ser melhorados ou desenvolvidos no futuro. A dissertação fica concluída com um breve comentário crítico en volvendo aspectos transversais a todo o trabalho. 5
25 Capítulo 2 Contexto Este capítulo apresenta uma panorâmica do contexto em que se insere o trabalho realizado, dos pontos de vista científico e tecnológico. São descritas as características gerais dos utiliza dores e seus pedidos, assim como as características dos próprios sistemas ao nível de capaci dades, recursos e processos. Finalmente, são abordadas aplicações específicas relevantes para o sistema desenvolvido no âmbito desta tese: os SRP baseados na Internet e os SRP em língua portuguesa. 2.1 Fundaçõ es dos Sistemas de Resposta a Perguntas O cruzamento entre o domínio da informação linguística e o domínio do processamento computacional de informação pode ser encarado de duas perspectivas complementares. De uma perspectiva, está em evidência a vantagem de interagir com os computadores de uma for ma mais natural: através da linguagem humana. De outra perspectiva, jaz a possibilidade (ou necessidade) de processar quantidades potencialmente vastas de dados (texto, áudio) linguísti cos salvaguardados em formato digital. As aplicações que se posicionam sob a primeira perspectiva são do domínio da Interac ção em Linguagem Natural (ILN), enquanto as ferramentas desenvolvidas sob a segunda pers pectiva pertencem ao domínio do Processamento de Linguagem Natural (PLN). Muitas das ferramentas de PLN servem de base ou apoio a aplicações concretas centradas no utilizador as aplicações de ILN. Este tipo de reutilização (ou construção de funcionalidades práticas de alto nível com base em capacidades anteriormente conseguidas) é um dos pilares do trabalho desenvolvido na área de resposta a perguntas. Por configuração própria da área, as ferramentas de PLN aplicam se à linguagem natural escrita ou a uma representação discreta da fala. A linguagem escrita é representada interna 7
26 mente pelos computadores como sequências de códigos, em que cada código representa um caracter, isto é, um dos símbolos básicos: letra, dígito, ou símbolo de pontuação. Com o de senvolvimento dos métodos de PLN, os textos disponíveis em meios digitais podem ser pro cessados de uma forma prática e útil para aplicações de ILN. Uma das aplicações que benefi cia dessas capacidades e simultaneamente motiva o seu desenvolvimento é a dos SRP, que têm vindo a ganhar relevo nos últimos anos Perspectiva histórica A origem dos SRP remonta aos primeiros desenvolvimentos da Inteligência Artificial. Os primeiros sistemas deste tipo foram desenvolvidos na década de 1960 e serviam de interface para sistemas periciais dedicados a domínios específicos [36]. Um artigo de Simmons (1965) revê 15 sistemas construídos nos 5 anos precedentes aplicações conversacionais, interfaces (front ends) para repositórios de dados e sistemas que procuram respostas em fontes de texto, como enciclopédias [27, 12]. Desta primeira vaga de SRP, destacam se os seguintes: BASEBALL: um programa para responder a questões sobre jogos de basebol jogados na liga americana durante um ano. [10, 12] STUDENT e SHRDLU: criados para resolver problemas, respectivamente nos domíni os de álgebra e mundo de blocos. [37, 11] LUNAR: demonstrado em 1971 na Second Annual Lunar Conference, respondeu cor rectamente a 78% das perguntas acerca das rochas lunares. [38, 30] Nas décadas de 1970/80, foram desenvolvidas teorias mais abrangentes em linguística computacional que levaram a projectos ambiciosos de compreensão de texto e SRP. Uma teo ria sobre RP foi proposta por Lehnert e implementada no sistema QUALM, com uma taxono mia de questões [17]. As questões foram classificadas em categorias conceptuais que eram usadas para análise inferencial através da teoria de dependência conceptual de Schank. Segun do Schank, a base da linguagem é conceptual, independente do idioma, e uma estrutura (fra mework) de representação de significado facilitaria o raciocínio sobre o conteúdo de um dis curso [26, 11]. Numa outra orientação do desenvolvimento em SRP, foi colocado de lado o conhecimento específico e a capacidade dos sistemas compreenderem texto [30]. Estes sistemas não depen 8
27 dem de uma base de conhecimento especificamente criada para o efeito e, portanto, são inde pendentes do domínio. Em lugar de estarem ligados aos paradigmas e métodos de Inteligência Artificial, usam técnicas de recuperação de informação com o objectivo de obter passagens resposta a partir de um corpo de texto de grandes dimensões. O sistema MURAX de Kupiec (1993) usa uma enciclopédia online como fonte de respostas para as perguntas que Kupiec de finiu como sendo de classe fechada (perguntas de resposta curta, baseadas em factos) [16, 11]. Os sistemas referidos partilham a característica de se basearem em repositórios de dados estáticos. No entanto, é possível utilizar fontes dinâmicas, das quais a Internet é um exemplo paradigmático. O sistema desenvolvido no âmbito desta tese é um sistema deste tipo e, como tal, uma abordagem mais pormenorizada aos SRP baseados na Internet será feita mais adiante neste capítulo. Actualmente estão em desenvolvimento vários sistemas independentes de domínio que usam grandes colecções de textos (quer estáticas, quer dinâmicas) e combinam várias técnicas de PLN para encontrar respostas a diversos tipos de perguntas. A utilização de grandes colec ções de texto foi impulsionada não só pelo crescimento da informação disponível em meios digitais e do número de utilizadores com acesso a ela [22], mas também pela inclusão da tare fa de RP em conferências de avaliação como as descritas nos parágrafos seguintes Conferências de avaliação Em 1999 surgiu o primeiro fórum de avaliação de SRP, incluído na Text Retrieval Conference (TREC). Os sistemas que participam nesta competição devem responder a pergun tas de qualquer domínio, procurando respostas num corpus estático de texto. Este evento pro piciou a I&D em SRP de domínio aberto baseados em grandes colecções de texto. Um peque no estudo do âmbito deste evento nos últimos anos está disponível no Anexo B. O melhor sis tema concorrente em 2005 foi capaz de responder correctamente a 71% das perguntas factuais testadas [35]. Devido ao facto de a TREC se dedicar essencialmente ao processamento da língua inglesa, surgiu uma nova conferência de avaliação, o Cross Language Evaluation Forum (CLEF). que aborda o campo de RP desde Além de focar explicitamente linguagens diferentes do In 2 Outra conferência que se especializa no cruzamento de idiomas é a NTCIR, que se realiza na Ásia. 9
28 glês, este evento dedica atenção ao cruzamento entre as línguas, abordando por exemplo a possibilidade de realização de perguntas numa língua e obtenção de respostas noutra. Para o Português, tem sido utilizado um corpus contendo artigos dos jornais Público e Folha de São Paulo de 1994 e O melhor sistema nesta língua em 2006 foi o da Priberam, com 65% de acerto nas perguntas factuais testadas [20]. 2.2 Características dos SRP Acima de tudo, um SRP é uma interface para um serviço que proporciona um retorno ade quado ao pedido efectuado: permite ao utilizador fornecer ou introduzir uma pergunta especí fica, com o objectivo de obter uma resposta adequada. No entanto, o núcleo do sistema envol ve vários componentes que efectuam o processamento do pedido e das fontes de respostas, empregando diversos métodos de processamento sintáctico, semântico ou pragmático. O papel do sistema é interpretar a pergunta, procurar a informação pedida numa colecção de textos, base de conhecimento ou repositório de dados e identificar os excertos, frases ou expressões que efectivamente consistem em respostas. Portanto, um sistema deste tipo lida com duas entidades fundamentais: o utilizador (cujo pedido deve ser interpretado da melhor forma possível, possibilitando um retorno adequado), e a fonte em que se baseia para obter as respostas que o utilizador procura. Ao longo do pro cesso de obtenção de respostas, existe ainda a necessidade de aplicar métodos ou usar recursos específicos de PLN. Os restantes parágrafos desta Secção abordam individualmente estas facetas dos SRP, fi cando para a Secção 2.3 uma classificação dos SRP com base nas capacidades e recursos utili zados Utilizadores e pedidos A interface pessoa máquina de um sistema deste tipo é variável, dada a diversidade de uti lizadores que poderão interagir com ele. Utilizadores mais avançados poderão realizar pedidos de informação mais complexos, pelo que a possibilidade de introduzir contexto ou pistas para o sistema não deve ser menosprezada. Daí as conferências de avaliação destes sistemas come çarem a introduzir aspectos de interactividade. Um exemplo de interactividade é a clarificação 10
29 de contexto pelo utilizador, por iniciativa própria ou após um pedido de clarificação efectuado pelo sistema. Outro exemplo é o dos sistemas que respondem a perguntas no contexto das in teracções anteriores com o utilizador (e.g. sequência de questões, com progressiva especifici dade, sobre um determinado evento). No entanto, nem todos os pedidos de informação são tão complexos. Eis alguns dos casos de uso típicos do sistema por parte dos seus utilizadores: perguntas casuais por utilizadores comuns; procura de preços e características de produtos por potenciais compradores; pesquisas relacionadas com estudos de mercado/negócio por analistas empresariais; procura de dados pormenorizados por investigadores profissionais. Consoante as técnicas e os recursos utilizados, um SRP terá capacidade para responder a diferentes tipos de perguntas [34, 11]: Tipo de pergunta Exemplos Factual (de resposta directa) Quem foi a primeira pessoa a pisar a Lua? Lista (exigindo uma compilação de vários itens) Que modelos de automóveis produz a BMW? Definição (de resposta mais aberta e, em Quem é Durão Barroso? consequência, potencialmente mais extensa); O que é âmbar? Especulativa (cuja resposta pode não estar presente em nenhum documento e exige algum método de raciocínio) A indústria aérea está em apuros? Porque existe uma crise política em Lisboa? Tabela 1: Tipos de perguntas Os níveis de sofisticação de utilizadores e perguntas foram resumidos por um conjunto de investigadores ligados às Document Understanding Conferences, nas quais se insere a TREC, através do diagrama da Figura 3, originalmente apresentado em [6]. O parágrafo após a Figura 3 descreve os tipos de utilizadores e pedidos representados nesse diagrama. 11
30 SOFISTICAÇÃO DOS UTILIZADORES Nível 1 Nível 2 Nível 3 Nível 4 "Utilizador "Questionador Repórter "Analista Casual" Contextual" Júnior" Profissional" COMPLEXIDADE DAS QUESTÕES E RESPOSTAS DE: PARA: Questões: Factos simples Questões: Complexas; âmbito alargado; com termos de opinião ou necessidade de conhecer o contexto do utilizador Respostas: Respostas simples encontradas Respostas: Procura em múltiplas fontes; num só documento fusão de informação; resolução de dados conflituantes; múltiplas alternativas; necessitando interpretação ou extracção de conclusões. Figura 3: Níveis de sofisticação de utilizadores e perguntas O Utilizador Casual é aquele que realiza perguntas simples de carácter factual, cuja res posta poderá estar numa frase curta. O denominado Questionador Contextual é o tipo de utili zador para o qual o sistema pode fornecer certos modelos que o utilizador preenche com infor mação de contexto relevante para a pergunta. O Repórter Júnior representa o utilizador que pretende realizar pesquisas ainda de pouca profundidade sobre um determinado assunto, ou pesquisas sobre um aspecto particular de um tópico mais geral; trata se de um utilizador foca do em factos mas que potencialmente precisa de cruzar informação de diversas fontes. Final mente, o perfil de Analista Profissional (que inclui repórteres seniores, investigadores polici ais ou judiciais, analistas financeiros, cientistas) cobre os casos de questionadores com neces sidades de informação de carácter mais profundo Fontes de respostas e domínio de aplicação Como referido anteriormente, algumas aplicações iniciais de RP constituíam interfaces para sistemas periciais e, como tal, consultavam uma base de conhecimentos construída por especialistas. Outras interfaces deste tipo podem ser usadas para obter informação a partir de repositórios de dados ou manuais técnicos. Estes tipos de SRP são sistemas de domínio fecha 12
RELATÓRIO PRELIMINAR. sobre INFRA ESTRUTURA DE UM SERVIÇO ONLINE DE RESPOSTA A PERGUNTAS COM BASE NA WEB PORTUGUESA. realizado no
DEPARTAMENTO DE INFORMÁTICA Faculdade de Ciências - Universidade de Lisboa Bloco C6 - Piso 3 - Campo Grande, 1749-016 Lisboa Tel & Fax: 351.217500084 RELATÓRIO PRELIMINAR sobre INFRA ESTRUTURA DE UM SERVIÇO