Melhore a precisão do modelo com dados não estruturados - PDF
Melhore a precisão do modelo com dados não estruturados
Download "Melhore a precisão do modelo com dados não estruturados"
Margarida de Sequeira Mendes
1 IBM SPSS Modeler Premium Melhore a precisão do modelo com dados não estruturados Destaques Solucione rapidamente problemas de negócios com técnicas analíticas que oferecem conhecimentos aprofundados. Facilmente acessa, prepara e integra dados estruturados, textos e dados de pesquisa e da Web Rapidamente identifica e extraia sentimentos de textos em mais de 30 idiomas. Melhora a coerência e consistência de dados atuais com análise de entidades. Transforma informação sobre relações para mostrar o comportamento social de indivíduos e grupos através da análise de redes sociais. Realiza análises diretamente nos principais bancos de dados. O IBM SPSS Modeler Premium é uma plataforma preditiva e de análise de textos de alto desempenho que dá a você uma visão sem precedentes de seus dados. Sua empresa pode alcançar resultados superiores e por fim um retorno positivo no investimento porque esta plataforma permite você basear suas decisões críticas de negócio em inteligência preditiva. Empresas de todos os tipos tem descoberto que elas podem usar a inteligência preditiva do IBM SPSS Modeler para atrair clientes, fortalecer sua lealdade, reduzir a perda de clientes de maneira mais eficaz e reduzir riscos. Empresas do setor público tem benefícios ao utilizar o IBM SPSS Modeler para prevêr a capacidade da força de trabalho, responder proativamente a questões de segurança pública, gerenciar o ciclo de vida de estudantes, melhorar o desempenho em sala de aula e abordar muitos outros desafios operacionais. Utilizando dados históricos, o IBM SPSS Modeler permite você prever resultados com segurança e obter um entendimento sobre as relações oculta em seus dados. Este entendimento permite a você solucionar qualquer problema de negócio rapidamente utilizando comprovadas técnicas analíticas poderosas, que proporcionam uma visão mais profunda de seus clientes, estudantes e eleitores. Mas o que acontece se a maioria de seus dados estão presos na forma não estruturada ou textual em comentários, arquivos ou na web? Modelagem apenas com dados estruturados podem fornecer uma visão incompleta dos seus processos de negócios e resultados.
2 O lhe dá o poder para explorar a inteligência preditiva contida em todas as formas de dados. Isso vai além das análises de dados numéricos estruturados e incluem informações de dados não estruturados, tais como atividade na web, conteúdo do blog, feedback do cliente, s, artigos e mais para descobrir relações entre conceitos e sentimentos e criar modelos preditivos mais preciso possível. Seus de análises de entidades permitem você melhorar a coerência e consistência dos dados atuais solucionando conflitos de identidade dentro dos próprios registros. Resolução da identidade é vital na gestão de relacionamento dos clientes, detecção de fraudes, lavagem de dinheiro e segurança. Os recursos de análise de redes sociais no IBM SPSS Modeler Premium transformam informações sobre as relações em indicadores chave de desempenho que mostram o comportamento social de indivíduos e grupos. Você pode então, identificar líderes sociais que influenciam o comportamento de outros na rede. Combine esses resultados com outras medidas e você pode criar perfis de indivíduos abrangentes para basear seus modelos preditivos. Aumente a produtividade, qualidade e precisão Com o Modeler Premium, é possível executar tanto análise em texto e mineração de dados através de uma interface de visualização interativa. Esta interface gráfica intuitiva torna fácil ver a cada passo do processo de data mining como parte de um fluxo. A análise de texto é simples e eficiente, com gráficos interativos que ajudam a explorar e exibir dados dos textos e padrões para a análise imediata, bem como técnicas de classificação e categorização que transformam texto em ativo analítico. A partir dessa interface visual, é possível acessar e integrar dados de várias fontes, incluindo dados de qualquer tipo de base de dados, planilha ou arquivo como arquivos IBM SPSS Statistics, SAS e Microsoft Excel bem como dados de textos e de fontes da Web 2.0, bem como RSS feeds e produtos IBM SPSS Data Collection, IBM Cognos Business Intelligence e sistemas ligados com IBM Classic Federation Server e zdb2 para suporte z/os. Nenhuma outra solução de data mining oferece esta versatilidade. Quando combinado com o Server, não há necessidade de mover dados de grandes bases de dados pois as análises e a mineração são feitas diretamente no banco de dados. Isto resulta em uma melhora significativa no desempenho analítico. O SQL Pushback permite que as tarefas de transformação e preparação de dados sejam realizadas dentro do banco de dados sem que o usuário tenha que escrever ou fazer qualquer programação SQL. O IBM SPSS Scoring Adapters permite que modelos sejam rapidamente escorados no banco de dados resultando em decisões rápidas e melhor ROI. Além disso, algoritmos dos principais banco de dados podem ser acessados diretamente através da interface amigável do IBM SPSS Modeler, construídos e escorados como parte de um fluxo do IBM SPSS Modeler suportado no IBM InfoSphere, Microsoft SQL Server, Oracle e IBM Netezza. As poderosas ferramentas de automação do IBM SPSS Modeler Premium, bem como a preparação de dados e modelagem automática permitem preparar os dados para análises mais facilmente, encontrando o melhor modelo baseado em padrões ocultos nos dados e produzindo rapidamente resultados constantes e precisos.o IBM SPSS Modeler suporta o CRoss Industry Standard Process for Data Mining (CRISP-DM), que permite que os analistas se concentrem na resolução de problemas de negócio, em vez de programação e projetos individuais podem ser organizado eficientemente utilizando o gerenciador do projetos baseado nos passos do CRISP-DM. Um olhar mais aprofundado no IBM SPSS Modeler Premium Com o você pode estar mais focado e ágil em seu planejamento e tomadas de decisões diárias devido a sua combinação única de capacidades. Isso permite que você tenha um melhor entendimento de sua organização, o ambiente no qual você opera, seus clientes e outros partes interessadas. Essas capacidades incluem: Análise de entidades. As organizações frequentemente combinam múltiplas fontes de dados. Mas o que acontece quando não há uma correspondência clara entre os registros? As capacidades de análise de entidade do IBM SPSS Modeler Premium permite que você descubra essas relações e forneça conhecimento de identidades e relações 2
3 não óbvias. Isso permite você consolidar registros onde apropriado ou mantê-los separados. A análise de entidades é fundamental para a segurança de fronteiras, detectando fraudes e identificando adequadamente suspeitos de crimes. Mas também é extremamente útil para as empresas que querem evitar apresentar ofertas diferente para a mesma pessoa em uma campanha de marketing ou para garantir que você esteja construindo modelos exatos. Análise de redes sociais. Descubra as relações entre entidades sociais e a implicação resultante dessas relações no comportamento de um indivíduo. As capacidades de análise de redes sociais do são particularmente úteis para aqueles na área de serviços de telecomunicações e outras indústrias preocupadas com a alta rotatividade de clientes. Você pode identificar grupos, líderes de grupos e se outros cancelam produtos ou serviços baseados em suas influências. Consiste em duas capacidades que melhoram muito os modelos para prever o churn: Análises de grupos Identifique os grupos nos dados e quem são seus líderes. Análises de difusão Utilize informação de churn existente para determinar quem são os churners atuais e o que vai influenciá-los a abandonarem. Análise de grandes bancos de dados. O IBM SPSS Modeler Premium integra-se facilmente com bases de dados da IBM ou de outras empresas, permitindo que os modelos sejam implantados e escorados com maior rapidez e eficiência. Os dados podem ser escorados dentro do banco de dados e em tempo real nas bases de dados transacionais tais como vendas, serviço de atendimento ao cliente e operações de crédito e sinistro. Integração com IBM Cognos. Analistas podem acessar rapidamente dados estruturados diretamente pelo software Cognos Business Intelligence e avaliar confiavelmente a possibilidade de resultados específicos. Você pode fazer inteligência preditiva adquirida a partir de uma visão de cliente que combina dados estruturados e não estruturados disponíveis para usuários de negócio empresários e todos os interessados que dependem de dashboards do Cognos. Funcionalidade do IBM Netezza.Realize análises diretamente do Netezza appliance para construir e implantar aplicações analíticas que se expandem para tamanhos suportados apenas por supercomputadores hoje. Além disso, o pode extrair insights do dados em textos, permitindo que empresas: Recebam resultados mais rapidamente e mais precisos ao analisarem textos na área financeira, seguros e publicidade, emoticons e gírias usando novos pacotes e templates de análise de texto específicos por indústria. Criem estruturas de categorização hierárquica para organizar conceitos mais logicamente e em maior detalhe. Importem categorias pré definidas, incluindo categorias hierárquicas, anotações e descritores de palavra chave e exportá-los para Excel. Salvem categorias hierárquicas para reutilização através de uma técnica melhorada de agrupamento de rede semântica para a construção de categorias. Extraiam conceitos mais rapidamente e mais precisamente, especialmente ao trabalharem com grande bases de dados, através do uso de novas redes semânticas específicas por indústria e do uso mais eficiente do hardware. Definam e testem regras numa amostra de texto antes de aplicá-los para seus dados, utilizando o editor de regras de ligação de textos melhorado. Explore uma ampla gama de dados Somente com o Modeler Premium é possível acessar diretamente dados de textos, pesquisas da Web e integrar estes tipos de dados adicionais em seus modelos preditivos para recomendações mais úteis e melhores resultados e usando análises de entidades verifica se você esta utilizando os melhores dados para modelagem. Através de um comprovado processo de extração linguística via processamento da linguagem natural (NLP), o IBM SPSS Modeler Premium extrai conceitos chave para qualquer tipo de dados não estruturados e agrupá-los em categorias. Com a ferramenta interativa de text mining é possível economizar tempo e esforço o que ajuda a obter vantagem competitiva. Ao contrário de outras ferramentas de análise de texto, não é preciso de um apoio linguístico para usá-lo. É possível customizar facilmente conceitos de dicionários para uma área em particular usando o Editor de Recurso, um recurso integrado de gerenciamento do processo de extração de texto. Isto permite descobrir conceitos relevantes e mais rápidas associações. Conceitos, opiniões e categorias extraídos são combinados com dados estruturados e aplicados a modelos preditivos para descobrir e transformar insights 3
4 valiosos em ações, comportamentos, padrões e associações. O inclui templates personalizados e bibliotecas para aplicações específicas de negócios. Os recursos linguísticos suportam uma gama de indústrias e aplicações, incluindo análises de sentimento, CRM, segurança e inteligência, inteligência de mercado, ciência da vida (genômica e MESH) e TI.Também suporta vários idiomas, incluindo texto Holandês, Inglês, Francês, Alemão, Italiano, Japonês, Português e Espanhol. A versão em inglês também inclui uma interface que suporta opções de tradução de terceiros. Escolha entre vários tipos de técnicas O Modeler oferece uma coleção de técnicas avançadas de data mining que são desenvolvidas para ir ao encontro das necessidades de toda aplicação de data mining, incluindo todos os seguintes algoritmos: Algoritmos de classificação Faz previsões baseadas em dados históricos usando técnicas como Árvore de Decisão, Rede Neural, Regressão Logística, Máquinas de Suporte Vetorial, Regressão de Cox, Modelos Lineares Mistos Generalizados (GLMM) e mais. Utiliza a modelagem automática de classificação tanto para resultados binários quanto numéricos para simplificar a criação do modelo. Algoritmos de segmentação Agrupa pessoas ou detecta padrão não usual com técnicas de agrupamento automático, detecção de anomalia e de rede neural. Usa classificação automática para aplicar múltiplos algoritmos num único passo e deixa a técnica de adivinhação de fora da seleção da técnica certa. Algoritmos de associação Descubra associações, ligações ou sequências usando Apriori, CARMA e Associação Sequencial. Séries temporais e previsão. Gere previsões para uma ou mais séries ao longo do tempo utilizando técnicas de modelagem estatística. Suporte ao processo de data mining de toda a empresa O Modeler pode analisar eficientemente a quantidade de dados gerados tipicamente por pequenas e médias empresas. Empresas com grande volume ou requisitos complexos de data mining precisam do poder do IBM SPSS Modeler Premium Server. Usando a arquitetura client/server, o Modeler Server permite que muitos analistas de dados trabalhem simultaneamente sem sobrecarregar os recursos de computação. A versão servidor suporta mineração direto na base de dados e eficientemente processa grandes quantidades de dados. O Modeler Server também oferece opções adicionais de implementação que ajuda estender os benefícios do processo de análise preditiva por toda a empresa e colocar os resultados rapidamente nas mãos dos tomadores de decisão. Para gerenciar seus ativos analíticos e automatizar os processos analíticos, use o Modeler Premium com o IBM SPSS Collaboration and Deployment Services. 4
5 Características Entendimento dos dados Preparação de dados Modelagem e avaliação Crie uma vasta gama de gráficos interativos com assistência automática Use análise de associação visual para ver as associações nos seus dados Interaja com os dados selecionando regiões ou itens em um gráfico e visualizando a informação selecionada; ou selecione os dados chave para usar nas análises Acesse gráficos estatísticos do IBM SPSS Statistics e ferramentas de relatório diretamente da interface Acesse dados operacionais de fontes de dados como Cognos Business Intelligence, IBM DB2, Oracle, Microsoft SQL Server, Informix, Neoview, Netezza, mysql (Sun) e fonte de dados Teradata, bem como dados de mainframe através de zdb2 e suporte ao IBM Classic Federation Server Importe arquivos de textos delimitados e de largura fixa, arquivos Statistics, SAS, fontes de dados Data Collection ou XML Use múltiplas opções de limpeza de dados disponíveis para remover ou substituir dados inválidos, atribua automaticamente valores ausentes e atenue valores outliers e extremos Aplique preparação de dados automática para interrogar e condicionar dados para analises num único passo Utilize análise de entidade para combinar ou separar registros resultando em lavagem/clareamento dados mais limpos para modelagem Aplique seleção de registros, amostragem (incluindo amostragem estratificada e por conglomerados), junções (incluindo inner join, full outer joins, partial outial join, e anti-join) e concatenação; ordenação, agregação e balanceamento Use pontuação de RFV (Recência, Frequência e Valor): agregue transações de clientes para fornecer valores de pontuação e combiná-los para produzir uma análise completa de RFV Identifique os grupos nos dados e quem são considerados seus líderes com Análise de Grupos em Redes Sociais Utilize informação de churn para determinar quem mais seria influenciado pelo churner a cancelar um serviço através da Análise de Difusão Exporte dados para banco de dados, pacotes do IBM Cognos Business Intelligence, IBM SPSS Statistics, IBM SPSS Data Collection, arquivos de textos delimitados, Excel, SAS, ou XML Campo de filtro, nomenclatura, derivação, criação de faixas, re-categorização, substituição de valor e reordenação de campos Reestruturação, particionamento e transposição de dados Extensivas funções string: criação de string, substitutição, busca, concatenação, remoção de espaços em branco e truncamento Gerenciamento de acesso aos dados e transformações executadas no Statistics diretamente do Modeler Use navegadores interativos de modelos e equações e visualização de saídas de estatísticas avançadas Mostre o relativo impacto dos atributos dos dados nos resultados preditivos com gráficos de importância das variáveis Empregue uma grande variedade de algoritmos de data mining com várias características avançadas para obter os melhores resultados possíveis dos seus dados. Visualize os resultados analíticos em mapas geográficos Combine modelos múltiplos (modelos ensemble) ou use um modelo para analisar um segundo modelo Use classificação automática (binária e numérica) e agrupamento automático no lugar de algoritmos individuais Use o Component-Level Extension Framework (CLEF) do Modeler para integrar algoritmos customizados Através da integração do Statistics, use a linguagem de programação estatística R para ampliar as opções de análises 5
6 Características (continuação) Algoritmos de modelagem incluídos Implementação C&RT, C5.0, CHAID & QUEST Algoritmos de árvores de decisão incluindo construção de árvore interativa Lista de decisão Algoritmo de construção de regra interativo K-Média, Kohonen, Two Step, Discriminante, Support Vector Machine (SVM) algoritmos de agrupamento e segmentação Fator/PCA, seleção de características Algoritmo de redução de dados Regressão, Linear, GenLin (GLM) - Modelos Lineares Mistos Generalizados (GLMM) Modelagem de equação linear Modelo de resposta de auto-aprendizagem (SLRM) Modelo Bayesiano com aprendizagem incremental Séries temporais Gera e seleciona automaticamente modelos de previsão de séries temporais Redes Neurais Perceptrons de várias camadas com back-propagation e funções de Base Radial Support Vector Machines Avançado algoritmo com desempenho exato para grandes bases de dados Algoritmos de mineração dentro do banco de dados para IBM InfoSphere*: Associação, Clustering, Árvores de Decisão, Regressão Logística, Naive Bayes, Regressão, Análise Sequêncial, Séries Temporais Algoritmos de mineração dentro do banco de dados para IBM Netezza*: Rede de Bayes, Árvores de Decisão, Divisão de Clustering Agrupamento divisivo, Linear Generalizado, K-Médias, KNN, Regressão Linear, Naive Bayes, Componentes principais, Árvores de Regressão, Séries Temporais Algoritmos de mineração dentro do banco de dados para Microsoft SQL Server*: Regras de Associação, Clustering, Árvores de Decisão, Regressão Linear, Naive Bayes, Redes Neuraisl, Agrupamento de Sequências, Séries Temporais Algoritmos de mineração dentro do banco de dados para Oracle*: Bayes Adaptativo, Apriori, Importância de Atributo, Árvores de Decisão, Modelo Linear Geral (GLM), K-Médias, Comprimento de Descrição Mínima (MDL), Naive Bayes, Fatorização de Matriz Não Negativa, O-Cluster (Cluster de Particionamento Ortogonal), Máquina de suporte Vetorial Redes Bayesianas Modelos Gráficos Probabilísticos Regressão de Cox Calcula o tempo provável de um evento Detecção de Anomalia algoritmo baseado em agrupamento para detecção de resultados não usuais KNN algoritmo de modelagem e escoragem Nearest neighbor Apriori Popular algoritmo de descoberta de associação com avançadas funções de avaliação CARMA Algoritmo de Associação que suporta consequências múltiplas Análise Sequencial Algoritmos de associação sequencial para análises de ordem sensíveis Exporte modelos usando SQL ou PMML (formato padrão para modelos em formato XML) Utilize o IBM SPSS Collaboration and Deployment Services para gestão inovadora de análises, automatização de processos e funcionalidades de implementação Análise link de texto Identificar e extrair sentimentos (por exemplo, gostos e preferências) de textos em Holandês, Inglês, Francês, Alemão e Espanhol Identificar links e associações entre, por exemplo, pessoas e eventos ou doenças e genes Identificar ou extrair conteúdos de URLs de blogs Incluir opiniões, relações semânticas e links de eventos em modelos preditivos implementáveis Revelar relações complexas através de gráficos interativos que mostram várias ligações semânticas entre dois conceitos 6
7 Características (continuação) Extraia dados em formato texto de arquivos, base de dados operacional e RSS feeds (ex. blogs, Web feeds) Características Selecione opções do extrator de idioma para língua nativa como Holandês, Inglês, Francês, Alemão, Italiano, de entendimento Português, Espanhol e Japonês ou traduza virtualmente para qualquer idioma usando o software de tradução e preparação específica de terceirizado texto Extraia conceitos de domínio específico como unitermos, expressões, abreviaturas, siglas e mais Calcule sinônimos usando algoritmos linguísticos sofisticados e recursos lingüísticos incorporados ou especificados pelo usuário Nome conceitos por pessoa, empresa, prazo, produto, localização e outros tipos definidos pelo usuário Extraia entidades não-linguísticas, tais como endereço, moeda, hora, número de telefone e número da Segurança Social Use e customize templates e bibliotecas pré-construídas para análise de sentimento, CRM, segurança e inteligência, inteligência de mercado, ciências e TI Alavancagem da utilização de Pacotes de Análise de Texto (Text Analytics Packages TAPs) pré-empacotados para as aplicações mais comuns Crie agrupamentos baseados em termos de co-ocorrência usando o conceito de algoritmos de agrupamento, que fornecem uma visão com apenas um relance dos temas principais e a forma como estão relacionados Utilize e personalize modelos e bibliotecas pré-construídas para análise de sentimentossentimentais, CRM, segurança e inteligência, inteligência de mercado, ciência da vida e TI Aproveite pré-pacote do Text Analytics Packaeges (TAPs) para as aplicações empresariais mais comuns, ou crie seu próprio. Inteligentemente agrupe documentos e registros em formato texto baseando-se no conteúdo, usando os algoritmos de classificação de texto Possibilite selecionar e desselecionar conceitos avançados para usar na modelagem preditiva Use relatórios visuais e baseados em texto para interrogar relação de conceito, ocorrência, frequência e tipo Modeler server (opcional) Use mineração no banco de dados para criar modelos usando as principais tecnologias do banco de dados e alavanque implementações de alto desempenho Utilize SQL-pushback para transferir as transformações de dados e selecionar algoritmos de modelagem diretamente dentro de seu banco de dados operacional Escore dados dentro do banco de dados, resultando em melhora significativa do desempenho através do IBM SPSS Modeler Server Scoring Adapters Aproveite o hardware de alta performance, incluindo máquinas IBM System z, experimente soluções mais rápidas, e alcance maior ROI através da execução paralela de fluxos e múltiplos modelos Transmitir dados confidenciais de forma segura entre o Modeler Client e o Modeler Server através de Secure Sockets Layer (SSL) 7
8 Sobre a IBM O software de da IBM fornece informações completas, consistentes e precisas que os decisores confiam para melhorar o desempenho do negócio. Um portfolio abrangente de inteligência de negócio, análise preditiva, desempenho financeiro, gerenciamento estratégico e aplicações analíticas que fornecem insights claros, imediatos e acionáveis para o desempenho atual e a capacidade de prever resultados futuros. Combinados com ricas soluções da indústria, práticas comprovadas e serviços profissionais, empresas de todos os tamanhos podem conduzir a mais alta produtividade, automatizar decisões com segurança e obter resultados melhores. Como parte desse portfolio, software de Análise Preditiva IBM SPSS ajuda as empresas a preverem eventos futuros e agir pro-ativamente de acordo com esse insight para conduzir melhores resultados de negócios. Clientes do setor comercial, governamental e acadêmico de vários países se apoiam na tecnologia IBM SPSS como vantagem competitiva na atração, retenção e aumento de clientes, enquanto reduzem a fraude e atenuam o risco. Ao incorporar o software IBM SPSS nas suas operações diárias, as empresas se tornam preditiva capaz de direcionar e automatizar decisões para alcançar os objetivos do negócio e obter vantagem competitiva mensurável. Para mais informações visite www. ibm.com/spss. Sobre a DMSS A DMSS comercializa e implementa soluções de análise preditiva e estatística no Brasil desde Conta com um time de consultores especializados por mercados verticais. Sua oferta incluiu a comercialização de software, projetos e treinamentos em tecnologia IBM SPSS. Para mais informações, acesse Copyright IBM Corporation 2012 IBM Corporation Route 100 Somers, NY Todos os direitos reservados. A SPSS é uma marca registrada da SPSS, Inc., uma empresa IBM, registrada em muitas jurisdições em todo o mundo. Nomes de outras empresas, produtos ou serviços podem ser marcas registradas ou marcas de serviços de outros. Recicle YTD03133-USEN-00
IBM SPSS Modeler. Descubra padrões em dados históricos para prever eventos futuros, tomar melhores decisões e alcançar melhores resultados.
IBM Descubra padrões em dados históricos para prever eventos futuros, tomar melhores decisões e alcançar melhores resultados. Destaques Acesso a uma variedade de fontes de dados como data warehouses, base