SÍNTESE Transferência de Tecnologia Palestrantes: Cândida Teixeira Márcio Barros 15/11/2005 Agenda 1. PSDS - Processo SERPRO de Desenvolvimento de Soluções 2. Requisitos 3. Análise 4. Projeto 5. ETL - Extração, Transformação e Carga Processo Serpro de Desenvolvimento de Soluções - PSDS PSDS 1. PSDS - Processo SERPRO de Desenvolvimento de Soluções 1.1 Projeto Síntese está conforme o PSDS 1.2 Artefatos produzidos e versionados. 1.3 Sítio : http://psds.portalcorporativo.serpro Requisitos Requisitos 1. Elicitar Requisitos 1. Ata 2. Documento de Visão - inicial 2. Documentar e Analisar Requisitos 1. Ata 2. Documento de Visão - detalhado 3. Especificação de Requisitos Informacionais 4. Modelo Multidimensional 5. Especificação de Casos de Uso 6. Especificação de Regras de Negócio 7. Matriz de Rastreabilidade 8. Metadados de Negócio 3. Revisar Requisitos 1. Termo de Aceite Requisitos Elicitar Requisitos A Elicitação corresponde à primeira atividade no ciclo de vida da engenharia de requisitos e tem como seu propósito primordial obter conhecimento relevante para o problema a ser resolvido. Elicitar requisitos é um processo de descoberta dos requisitos para um sistema através da comunicação com clientes, usuários finais e demais partes interessadas do sistema. Requisitos Elicitar Requisitos • Efetuar levantamento inicial com cliente Reuniões presenciais (entrevistas) no período de 09/AGO à 08/OUT/2004, as quais envolveram representantes do TCU e SERPRO. Pelo TCU, participaram: • SEMAG • ADFIS • SECOB • SEFIP • ADCON • SETEC • Elaborar o Documento Visão - Versão inicial; • Detalhar Requisitos Requisitos Ferramenta: ReqPro Ferramenta para Gerência de Requisitos Ferramenta de apoio na captura de requisitos e na sua organização, permitindo a gerência de escopo e de mudança. Artefatos: Ata SINTESE-001-AR-20040810-ADFIS-SEMAG.doc Documento de Visão SINTESE-001-DV.doc Metadados de Negócio dsContaContabil.html Requisitos Documentar e Analisar Requisitos A análise de requisitos tem como objetivo descobrir problemas com os requisitos. É um processo que deve envolver pessoas hábeis e experientes, que deverão ler cuidadosamente os requisitos do software, observando as implicações das declarações neles contidas. Depois que os requisitos do sistema são analisados, eles devem ser documentados com um nível apropriado de detalhe. Em geral, é necessário que o documento de requisitos seja entendível por todos os envolvidos no processo de engenharia de requisitos, pois ele servirá como um contrato entre usuários e desenvolvedores. Requisitos Documentar e Analisar Requisitos • Análisar os Requisitos • Elaborar o Documento de Requisitos de Software (DRS e MMD) • Definir Matrizes. Requisitos Documento de Visão 1. Objetivo O propósito deste documento é coletar, analisar e definir as necessidades de alto-nível e características do projeto de software SINTESE-001 , SINTESE – Sistema de Inteligência e Suporte ao Controle Externo, focando nas potencialidades requeridas pelos interessados e usuários-alvo, e como estes requisitos serão abordados no projeto de software. A Visão do projeto documenta o ambiente geral de processos a ser desenvolvido para o sistema durante o projeto, fornecendo a todos os envolvidos uma descrição compreensível deste e suas macro-funcionalidades. O Documento de Visão do Projeto documenta apenas as necessidades e funcionalidades do sistema que estarão sendo atendidas no projeto de software. Requisitos Especificação de Requisitos Informacionais 1. SÍNTESE 2. Requisitos Informacionais - Neste documento estão cadastrados os requisitos informacionais definidos pelo Tribunal de Contas da União - TCU para a construção da 1ª Fase do SINTESE. A construção do SINTESE terá diversas etapas. 3.Requisitos Contemplando 40% do Siafi 3.1.Execução Orçamentária e Patrimonial 3.1.1. Itens de Informação e Grupo de Itens Ter disponível os parâmetros (para consultas) gerais e específicos identificados nos contas corrente (16 – Célula Despesa, 26 – Empenho, 31 Célula da Despesa com ND detalhada e 33 - Célula SOF). ● Ter um Assistente que permita a elaboração de relatórios de modo que garanta a filtragem e apresentação apenas dos parâmetros pertinentes a partir da consulta aos lançamentos e saldos existentes; ● Requisitos Especificação de Requisitos Informacionais 3.2.Tabelas de Apoio Ter disponível as informações referentes as tabelas identificadas para os contas corrente (16-Célula Despesa, 26 – Empenho, 31 - Célula da Despesa com ND detalhada e 33 - Célula SOF). ● 3.3.Documentos Ter disponível as informações referentes a Nota de Dotação – ND ● Ter disponível as informações referentes a Movimentação de Crédito – NC ● Ter disponível as informações referentes a Empenho - NE. ● Ter disponível as informações referentes aos lançamentos dos documentos e gerar saldos contábeis na base de dados do SINTESE. (Para os conta correntes : 16 – Célula Despesa, 26 – Empenho, 31 - Célula da Despesa com ND detalhada e 33 - Célula SOF) ● Requisitos Especificação de Requisitos Informacionais 3.4. Análise pelos Classificadores Orçamentários ● ● Análise Funcional - Programática: ● Função ● Subfunção ● Programa ● Ação ● Localizador de Gasto Análise por Natureza Despesa - Categoria Econômica ● Grupo de Natureza da Despesa ● Modalidade de Aplicação ● Elemento de despesa ● Subitem Requisitos Especificação de Requisitos Informacionais 3.4.Análise pelos Classificadores Orçamentários (Cont.) ● ● Análise por Fonte de Recursos: ● ID uso ● Grupo Fonte ● Fonte de Recurso Reduzida ● Detalhe da Fonte Selecionar Programas por Função de Governo; Indicar os Programas relacionados a mais de uma Esfera de Governo, Órgão, UG; ● Identificar o poder de compra (Grupo de Natureza da Despesa, exceto 1, 2 e 6) de cada Órgão/UG. ● Requisitos Especificação de Requisitos Informacionais 3.5.Empenhos ● Análise de Empenho por Modalidade de licitação; Análise de Empenho por Fornecedor, Contratante, Valor, Período, Modalidade, Elemento de Despesa; ● ● Verificar se há reforço de Empenho ordinário; Requisitos (MMD) MMD Requisitos Especificação de Casos de Uso 1. Criar Relatório Consulta NE 2. Objetivo Descrever os fluxos de execução das regras de negócio (SINTESE-001-ERNCriarRelatorioConsultaNotaEmpenhoNE). 3. Tipo de Caso de Uso Concreto. 4. Atores Nome Ator Usuário TCU 5. Pré-condições Base de Dados carregada. Primário X Tipo Secundário Requisitos Especificação de Casos de Uso 6. Fluxo Principal P1. O Ator seleciona a pasta Relatórios Compartilhados . P2. O Sistema apresenta uma relação de Pastas. P3. O Ator seleciona a pasta Documentos . P4. O Sistema apresenta uma lista de Relatórios. P5. O Ator seleciona o relatório Consulta Nota de Empenho . P6. O Sistema apresenta os Filtros de Atributos conforme ERN 2.1. P7. O Ator seleciona os Filtros de Atributos desejados. (A1) P8. O Ator solicita a execução do relatório Executar relatório . P9. O Sistema apresenta as informações conforme ERN 2.2. (A2) (A3) (A4) (A5) P10. O Ator seleciona a finalização do Caso de Uso P11. O Sistema finaliza o Caso de Uso 7. Fluxos Alternativos A1. Pesquisar atributos. A1.1. O Ator informa o dado a ser pesquisado. A1.2. O Ator solicita a pesquisa de acordo com o dado informado. A1.3. O Sistema apresenta o resultado da pesquisa. A1.4. O Ator retorna ao passo P7 A2. Drill (detalhamento). O Ator seleciona o número do Movimento de Crédito O Ator solicita DrillDetalhe da NE. A2.1. A2.2. O Sistema apresenta o resultado da pesquisa conforme ERN 2.3.-Apresentação detalhada das informações de NE. A2.3. O Ator seleciona a finalização do Caso de Uso A2.4. O Sistema finaliza o Caso de Uso Requisitos Especificação de Casos de Uso 7. Fluxos Alternativos A3. A3.1. Drill (detalhamento). O Ator seleciona o número da Nota de Empenho. O Ator solicita Drill Empenhos Referenciados . A3.2 O Sistema apresenta o resultado da pesquisa. A3.3 O Ator seleciona a finalização do Caso de Uso A3.4 O Sistema finaliza o Caso de Uso A4. A4.1 Drill (detalhamento). O Ator seleciona o número da Nota de Empenho. O Ator solicita Drill Relação dos Empenhos de Reforço/Anulação A4.2 O Sistema apresenta o resultado da pesquisa. A4.3 O Ator seleciona a finalização do Caso de Uso A4.4 O Sistema finaliza o Caso de Uso A5. A5.1 Drill (detalhamento). O Ator seleciona o número da Nota de Empenho. O Ator solicita Drill Relação de Itens de Empenho. A5.2 O Sistema apresenta o resultado da pesquisa. A5.3 O Ator seleciona a finalização do Caso de Uso A5.4 O Sistema finaliza o Caso de Uso A6. A6.1 Drill (detalhamento). O Ator seleciona o número da Nota de Empenho. O Ator solicita Drill Espelho Contábil . A6.2 O Sistema apresenta o resultado da pesquisa. A6.3 O Ator seleciona a finalização do Caso de Uso A6.4 O Sistema finaliza o Caso de Uso Requisitos Especificação de Casos de Uso 8. Fluxos de Exceção Identificação de erro nas regras de negócio Encontradas situações de erro nas regras de negócio, o sistema deve apresentar a mensagem correspondente à regra infringida. 9. Pós-condições Não se aplica. 10. Requisitos Não-Funcionais Nenhum requisito identificado. 11. Ponto de Extensão Não se aplica. Requisitos Especificação de Casos de Uso 12. Critérios de Aceite CA1. Preenchimento dos Campos. Realizar o preenchimento dos campos e verificar se são apresentadas as mensagens de erro, conforme ITEM 8.1.1. 13. Freqüência de Utilização Média. 14. Observações A aplicação deve fornecer link para o Manual do Usuário. 15. Referências Regras de Negócio, vide SINTESE-001- ERN-CriarRelatorioConsultaNota EmpenhoNE. Requisitos Especificação de Regras de Negócio 1. Objetivo Descrever as regras de negócio específicas da Consulta a Nota de Empenho. Esta consulta visa permitir recuperar informações de Empenhos, disponibilizando para os usuários, facilidades de seleção para localizar os de seu interesse. 2. Criar Relatório Consulta NE Essa consulta pesquisa as informações de empenhos, por meio da utilização de atributos da NE. Regra geral de apresentação: - Os campos numéricos que contenham ZERO a esquerda devem ser apresentados completos, ou seja, com zeros a esquerda. Exemplo: UG, Gestão, Órgão, Número Documento. - Campos numéricos devem ser centralizados; - Valores devem ser alinhados a direita - Campos alfanuméricos devem ser alinhados a esquerda. Requisitos Especificação de Regras de Negócio 2.1. Filtros de Atributos - Permitir o usuário em tempo de execução informar o dado ou selecioná-lo a partir de uma lista de elementos. - Nenhum dos filtros deve ser obrigatório. Mas para que a apresentação do espelho Contábil seja mais rápida o Usuário deve informar o Número do Documento. Atributo Órgão UG Emitente Gestão Emitente Exercício Documento Documento Mês Lançamento Data Lançamento Favorecido UG Favorecida Gestão Favorecida UO Função Subfunção Programa Ação/Localizador de Gasto Indicador de Ação ID Uso Grupo Fonte Fonte Fonte Detalhe Categoria Econômica Grupo de Despesa Modalidade Aplicação Regra de Apresentação Disponibilizar lista (Código&Título Resumido) com todas Órgãos cadastrados. Disponibilizar lista (Código&Título Resumido) com todas as Unidades Gestoras cadastradas. Disponibilizar lista (Código& Título Resumido) com todas as Gestões cadastradas. Permitir o usuário informar o número do Documento Permitir o usuário informar o mês de lançamento Permitir o usuário informar a data de lançamento Identifica a Entidade favorecida do empenho diferente de UG Favorecida Disponibilizar lista (Código&Título Resumido) com todas as Unidades Gestoras cadastradas e ativas na tabela de UG. Disponibilizar lista (Código& Título Resumido) com todas as Gestões cadastradas. Permitir o usuário informar Disponibilizar lista (Código&Nome) com as funções cadastradas. Disponibilizar lista (Código&Nome) com as subfunções cadastradas e ativas na tabela SubFunção. Disponibilizar lista (Código&Nome) com os programas cadastrados e ativos na tabela Programa. Disponibilizar lista (Código&Nome) com as ações cadastradas e ativas na tabela Ação/ Localizador de Gasto. Disponibilizar lista (Código&Nome) com os Indicadores de Ação cadastrados e ativos. Disponibilizar uma lista (Código&Descrição) com os valores de ID USO Disponibilizar uma lista (Código&Descrição) com os valores de Grupo Fonte. Disponibilizar lista (Código&Nome) com as fontes cadastradas e ativas. Disponibilizar lista (Código&Nome) com as fontes detalhadas , cadastradas e ativas. Disponibilizar lista (Código&Nome) com as classificações da despesa cadastradas e ativas. Disponibilizar lista (Código&Nome) com as classificações da despesa cadastradas e ativas. Disponibilizar lista (Código&Nome) com as modalidades de aplicação cadastradas e ativas. Requisitos Especificação de Regras de Negócio 2.1. Filtros de Atributos Atributo Elemento Despesa Plano Interno Modalidade de Licitação Inciso Valor Empenhado Valor Liquidado Valor a Liquidar Valor Pago Regra de Apresentação Disponibilizar lista (Código&Nome) com os os elementos de despesas cadastrados e ativos. Disponibilizar lista (Código&Nome) com a relação de Plano Interno Disponibilizar lista (Código&Nome) com os Tipos de Modalidades existentes Permitir o usuário informar Permitir o usuário informar Permitir o usuário informar Permitir o usuário informar Permitir o usuário informar 2.2. Apresentação da Relação de NE Apresentar na saída do relatório as informações conforme abaixo: Atributo Regra de Apresentação UG Emitente Código e Título Resumido da UG Emitente Gestão Emitente Código e Título Resumido da Gestão Emitente Exercício do Documento Ano da emissão do documento (AAAA) Empenho Número do Empenho Data de Emissão DD-MMM-AA (Ex.: 02-JAN-2003) Entidade Favorecido Tipo Documento Código e Nome Descrição do tipo de empenho Espécie de Empenho Descrição da espécie do empenho Fonte de Recurso Detalhada Mostrar a Fonte de Recursos Detalhada concatenando IDUSO, Gr Fonte, Fonte e Fonte Detalhe. Natureza da Despeza Mostrar a Natureza de Despesa concatenando Categoria Econômica de Despesa, Grupo de Despesa, Modalidade de Aplicação e Elemento de Despesa. Valor Empenhado Mostrar um campo que permita a visualização completa da informação. Valor Empenhado Observação Lançado por: Usuário Mostrar o CPF UG do Usuário Mostrar Código e Título Resumido da UG do Usuário Data/Hora Transação Data/Hora da transação do documento Requisitos Especificação de Regras de Negócio 2.3. Apresentação NE Referência (Empenho de Reforço e/ou Anulação) Atributo UG Emitente Gestão Emitente Exercício Empenho Favorecido Fonte de Recurso Detalhada Regra de Apresentação Código e Título da UG Emitente Código e Título da Gestão Emitente Ano da emissão do documento (AAAA) Número do Empenho Código e Título Mostrar a Fonte de Recursos Detalhada concatenando IDUSO, Gr Fonte, Fonte e Fonte Detalhe. Natureza da Despesa Mostrar a Natureza de Despesa concatenando Categoria Econômica de Despesa, Grupo de Despesa, Modalidade de Aplicação e Elemento de Despesa. Valor Emissão (Valor da Linha de Evento) Valor Empenhado Valor Emissão Valor Empenhado 2.3.1. Relação dos Empenhos de Reforço e/ou Anulação Referentes ao Empenho Consultado Atributo Empenho Referência Regra de Apresentação Número do Empenho Referência Espécie de Empenho Descrição da Espécie do Empenho DD-MMM-AA (Ex.: 02-JAN-2003) Data Emissão Processo Número Processo Valor Valor da Linha de Evento Requisitos Especificação de Regras de Negócio 2.4. Apresentação Detalhada das Informações de NE Apresentar os atributos relacionados no detalhamento da NE da “linha de Evento” no cabeçalho de página e os atributos após a linha de Evento devem ficar no corpo do relatório. Atributo UG Emitente Código e Título Resumido da UG Emitente Regra de Apresentação Gestão Emitente Código e Título Resumido da Gestão Emitente Exercício Ano da emissão do documento (AAAA) Empenho Número do empenho Data Emissão Tipo Favorecido Favorecido Mostrar código e Nome do favorecido Gestão Favorecida Gestão do Favorecido, no caso do Favorecido ser uma UG Mês Lançamento Espécie NE Mostrar a Descrição da espécie Tipo Documento Mostrar o tipo de empenho Modalidade Licitação Descrição da Modalidade Amparo Legal Inciso Código Processo Número do processo UF Beneficiada Município Beneficiado Origem Material Referência Dispensa Contra Entrega Programa Trabalho Orgão PI Requisitos Especificação de Regras de Negócio 2.4. Apresentação Detalhada das Informações de NE Linha de Evento Evento Esfera Orçamentária UO PTRES Fonte de Recurso Detalhada IDOC Natureza da Despesa UG Responsável Plano Interno Valor Valor Empenhado Valor Liquidado Valor a Liquidar Valor Pago Valor RP Inscrito Liquido Valor RP Pago Valor RP a Pagar Código Código Esfera Orçamentária Código Unidade Orçamentária Mostrar o PTRES Mostrar a Fonte de Recursos Detalhada concatenando IDUSO, Gr Fonte, Fonte e Fonte Detalhe. Identifica uma Operação de Crédito (Número) Mostrar o número da Natureza de Despesa concatenando Categoria Econômica de Despesa, Grupo de Despesa, Modalidade de Aplicação e Elemento de Despesa. Código e Título Resumido Mostrar Valor da linha de evento Requisitos Especificação de Regras de Negócio 2.4.1. Relação de Itens de Empenho Os atributos UG Emitente, Exercício do Documento, Empenho e data Emissão devem ser apresentados no cabeçalho de página Atributo UG Emitente Mostrar código e título Regra de Apresentação Exercício do Documento Ano da emissão do documento (AAAA) Empenho Número Data Emissão Relação de Itens de Empenho Item de Empenho Número do Item Quantidade de Item Valor Unitário Quantidade Valor Unitário Valor Total de Item Valor Total de Item Descrição Item de Empenho Descrição Valor Empenhado Requisitos Especificação de Regras de Negócio 2.5. Apresentação do Espelho Contábil Na apresentação do Espelho Contábil separar (paginar) os dados do relatório a partir dos atributos: - UG Emitente - Gestão Emitente - Data de Emissão - Documento (Concatenando: Exercício, Grupo Tipo Documento e Nota de Empenho) - Dia Lançamento Campo Evento UG Executora Gestão Executora Conta Contábil Conta Corrente Indicador de Débito / Crédito Valor de Crédito Valor de Débito Regra de Apresentação Código e Título Código e Título Resumido Código e Título Resumido Código e Título Número da conta corrente Apresentar indicador de Débito e Crédito do lançamento Mostrar o valor de crédito do lançamento Mostrar o valor de débito do lançamento Requisitos Matriz de Rastreabilidade Requisitos Metadados de Negócio Constituem os metadados de negócio o modelo dimensional, mostrando a organização dos dados, a definição de cada item de dado disponível,... etc. Exemplo: Conta Contábil: Tem o propósito de atender, de maneira uniforme e sistematizada, ao registro contábil dos atos e fatos relacionados com os recursos do Governo Federal sob responsabilidade dos Órgãos da Administração Direta e Indireta, de forma a proporcionar maior flexibilidade no gerenciamento e consolidação dos dados e atender às necessidades de informações em todos os níveis da Administração Pública Federal. Requisitos Metadados de Negócio Ferramentas: • HTML - para construção de páginas; • Adobe Photoshop – para construção das Fatos e Dimensões. Referências: • Siafi Operacional (ajuda, manual e Predict); • Manual Técnico de Orçamento - MTO2004; • Constituição Federal; • Leis; • Decretos-Leis; • Normas; • Leis Complementares; • Instruções Normativas, etc. Requisitos (MMD) Requisitos Revisar Requisitos A atividade de revisão de requisitos engloba subatividades para certificar se o documento de requisitos foi elaborado corretamente e se está consistente com as necessidades dos usuários, além de, quando pertinente, submeter artefatos selecionados para reuso • Verificar Modelo de Requisitos • Requisitos Informacionais X MMD • Validar Modelo de Requisitos • Termo de Aceite Requisitos (MMD) Análise Análise 1. Definir Arquitetura 1. Documento de Arquitetura de Software 2. Definir Modelo de Dados 1. Modelo Multidimensional 3. Revisar Análise Análise Definir Arquitetura Esta atividade serve para iniciar a arquitetura geral do sistema, além de mostrar a navegabilidade entre os módulos, caso existam. Análise Documento de Arquitetura de Software 1. Objetivo -Fornecer uma visão geral das principais decisões e estruturas do projeto; 2. Representação Arquitetural Arquitetura em 3 camadas: - Camada de Acesso via Internet/Web; - Camada OLAP, onde são executados os processamentos analíticos dos dados recuperados do banco; - Camada de Banco de dados, onde os dados são armazenados. 3. Objetivos e Restrições Arquiteturais - A interface com o usuário deve ser amigável e permitir a interação com softwares de serviços específicos (automação de escritórios); - Flexibilização nos documentos do SIAFI; - Visões das informações sob os diversos enfoques; - Análise de tendências, projeção e simulação de cenário; - Recuperação das informações gerenciais; Análise Documento de Arquitetura de Software 3. Objetivos e Restrições Arquiteturais - Tratamentos das informações históricas; - Exportação de dados; - Importação, transformação e carga de dados; - Atualização em lotes; - Documentação do sistema; - Capilaridade. 4. Visão dos Casos de Uso Significativos - Subsistema ETL; - Subsistema de consultas; - Subsistema de envio, recepção e validação de arquivos externos. 5. Visão de Subsistema de Apoio - Serviço de busca; Análise Documento de Arquitetura de Software 6. Visão Lógica - Visão Geral; Desktop (Administração) Banco de Dados (WareHouse) MicroStrategy IntelligenceServer Desktop NT Browser IIS Web Server - Visão Geral - Pacotes e Subsistemas; - Subsistema de Envio, Recepção e Validação de Arquivos Externos (RAE); Análise Documento de Arquitetura de Software 8. Visão de Implantação Estação do Usuári o Estação do Usuário Avançado Estação do Administrador <<TCP/IP>> <<TCP/IP>> <<HTTP>> <<TCP/IP>> Servidor Web <<HTTP>> Servidor MicroStrategy Intelligence Server Servidor de Banco de Dados <<TCP/IP>> Análise Documento de Arquitetura de Software 9. Visão de Implementação - Camada Visual - responsável pela apresentação dos resultados das consultas aos usuários e pela composição (confecção) das mesmas; - Camada OLAP - responsável por receber os pedidos de consultas dos usuários, submetelos à camada de banco e fazer manipulações analíticas nos dados - Camada de Banco - armazena os dados a serem consultados. É a camada de persistência. 10. Visão de Dados - Banco de dados relacional único; - Não é permitida: - Exclusão física ou lógica dos dados; - Atualização dos dados pelos usuários; Análise Definir Modelo de Dados Esta atividade tem como propósito iniciar o Modelo de Dados a partir dos diagramas classes com estereótipo de entidade. Este Modelo de Dados pode ser relacional, hierárquico, orientado a objeto ou dimensional. Análise (MMD) Análise Revisar Análise Esta atividade tem por objetivo revisar tudo o que foi gerado em Análise, validando com os requisitos e com as partes interessadas que irão se relacionar com os artefatos elaborados. Análise (MMD) Projeto Projeto 1. Definir Modelo Físico de Dados 1. Modelo Físico de Dados 2. Origem de Dados 3. Scripts de Banco 2. Revisão Projeto Modelo Físico de Dados - O modelo físico foi construído na ferramenta Rational Rose, onde foram incluídas todas as definições associadas aos atributos das origens de dados; - A ferramenta permite gerar scripts SQL de criação dos objetos do modelo físico; - Os scripts foram apenas complementados com os atributos físicos necessários à criação de objetos no banco de dados; - Através do gerador de relatórios Soda foi gerado o documento de OD (Origem de Dados) a partir de comentários inseridos por atributos de dimensão, fornecendo o mapeamento entre origem e destino no template origem de dados. Projeto Siafi Operacional - Extraídos domínios Projeto DDMs Origem do ADABAS Projeto Programas Natural Projeto - Modelo Físico de Dados Projeto Documento de Origem de Dados Projeto Documento de Origem de Dados 1. Objetivo - Registrar a forma de obtenção e atualização dos dados WD_EMPENHO ESPECIFICAÇÃO DE-PARA DDM: DDM: SIAFI-EMPENHO DESTINO ATRIBUTO ID_DOCUMENTO NR_NE INCISO AMPARO_LEGAL NUM_PROCESSO REFERENCIA_DISPENSA MES_LANCAMENTO SISTEMA_ORIGEM OBSERVACAO ID_NAT_DESP ID_ESF_ORC ORIGEM REGRAS DE NEGÓCIO DDM: GR-UG-GESTAO-AN-NUMERO-NEUQ Regra de Negócio: UG(N6)+GESTAO(N5)+EXERCICIO_DOC(N4)+GRUPO_DOC(V2)+NR_DOC(N6) DDM: GR-UG-GESTAO-AN-NUMERO-NEUQ, do documento correspondente, na posição 18 a 23 DDM: IT-CO-INCISO DDM: IT-TX-AMPARO-LEGAL DDM: IT-NU-PROCESSO DDM: IT-TX-REFERENCIA-DISPENSA DDM: IT-ME-LANCAMENTO DDM: IT-CO-SISTEMA-ORIGEM DDM: IT-TX-OBSERVACAO DDM: GR-NATUREZA-DESPESA Regra de Negócio: Exercício (N4)+Cat Econ (N1)+Gr Desp (N1)+Mod Aplic (N2)+Elem Des DDM: IT-IN-ESFERA-ORCAMENTARIA Regra de Negócio: Exercício (N4) + EO (N1) TIPO VARCHAR2(23) NUMBER(6, 0) VARCHAR2(2) VARCHAR2(8) VARCHAR2(20) VARCHAR2(20) NUMBER(2, 0) VARCHAR2(10) VARCHAR2(234) NUMBER(10, 0) NUMBER(5, 0) POSIÇÃO 18-23 Projeto Documento de Origem de Dados WD_EMPENHO ESPECIFICAÇÃO DE-PARA DDM: DDM: SIAFI-EMPENHO DESTINO ATRIBUTO ID_FR_DETA ID_UGR ID_PRE_EMPENHO VALOR ID_EMPENHO_REF ID_CONTRA_ENTREGA ID_ORIGEM_MATERIAL ORIGEM REGRAS DE NEGÓCIO DDM: GR-FONTE-RECURSO Regra de Negócio: Exercício(N4)+IDUSO(N1)+Gr_Fonte(N1)+Fonte(N2)+Fonte Detalhe(N6) DDM: IT-CO-UG-RESPONSAVEL Regra de Negócio: Exercício(N4) + UG(N6) DDM : GR-AN-NU-DOCUMENTO-REFERENCIA Regra de Negócio: EXERCICIO(N4)+UG(N6)+GESTAO(N5)+EXERCICIO_DOC(N4)+TIPO(N2)+NR_DOC(N6) SE POSIÇÕES 5-6 DE GR-AN-NU-DOCUMENTO-REFERENCIA = "PE" DDM: IT-VA-TRANSACAO DDM : GR-AN-NU-DOCUMENTO-REFERENCIA Regra de Negócio: SE POSIÇÕES 5-6 DE GR-AN-NU-DOCUMENTO-REFERENCIA = "PE" UG(N6)+GESTAO(N5)+EXERCICIO_DOC(N4)+GRUPO_DOC(V2)+NR_DOC(N6) DDM: IT-IN-CONTRA-ENTREGA-NE Regra de Negócio: EXERCICIO(N4)+CODIGO(N1) 0-Não se aplica 1-Fixada pela STN 2-Fixada pela própria UG DDM: IT-IN-ORIGEM-MATERIAL Regra de Negócio: EXERCICIO(N4)+CODIGO(N1) 1-Nacional 2-Material estrangeiro adquirido no Brasil 3-Importação direta TIPO NUMBER(14, 0) NUMBER(10, 0) VARCHAR2(23) NUMBER(18, 2) VARCHAR2(23) NUMBER(5, 0) NUMBER(5, 0) POSIÇÃO Projeto Documento de Origem de Dados WD_EMPENHO ESPECIFICAÇÃO DE-PARA DDM: DDM: SIAFI-EMPENHO DESTINO ATRIBUTO ID_MODALIDADE_LICITACAO ID_ESPECIE_NE ID_TIPO_NE ORIGEM REGRAS DE NEGÓCIO DDM: IT-IN-MODALIDADE-LICITACAO Regra de Negócio: EXERCICIO(N4)+CODIGO(N2) 01-Concurso 02-Convite 03-Tomada de preço 04-Concorrência 06-Dispensa de licitação 07-Inexigível 08-Não se aplica 09-Suprimento de fundos 11-Consulta 12-Pregão DDM : Regra de Negócio: EXERCICIO(N4)+CODIGO(N1) 1-Original 2-Reforço 3-Anulação de empenho 4-Cancelamento de restos a pagar 5-Estorno de cancelamento de restos a pagar 6-Empenho de despesa pre-empenhada 7-Reforço de empenho de despesa pre-empenhada 8-Anulação de empenho de despesa pre-empenhada Regra de Negócio: EXERCICIO(N4)+CODIGO(N1) 1-Ordinário 3-Estimativo 5-Global TIPO NUMBER(6, 0) NUMBER(5, 0) NUMBER(5, 0) POSIÇÃO Projeto Documento de Origem de Dados WD_EMPENHO ESPECIFICAÇÃO DE-PARA DDM: DDM: SIAFI-EMPENHO DESTINO ATRIBUTO ID_LOCALIDADE_BENEFICIADA ID_PI ID_PTRES ORIGEM REGRAS DE NEGÓCIO DDM: IT-CO-MUNICIPIO-BENEFICIADO Regra de Negócio: Exercício(N4)+[ Municipio(N7) | UF(V2) | Região(V2) | Pais(N3) ] DDM: IT-CO-PLANO-INTERNO Regra de Negócio: Exercício(V4) + Orgao(N5) + PI(V11) DDM: IT-CO-PROGRAMA-TRABALHO-RESUMIDO Regra de Negócio: Exercício(N4) + PTRES(N6) TIPO VARCHAR2(11) VARCHAR2(20) NUMBER(10, 0) POSIÇÃO Projeto - Scripts de Banco Projeto - Scripts de Banco Projeto - Scripts de Banco CREATE TABLE WD_EMPENHO ( ID_DOCUMENTO VARCHAR2 ( 23 ) NOT NULL, ID_TIPO_NE NUMBER ( 5 ), ID_ESPECIE_NE NUMBER ( 5 ), ID_EMPENHO_REF VARCHAR2 ( 23 ) NOT NULL, ID_CONTRA_ENTREGA NUMBER ( 5 ), ID_UGR NUMBER ( 10 ) NOT NULL, ID_MODALIDADE_LICITACAO NUMBER ( 6 ), ID_LOCALIDADE_BENEFICIADA VARCHAR2 ( 11 ) NOT NULL, ID_ORIGEM_MATERIAL NUMBER ( 5 ), ID_PRE_EMPENHO VARCHAR2 ( 23 ) NOT NULL, NR_NE NUMBER ( 6 ), INCISO VARCHAR2 ( 2 ), AMPARO_LEGAL VARCHAR2 ( 8 ), NUM_PROCESSO VARCHAR2 ( 20 ), REFERENCIA_DISPENSA VARCHAR2 ( 20 ), MES_LANCAMENTO NUMBER ( 2 ), SISTEMA_ORIGEM VARCHAR2 ( 10 ), OBSERVACAO VARCHAR2 ( 234 ), ID_NAT_DESP NUMBER ( 10 ) NOT NULL, ID_ESF_ORC NUMBER ( 5 ) NOT NULL, ID_FR_DETA NUMBER ( 14 ) NOT NULL, VALOR NUMBER ( 18, 2 ), VALOR_EMPENHADO NUMBER ( 18, 2 ), VALOR_LIQUIDADO NUMBER ( 18, 2 ), VALOR_A_LIQUIDAR NUMBER ( 18, 2 ), VALOR_PAGO NUMBER ( 18, 2 ), VALOR_RP_INSCRITO_LIQUIDO NUMBER ( 18, 2 ), VALOR_RP_A_PAGAR NUMBER ( 18, 2 ), VALOR_RP_PAGO NUMBER ( 18, 2 ), ID_PI VARCHAR2 ( 20 ) NOT NULL, ID_PTRES NUMBER ( 10 ) NOT NULL, CONSTRAINT PK_WD_EMPENHO221 PRIMARY KEY (ID_DOCUMENTO), CONSTRAINT TC_WD_EMPENHO4237 UNIQUE (ID_DOCUMENTO) ) / ETL - Extração, Transformação e Carga ETL 1. Infra-Estrutura de Banco 2. ETL 1. Extração 2. Transformãção 3. Carga ETL Infra-Estrutura de Banco •Servidor de banco Máquina Intel com 4 processadores com S. O. Linux Red Hat •Banco de dados Oracle 10G ETL Extração - Consiste na leitura de dados dos sistemas de origem, gerando saídas em arquivos texto; - Na Fase I do Síntese, foram utilizados dados provenientes do SIAFI e SIASG; - Os dados de origem estão em bancos ADABAS e suas extrações são feitas mediante a execução de programas Natural; - Os programas Natural são executados por chamada de JOB; - Foram reutilizadas, no processo de ETL do Síntese, rotinas de migração de dados do SIAFI Operacional para o Gerencial. ETL Extração -> DDMs Origem do ADABAS ETL Extração -> Programas Natural ETL Extração -> Job Extração ETL Transformaçao - Os arquivos gerados pelo processo de extração são transferidos, via ftp, para o Servidor de Banco de Dados do Síntese; - O processo de transformação e carga tem início no Servidor de Banco de Dados; - Para cada tabela destino há um arquivo de dados correspondente, bem como um script (em PL/SQL) que efetuará a transformação e carga destes dados; - O processo de transformação é feito, em sua maioria, na plataforma Oracle sendo, também, utilizados programas Natural para este fim. ETL Carga - A carga das dimensões precede a das tabelas de fatos; - Na carga da Fato Lançamento faz-se necessário a remoção de todos os índices bitmap criados nesta tabela. Sendo este índices recriados ao seu final; - Em função do excessivo volume de lançamentos de um exercício, estes foram carregados separadamente por mês; - Ao término da carga da fato lançamento são criadas as agregadas de dia, mês e ano; -É realizado o acompanhamento de todos os processos de carga através de indicadores armazenados em tabelas de controle. Estes indicadores informam o número de registros processados, inseridos, atualizados e descartados bem como o porquê de suas dispensas, além de informações relativas à duração do processo e data de carga. ETL Ferramenta - Atualmente, está sendo realizado o projeto de construção de toda a fase de transformação e carga na ferramente de ETL (PowerCenter); - Este projeto consiste em transformar todos os scripts de transformação e carga, implementados em PL/SQL, em processos automatizados e mapeados dentro da ferramenta; - Somente o “TL” será executado pela ferramenta, mantendo-se a forma atual de extração dos dados, uma vez que não foi disponibilizada a funcionalidade de conexão com o banco ADABAS para execução das extrações. ETL Ferramenta Obrigado!!! Obrigado!!! Contatos e maiores informações: FIM... Cândida Maria Teixeira Guimarães [email protected] (85) 4008-3041 Márcio Ferreira Barros [email protected] (85) 4008-2983 Guilherme Monteiro Andrade de Sena [email protected] (85) 4008-2904 Angélica Maria Ribeiro [email protected] (85) 4008-3025 Material de Referência: Site do Projeto Síntese (http://200.198.211.33/asp/); Site de Publicação - SÍNTESE (http://gestaosintese.serpro.gov.br/); Site do Processo SERPRO de Desenvolvimento de Software.