Dataset Card: mgi__notas_fiscais

Filtered and enriched version of [cgu__notas_fiscais]

Dataset Details

Dataset Description

• Curated by: Fred Guth (@fredguth)
• Funded by: World Bank
• Language(s) (NLP): pt-br
• License: CC-BY 4.0

Dataset Sources

cgu__notas_fiscais

Dataset Structure

itens_notas

column_name	data_type	comment
chave_acesso	VARCHAR	identificador da nota fiscal em que este item foi registrado.
serie	USMALLINT	série da nota fiscal. juntamente com o número identifica unicamente a nota fiscal
numero	BIGINT	número da nota fiscal. juntamente com a série identifica unicamente a nota fiscal
timestamp_emissao	TIMESTAMP	data e hora de emissão da nota fiscal
emitente	VARCHAR	cpf ou cnpj emissor da nota fiscal. fornecedor.
nome_emitente	VARCHAR	razão social do emissor da nota fiscal
uf_emitente	ENUM('AC', 'AL', 'AP', 'AM', 'BA', 'CE', 'DF', 'ES', 'GO', 'MA', 'MT', 'MS', 'MG', 'PA', 'PB', 'PR', 'PE', 'PI', 'RJ', 'RN', 'RS', 'RO', 'RR', 'SC', 'SP', 'SE', 'TO')	sigla unidade federativa do emissor da nota fiscal
destinatario	VARCHAR	cnpj do destinatário da nota fiscal. cliente.
nome_destinatario	VARCHAR	nome do destinatário da nota fiscal
uf_destinatario	ENUM('AC', 'AL', 'AP', 'AM', 'BA', 'CE', 'DF', 'ES', 'GO', 'MA', 'MT', 'MS', 'MG', 'PA', 'PB', 'PR', 'PE', 'PI', 'RJ', 'RN', 'RS', 'RO', 'RR', 'SC', 'SP', 'SE', 'TO')	sigla da unidade federativa do destinatário da nota fiscal
destino_operacao	ENUM('1 - OPERAÇÃO INTERNA', '2 - OPERAÇÃO INTERESTADUAL', '3 - OPERAÇÃO COM EXTERIOR')	destino da operação da nota fiscal (interna, interestadual, exterior)
indicador_consumidor_final	ENUM('0 - NORMAL', '1 - CONSUMIDOR FINAL')	indica se o destinatário é consumidor final (0 - normal, 1 - consumidor final)
indicador_presenca_comprador	ENUM('0 - NÃO SE APLICA', '1 - OPERAÇÃO PRESENCIAL', '2 - OPERAÇÃO NÃO PRESENCIAL, PELA INTERNET', '3 - OPERAÇÃO NÃO PRESENCIAL, TELEATENDIMENTO', '5 - NÃO INFORMADO', '9 - OPERAÇÃO NÃO PRESENCIAL, OUTROS')	indica se o comprador estava presente na operação (0 - não se aplica, 1 - presencial, 2 - não presencial, 3 - teleatendimento, 5 - não informado, 9 - outros)
numero_produto	USMALLINT	número sequencial do item na nota fiscal. juntamente com a chave de acesso, forma a chave primária
descricao_produto	VARCHAR	descrição do produto ou serviço. campo de preenchimento livre.
ncm	VARCHAR	código da nomenclatura comum do mercosul (NCM) do item (-1 é usado para serviços)
descricao_ncm	VARCHAR	descrição do NCM do item
cfop	USMALLINT	código fiscal de operações e prestações. identifica a natureza fiscal da operação
descricao_cfop	VARCHAR	descrição do CFOP
quantidade	DECIMAL(18,2)	quantidade do item
unidade	VARCHAR	unidades de medida do item
valor_unitario	DECIMAL(18,2)	valor unitário do item
valor_total_item	DECIMAL(18,2)	valor total do item (quantidade * valor unitário)
ano_emissao	USMALLINT	ano de emissão da nota fiscal

Dataset Creation

MODEL (
    name mgi.itens_nota
);

WITH chaves_validas as (
    select 
        chave_acesso
    from cgu.notas 
    where ultimo_evento not in (
        'Cancelamento da NF-e', 
        'Manifestação do destinatário - Operação não realizada', 
        'Manifestação do destinatário - Desconhecimento da operação')
) 
select 
  "CHAVE DE ACESSO" AS chave_acesso, -- identificador da nota fiscal em que este item foi registrado.
  "SÉRIE"::USMALLINT AS serie, -- série da nota fiscal. juntamente com o número identifica unicamente a nota fiscal
  "NÚMERO"::BIGINT AS numero, -- número da nota fiscal. juntamente com a série identifica unicamente a nota fiscal
  --   "NATUREZA DA OPERAÇÃO" AS natureza_operacao, -- descrição da natureza da operação. campo de preenchimento livre.
  strptime("DATA EMISSÃO", '%d/%m/%Y %H:%M:%S') AS timestamp_emissao, -- data e hora de emissão da nota fiscal
--   timestamp_emissao::date AS data_emissao, -- data de emissão da nota fiscal
--   month(data_emissao)::UTINYINT AS mes_emissao, -- mês de emissão da nota fiscal
  "CPF/CNPJ Emitente" AS emitente, -- cpf ou cnpj emissor da nota fiscal. fornecedor.
  "RAZÃO SOCIAL EMITENTE" AS nome_emitente, -- razão social do emissor da nota fiscal
-- "INSCRIÇÃO ESTADUAL EMITENTE" AS inscricao_estadual_emitente, -- inscrição estadual do emissor da nota fiscal
  "UF EMITENTE"::uf AS uf_emitente, -- sigla unidade federativa do emissor da nota fiscal
-- "MUNICÍPIO EMITENTE" AS municipio_emitente, -- nome município do emissor da nota fiscal. 
  "CNPJ DESTINATÁRIO" AS destinatario, -- cnpj do destinatário da nota fiscal. cliente.
  "NOME DESTINATÁRIO" AS nome_destinatario, -- nome do destinatário da nota fiscal
  "UF DESTINATÁRIO"::uf AS uf_destinatario, -- sigla da unidade federativa do destinatário da nota fiscal
--   "INDICADOR IE DESTINATÁRIO"::indicador_ie AS indicador_ie_destinatario, -- indicador de inscrição estadual do destinatário da nota fiscal
  "DESTINO DA OPERAÇÃO"::tipo_destino AS destino_operacao, -- destino da operação da nota fiscal (interna, interestadual, exterior)
  "CONSUMIDOR FINAL"::tipo_consumidor AS indicador_consumidor_final, -- indica se o destinatário é consumidor final (0 - normal, 1 - consumidor final)
  "PRESENÇA DO COMPRADOR"::tipo_presenca AS indicador_presenca_comprador, -- indica se o comprador estava presente na operação (0 - não se aplica, 1 - presencial, 2 - não presencial, 3 - teleatendimento, 5 - não informado, 9 - outros)  
  "NÚMERO PRODUTO"::USMALLINT AS numero_produto, -- número sequencial do item na nota fiscal. juntamente com a chave de acesso, forma a chave primária
  "DESCRIÇÃO DO PRODUTO/SERVIÇO" AS descricao_produto, -- descrição do produto ou serviço. campo de preenchimento livre.
  "CÓDIGO NCM/SH" AS ncm, -- código da nomenclatura comum do mercosul (NCM) do item (-1 é usado para serviços)
  "NCM/SH (TIPO DE PRODUTO)" AS descricao_ncm, -- descrição do NCM do item
  nfe__itens."CFOP"::USMALLINT AS cfop, -- código fiscal de operações e prestações. identifica a natureza fiscal da operação
  c.cfop_descricao as descricao_cfop, -- descrição do CFOP
  REPLACE("QUANTIDADE", ',', '.')::decimal(18,2) AS quantidade, -- quantidade do item
  "UNIDADE" AS unidade, -- unidades de medida do item
  REPLACE("VALOR UNITÁRIO", ',', '.')::decimal(18,2) AS valor_unitario, -- valor unitário do item
  REPLACE("VALOR TOTAL", ',', '.')::decimal(18,2) AS valor_total_item, -- valor total do item (quantidade * valor unitário)
  year(timestamp_emissao::date)::USMALLINT AS ano_emissao -- ano de emissão da nota fiscal
FROM raw.nfe__itens join raw.cfop c on raw.nfe__itens."CFOP" = c.CFOP 
where chave_acesso in (select chave_acesso from chaves_validas)
order by timestamp_emissao;

/*  POST-STATEMENT */
@IF(
  @runtime_stage = 'evaluating',
  COPY mgi.itens_nota TO 'data/outputs/mgi/nfe' (FORMAT PARQUET, PARTITION_BY (ano_emissao), OVERWRITE_OR_IGNORE, FILENAME_PATTERN 'itens_{i}'
  )
);