Cópia de dados para unif desconsiderando campos (case sensitive)

Description

Contato

  • @Bruno Tortato Furtado

Problema

  1. Um ambiente customer recebe um registro do Smart Link. Este novo registro cai em uma staging flexível e possui um novo campo com sua nomenclatura em caixa baixa. Neste momento, o ambiente unificado ainda não possui esse campo.
curl -X 'POST' \
  'https://furtado.carol.ai/api/v3/staging/intake/tabela1?connectorId=0c7bd871534d4a5a9398a5fb9a633032&returnData=false' \
  -H 'accept: application/json' \
  -H 'Content-Type: application/json' \
  -H 'Authorization: Bearer TOKEN' \
  -d '[
    {
        "PK": "A",
        "CAMPO_1": "valorA1",
        "campo_2": "valorA2"
    }
]'

Captura de Tela 2024-06-10 às 16.52.49.png

Captura de Tela 2024-06-10 às 16.53.36.png

  1. Momentos depois, o ambiente dev adiciona esse novo campo a tabela (em caixa alta) e gera uma nova release do Carol App. Essa nova release é instalada no ambiente unificado que passa a incluir este novo campo (também em caixa alta).

Captura de Tela 2024-06-10 às 16.57.09.png

  1. Apesar de ocorrer uma alteração de schema na tabela do unificado, nenhuma task de cópia de dados foi criada, logo o registro que contém valor para o campo_2 no customer, não possui esse valor no unificado.

Captura de Tela 2024-06-10 às 17.00.03.png

  1. Uma task de cópia de dado é criada de forma manual com o intuito de popular o campo em questão, porém este campo acaba não sendo populado pois o job que realiza o INSERT com SELECT não considera o campo, muito provavelmente pelo fator case sensitive (campo em caixa baixa no customer e caixa alta no unificado).

Link da task: https://furtado.carol.ai/furtadounificado/carol-ui/tasks/activity/25b716af-c25b-4b89-99e0-f8eb36468f50

Job ID: carol-f2fc1fdcd57e423198b1:US.CopyProcessJobOutput_4acbcd97-eabe-4e6f-aa5e-fdc67efa6e47

INSERT INTO
  `carol-f2fc1fdcd57e423198b1.f2fc1fdcd57e423198b17067b88f32ec.ingestion_stg_conectora_tabela1` (
    `CAMPO_1`,`PK`,
    `mdmAuditId`,`mdmBatchId`,`mdmBatchIdSequence`,`mdmConnectorId`,`mdmCounterForEntity`,
    `mdmCounterForEntity__DATETIME__`,`mdmCreated`,`mdmDeleted`,`mdmEntityType`,`mdmId`,`mdmLastUpdated`,
    `mdmTenantId`,`_ingestionDatetime`)
SELECT
  source_table.`CAMPO_1`,source_table.`PK`,
  source_table.`mdmAuditId`,source_table.`mdmBatchId`,source_table.`mdmBatchIdSequence`,
  source_table.`mdmConnectorId`,source_table.`mdmCounterForEntity`,source_table.`mdmCounterForEntity__DATETIME__`,
  source_table.`mdmCreated`,source_table.`mdmDeleted`,source_table.`mdmEntityType`,source_table.`mdmId`,
  source_table.`mdmLastUpdated`,source_table.`mdmTenantId`,
  CURRENT_DATETIME()
FROM
  `carol-835a252e6d68446a9fc1.835a252e6d68446a9fc19bcec55aed33.ingestion_stg_conectora_tabela1` source_table

Captura de Tela 2024-06-10 às 17.28.16.png

Critério de aceite (sugestão)

  1. A task de cópia de dados do customer para o unificado deve incluir o campo no SELECT que compões o insert desconsiderando o fato do nome do campo estar em caixa alta ou baixa, ou seja, não deve ser case sensitive.

Activity

Automation for Jira 25 July 2024, 14:30 Jira Internal Users

Ocorreu o deploy em Produção. Issue movimentada para Done.

Nenhuma issue associada no Jira Produção.

Automation for Jira 25 July 2024, 14:01 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 25 July 2024, 14:01 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 25 July 2024, 14:01 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 22 July 2024, 20:29 Jira Internal Users

Esta issue teve o seu status alterado, pois ocorreu o merge da branch capl-6258-case-sensitive na branch main.

Automation for Jira 22 July 2024, 20:29 Jira Internal Users

Foi realizado o commit.

Automation for Jira 22 July 2024, 20:29 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 22 July 2024, 20:29 Jira Internal Users

Foi aprovado o PR.

Chámam Diomede Caires 22 July 2024, 20:29 Jira Internal Users

validado com o apoio do Douglas, com a criação e instalação de um novo carolApp

image-20240722-202845.png
Automation for Jira 19 July 2024, 12:26 Jira Internal Users

Esta issue teve o seu status alterado, pois foi aprovado o PR.

Automation for Jira 19 July 2024, 11:27 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 19 July 2024, 11:27 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 18 July 2024, 21:01 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 18 July 2024, 21:00 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 18 July 2024, 20:48 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 18 July 2024, 20:48 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 17 July 2024, 19:05 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 17 July 2024, 19:05 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 17 July 2024, 18:53 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 17 July 2024, 18:53 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 17 July 2024, 14:33 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 17 July 2024, 14:33 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 17 July 2024, 13:44 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 17 July 2024, 13:44 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 16 July 2024, 20:39 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 16 July 2024, 20:39 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 16 July 2024, 18:10 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 16 July 2024, 18:10 Jira Internal Users

Foi aprovado o PR.

Automation for Jira 15 July 2024, 19:49 Jira Internal Users

PR foi aprovado no Github.

Automation for Jira 15 July 2024, 19:48 Jira Internal Users

PR foi aprovado no Github.

Automation for Jira 11 July 2024, 20:13 Jira Internal Users

Foi realizado o commit.

Automation for Jira 11 July 2024, 18:28 Jira Internal Users

Foi criado o PR sem a sigla WIP no título. Issue movimentada para Code Review.

Automation for Jira 11 July 2024, 18:27 Jira Internal Users

Foi realizado o commit.

Automation for Jira 11 July 2024, 18:27 Jira Internal Users

Foi criada a branch.

Automation for Jira 5 July 2024, 19:57 Jira Internal Users

@Robson Thanael Poffo ,
@PEDRO BUZZI FILHO ,
@Geny Isam Hamud Herrera ,
Este issue foi planejada para ser entregue até 2024-08-30. Você pode confirmar consultando o campo Due Date desta issue.

Data já planejadas para esta issue: 2024-08-30

Se o campo External Issue Link estiver preenchido com o link de uma issue válida no Jira Produção o cliente também será notificado no Jira Produção.