Ouça este conteúdo
Faz tempo que nossas vidas são governadas por computadores e, com a pandemia, esse processo que não tem volta se acelerou no mundo todo. Há um outro processo que precisa começar, o da conscientização sobre a interação homem-máquina. Mesmo depois de vivenciar nas mais diversas ocasiões as famosas "falhas no sistema" ainda continuamos julgando que as máquinas são infalíveis, diferentes de nós, humanos.
Nenhuma máquina existe sozinha, mesmo as mais avançadas partem das ideias, estratégias, criatividade e programação humanas. Se executam exatamente as tarefas desenhadas por um humano, em última análise são falíveis.
Precisamos tomar essa consciência porque cada vez mais utilizaremos máquinas e inteligência artificial no dia-a-dia. Elas existem para servir a humanidade, não o oposto, como ocorre em diversos casos hoje. Um exemplo corriqueiro é o machine learning e inteligência artificial das redes sociais que derruba vídeos e fotos por identificar como pornografia o que não é, como um cotovelo, um manequim de loja ou uma estampa. Há pessoas que aceitam a explicação de que o sistema faz isso e pronto. Mas por que ele faz? Porque tem algum erro nele e esse erro prejudica pessoas reais.
Há, sobretudo entre os que trabalham com as novas tecnologias, um conformismo sobre a soberania da máquina. Diante de um alerta de injustiça, respondem como axioma que o machine learning é assim, o deep learning é assim, a inteligência artificial é assim, evolução do antigo "o sistema que fez isso e eu não posso fazer nada". A China é hoje liderança mundial em sistemas de inteligência artificial para o cotidiano dos cidadãos (leia mais AQUI) e nós já temos leis e estrutura para adotar muita coisa semelhante.
Na área da Segurança Pública, o reconhecimento facial parece ser o Santo Graal dos políticos do século XXI. Muitas cidades brasileiras já usam, propagandeando que não há erros, e continuam mantendo a afirmação mesmo depois que erros colocam gente inocente na cadeia. Temos a Receita Federal pioneira em informatização no mundo, com programas considerados avançadíssimos e que serviram de exemplo para outros países. Quem aqui já foi vítima de algum erro da Receita? Como políticos conseguem driblar os limites de saque e movimentação internacional de dinheiro? Pois é...
Ainda não entendemos muito as novas tecnologias, principalmente inteligência artificial. No entanto, confiamos cegamente naquilo já testado e aprovado há muito tempo. Você sabia que erros do Excel já levaram a decisões erradas que afetaram as vidas de milhares de pessoas no mundo? Veja alguns casos:
50 mil pacientes de COVID afetados na Inglaterra
No momento em que várias cidades da Europa voltam ao lockdown, a Autoridade de Saúde Pública do Reino Unido (PHE), comunicou que um "erro no sistema" fez com que fossem perdidos os dados dos pacientes entre 25 de setembro e 2 de outubro, mas que eles já haviam sido recuperados.
A função da PHE é fundamental para o processo de rastreamento de contágio e rastreamento dos contatos dos indivíduos contaminados, um método que não usamos aqui no Brasil. Lá, funciona assim: todos os dados de pacientes testados em laboratórios públicos e privados do país são centralizados pela PHE. Isso serve para rastrear onde a infecção está se espalhando exatamente e identificar contatos, novos possíveis focos de transmissão.
As pessoas receberam corretamente os resultados dos seus exames, mas o rastreamento ficou comprometido em cerca de 50 mil casos devido ao tal erro do sistema. Ele demorou uma semana para ser detectado, período em que nenhum dos contaminados identificados nem seus contatos recebeu instruções ou atendimento adequados para evitar que o vírus se espalhasse.
A falha foi no Excel, que é o programa utilizado para fazer os cálculos. Todos nós lidamos com ele pensando que as planilhas são infinitas, ocorre que não não e agora acharam onde termina. Quando se extinguiu a capacidade da planilha para cruzar os dados dos infectados, ela simplesmente parou e acabou perdendo 16 mil resultados de testes, segundo informou o jornal Guardian.
Os laboratórios de toda Inglaterra repassam os dados de resultados de exames à PHE em arquivo CSV, que é prontamente adicionado ao Excel já programado para todos os cálculos necessários para que as autoridades de saúde recebam as informações corretas. Em um momento, a planilha passou do limite de 16384 colunas e 1milhão 48576 linhas e simplesmente parou.
Qual a falha? Nessa interação homem-máquina, ninguém pensou que fosse possível qualquer erro ou limite de cálculo no Excel. Quem programou deve ter avaliado que o limite jamais seria ultrapassado ou que os usuários verificariam os limites, então não colocou nenhum aviso. Simples explicar, mas imagine que isso afetou 50 mil pessoas infectadas com COVID-19 no meio de uma pandemia, bem quando países vizinhos da Inglaterra retomam o lockdown.
Não é a pandemia que nos trouxe essa descoberta. O professor de Políticas Públicas da Universiteit Leiden na Holanda, Alexandre Afonso, fez uma coleta de casos em que erros na utilização do Excel geraram decisões de governos que afetaram a vida de pessoas reais.
O erro que inspirou políticas de austeridade fiscal
Muitas das teorias econômicas que defendem austeridade fiscal têm origem no trabalho apresentado por dois dos economistas mais respeitados do mundo, Carmen Reinhart e Kenneth Rogoff, professores da Universidade de Harvard. A teoria que eles produziram em 2010 durou 3 anos e gerou políticas públicas: a economia desacelera 0,1% sempre que o nível de endividamento está acima de 90%.
Essa fórmula chegou a ser usada para políticas de austeridade fiscal que afetam a vida das pessoas reais. Ocorre que eles selecionaram a linha errada da planilha de Excel. Com o nível de endividamento acima de 90%, o resultado certo não é desaceleração de 0,1%, é crescimento de 2,2%.
O erro só foi percebido depois que teoria já tinha feito até parte de debates presidenciais no mundo todo. Em 2013, dois professores e um doutorando da Universidade de Massachussets Amherst perceberam inconsistências na aplicação da fórmula e resolveram voltar à planilha original. Descobriram 3 erros e o principal não ter selecionado a linha completa para calcular a média de crescimento: ela teve só 15 dos 20 países pesquisados. Isso afetou o cálculo da outra média, a de desaceleração, que incluiu a linha completa.
O atraso milionário na entrega do hospital
Em julho deste ano, houve um escândalo na Escócia envolvendo a abertura do Novo Hospital Infantil de Edimburgo, um projeto cuidadosamente planejado há 10 anos. Além de atrasar a abertura em semanas, ainda foi necessário gastar milhões para reformar completamente o sistema de ventilação da UTI, fundamental para evitar que infecções se espalhem.
Um erro de digitação numa planilha de Excel no ano de 2012 foi a origem do problema. A planilha chamada "Environmental Matrix" foi feita para calcular 10 trocas diárias de ar em quartos de UTI com 4 leitos. Alguém repetiu o número 4, dos leitos, na troca de ar. Assim foi feito.
Se estava assim no cálculo, quem executou a obra não tem culpa, certo? Errado. Esse é o questionamento feito por toda a imprensa da Inglaterra. A construção envolveu empresas especializadas no ambiente hospitalar, que passaram por seleções do governo e têm pessoal preparado para saber todas as especificações necessárias. Como alguém que sabe quantas trocas de ar uma UTI precisa desenha um sistema que faz menos da metade simplesmente porque estava numa planilha? Confia na infalibilidade da interação homem-máquina.
Overbooking nas Olimpíadas
Em 2012, mesmo ano do erro original na planilha de Excel do hospital, a Inglaterra soube de um escândalo enorme derivado de outro erro: a venda de assentos inexistentes para um evento de natação devido a erro de digitação.
Na planilha de Excel dos ingressos restantes era para digitar 10 mil, só que alguém digitou 20 mil, ninguém revisou e o sistema continuou vendendo.
Quando os organizadores começaram a contabilizar a entrada de dinheiro e perceberam o quanto ela estava acima do esperado, estranharam e foram procurar o erro. Foi necessário ir atrás de um monte de gente que havia comprado os ingressos inexistentes.
Nem a JP Morgan sabe usar Excel direito
No ano de 2013, os executivos da JP Morgan lutaram para se livrar de uma multa de US$ 600 mil por fraude fiscal e declarações irregulares. A justificativa, documentada e apresentada formalmente é a de que erros sucessivos numa planilha de Excel levaram uma empresa de serviços financeiros fundada em 1678 e com filiais no mundo inteiro a estimar errado o quanto ganhou.
A instituição declarou prejuízo de US$ 6 bi em sua carteira de créditos sintéticos da Ásia. Aparentemente, o problema foi a junção de digitação errada com uma equação de cálculo feita de forma errada. A diferença de dinheiro, não percebida por quem declarou, foi percebida pelo governo dos Estados Unidos e gerou uma operação que acabou encontrando documentos de tráfico de influência.
O Excel decidiu sozinho que eles seriam espionados
No ano de 2010, o Serviço Secreto britânico, MI5, assumiu publicamente que havia monitorado por engano 134 números de telefone em todo o país. E, neste caso, não teve erro de digitação nem de cálculo.
A planilha feita com os números de telefones a ser monitorados mexia sozinha com aqueles terminados em 000, identificava como um dado específico e alterava o que foi digitado. Dessa forma, 134 telefones que precisavam ser monitorados ficaram sem escuta e 134 cidadãos comuns tiveram a privacidade indevidamente violada pelo governo.
É mais fácil renomear genes do que reprogramar Excel
Cansados de perder horas de trabalho sem perceber, cientistas decidiram mudar o nome dos genes que o Excel decidia renomear sozinho. Existe um Comitê Mundial de Nomenclatura Genética (HGNC), com pessoas de todo o mundo, para decidir qual nome pode ou não ser colocado em cada descoberta.
Em 1960, cientistas do mundo todo perceberam que seria um problema enorme para a pesquisa se cada cientista decidisse colocar um nome diferente no mesmo gene. Além disso, as abreviações, comuns no dia-a-dia, podem trazer muita confusão. Desde 1979 há um protocolo sobre como nomear cada gene descoberto, seguindo uma lógica científica, e qual é a sua abreviatura padrão válida no mundo todo.
"Já aprovamos quase 33.000 símbolos. A grande maioria deles é para genes que codificam proteínas, mas também incluem símbolos para pseudogenes, RNAs não codificantes, fenótipos e características genômicas . Novos símbolos individuais são solicitados por cientistas, periódicos (por exemplo, Genomics, Nature Genetics) e bancos de dados (por exemplo, Ensembl, Entrez Gene, MGI, RGD e OMIM) e grupos de novos símbolos por aqueles que trabalham em grupos de genes ou regiões específicas do genoma. Em todos os casos, esforços consideráveis são feitos para usar um símbolo aceitável para os trabalhadores no campo." explica o site do HGNC.
A questão do "aceitável" é porque abreviaturas de 4 ou 5 letras absolutamente normais em um idioma podem ser um palavrão, ofensa ou tabu em outro idioma. Por mais prosaica que pareça a questão, imagine como seria a divulgação ao público de uma descoberta científica importantíssima cujo nome seja um sonoro palavrão.
É um trabalhão criar regras para que o protagonismo, a sensibilidade e a criatividade natural dos seres humanos não se tornem entraves a pesquisas importantíssimas para a humanidade. Há um grupo que faz isso, mas daí veio o Excel: ele transforma alguns desses nomes em datas sozinho, o que afeta todos os cálculos programados pelos cientistas.
Um exemplo prático: ao digitar a abreviatura de Membrane Associated Ring-CH-Type Finger 1, MARCH1, numa planilha, ela automaticamente era modificada para 1o de março. Em 2016 resolveram fazer um estudo para verificar o quanto essa modificação automática impactava no trabalho científico. Foram revisados 3597 papers da área de genética e 1/5 deles sofreu o impacto dos erros do Excel.
Se os cientistas sabem da correção automática, por que simplesmente não desligam? Porque não tem essa opção. Para mudar a correção, é necessário selecionar coluna por coluna em cada arquivo. Dessa vez, a solução do problema não foi consertar a máquina, foi driblar as peculiaridades dela: trocaram os nomes dos genes.
No mês de agosto deste ano, foram publicadas as novas diretrizes mundiais para nomear genes e criar diminutivos, agora levando em conta que nenhum deles pode ser algo que o Excel converta automaticamente para uma data. Agora, cientistas em todo o mundo comemoram que Membrane Associated Ring-CH-Type Finger 1 mudou de MARCH1 para MARCHF1. SEPT1, proteína que acabava virando 1o de setembro no Excel, passou a se chamar SEPTIN1. De agosto até agora, foram mudados os nomes de 27 genes.
A Microsoft nunca se manifestou sobre o assunto nem informou por que é tão importante manter essa função de autocorreção para data ou para que ela serve realmente.
Seremos patrões ou escravos das máquinas?
Não há nenhuma dúvida de que a tecnologia trouxe e continuará trazendo avanços importantíssimos para a vida humana, mas temos de tomar uma decisão: continuaremos deslumbrados com ela ou vamos passar a entender a fundo e usar o que interessa?
Escolhi falar do Excel porque a maioria das pessoas jamais imaginaria que ele pode causar esse tipo de dano na vida real. O problema não está no software, está em enxergar a tecnologia como responsável pelo avanço. Só tecnologia é inútil, precisamos pensar a interação homem-máquina.
Todo esse mundo maravilhoso da inteligência artificial, análise de dados, hiperconectividade e supercomputadores pode nos servir ou nos escravizar e a escolha não é das máquinas, é nossa. É muito interessante que justamente neste mercado bilionário a maioria das pessoas acredite que alguns serviços são gratuitos. Plataformas de streaming, redes sociais, portais de notícias e aplicativos têm apenas uma lógica universal: "se você não está pagando por um produto, é sinal de que o produto é você", na palavra do jornalista norte-americano Andy Lewis.
Nós sabemos que não existe almoço grátis e agimos assim quase todo o tempo, mas o deslumbramento com as redes sociais e a inteligência artificial nos paralisa. A evolução tecnológica chegou a um ponto em que pode ser usada como arma de guerra para dominar populações inteiras, criando diferenças internas explosivas, sem que os principais interessados precisem derramar uma gota de sangue.
Temos uma decisão a tomar: seguiremos fingindo que nossos brinquedinhos preferidos são inofensivos ou vamos entender como funcionam para tirar o melhor deles? A chave da interação homem-máquina, raiz de todo o progresso tecnológico que ainda vamos testemunhar, é decidir entre dominar e ser dominado. Haverá quem tome os dois tipos de decisão, melhor que seja sempre voluntária.
