Engenheiro teve sua casa inteligente bloqueada após “comentários ofensivos”

Inicio meu artigo de hoje com uma situação curiosa que aconteceu comigo neste último sábado, e que tem direta relação com o artigo que publiquei aqui na semana passada. No último dia 17, às 18h, eu daria uma palestra sobre “ChatGPT e Inteligência Artificial”, mostrando os pontos preocupantes dessas novas tecnologias, conforme comentários recentes de engenheiros de alta patente, como os ex-executivos da Google Mo Gawdat e Geoffrey Hinton. A fala seria baseada no texto que publiquei aqui na Gazeta na quarta-feira anterior.

Para minha surpresa, quando cheguei ao local da palestra, não havia internet. Mas o estranho é que o auditório fica num complexo de escritórios. Todo o restante do prédio estava com acesso à rede, menos a área específica do auditório. A situação atrapalhou um pouco minha exposição do conteúdo, mas foi algo que conseguimos contornar. O mais estranho foi que, no final de minha apresentação, a internet voltou a funcionar. Lembrando que foi um sábado de sol e tempo muito agradável. Não havia nada que justificasse aquela pane. Vale ressaltar que o técnico responsável foi acionado antes do evento começar, mas não conseguiu resolver a questão.

Você acha que as chamadas “casas inteligentes” oferecem riscos de privacidade e segurança?

Na confraternização após o evento, conversando com um amigo que trabalha numa das maiores empresas de tecnologia do mundo, ele disse, em tom de brincadeira: “Será que a inteligência artificial percebeu que você iria criticá-la e desligou a internet propositalmente, uma vez que o problema aconteceu apenas no auditório da palestra, e somente no horário do evento?”. Além disso, ele acrescentou: “Já imaginou se, no futuro, a inteligência artificial, controlando os carros inteligentes, comece a impedir que os veículos se desloquem a um evento onde sua tecnologia será criticada?”. Todos nós rimos do comentário. Porém, logo em seguida, comecei a lembrar de duas situações semelhantes às hipóteses que ele levantou.

No dia 24 de maio deste ano, o engenheiro da Microsoft Brandon Jackson recebeu uma encomenda em sua casa. O entregador retornou da entrega afirmando que havia sido ofendido pelo proprietário da casa, e enviou sua reclamação para a empresa responsável pela entrega, que também é sua empregadora. A história foi relatada pelo próprio Jackson num texto publicado no dia 4 de junho.

Já imaginou se, no futuro, a inteligência artificial, controlando os carros inteligentes, comece a impedir que os veículos se desloquem a um evento onde sua tecnologia será criticada?

O estranho foi que, logo após o ocorrido, o proprietário afirmou que sua casa inteligente havia sido desconectada da internet. Ele utilizava uma assistente virtual fabricada pela mesma empresa que realizou o serviço de entrega. Inicialmente, Jackson pensou que sua internet domiciliar havia sido alvo de um ataque hacker. Mas não foi o caso. Intrigado, ele resolveu entrar em contato com o atendimento ao cliente da empresa responsável pela entrega (e também pelo serviço do assistente domiciliar). Para sua surpresa, ele foi informado que estava sendo acusado de ter ofendido o entregador, e isso teria motivado a empresa a desligar seus serviços de sua casa inteligente.

O problema é que, conferindo o horário da entrega e o conteúdo das câmeras de segurança, ele percebeu que não estava em casa no momento da entrega. Teria o entregador mentido? Jackson concluiu que a hipótese mais provável é que a campainha da casa, que era digital, deve ter emitido uma reposta automática por voz dizendo algo do tipo: “Com licença, como posso ajudar?”. Observando nas filmagens que o entregar usava fone de ouvido, é possível que ele tenha compreendido erroneamente o áudio emitido pela campainha, tendo interpretado a fala como possuindo conteúdo ofensivo.

Depois de muitas ligações, ele conseguiu que o serviço fosse religado. Porém, afirmou que está pensando seriamente em mudar todo o serviço de assistência virtual da sua casa para uma empresa concorrente. O proprietário ficou indignado, uma vez que, durante a análise interna da reclamação recebida pela empresa, ainda mesmo sem conclusões, seus serviços de casa foram desligados. Ele afirmou que a empresa poderia ter, em vez disso, colocado restrições temporárias em sua conta no site de compras on-line, ou suspendido as entregas à sua residência enquanto o caso estava sendo analisado. Posteriormente, em nota enviada a um site de tecnologia, e empresa reconheceu que o cliente não agiu de forma inadequada e que estavam buscando maneiras de evitar que situações como aquela se repitam no futuro.

Ao lembrar desse ocorrido, concluí que o comentário de meu amigo sobre a queda da internet no local de minha palestra não estava completamente fora do caminho para onde a tecnologia está caminhando. Mas você poderia perguntar: “E sobre a ideia dos carros inteligentes decidirem não conduzir seus proprietários a um determinado local por algum motivo?”. Eu escrevi exatamente sobre isso num artigo publicado aqui no dia 15 de março deste ano. Vale a pena a leitura.

E você, o que achou do ocorrido? Você possui esses assistentes virtuais em sua casa? Você acha que as chamadas “casas inteligentes” oferecem riscos de privacidade e segurança? Deixe sua opinião nos comentários. Até a semana que vem.