Ouça este conteúdo
Já ultrapassamos os Jetsons. Não me entregaram o robô que cuida da casa sozinho nem o carro que voa, mas estamos vivendo num filme de ficção científica. Hoje o mundo todo se volta para a regulamentação das Big Techs porque elas já controlam demais a economia e nossas vidas. Mas podem ir muito além.
>> NOVIDADE: faça parte do canal de Vida e Cidadania no Telegram
Como? Explico com alguns trechos do trabalho pioneiro de Rafael Yuste, professor de neurologia da Columbia University e líder do projeto do governo dos Estados Unidos para "desvendar o cérebro", iniciado em 2013. Enquanto você lê este texto, cientistas no mundo todo pesquisam novas formas de usar máquinas para melhorar a vida humana.
Exemplo clássico: implante coclear. É um aparelho médico que devolve ou propicia a audição a quem não tem, transformando sons em estímulos elétricos enviados ao nervo auditivo. Há chips que, implantados no cérebro, lêem os estímulos cerebrais e os interpretam para fazer mexer robôs.
Imagine uma pessoa paralisada que tem seus dados cerebrais utilizados numa experiência em que mexe um braço robótico. "Um computador conectado a um chip em seu cérebro é treinado para interpretar a atividade neural resultante de sua atividade mental em uma ação. O computador gera comandos que movem um braço robótico. Um dia, o homem se sente frustrado com a equipe experimental. Mais tarde, sua mão robótica esmaga uma xícara após pegá-la de um dos assistentes de pesquisa e machuca o assistente. Pedindo desculpas pelo que diz ter sido um mau funcionamento do dispositivo, ele se pergunta se sua frustração com a equipe teve alguma influência", diz o artigo que lançou a ideia pioneira de Direitos Neurais.
Essa tecnologia que ele falou já existe até para usuário final. As pesquisas já estão muito mais longe. "Estamos no caminho para um mundo em que será possível decodificar os processos mentais das pessoas e manipular diretamente os mecanismos cerebrais subjacentes às suas intenções, emoções e decisões; onde os indivíduos podem se comunicar com outros simplesmente pensando; e onde poderosos sistemas computacionais ligados diretamente aos cérebros das pessoas auxiliam em suas interações com o mundo de tal forma que suas habilidades mentais e físicas são bastante aprimoradas. Esses avanços podem revolucionar o tratamento de muitas doenças, desde lesão cerebral e paralisia até epilepsia e esquizofrenia, e transformar a experiência humana para melhor. Mas a tecnologia também pode exacerbar as desigualdades sociais e oferecer às corporações, hackers, governos ou qualquer outra pessoa novas maneiras de explorar e manipular as pessoas.", diz o trabalho "Quatro Prioridades Éticas em Nanotecnologia e Inteligência Artificial".
A Neurorights, iniciativa da Columbia University capitaneada por Rafael Yuste, propõe parâmetros morais e éticos contra o caos tecnológico. O primeiro é a garantia de 5 direitos humanos básicos na relação com tecnologia. O segundo é instituir uma espécie de "Juramento de Hipócrates", solene e público para todos os que trabalham com tecnologia na área de neurociência, neurotecnologia e Inteligência Artificial.
Hoje, especialistas de todas essas áreas já trabalham em coisas que fazem parte do nosso dia a dia, como as redes sociais, aplicativos e assistentes pessoais. Já sabemos que sem nem implantar chip no cérebro dá para mudar o comportamento de muita gente utilizando esse tipo de conhecimento. Só que também dá para ter parâmetros éticos e morais, basta a sociedade saber que isso é possível e exigir.
Algoritmos de redes sociais podem prever antecipadamente, antes mesmo da família e do médico, quando uma pessoa com transtorno bipolar passa da fase depressiva para a maníaca. Há uma escolha ética empresarial sobre como usar isso. Pode ser só um fator a ser considerado pelo algoritmo com usuário com mais probabilidade de comprar viagens, roupas e coisas caras, o que deve receber esse tipo de post e anúncio o tempo todo. E pode ser um serviço que avise a pessoa. Você já viu esse serviço ser vendido? Pois é.
Há empresas que trabalham com dados e colocam parâmetros éticos no uso. É possível. Não fazem isso porque são boazinhas, mas pelos limites de regulamentação ou vantagens nesse modelo de negócio. Empresas listadas em Wall Street como B-Corp têm uma série de vantagens fiscais e no mercado, mas têm de dar tratamento ético aos algoritmos e dados. Adivinha? Elas conseguem.
Muitos países tentam regulamentar as Big Techs, mas a nova constituição do Chile abriu uma oportunidade única de legislação inovadora. Será o primeiro país do mundo a ter Direitos Neurais. A Constituição criará o direito à Identidade Mental de cada indivíduo, inerente à condição humana e irrevogável. O país também testa simultaneamente outros parâmetros éticos vindos da sociedade civil.
Muitos cientistas da área da neurotecnologia - que é multidisciplinar - já defendem que os 5 Direitos Neurais sejam incluídos na Declaração Universal dos Direitos Humanos ou em outro documento parecido. A intenção é que não se possa criar no mundo lugares para exceções e experimentações em que pessoas e empresas sejam donas de tecnologias para controlar a consciência e a vontade de outros.
Os 5 Direitos Neurais são:
1. Direito à identidade, a habilidade de controlar a própria integridade física e mental.
2. Direito de ação, ou a liberdade de pensamento e vontade para escolher as próprias ações.
3. Direito à privacidade mental, a habilidade de manter seus pensamentos protegidos contra a revelação a quem quer que seja.
4. Direito a acesso justo a reforço mental, garantia de que o acesso aos benefícios das melhorias da capacidade mental e sensorial por meio da neurotecnologia sejam distribuídos de maneira justa entre a população.
5. Direito à proteção de vieses dos algoritmos, a habilidade para garantir que as tecnologias não implementem preconceitos no cérebro de quem as utiliza.
À primeira vista parece algo muito utópico, mas vai na mesma linha de regulamentação das Big Techs que o governo da Austrália tenta implementar. A ideia é que os algoritmos das empresas tenham de obedecer leis, da mesma forma que todas as operações de todos os demais ramos da economia também são obrigadas. O nó do modelo australiano está na ideia de revisão do algoritmo pelo governo, o que poderia inviabilizar operações, já que isso é corrigido e mudado o tempo todo.
O debate sobre controle de conteúdo já está ultrapassado entre quem é do ramo faz tempo simplesmente porque não faz sentido enquanto não se disciplina o poder das Big Techs, que exige abordagem mais profunda. Já temos até aqui duas linhas de ação, a econômica e a legal, que envolve também conscientizar a população sobre essa nova realidade. Há ainda uma terceira: a sociedade civil.
A Neurorights Foundation está fazendo também no Chile um projeto piloto, o Juramento Tecnocrático, à semelhança do Juramento de Hipócrates. Ah, mas quem garante que o cara que jurou... Eu também não tenho toda essa fé nas pessoas não. Ocorre que quem desenhou o modelo é o Rafael Yuste, uma lenda viva no entendimento sobre funcionamento do cérebro humano e tomada de decisões. Tem uma chance de que ele entenda mais disso do que eu.
Hoje, um dos principais problemas éticos e morais no funcionamento de algoritmos é a naturalização do autoritarismo e da brutalidade. Digamos que alguém tenha crédito negado por erro no algoritmo, ou não tenha o rosto reconhecido no prédio onde tinha uma reunião importante. Essa pessoa tem um prejuízo real no mundo real por erro de outra pessoa. O culpado é o algoritmo? Não, alguém tem de assumir essa responsabilidade.
A forma encontrada e que está sendo testada agora é ter um código básico de princípios éticos e um juramento padrão. A Neurorights Foundation conduz o projeto piloto junto com a Universidade Católica do Chile, a Universidad do Desenvolvimento, Xabi Uribe-Etxebarria - da gigante de Inteligência Artificial Sherpa -, a IBM e o Facebook. Empregados dessas empresas passarão pelo treinamento ético e pelo juramento e os resultados serão medidos depois.
Os 7 princípios éticos básicos da neurotecnologia são:
1. Não maleficência, ou seja, não há intenção de causar danos com a tecnologia aplicada.
2. Beneficência, intenção de contribuir para o bem comum com o trabalho realizado
3. Autonomia, que estabelece que nada pode ser feito sem o consentimento voluntário de quem intervém em determinada situação.
4. Justiça. Busca garantir que a aplicação da neurotecnologia gere resultados justos e imparciais, evitando, por exemplo, vieses algorítmicos.
5. Dignidade. Todas as pessoas devem ser tratadas com respeito ter sua integridade garantida.
6. Privacidade, que defende a remoção de todas as informações confidenciais e identificáveis dos dados coletados pela tecnologia.
7. Transparência, cujo objetivo é garantir que os algoritmos usados sejam tão transparentes e corrigíveis quanto possível.
Trabalham na área de neurotecnologia profissionais da biologia, medicina, psicologia, física, engenharia, matemática, tecnologia da informação e a tendência é ainda agregar outros conhecimentos conforme o uso é expandido. No projeto piloto, todos farão um juramento solene, da mesma forma como é feito o juramento dos médicos. O texto será o seguinte:
"Em todos os aspectos do meu trabalho, assegurarei que meu conhecimento não seja usado para prejudicar as pessoas; garantirei que meu conhecimento seja usado para o benefício dos usuários; vou buscar consentimento e respeitar a vontade daqueles que confiaram em mim; maximizarei a equidade dos resultados, evitando qualquer discriminação ou promoção injusta de certas pessoas em detrimento de outras; vou me certificar de respeitar a dignidade dos usuários, protegendo seus direitos humanos; não violarei a privacidade de informações confidenciais de indivíduos; vou maximizar a transparência dos algoritmos que gerar e usar.
Eu faço este juramento livremente, em minha honra, e assumo qualquer responsabilidade caso eu tenha de quebrá-lo."
Até agora, a discussão tem sido muito centrada em que tipo de regulamentação pode ser feita sobre as Big Techs e os prós e contras de regulamentar. Agora temos uma ideia nova, a de que também os profissionais e usuários de tecnologia precisam mudar. Sem profissionais que entendam o poder que têm e usuários que se eduquem para compreender o jogo de poderes nesse novo mundo, não vai ter lei que resolva.
