Neuralink, Elon Musk e a Caixa de Pandora das neurotecnologias

• 0

Em janeiro, o empresário e investidor Elon Musk noticiou, por meio da plataforma “X” (nova denominação do Twitter), que a Neuralink, uma de suas empresas, havia implantado seu primeiro dispositivo BCI (Brain Computer Interface) em um voluntário, participante de um ensaio clínico. O experimento, autorizado pelo FDA – Food and Drug Administration –, que é a agência sanitária dos Estados Unidos, deverá investigar a segurança e efetividade do Neuralink, denominado “N1”, que foi desenvolvido para permitir que o usuário controle equipamentos externos ao corpo, por meio de seus pensamentos ou ondas neurais, algo que se assemelha a um controle remoto telepático.

De acordo com as informações que constam da página da internet da empresa (neuralink.com), os voluntários recrutados para o ensaio clínico deveriam ser pessoas com quadriplegia – paralisia dos quatro membros –, decorrente de comprometimento da função cerebral e/ou de dano na medula espinhal.

Se a curiosidade é inerente à condição humana e nos impulsiona para o novo, a prudência por vezes pode nos manter a salvo de perigos incógnitos.

A tecnologia do Neuralink não é nova. Existem inúmeros ensaios clínicos parecidos em grandes centros de pesquisa no mundo, cujos resultados são muito promissores, especialmente para tratamento e reabilitação da saúde. Há também iniciativas que procuram aplicá-la em jogos, em sistemas de realidade virtual e para aprimorar ou potencializar habilidades humanas. Porém, a partir do momento que Elon Musk manifesta interesse pelas neurotecnologias com o Neuralink, surge expectativa e apreensão em relação a seu potencial de investimento neste campo, o que certamente viabilizaria a oferta de tais dispositivos em escala comercial, eventualmente impulsionando a utilização indiscriminada e/ou inadequada.

O Brain Computer Interface, que pode ser traduzido para Interface Cérebro-Computador, é uma inovação que possibilita a comunicação direta entre o cérebro e um dispositivo externo, por meio da interface cognitiva, que é implantada. O indivíduo passa a controlar equipamentos – celular, computador, exoesqueleto etc. – por meio de sinais neurais, captados pelo implante cerebral. Se uma tecnologia disruptiva como a do BCI vier a ser disponibilizada comercialmente, ela promoverá grandes possibilidades para o desenvolvimento de novos produtos desta natureza e abrirá uma janela de oportunidade para empreendedores e entusiastas das novas tecnologias. Em princípio, essa é uma ótima notícia, considerando os potenciais benefícios científicos, médicos, sociais e econômicos envolvidos. Por outro lado, se ocorrer com os BCIs o que ocorreu com o Chat-GPT e outros modelos de inteligência artificial generativa, que foram disponibilizados livremente e em âmbito global, será aberta uma Caixa de Pandora, com potencial danoso e de difícil solução.

Como afirma o neurocientista espanhol Rafael Yuste, da Universidade de Columbia, “a neurotecnologia, como todas as tecnologias humanas desde o fogo, é neutra e pode ser utilizada para o benefício da população ou em seu detrimento e é especialmente preocupante que as neurotecnologias comerciais, que começam a ser vendidas por todo o mundo, sejam tratadas legalmente como eletrônicos de consumo, apesar de serem utilizadas para extrair dados sobre a atividade cerebral".

Yuste lidera um movimento que, a partir de um artigo publicado na revista Nature em 2017, vem chamando a atenção de entidades, governos e a comunidade acadêmica para a necessidade de se regular os neurodireitos – direitos sobre os dados neurais –, defendendo sua incorporação dentre os já reconhecidos direitos fundamentais dos seres humanos.

Considerando que já é possível acessar, registrar e manipular os dados neurais de um indivíduo, há grande preocupação com questões como privacidade, consentimento, autonomia, identidade, inequidade, livre arbítrio e vieses que as neurotecnologias podem promover, se empregadas de forma indiscriminada e sem a adequada regulação. Sua ambivalência permite que, além das promissoras inovações para a área médica e da saúde, elas também viabilizem ferramentas de registro e controle da mente humana para uso em âmbito comercial, militar, político, judicial, educacional e laboral.

O movimento para a regulação dos neurodireitos pretende a imposição de limites éticos e jurídicos para odesenvolvimento e utilização das neurotecnologias, especialmente buscando a preservação dos direitos subjetivos envolvidos e a garantia da manutenção do princípio da dignidade da pessoa humana. Com este propósito, a organização Neurorights Foudation elaborou cinco princípios ou neurodireitos, considerados mais relevantes e trabalha para incorporá-los a diretrizes éticas internacionais bem como a quadros legais e regulatórios nacionais.

O primeiro princípio discorre sobre o direito à identidade pessoal, para o qual devem ser desenvolvidos limites que impeçam que a tecnologia perturbe o senso de identidade própria. O segundo trata do direito ao livre arbítrio, no sentido de permitir aos indivíduos o controle total sobre suas próprias tomadas de decisão, sem manipulação desconhecida por neurotecnologias externas. O terceiro se preocupa com o direito à privacidade mental, com o fim de garantir que qualquer dado obtido da medição da atividade neural seja mantido privado. O quarto prevê o direito ao acesso igualitário à ampliação mental, para a qual deverão ser criadas diretrizes baseadas no princípio da justiça garantindo igualdade de acesso a todos os cidadãos. Por fim, o quinto princípio traz o direito à proteção contra viés algorítmico e está intrinsicamente ligado à utilização da inteligência artificial.

O empenho dos ativistas dos neurodireitos em prol do desenvolvimento ético das neurotecnologias vem resultando em vitórias a serem comemoradas ao longo dos anos. Organizações de âmbito internacional, tais como a Organização para a Cooperação e Desenvolvimento Econômico (OCDE), o Parlamento Europeu, o Conselho da Europa, a Organização dos Estados Americanos (OEA) e a UNESCO já editaram recomendações para o uso seguro das neurotecnologias. Também é resultante desse trabalho e conscientização o surgimento em alguns países de normas de efeito cogente (obrigatórias), definindo limites à utilização das neurotecnologias e estabelecendo a responsabilização e punição em caso de descumprimento.

No Brasil, até o momento, existe um projeto de Emenda Constitucional (PEC 29/2023) que pretende alterar o texto da Constituição Federal para incluir, entre os direitos e garantias fundamentais do artigo 5º, a proteção à integridade mental e à transparência algorítmica. E, em dezembro de 2023, o estado do Rio Grande do Sul aprovou uma Proposta à Emenda à Constituição do estado, alterando o parágrafo único de seu artigo 235 para incluir a “integridade mental do ser humano” como uma das bases da política de pesquisa científica e tecnológica promovidas pelo governo.

Embora exista alguma resistência ao controle governamental imposto às novas tecnologias como a do Neuralink, justificada pela premissa de que o excesso de normas pode criar entraves a seu desenvolvimento, é relevante arguir que, a falta de regulação não impede responsabilização em âmbito jurídico dos desenvolvedores, produtores e utilizadores destas tecnologias no caso de danos a terceiros. Um exemplo recente foi a decisão emanada pela Corte Suprema do Chile, em agosto de 2023, que condenou a empresa Emotiv por ter acessado de forma indevida e sem permissão os dados neurais de um cidadão chileno.

Ademais, diante do paradoxo de uma tecnologia tão potente e promissora como o Neuralink – para o bem e para o mal –, torna-se imprudente e ingênuo abrir a porta do desconhecido, na esperança de que haverá uma autorregulação do mercado ou a benevolência de seus operadores. Deve-se prezar pela precaução e promoção de ações para impedir um dano maior, de proporções ainda incertas. Na prática, é mais conveniente e seguro que exista uma prévia delimitação das responsabilidades, a fim de que todas as partes compreendam os riscos envolvidos, podendo atuar para evitá-los.

Em outros tempos, Charles Darwin afirmou, a partir de sua criteriosa observação, que muitas vezes “a ignorância gera mais confiança do que o conhecimento”, o que pode nos levar a conjecturar que assumir grandes riscos frente ao incerto nem sempre leva ao caminho do progresso e da evolução. Se a curiosidade é inerente à condição humana e nos impulsiona para o novo, a prudência por vezes pode nos manter a salvo de perigos incógnitos, especialmente quando o objeto de desejos e encontra oculto ou nebuloso.

Gisele Machado Figueiredo Boselli é advogada especialista em Direito Médico e da Saúde.