Projeto pretende regular IA para evitar manipulação de dados e vigilância em massa

Enquanto o chamado PL das Fake News foca mais na retirada de conteúdos do que na regulamentação das próprias Big Techs, que era a ideia inicial, um projeto de lei tenta instituir um marco legal para evitar abusos no uso da Inteligência Artificial (IA) no Brasil, pelas próprias plataformas ou outras empresas de tecnologia.

O texto do Projeto de Lei 2.338/2023, apresentado pelo presidente do Senado, Rodrigo Pacheco (PSD-MG), foi elaborado por uma comissão de juristas e especialistas em direito civil e digital, coordenada pelo ministro Ricardo Villas Bôas Cuevas, do Superior Tribunal de Justiça (STJ). A proposta cria diretrizes para o uso da IA e define qual deve ser a responsabilização dos agentes envolvidos, caso sistemas automatizados autônomos prejudiquem pessoas físicas ou jurídicas.

A proposta veda, por exemplo, a implementação e o uso de sistemas de inteligência artificial que empreguem técnicas que estimulem pessoas “a se comportar de forma prejudicial ou perigosa à sua saúde ou segurança” e excessos cometidos também pelo poder público. O texto menciona ainda um cuidado especial de dados de usuários classificados como "sensíveis”, como origem geográfica, raça, cor ou etnia, gênero, orientação sexual, classe socioeconômica, idade, deficiência, religião ou opiniões políticas.

A proposta tem como parte polêmica deixar para o Poder Executivo a definição sobre qual será a autoridade competente que fiscalizará essa atividade. Outro ponto em discussão é o patamar das sanções impostas: em caso de infração às regras, o texto sugere multa de até R$ 50 milhões para pessoas físicas e de 2% do faturamento de empresas.

A proposta lembra também que as plataformas de IA precisam obedecer à Lei Geral de Proteção de Dados (LGPD) para funcionar no país. Isso significa que não podem usar os dados de usuários para outra finalidade que não as pré-definidas e autorizadas.

Para o professor Luca Belli, da FGV Direito Rio, que é coordenador do Centro de Tecnologia e Sociedade (CTS) da FGV/Rio, a regulamentação da Inteligência Artificial é necessária e precisa ser definida "de maneira rápida e eficaz", diante do avanço de novas tecnologias, como o chamado "Chat GPT".

"É necessário elaborar alguma regulamentação, de maneira bastante rápida, porque estamos em uma situação de um enorme incentivo de mercado para implementar com celeridade novas ferramentas de inteligência artificial, com a captação de dados e interação com consumidores", diz Belli.

A advogada Jessica Mequilaine, consultora em privacidade, proteção de dados e novas tecnologias, também reforça a necessidade de uma regulamentação. "É necessário a regulamentação em relação às informações armazenadas, a forma ética e transparente que essas informações serão usadas, além de outros contextos e situações nas quais serão utilizadas suas aplicações, incluindo, questões relacionadas a concorrência de mercado", explica.

Preocupações sobre a IA 

A Inteligência Artificial já está presente nas tarefas do dia a dia e suscita questões éticas. Segundo Mequilaine, essa tecnologia "já impacta nosso dia de inúmeras formas que variam desde a escolha de uma série da Netflix até mesmo na realização de exames médicos".

Entre as preocupações sobre a IA, a consultora em novas tecnologias cita o seu "uso por atores mal-intencionados para aplicação de golpes, manipulação de comportamento, instigação da violência e até mesmo indução ao suicídio, como já ocorreu em alguns casos, além das questões envolvendo vieses algorítmicos".

"Não é possível falar que a IA não deve ser regulada, pelo contrário, é necessário refletir quais são os próximos passos da sociedade e quais riscos queremos tomar, sendo importante a existência de normas específicas sobre IA que tratem sobre transparência, responsabilidade, privacidade e não discriminação, além de um monitoramento constante destes sistemas", explica Mequilaine.

Estratégia Brasileira de Inteligência Artificial  

Com o avanço da Inteligência Artificial, o Ministério de Ciência e Tecnologia e Inovações apresentou, em abril de 2021, a Estratégia Brasileira de Inteligência Artificial (Ebia). A medida deu origem ao Projeto de Lei 21/2020, do marco legal da IA no Brasil, que já foi aprovado pela Câmara dos Deputados e aguarda análise do Senado Federal, desde outubro de 2021.

A estratégia determina que a tecnologia deverá ser utilizada com foco em ações para todos os cidadãos, estimulando a pesquisa objetiva, a inovação e solucionando problemas concretos no país.

Mas, para Belli, a estratégia elaborada em 2020 "é muito pouco eficiente e não é estratégica", e apenas traz uma lista de ideias do que deveria ser IA ou como a população seria beneficiada. "Não tem um elemento estratégico e nem de quem ficaria responsável pela regulamentação", diz.

A proposta apresentada pelo senador Rodrigo Pachedo substitui os projetos anteriores sobre o assunto. Sendo assim, a proposição deve passar pela análise nas comissões temáticas do Senado, especialmente a Comissão de Ciência, Tecnologia, Inovação, Comunicação e Informática (CCTI). Também é provável que seja criada uma comissão especial para discutir o tema.

Para Mequilaine, o projeto do marco legal da IA "busca garantir uma correta classificação de riscos, manter a transparência e diminuir os vieses discriminatórios de um sistema, afinal, a tecnologia deve servir ao homem e não o contrário".

"As empresas teriam diferentes enquadramentos quando do descumprimento das leis. No marco legal da IA, a lógica é muito semelhante à da LGPD em que os agentes terão requisitos mínimos como mapeamento e gestão de riscos, respondendo perante uma autoridade central", diz a advogada.

LGPD é pouco eficiente 

Na avaliação de especialistas da área de tecnologia, a Lei Geral de Proteção de Dados (LGPD) - que entrou em vigor em setembro de 2020 - ainda não tem sido suficiente para proteger os dados pessoais. A lei surgiu para proteger a privacidade dos brasileiros e regulamentar o uso das informações pelas empresas, devido a inúmeros casos de vazamentos, comercialização e uso inapropriado de dados pessoais.

Há uma série de normas para que as empresas e as organizações cumpram e, assim, garantam transparência e segurança ao armazenar, tratar e compartilhar os dados pessoais de alguém, seja no meio físico ou on-line. Entre as normas da LGPD, consta:

• o direito de solicitar que os seus dados pessoais sejam excluídos de determinada empresa;  
• anular o consentimento de compartilhamento de dados;  
• transferir os seus dados para outra prestadora de serviços; 
• aceitar ou não compartilhar os seus dados com alguma empresa. 

Segundo Belli, "o que falta é uma fiscalização e implementação da lei que seja mais robusta, eficiente e efetiva". Ele explica que as cláusulas da LGPD são "vagas e precisam ser mais bem explicadas". "Estamos numa situação em que a prática é irreal da lei. Trata-se de uma resposta a proteção de dados, mas precisamos de mais recursos para um trabalho eficiente", diz o especialista.