O domínio das máquinas

Nova Iorque - Um robô capaz de abrir portas e encontrar sozinho tomadas elétricas para se carregar. Vírus de computador implacáveis. Pequenas aeronaves que, apesar de ainda controladas por seres humanos, chegam perto de uma máquina com autonomia para matar. Im­­pressionado e alarmado pelos avanços na área de inteligência artificial, um grupo de cientistas da computação está debatendo se deve haver limites nas pesquisas que possam levar à perda do controle humano sobre sistemas computacionais cada vez mais usados na sociedade de hoje – de guerras a conversas por telefone com clien­­tes.

A preocupação desses cientistas é que avanços maiores possam criar perturbações sociais profundas, com perigosas consequências. Como exemplos, eles apontaram uma série de tecnologias bastante diversas – de sistemas mé­­dicos experimentais que interagem com pacientes simulando empatia, até vírus de computador que poderiam representar o estado "primitivo" da inteligência me­­ cânica.

Os cientistas da computação concordam que temos ainda um longo caminho a percorrer até chegarmos a Hal, o computador que assumiu a espaçonave no filme 2001: Uma Odisseia no Espaço. No entanto, eles afirmam haver preocupações legítimas de que o progresso tecnológico possa transformar o mercado de trabalho, ao destruir uma ampla variedade de empregos, assim como forçar os homens a aprender a conviver com máquinas que imitam o comportamento humano.

Os pesquisadores – importantes cientistas da computação, pesquisadores sobre inteligência artificial e robótica, que se reuniram em Asilomar, em Monterey Bay, Califórnia – descartaram a possibilidade de superinteligências al­­tamente centralizadas e a ideia de que alguma inteligência possa brotar espontaneamente da internet. No entanto, eles concordam que robôs com autonomia para matar já existem, ou chegarão num futuro bem próximo.

O grupo de estudiosos dedica atenção especial ao medo de que criminosos possam explorar sistemas de inteligência artificial as­­sim que esses forem desenvolvidos. O que um criminoso faria com um sistema de síntese de voz ca­­paz de imitar uma voz humana? O que acontece se uma tecnologia de inteligência artificial é usada para extrair informações pessoais de smart phones?

Os pesquisadores também discutiram sobre possíveis ameaças a trabalhos humanos, como carros que dirigem sozinhos, assistentes pessoais baseados em software e robôs para executar tarefas do­­més­­ticas.

No mês passado, um robô de­­senvolvido por Willow Garage, no Vale do Silício, mostrou ser capaz de navegar no mundo real. Um relatório da conferência, que aconteceu a portas fechadas no dia 25 de fevereiro, será lançado até o final deste ano. Alguns participantes discutiram sobre o en­­contro pela primeira vez com ou­­tros cientistas nesse mês, em en­­trevistas. A conferência foi organizada pela Associação para o Avan­­ço da Inteligência Artificial. Ao escolher Asilomar como o local do encontro, o grupo evocou, propositadamente, um evento marcante na história da ciência.

Em 1975, os principais biólogos do mundo também se reuniram em Asilomar para discutir a nova capacidade de remodelar a vida, ao intercambiar material genético entre organismos. Preo­­cupados com ameaças biológicas e questões éticas, os cientistas tinham interrompido certos experimentos. A conferência gerou diretrizes para a pesquisa de DNA recombinante, permitindo a continuação de experimentos.

O encontro sobre o futuro da inteligência artificial foi organizado por Eric Horvitz, pesquisador da Microsoft e hoje presidente da associação. Horvitz acredita que cientistas da computação devem responder às ideias frenéticas de máquinas superinteligentes e sistemas de inteligência artificial.

A ideia de uma "explosão de in­­teligência", na qual máquinas in­­teligentes projetariam máquinas ainda mais inteligentes, foi proposta pelo matemático I.J. Good, em 1965. Mais tarde, em palestras e livros sobre ficção científica, o cientista da computação Vernor Vinge popularizou a ideia de um momento onde os humanos criariam máquinas mais inteligentes que os homens, causando uma mu­­dança tão rápida que a "era humana acabaria". Ele chamou essa mudança de Singularidade. Essa visão, adotada em filmes e na literatura, é considerada plausível e preocupante por alguns cientistas, como William Joy, co-fundador da Sun Microsystems.

Outros especialistas em tecnologia, notavelmente Raymond Kurzweil, enaltecem a chegada de máquinas ultrainteligentes, afirmando que elas trarão grandes avanços no prolongamento da vi­­da e na geração de riquezas. "Algo novo tem ocorrido nos últimos cinco a oito anos", diz Horvitz. "Os especialistas em tecnologia estão substituindo a religião, e suas ideias soam, em alguns aspectos, como a ideia de arrebatamento (conceito religioso que significa ser levado aos céus)".

A versão de Kurzweil da utopia tecnológica tem capturado mentes no Vale do Silício. Neste verão no Hemisfério Norte, uma organização chamada de Universidade da Singularidade começou a oferecer cursos para preparar uma equipe capaz de moldar os avanços tecnológicos e ajudar a sociedade a lidar com as consequências. "Achei que, mais cedo ou mais tarde, teríamos de fazer al­­gum tipo de afirmação ou avaliação, dado o poder crescente do technorati e as a preocupação das pessoas com o surgimento das máquinas inteligentes", explica Horvitz.

O relatório busca avaliar a possibilidade da "perda do controle humano sobre inteligências com base em computadores". O documento também abordará questões socioeconômicas, legais e éticas, assim como prováveis mudanças nas relações homem-máquina. Como seria, por exemplo, se relacionar com uma máquina tão inteligente quanto seu parceiro? Horvitz diz que o grupo de especialistas estava buscando formas de orientar pesquisas, para que a tecnologia melhore a sociedade, em vez de levá-la a uma catástrofe. Algumas pesquisas podem, por exemplo, ser conduzidas em laboratório de alta segurança.

Apesar de suas preocupações, Horvitz confessa estar esperançoso de que as pesquisas sobre inteligência artificial venham a beneficiar os seres humanos, e até compensar nossas falhas. Ele demonstrou, recentemente, um sistema de voz projetado por ele. O mecanismo perguntava a pacientes so­­bre seus sintomas e respondia com empatia. Quando uma mãe dizia que seu filho estava com diarreia, o rosto na tela dizia: "Ah, que pena". Um médico lhe disse, mais tarde, que era maravilhoso o fato de ter um sistema capaz de responder a emoções humanas. Segundo Hor­­vitz, o médico disse: "É uma ideia brilhante. Eu não tenho tempo para fazer isso".

* * * * *

Interatividade

A humanidade corre risco ao criar máquinas que cumprem tarefas hoje desenvolvidas por pessoas e animais?

Escreva para leitor@gazetadopovo.com.br

As cartas selecionadas serão publicadas na Coluna do Leitor.