Os poderosos do Vale do Silício estão conduzindo um enorme experimento nas crianças dos Estados Unidos. Não deveríamos confiar cegamente de que eles sabem o que estão fazendo.
O Google assumiu um papel de destaque na educação pública, oferecendo notebooks a um custo baixo e aplicativos gratuitos. Mark Zuckerberg, CEO do Facebook, está investindo pesado em tecnologia educacional, em grande parte através da Iniciativa Chan Zuckerberg – criada com sua esposa, Priscilla Chan. Reed Hastings, que dá as cartas na Netflix, tem estudado caríssimas ferramentas educacionais baseadas em algoritmos.
Embora seja revigorante tal interesse, o pessoal da tecnologia pode estar se precipitando, tanto política quanto eticamente. Além disso, não há muita evidência de que seus esforços estejam funcionando.
Goste ou não, educação é política. As pessoas em lados opostos do espectro leem de maneira muito diversa livros de ciência e parecem incapazes de concordar acerca de princípios fundamentais. Parece razoável que o que escolhemos ensinar às nossas crianças varia, dependendo das nossas crenças. Isso é reconhecer, e não defender, matrizes curriculares anticientíficas.
Zuckerberg e Bill Gates aprenderam isso da pior maneira no ano passado, quando o governo de Uganda determinou o fechamento de 60 escolas – parte de uma rede que oferece educação de baixo custo e altamente roteirizada na África – em meio a alegações de que elas estariam “ensinando pornografia” e “transmitindo a palavra da homossexualidade” nas aulas de educação sexual. Convenhamos: algo similar poderia facilmente acontecer se as iniciativas tecnológicas forem além das matérias despolitizadas como a matemática em que têm focado até o momento.
Privacidade
Além disso, há razões legítimas para se preocupar em deixar que empresas de tecnologia desempenhem tamanha influência na sala de aula. Elas tendem a oferecer “serviços gratuitos” em troca de acesso a dados, um negócio que levanta sérios questionamentos relacionados à privacidade – especialmente se considerarmos que isso pode envolver o monitoramento de cada clique e letra digitada por uma criança desde o jardim de infância.
Meu filho mais velho é um aluno exemplar do Ensino Médio, mas ele demorou, em relação à média, para aprender a ler. Isso deveria constar em um registro permanente, dados que algoritmos do futuro poderiam potencialmente usar para determinar seu acesso a crédito ou a um emprego? Ou o que dizer de uma criança que tenha sua pontuação em um teste dinâmico padronizado diminui ao ingressar no Ensino Médio? As universidades deveriam ter acesso a tais informações na hora de tomar suas decisões de admissão?
Não são cenários exagerados. Considere o que houve com a iniciativa sem fins lucrativos de educação InBloom, que queria coletar e integrar os registros de estudantes que permitiriam personalizar as lições. Eles fecharam as portas alguns anos atrás por receios sobre como informações sensíveis – incluindo tags que identificavam estudantes como “atrasados” ou “autistas” – poderiam ser protegidas de roubos ou compartilhadas com terceiros.
O Google e outras empresas coletam dados similares e usam eles internamente para otimizarem seus softwares. Somente após uma solicitação formal, o Google concordou em cumprir a legislação norte-americana que protege os registros de estudantes menores de idade e que fora relaxada com o propósito de compartilhar tais dados com terceiros. Não está claro como esses dados serão usados, por quanto tempo a leva atual de estudantes será monitorada ou até que ponto seus futuros dependerão de seu desempenho atual.
Benefícios questionáveis
Ninguém sabe exatamente qual benefício educacional estamos ganhando em troca de tais incertezas. Que tipo de criança as soluções tecnológicas recompensam? Elas se destinam a gerar futuros engenheiros para o Facebook? Como essas tecnologias servem a crianças em situação de pobreza, com deficiências ou com os diferentes estilos de aprendizagem? Até onde sei, não existem uma auditoria padrão que viabilize responder a tais perguntas. Sabemos, entretanto, que as empresas e fundações trabalhando com tecnologia educacional têm muito controle sobre a definição de sucesso. Isso já é poder demais.
Resumindo, confiar cegamente nos caras da tecnologia não é sinônimo de melhorar o sistema educacional. Embora eles sejam sem dúvida bem intencionados, devemos exigir mais responsabilidade.
Cathy O’Neil é matemática e trabalhou como professora universitária, analista de fundos de investimentos e cientista de dados. Ela fundou a ORCAA, uma empresa de auditoria algorítmica, e é autora do livro Weapons of Math Destruction (ainda sem tradução no Brasil).
