Elaine Keller: “O risco da IA é desaprendermos a pensar”

A discussão sobre inteligência artificial costuma ser acompanhada por uma pergunta quase cinematográfica: até onde as máquinas poderão chegar? Para Elaine Keller, advogada especialista em Direito Digital, economista, doutora em Direito pela PUC-SP e pós-doutoranda pela Universidade de Sevilha, talvez estejamos olhando para o lado errado. A questão decisiva não é quanto poder a tecnologia conquistará, mas quanto estaremos dispostos a entregar.

“O maior risco não é que a inteligência artificial se torne autônoma demais. É que nós nos tornemos dependentes demais dela.”

A provocação resume uma discussão que ultrapassa o universo tecnológico. IA, para Keller, é também uma questão de autonomia, responsabilidade, concentração econômica e soberania.

Algoritmos já participam de decisões relacionadas a crédito, recrutamento e ao conteúdo apresentado nas plataformas digitais. Isso não significa necessariamente que tenham recebido formalmente a palavra final. O ponto de atenção está justamente na etapa anterior: sistemas selecionam informações, estabelecem prioridades, classificam riscos e apresentam recomendações que podem influenciar profundamente a decisão humana.

“O que está em jogo é a definição de quem continuará sendo o sujeito da decisão”, afirma Keller. Para ela, a tecnologia pode ampliar a capacidade de análise e gerar eficiência, mas existe uma fronteira que não deveria ser terceirizada. “O que não podemos transferir aos modelos algorítmicos é o poder de decidir e, sobretudo, a responsabilidade pelas consequências dessas decisões.”

Quando a recomendação vira decisão

Existe uma diferença aparentemente pequena, mas fundamental, entre utilizar uma ferramenta para decidir melhor e simplesmente homologar aquilo que ela determina.

“Talvez o problema não seja saber se a máquina já está decidindo por nós, mas perceber quando o ser humano passa apenas a confirmar aquilo que o sistema sugeriu”, diz.

É nesse ponto que a discussão sobre IA deixa de ser exclusivamente técnica. Quem responde quando uma decisão automatizada produz consequências? Quem estabelece os limites? E, principalmente, quem controla os sistemas e a infraestrutura capazes de influenciar essas escolhas?

A nova corrida pelo poder

A inteligência artificial também inaugurou uma corrida econômica que envolve muito mais do que softwares. Dados, semicondutores, infraestrutura de nuvem, capacidade computacional e capital tornaram-se peças estratégicas.

“Não se trata apenas de saber quem terá a tecnologia mais avançada, mas de quem estabelecerá as regras e controlará a infraestrutura de uma tecnologia que tende a atravessar praticamente todas as atividades econômicas e institucionais”, afirma Keller.

É nesse tabuleiro que entra a discussão sobre soberania tecnológica brasileira.

Para a economista, o Brasil ainda não possui autonomia suficiente para competir em igualdade de condições com os grandes polos tecnológicos, mas reúne ativos que podem evitar uma posição meramente periférica: capacidade científica, dados, instituições e recursos naturais estratégicos, entre eles as terras raras.

A pergunta, portanto, é também sobre geração de riqueza.

“A meu ver, a pergunta que o país precisa fazer é muito objetiva: queremos apenas regular e consumir a tecnologia desenvolvida por outros países ou queremos criar condições para participar da produção da riqueza gerada por essa nova economia?”

Brasil, Europa e as regras do jogo

Na regulação, a União Europeia adotou um modelo baseado em diferentes níveis de risco, com exigências maiores conforme o potencial de impacto dos sistemas. No Brasil, o debate legislativo também procura estabelecer parâmetros para conciliar inovação e proteção de direitos.

Keller considera que o país tem a oportunidade de observar a experiência europeia antes de consolidar seu próprio modelo, mas alerta para uma diferença essencial: importar regras não significa importar realidades.

Desigualdade, acesso à tecnologia, capacidade institucional e concentração econômica precisam fazer parte da equação brasileira. Uma regulamentação destinada a proteger a sociedade pode produzir o efeito inverso caso os custos de adequação acabem tornando o desenvolvimento tecnológico ainda mais restrito às grandes corporações.

O trabalho não desaparece. Ele muda

No mercado profissional, Keller evita uma leitura simplista sobre uma substituição generalizada de trabalhadores por máquinas. O movimento tende a ocorrer dentro das próprias profissões: determinadas tarefas serão automatizadas enquanto outras ganharão relevância.

O risco está na velocidade e na desigualdade dessa adaptação.

Profissionais capazes de incorporar IA ao trabalho podem ampliar produtividade e capacidade de atuação. Quem não tiver acesso às ferramentas ou à formação necessária corre o risco de ficar ainda mais distante desse grupo.

Assim, uma tecnologia apresentada como democratizadora também pode aprofundar diferenças já existentes.

A fronteira mais delicada: o pensamento humano

É, porém, longe dos balanços empresariais e dos textos regulatórios que Keller identifica sua maior inquietação.

“O cenário que mais me preocupa é o de uma sociedade que, voluntariamente, passa a abrir mão da própria capacidade de decidir em nome da conveniência e da eficiência.”

A dependência deixa então de ser tecnológica para se tornar intelectual.

Direito, música, arte, literatura e produção de conhecimento são atividades construídas também pelo processo: experimentar, interpretar, errar, reformular e criar. Quando esse percurso é sistematicamente terceirizado, não está em discussão apenas quem produzirá determinado texto, imagem ou decisão, mas que capacidade intelectual permanecerá conosco.

No século em que máquinas aprenderam a produzir respostas em segundos, talvez o verdadeiro luxo seja conservar algo que nenhuma inovação deveria tornar obsoleto: a capacidade humana de formular as próprias perguntas.