Eugênio Bucci é jornalista, professor titular da Escola de Comunicações e Artes da USP e membro da Academia Paulista de Letras, onde ocupa a cadeira nº 12. Formado em Direito e em Jornalismo pela USP. Presidiu a Radiobrás entre 2003 e 2007. Colunista do Estado de S. Paulo desde 2008, dedica-se há décadas a pensar a relação entre comunicação, poder e democracia; é autor do conceito de “superindústria do imaginário”. Seu ensaio Incerteza (Autêntica, 2024) venceu o Prêmio Jabuti; o mais recente, A razão desumana, trata da cultura e da informação na era da desinformação.
Em “A razão desumana”, o senhor descreve uma racionalidade técnica, autônoma e desprovida de sensibilidade, que substitui o pensamento crítico pela desinformação sedutora. Quando uma empresa comemora ter automatizado uma decisão, ela está sendo eficiente ou está aderindo a essa razão? É possível automatizar sem desumanizar?
É claro que é possível automatizar sem desumanizar. Mais do que isso, muitas vezes é desejável automatizar para não desumanizar. Se nós pensamos na gestão das crises de pandemia, mesmo em escala mais reduzida, na administração dos hospitais, na distribuição de medicamentos, no uso da técnica para monitoramento de desastres climáticos ou mesmo na previsão do tempo, na gestão do trânsito, no desenvolvimento de equipamentos para as mais diversas finalidades que ajudam os seres humanos a viver melhor, nós vamos ter uma dimensão muito ampla de que a técnica pode ser empregada a favor da vida.
No entanto, quando eu me refiro à razão desumana, eu falo de um desdobramento da técnica que escapa ao controle das intenções dos seus criadores. Esse é um fantasma que persegue a humanidade. A gente teve um vislumbre do que isso pode representar na obra de Mary Shelley, por exemplo, que conta a saga do Dr. Frankenstein, criador de um organismo, de uma criatura que depois se volta contra ele. Mas também em outro livro, O Processo, de Kafka, que mostra como o procedimento jurídico burocrático, iniciado pelo andamento do processo, requer providências a despeito da verdade factual, a despeito do espírito de justiça, e isso vai assumindo o controle do que se passa com aquelas pessoas.
A própria invenção da burocracia, que Max Weber saudou como sendo um passo importante para a impessoalização dos expedientes do Estado, ou seja, a burocracia seria o caminho para que os negócios do Estado não atendessem mais a predileções pessoais: ela mesma se desgoverna, ela ganha vida própria e vira um monstro, um monstro que a tudo desampara, para citar aqui a passagem de Antígona na tradução de Millôr Fernandes. Ela vira um monstro, e esse monstro desenvolve uma racionalidade burocrática fria que desumaniza a sociedade.
No Brasil mesmo, algumas corporações se cercam de privilégios e de vantagens muitas vezes indevidas e iníquas, mas que não abrem mão delas. É interessante porque a corporação assume um comportamento que os seus membros, isoladamente, individualmente, talvez não assumissem. Um comportamento que tem uma certa analogia com as multidões. As multidões assumem atitudes que as pessoas que as compõem não assumiriam. Veja o que acontece, por exemplo, nas brigas de torcida de futebol, coisa mais lamentável.
Algo semelhante se passa com a técnica. A gente vê isso hoje com o desenvolvimento da inteligência artificial, que está repleta de relatos de condutas impróprias assumidas pelos modelos desenvolvidos por essas companhias poderosíssimas. Se a gente pensar no que acontece com as armas nucleares, o risco que elas representam; se a gente pensar no que acontece com a desinformação, que é impulsionada por artefatos e dispositivos, todos com uma técnica superpotente, nós vamos entender isso melhor.
Então eu tento chamar atenção para esse aspecto. É uma espécie de enlouquecimento da racionalidade técnica e uma sublevação dessa racionalidade em um caminho que fere, que faz sangrar, que retira autonomia e relevância do ser humano. As empresas precisam ter muita atenção para isso. A técnica de que eu falo não está apenas nos maquinários, mas está também nos modos automatizados de organizar o fluxo de decisões, às vezes decisões que não passam por máquinas, mas que se tornam maquínicas, porque são frias, são insensíveis e muitas vezes envaidecem, por isso mesmo, aqueles que as adotam. O sujeito se sente poderoso porque tomou uma decisão que vai inferiorizar quem não tem acesso a essa mesma decisão. É disso que eu estou falando, e esse é um grande risco do nosso tempo.
A ignorância deixou de ser vazio e passou a ser produzida. Bucci explica como ela entra numa sala de conselho e o que um CEO deve fazer: estudar ética, estudar filosofia, mas de qualidade
O senhor cunhou a expressão “ignorância artificial”: a ignorância que deixa de ser vazio e passa a ser produzida. Como ela entra numa sala de conselho, e como um CEO percebe que está decidindo a partir dela?
Essa expressão, ignorância artificial, que eu criei e que de fato não chega a ser um conceito, mas eu continuo trabalhando a respeito para desenvolvê-la e demarcar com um pouco mais de nitidez os seus contornos. Ela, como a sua pergunta anota muito bem, se opõe à nossa visão mais comum de ignorância. Sem dúvida, quando pensamos em ignorância, nós pensamos num vazio. A ignorância é o vazio deixado pela ausência de conhecimento. A ignorância pode ser uma terra virgem, por assim dizer, onde não floresceram as árvores do saber. A ignorância pode ser um deserto, a ignorância pode ser um nada. Essa é a ideia mais comum que nós temos a respeito da ignorância.
Logo, se o conhecimento chega, se o saber floresce, se a vida do pensamento aparece, a ignorância vai se dissipando, mais ou menos como a luz faz dissipar a escuridão. Não por acaso, a ignorância é associada à escuridão desde muito tempo, assim como o conhecimento, a filosofia, é associado à luz. Seria natural, portanto, que, se a ignorância é o vazio e o saber faz com que ela se dissolva, a gente, cultivando o saber, difundindo a educação, a ilustração, não teria mais problemas decorrentes da ignorância. Uma sociedade educada é uma sociedade que pode cometer erros, mas não aqueles originados da ignorância. Até aí nós estamos em casa, é isso o que sempre pensamos.
No entanto, hoje nós temos visto um outro tipo de ignorância, que é essa ignorância fabricada, a ignorância artificial. Ela ocupa espaço, ela ocupa lugares no espaço. E ela tem peso, tem densidade. Ela é gerada pela profusão de quinquilharias que vão ocupando não só a cabeça das pessoas, numa forma metafórica de me expressar aqui, mas ocupando os canais de acesso ao conhecimento dos fatos. A ignorância artificial pode estar nas intolerâncias ou nos preconceitos estimulados, induzidos e impulsionados. A ignorância artificial está na desinformação, também ela industrializada, e ela ocupa o lugar que poderia ser ocupado pelo conhecimento. Ela interdita o pensamento por avalanche, por obstrução, porque exatamente ocupa o espaço que caberia ao conhecimento.
IGNORÂNCIA ARTIFICIAL
Um dos efeitos da ignorância artificial, que nós podemos identificar nas fake news, na propaganda do ódio, na propaganda da repulsa ao contato humano, um dos efeitos é exatamente o fanatismo. O fanatismo que se aglomera onde a política começa a falhar, onde a política não prospera mais. E a política, aqui entendida, não como o embate entre partidos; a política entendida como aquela virtude que Zeus, o deus grego, a pedido de Prometeu, compartilhou com os homens justamente depois de dar a eles o saber técnico. Eu falo da política como o desenvolvimento de um saber coletivo, ainda voltando à Grécia, a vida na pólis, aquilo que nos torna pertencentes a um mesmo corpo social. Essa política, a política que dá lugar para o argumento, dá lugar para o melhor argumento. Onde essa política fracassa, o que vem no lugar é o fanatismo, uma virulência delirante e muito tendente à violência ou à promessa de violência.
Essa é a ignorância artificial. Contra ela, o conhecimento quase não tem vitórias, não tem como se estabelecer, como se impor. O conhecimento encontra todas as vias interrompidas e ele não chega lá. Dizendo de outra forma: as pessoas não chegam mais ao conhecimento por causa das barreiras erguidas pela ignorância artificial.
Ora, como um CEO pode notar isso? Em primeiro lugar, ele ou ela não pode ser um agente de preconceitos, não pode ser um agente de intolerância, não pode ser um agente de fórmulas prontas, de métricas, de metas cegas. Ele precisa ter sensibilidade para os seres humanos e precisa cultivar o saber. Se alguém me perguntasse o que o CEO deve fazer em qualquer tempo, eu diria: estudar ética, estudar filosofia, mas de qualidade. Por esse caminho, ele talvez tenha algum recurso para enfrentar essa verdadeira epidemia da ignorância artificial. O que eu tenho visto não é que os subordinados padecem dos males causados pela ignorância artificial. O que eu tenho visto é que os dirigentes têm sido agentes e promotores desse grande mal. Um exame de consciência faria bem para todo mundo.
RAZÃO DESUMANA COM SOTAQUE BRASILEIRO
Bucci sobre o limite da autorregulação: as empresas podem tomar iniciativas, mas quem contém a razão desumana é o Estado democrático.
O senhor defende regulação democrática para plataformas e IA. Esta revista aposta na liderança empresarial como protagonista de uma inteligência responsável, feita a partir do Brasil. O senhor acredita nessa possibilidade, ou é a razão desumana falando com sotaque brasileiro?
Gostei muito da expressão que aparece na pergunta “Razão desumana com sotaque brasileiro”. Sim, nós temos visto muito isso. Mas o impasse a que você se refere poderia ser resumido da seguinte forma: para conter os excessos perigosos, ameaçadores da razão desumana, que têm a ver com a inteligência artificial, os algoritmos, os poderosíssimos bancos de dados gigantescos, a robotização, o chamado machine learning, todas essas coisas. Para conter a razão desumana, o que se esconde aí, nós teríamos o caminho da regulação.
A regulação é, sem dúvida, um horizonte viável para as democracias mais fortes, os Estados mais densos, no sentido de Estados com mais acúmulo de experiência democrática e com mais tradição de soluções civilizadas e civilizatórias. Veja que aí a União Europeia, justamente por congregar vários Estados, tem conseguido lograr alguns tentos no enfrentamento com o poderio descomunal dessas empresas big techs, que chegam a ter um valor de cinco trilhões de dólares. É uma monstruosidade, mas é assim que é.
Pois bem, a regulação democrática é a regulação estabelecida por um Estado, por uma autoridade pública, por um poder regulado pelo Estado democrático de direito. Um poder político, nesse sentido, que não se confunde com o interesse privado e que consegue estabelecer normas capazes de disciplinar o funcionamento dos interesses privados.
Essa regulação funcionou para quebrar monopólios em países capitalistas muito desenvolvidos. Funcionou para assegurar direitos dos consumidores, para assegurar proteção às crianças, para garantir proteções e direitos dos trabalhadores, e assim sucessivamente. Isso deu certo em todos os campos: na agricultura, na indústria, no chamado setor de serviços, que eu prefiro classificar como superindústria, mas ainda assim o setor de serviços. Isso funciona como atividade regulada em todos os lugares que a gente tem como referência democrática, todos os lugares.
Mas a autorregulação, a que você se refere quando diz que ela poderia ser conduzida, liderada pelas empresas, pode complementar esse processo, pode aperfeiçoá-lo, pode em diálogo com ele lograr conquistas importantes. A autorregulação sozinha, no entanto, não consegue grande coisa. Ela mesma, como autorregulação, dependerá de regramentos postos pelo Estado, melhor dizendo, postos pela ordem pública.
Eu vejo nessa perspectiva. As empresas podem tomar iniciativas, e muitas vezes, nos Estados Unidos, a gente tem a sensação de que elas querem tomar iniciativas quando falamos de inteligência artificial. Tem vindo das empresas alertas sobre o risco do descontrole de alguns modelos de inteligência artificial. É certo que esses alertas podem ser também um discurso interessado, no sentido de que poderiam ser uma ferramenta para chamar a atenção da sociedade para o desenvolvimento dessas tecnologias, com o objetivo de atrair mais financiamento. Essa hipótese não está descartada. Mas, de toda forma, a empresa aparece aí dizendo que precisamos prestar atenção. Há propostas, entre essas empresas, de pactos para a contenção das pesquisas, para que elas não se desenvolvam de forma desordenada e alucinada.
Isso não deixa de ser uma iniciativa independente, tendente a autorregulação. Mas, dada a dimensão do problema, eu acho que o único caminho é a regulação democrática, ou melhor, a regulamentação democrática posta por Estados ou grupos de Estados, como é o caso da União Europeia, uma comunidade de muitos Estados, ou posta também por meio de negociações multilaterais, com organismos à imagem da ONU ou alguns dos braços da ONU.
É interessante observar que o próprio Papa Leão XIV tem feito propostas nessa direção, e esse é um tema de grande centralidade na Igreja Católica, no Vaticano, hoje. E não deixa de ser também uma voz que clama por limites, por alguma contenção, por regulação e autorregulação.
POR QUE AINDA BUSCAMOS
O Pix provou que o Brasil constrói infraestrutura digital de classe mundial. O critério para escolher
Durante muito tempo, tecnologia estrangeira foi tratada quase como sinônimo automático de tecnologia melhor. A associação fazia algum sentido em um mundo no qual infraestrutura, capital e conhecimento estavam concentrados em poucos centros, mas essa realidade mudou e talvez a nossa percepção ainda não tenha mudado na mesma velocidade.
O problema não está em contratar soluções globais — afinal, tecnologia não deveria ter passaporte como critério de escolha —, o problema começa quando a procedência substitui a avaliação.
Uma solução desenvolvida fora pode ser excelente. Pode também desconhecer profundamente o contexto em que será aplicada. Língua, legislação, hábitos de consumo, relações de trabalho, repertório cultural, formas de fraude, desigualdades e particularidades operacionais não são detalhes periféricos. Em sistemas de inteligência artificial, podem alterar desde a qualidade de uma resposta até a natureza de um risco.
Tecnologia não deveria ser escolhida pelo lugar de onde veio, mas pela capacidade de compreender o lugar onde vai operar.
O Brasil já produziu exemplos suficientes para desconfiarmos da ideia de que sofisticação tecnológica precisa necessariamente chegar de fora. O Pix talvez seja o caso mais evidente. Criado e operado pelo Banco Central, tornou-se uma infraestrutura digital utilizada em escala nacional e reconhecida internacionalmente. Em 2025, foram quase 80 bilhões de transações, movimentando mais de R$ 35 trilhões.
Não é um exemplo trivial. O sistema precisou combinar disponibilidade contínua, processamento em segundos, segurança, interoperabilidade e capacidade para operar em enorme escala. O próprio Banco Central descreve a construção de infraestrutura específica para que o Pix funcionasse 24 horas por dia, sete dias por semana.
Porque tantas vezes ainda presumimos que aquilo que vem de fora merece confiança antes mesmo de ser examinado.
FORA O QUE JÁ PODEMOS CONSTRUIR AQUI?
tecnologia precisa mudar: menos fascínio pela procedência, mais rigor na escolha
O futuro tecnológico do Brasil não depende de fazermos tudo aqui. Depende de sabermos o que vale a pena construir aqui.
NÃO SE TRATA DE FECHAR O BRASIL
Defender capacidade tecnológica brasileira não significa recusar conhecimento estrangeiro. Seria um erro simétrico.
Os melhores ecossistemas tecnológicos são permeáveis. Absorvem pesquisa, modelos, padrões e ferramentas desenvolvidos no mundo inteiro, mas não abrem mão da capacidade de compreender, adaptar, testar e, quando necessário, construir — e essa autonomia se torna ainda mais importante com a inteligência artificial.
Uma empresa pode utilizar modelos globais e, ao mesmo tempo, desenvolver aqui suas camadas de governança, segurança, auditoria, arquitetura, intervenção e adequação ao contexto brasileiro — e é justamente aí que muitas vezes está o valor.
O próprio Ministério da Ciência, Tecnologia e Inovação estabelece entre os princípios da Estratégia Brasileira de Inteligência Artificial temas como transparência, segurança, responsabilização e desenvolvimento de soluções adequadas às necessidades do país.
O CRITÉRIO PRECISA MUDAR
Talvez tenhamos passado tempo demais perguntando: quem desenvolveu essa tecnologia?
Quando deveríamos perguntar: Ela funciona? É segura? Entende o nosso contexto? Pode ser auditada? Protege os dados envolvidos? Quem responde quando ela erra? Gera valor real para quem vai utilizá-la?
Essas perguntas não favorecem empresas brasileiras nem estrangeiras, favorecem tecnologia boa.
E talvez seja exatamente disso que o Brasil precise agora: menos fascínio pela procedência e mais rigor na escolha.
