Essa é uma das ideias centrais do pragmatismo sociotécnico discutido por Izabela Drumond no artigo Pragmatismo sociotécnico na ética da inteligência artificial: o livro Hiperconectados como objeto exemplificante, a partir das reflexões de David S. Watson, Jakob Mökander e Luciano Floridi. A abordagem procura escapar de duas leituras simplificadoras: a tecnologia como força inevitável de progresso e, no extremo oposto, como origem inevitável de riscos e danos. O foco passa a estar no contexto, nos agentes envolvidos, nos objetivos e nas consequências concretas do uso da tecnologia.
Essa mudança de perspectiva é especialmente importante quando falamos de inteligência artificial. O risco não está apenas no modelo. Está também na maneira como ele é inserido em uma operação, nos critérios definidos pelas organizações, nas pessoas que participam do processo e nas decisões tomadas a partir de seus resultados.
IA É UM SISTEMA, NÃO APENAS UM ALGORITMO
Sistemas de inteligência artificial não existem de forma isolada. Eles estão inseridos em estruturas compostas por pessoas, organizações, plataformas, regras, valores e formas de governança. Por isso, os efeitos de uma IA não podem ser atribuídos exclusivamente ao algoritmo. Eles resultam da interação entre diferentes componentes do sistema sociotécnico.
Na prática, isso significa que não basta perguntar se o modelo acerta. É preciso perguntar quem definiu os critérios, quais dados são utilizados, quem supervisiona os resultados, quais decisões são tomadas a partir deles e o que acontece quando algo sai do esperado.
GOVERNANÇA É MAIS DO QUE EXPLICAR COMO O ALGORITMO FUNCIONA
A transparência também ganha outra dimensão. Não se trata apenas de revelar informações técnicas sobre um modelo. Uma governança efetiva precisa tornar visíveis as escolhas feitas durante o desenho do sistema, os conflitos entre valores e os critérios utilizados para justificar determinadas decisões.
Explicar o funcionamento de um algoritmo não é o mesmo que explicar uma decisão.
AUDITORIA COMO PARTE DA ÉTICA DA IA
O artigo também aproxima diretamente ética e mecanismos de controle. Avaliações de impacto algorítmico, testes, auditorias e auditorias independentes aparecem como instrumentos necessários para avaliar sistemas tecnológicos e suas consequências.
Isso desloca a auditoria de uma função puramente burocrática ou de conformidade. Ela passa a fazer parte da própria arquitetura de responsabilidade da inteligência artificial.
QUEM DEFINE O LIMITE TAMBÉM ESTÁ TOMANDO UMA DECISÃO
Um exemplo apresentado no artigo ajuda a compreender essa questão. Em um sistema de detecção de risco utilizado pelo Discord, determinado evento recebeu uma pontuação de risco de 0,12, enquanto o limiar estabelecido para uma identificação automatizada era de 0,95. A análise posterior envolveu não apenas o desempenho do modelo, mas a sensibilidade adotada, os critérios de priorização, o equilíbrio entre detecção e falsos positivos e a atuação das equipes de moderação.
O caso mostra que a decisão não está apenas no algoritmo. Quem escolhe o limiar de risco também está tomando uma decisão.
RESPONSABILIDADE COMPARTILHADA
A responsabilidade por um sistema de IA tampouco pode ser atribuída exclusivamente ao usuário. Desenvolvedores, plataformas, organizações, instituições, mecanismos algorítmicos, regras e estruturas de governança fazem parte do mesmo sistema.
Quando uma organização incorpora inteligência artificial aos seus processos, incorpora também a responsabilidade pela forma como aquela tecnologia recomenda, classifica, prioriza, decide ou interfere na vida das pessoas.
Talvez essa seja uma das perguntas mais importantes para empresas que estão adotando inteligência artificial hoje. Não apenas: o que a IA consegue fazer? Mas: quem responde pelo que ela faz?
O BRASIL PODE LIDERAR A AGENDA DE IA RESPONSÁVEL
O futuro da inteligência não será escrito apenas por quem tem mais tecnologia, mas por quem tem mais
