Olho para uma Inteligência Artificial: mais-do-que-ver, pseudo-
automação e a instauração de dados incertos na patologia digital
RESUMO E INTRODUÇÃO
A Inteligência Artificial (IA) vem sendo desenvolvida para auxiliar tarefas diagnósticas médicas cada vez mais complexas. Tal movimento tem provocado uma disrupção epistêmica nos processos de diagnóstico, mesmo na ausência da própria IA, por meio da dataficação e digitalização incentivadas pelos discursos promissórios em torno dessas tecnologias. Neste estudo, centrado na digitalização de um departamento acadêmico de patologia, mobilizamos o arcabouço do realismo agencial de Karen Barad para examinar essas perturbações epistêmicas. As narrativas e expectativas em torno do diagnóstico assistido por IA — indissociáveis das transformações materiais — instauram formas específicas de mudança organizacional e produzem objetos epistêmicos que favorecem o surgimento de certas práticas e sujeitos do saber, ao mesmo tempo que dificultam outros. O realismo agencial permite examinar, simultaneamente, mudanças epistêmicas, éticas e ontológicas instauradas pelos esforços de digitalização, mantendo atenção às alterações organizacionais decorrentes. Com base em uma análise etnográfica dos processos de trabalho dos patologistas, identificamos três formas de incerteza produzidas pela digitalização: sensorial, intra-ativa e pseudoautomatizada. A incerteza sensorial e a intra-ativa derivam da alteridade ontológica dos objetos digitais, materializada em suas affordances, e resultam na ilegibilidade parcial dos cortes histológicos digitais. Já a incerteza pseudoautomatizada emerge da fabricação quase automatizada das lâminas digitais, complicando a questão da responsabilidade pelos objetos epistêmicos e pelos saberes a eles associados, ao marginalizar o humano.
Partículas do Realismo Agencial
O realismo agencial é um arcabouço performativo pós-humanista, vinculado ao novo materialismo, comprometido com uma investigação genealógica das práticas por meio das quais “humanos” e “não humanos” são delineados e constituídos diferencialmente. Por meio do conceito de performatividade, Barad propõe uma alternativa ao representacionismo — a posição epistemológica que postula sujeitos e objetos do conhecimento como entidades pré-existentes e separadas, cuja relação é mediada por representações. Em contraste, estruturas teóricas performativas sustentam que as práticas de representação (isto é, o conhecimento) são ontologicamente performativas: participam da criação da realidade. Objetos e sujeitos epistêmicos, suas propriedades e fronteiras, são instaurados no ato de conhecer.
Inspirando-se no princípio da complementaridade de Bohr, Barad argumenta que conhecer e ser são entrelaçados. A performatividade, portanto, atravessa simultaneamente os domínios da matéria e do sentido. No realismo agencial, o mundo não é composto por entidades humanas ou não humanas individuais, mas por agências entrelaçadas, dotadas de múltiplas potencialidades (fenômenos), que se engajam e se tornam determinadas através de intra-ações específicas (Barad utiliza o termo intra-ações em vez de interações, para evitar a suposição de entidades separáveis).
As intra-ações cristalizam distinções entre humano e não humano, bem como os limites dos componentes dos fenômenos, suas propriedades e os significados a eles atribuídos. As intra-ações são, por sua vez, possibilitadas ou limitadas por um aparato — outro conceito derivado de Bohr, aqui expandido para abranger práticas materiais-discursivas de demarcação. Os aparatos “produzem, em vez de apenas descrever, os sujeitos e objetos nas práticas de conhecimento”.
Nas intra-ações, as fronteiras entre objetos e sujeitos, humanos e não humanos, são definidas por cortes agenciais. Assim como humano e não humano não são substâncias pré-determinadas, sujeito e objeto também não são posições predefinidas aplicáveis a entidades individuais com fronteiras fixas. Barad, como Bohr, ilustra isso com um experimento mental no qual uma pessoa segura um bastão em uma sala escura. Se o bastão for segurado firmemente, torna-se uma extensão do corpo na navegação do espaço, assumindo uma posição subjetiva no ato de conhecer a sala. Se, ao contrário, o bastão for manuseado com leveza para explorar suas próprias características, é instaurado um corte agencial diferente, relegando o bastão à posição de objeto. No realismo agencial, sujeito e objeto são posições mutuamente exclusivas, instauradas diferencialmente em distintas práticas (por exemplo, sentir a sala versus sentir o bastão).
As fronteiras dos sujeitos epistêmicos não coincidem com os limites daquilo que usualmente entendemos por “humano”: o próprio “humano” é uma categoria que emerge no interior das intra-ações. Objetos e sujeitos não preexistem suas inter-relações, e diferentes intra-ações — por meio de diferentes aparatos — instauram sujeitos e objetos ontologicamente distintos.
Assim, objetos e sujeitos não podem ser dissociados das intra-ações que os instauram. Ontologia e epistemologia implicam-se mutuamente: não existem entidades nem características conhecíveis fora das práticas que as constituem como tais. As práticas epistêmicas, junto aos aparatos que as sustentam, participam da cristalização de configurações específicas do mundo — sempre às custas de outras configurações possíveis. Os cortes agenciais, para Barad, são também uma questão de ética: os atores envolvidos devem assumir responsabilidade pelas realidades que co-instauram — e pelas que deixam de instaurar.
Aparato e Culturas Epistêmicas
O estudo das culturas epistêmicas enfatiza as práticas do saber — as “lógicas e arranjos por meio dos quais o conhecimento ganha existência, é circulado, abordado e reconhecido coletivamente”. Knorr Cetina define tais práticas como articuladas em torno de uma maquinaria epistêmica específica que, em determinada área, constitui o modo pelo qual “sabemos o que sabemos”. Este conceito ressoa com a noção de aparato em Barad. Tal como um aparato, a maquinaria epistêmica molda, possibilita e limita os atos de conhecimento e os saberes produzidos, criando as condições sob as quais “os praticantes distinguem sinal de ruído […] ou decidem qual figura confiar quando os resultados experimentais são incertos”.
A introdução de novas tecnologias em uma cultura epistêmica provoca rearranjos em suas maquinarias e nos modos de conhecimento a elas associados. A noção de aparato, entretanto, enfatiza que essas “maquinarias” são simultaneamente materiais e semióticas, permitindo explorar as práticas materiais-discursivas que conformam tanto o conhecimento produzido em uma cultura específica quanto os objetos e sujeitos que nela habitam. Além disso, os cortes agenciais em Barad não resultam, necessariamente, em sujeitos epistêmicos que coincidam com os contornos do humano — e por vezes sequer são ocupados por ele.
Quanto aos objetos epistêmicos, Knorr Cetina reconhece que eles não preexistem inteiramente às práticas que os investigam: sua própria ontologia, em certa medida, emerge no interior dessas práticas. Ao recentrar-se nas intra-ações, o realismo agencial nos permite especificar como os objetos epistêmicos se desdobram. As intra-ações são momentos de engajamento incorporado, por meio dos quais sujeitos, objetos e suas representações são instaurados. Costumamos pensar esses momentos como instâncias de conhecimento sensorial. Trabalhos recentes sobre o sensorium mais-do-que-humano argumentam que as agências do saber não se restringem aos limites tradicionais do humano. Especialmente em contextos digitalizados, profissionais de saúde engajam-se em uma produção de sentido que é ao mesmo tempo corporal e tecnológica.
Contudo, a crescente dependência de tecnologias digitais no processo de construção de sentido profissional tem sido frequentemente associada a uma desvalorização progressiva do saber sensorial — sobretudo sob a pressão de políticas organizacionais ou da escassez de pessoal.
Neste artigo, ao mesmo tempo que reconhecemos o papel fundamental dos sentidos no diagnóstico médico, também o problematizamos. Postulamos que a expertise dos profissionais transcende os limites convencionalmente atribuídos ao humano, incorporando de forma quase fluida os dispositivos em suas práticas de percepção e interpretação. Ao trazer à tona os modos específicos com que o sensorial é performado por tecnologias digitais no contexto da patologia clínica, ampliamos a ideia de sensorialidade profissional para além da mera percepção, abrangendo a instauração de realidades diagnósticas. Ao explicitar como patologistas e seus microscópios, mais do que perceber, participam ativamente da constituição das propriedades dos objetos que analisam, argumentamos que as práticas sensoriais mais-do-que-humanas não devem ser investigadas apenas em termos de sua natureza híbrida, mas também como instâncias de instauração de realidades específicas — e, portanto, de natureza intrinsecamente ética.
Cortes agenciais, affordances e automação
Propomos pensar as propriedades instauradas dos objetos epistêmicos em termos de affordances emergentes de um corte agencial. Affordances são usualmente mobilizadas para descrever aquilo que um artefato permite ou estimula seus usuários a fazer. No entanto, considerando que o realismo agencial concebe conhecer e intervir como processos fundamentalmente entrelaçados, aqui expandimos o conceito de affordance para incluir as possibilidades de intra-agir com um objeto (epistêmico) específico — e, portanto, de conhecê-lo. Em termos baradianos, as affordances dos objetos são coerentes com as práticas material-semióticas que chamamos de aparato; sustentam as práticas epistêmicas previstas para os usuários que são instaurados como sujeitos epistêmicos dentro desse mesmo aparato.
Na patologia, uma diferença crucial entre os aparatos que instauram lâminas digitais e lâminas de vidro reside no grau de automação envolvido na digitalização. Argumentamos que a automação nesse contexto configura-se como pseudoautomação (fauxtomation): práticas associadas ao mito da obsolescência humana, mobilizadas em torno de tecnologias que prometem (ou parecem prometer) automatizar o trabalho.
O conceito de pseudoautomação permite revelar como as narrativas correntes sobre automação obliteram a quantidade de trabalho humano ainda necessária para que essas tecnologias operem de forma eficaz. Tal apagamento reforça a percepção de que o trabalho só tem valor quando remunerado e nos acostuma à ideia de que, em breve, deixaremos de ser necessários — promovendo, assim, uma desvalorização tanto do labor humano quanto das tarefas consideradas “menores”.
Como os aparatos performam os sujeitos epistêmicos, a pseudoautomação também participa da produção de cortes agenciais que têm implicações concretas sobre quem (ou o quê) é instaurado como sujeito. A ideia de que o trabalho humano pode ser substituído por máquinas pode resultar em cortes agenciais que instauram sujeitos epistêmicos não humanos. Mesmo que a pseudoautomação do diagnóstico permaneça, na prática clínica, no domínio das possibilidades futuras, ela já sustenta a instauração de objetos epistêmicos digitalizados — frequentemente produzidos, desde o início, por tecnologias automatizadas. Embora os humanos não estejam ausentes das configurações organizacionais decorrentes desses cortes agenciais (afinal, trata-se de uma automação “falsa”), eles ocupam uma posição subordinada às tecnologias e às necessidades destas.
Isso acarreta consequências éticas relevantes, pois, como vimos, sujeitos epistêmicos devem ser responsabilizáveis pelas realidades que produzem — e as máquinas, notoriamente, não são capazes disso.
Uma crítica representacionista às narrativas de pseudoautomação talvez rejeitasse o corte agencial que separa o humano do trabalho dito automatizado. Entretanto, neste artigo mantemos a perspectiva do realismo agencial ao empregar essas categorias de forma descritiva, e não analítica. Rastreamos como um sujeito epistêmico maquínico, supostamente autônomo, emerge de intra-ações específicas que, habilitadas pela narrativa da pseudoautomação, se fundamentam em uma cisão pronunciada entre as máquinas e os humanos que as operam. Chamamos essa automação de “falsa” (faux) não por causa dos cortes que ela efetiva, mas por imaginar um corte particular como se este separasse categorias definidas e pré-existentes.
A pseudoautomação nos fornece uma via de acesso às dinâmicas de mudança organizacional que sustentam os processos de digitalização, bem como à sua performatividade ontoepistêmica. Ela nos lembra de que mitos e narrativas têm consequências materiais na forma como concebemos e implementamos a relação entre trabalho humano e maquínico. Mobilizamos, portanto, a pseudoautomação para examinar o entrelaçamento das dinâmicas organizacionais e epistêmicas, e para problematizar a fronteira entre a automação do trabalho braçal e a do trabalho do conhecimento.
Sustentamos que os modos como certas tarefas são consideradas mais automatizáveis do que outras se fundamentam na desvalorização do conhecimento sensorial e contextual inerente a essas tarefas. Isso tem sérias implicações para a confiabilidade dos objetos epistêmicos produzidos, assim como para a capacidade dos profissionais de assumirem responsabilidade pelos saberes que produzem.
O arcabouço teórico que apresentamos até aqui sugere que a raiz da alteridade ontológica dos objetos digitais encontra-se tanto nas mudanças de fluxo de trabalho, materialidades, normas e sujeitos envolvidos em sua produção, quanto nas narrativas e expectativas que orientam tais transformações. Por meio desse aparato material-semiótico, instauram-se cortes agenciais específicos, que resultam em distribuições particulares de affordances e responsabilidades. Isso implica que:
1. As diferenças ontológicas materializam-se nas affordances dos objetos, que devem ser entendidas não apenas como possibilidades de ação sobre ou com o objeto, mas também como possibilidades de conhecê-lo;
2. Se as questões epistêmicas nunca estão separadas das ontológicas, é preciso focalizar as condições organizacionais (materiais e semióticas) de produção dos objetos epistêmicos em questão;
3. Em virtude da dimensão ética inerente aos atos de conhecer, a responsabilidade pelas realidades que os sujeitos epistêmicos, reconfigurados, instauram deve ser central na análise dos esforços de digitalização e das mudanças organizacionais a ela associadas.
Dados e Métodos
Este artigo baseia-se em um estudo etnográfico realizado em um departamento hospitalar de patologia, nos Países Baixos. Uma das autoras (Carboni) envolveu-se com o departamento de diversas maneiras ao longo de seis meses, em 2021, período durante o qual a instituição adquiriu novos escâneres e intensificou suas políticas voltadas ao diagnóstico digital. A duração relativamente longa da coleta de dados permitiu uma análise abductiva, com idas e vindas entre o campo e os processos analíticos, refinando-se progressivamente as estratégias e os focos da pesquisa.
A investigação teve início com 15 entrevistas exploratórias com diferentes membros do departamento, selecionados com o auxílio do chefe do serviço. Os participantes dessa primeira fase foram identificados como significativamente envolvidos no processo de digitalização. Incluíam patologistas usuários e não usuários de lâminas digitais, além de gestores, gerentes laboratoriais e técnicos de laboratório responsáveis pela aquisição, instalação e validação dos escâneres. Essas entrevistas, realizadas via Microsoft Teams, tinham como foco geral as experiências e expectativas relacionadas à patologia digital sob múltiplas perspectivas. A partir delas, foi possível traçar o estado atual do processo de digitalização no departamento e identificar as principais questões enfrentadas pelos patologistas.
Após essa etapa exploratória, Carboni passou a participar das reuniões semanais do grupo de trabalho encarregado pela digitalização — composto por alguns patologistas clínicos, dois gestores, técnicos laboratoriais, a secretária-chefe, o chefe do banco de tecidos e um especialista em análise de imagem. Nessas reuniões, abordavam-se temas como aquisição de equipamentos, testes e validações, necessidades dos patologistas, reorganização de fluxos de trabalho e uso de aprendizado de máquina na análise de imagens. Essas observações permitiram acompanhar as expectativas e os desafios enfrentados pelo departamento, assim como as estratégias formuladas e implementadas para lidar com tais desafios. Ao final de cada reunião, Carboni mantinha uma conversa informal com o patologista sênior que liderava o grupo de trabalho, aprofundando sua compreensão das questões técnicas discutidas e de aspectos gerais da prática em patologia. Também foi consultada literatura científica — tanto recomendada pelos participantes quanto localizada pelos próprios autores — para contextualizar historicamente a patologia e os desenvolvimentos relativos à digitalização e à IA.
Além disso, Carboni realizou observações etnográficas dentro do departamento com o objetivo de mapear as diferentes etapas do fluxo de trabalho e compreender detalhadamente as práticas e tarefas envolvidas em cada fase. Para tanto, adotou a metodologia do “seguir o tecido”, que consistia em acompanhar as amostras (e seus metadados) enquanto eram (re)processadas e gradualmente convertidas em lâminas. Observou secretárias da recepção registrando os tecidos no sistema laboratorial e de informações (LIMS), patologistas assistentes, técnicos e residentes preparando amostras, técnicos montando os cortes nas lâminas e avaliando sua qualidade, e secretárias digitalizando as lâminas em escâneres especializados. Também participou das reuniões matinais de passagem de plantão, durante as quais casos de interesse eram apresentados por patologistas ou residentes, e assistiu a uma sessão de treinamento em patologia oftálmica.
As observações etnográficas permitiram mapear as práticas epistêmicas e materiais distribuídas no cerne do trabalho departamental. No entanto, durante as entrevistas e as reuniões do grupo de trabalho, diversos participantes expressaram preocupação quanto à capacidade de “ver bem o suficiente” para diagnosticar a partir de lâminas digitais. Para entender melhor o que “ver” significa na prática da patologia clínica, Carboni realizou cinco entrevistas com eliciação de objetos, utilizando lâminas digitais e de vidro como suportes concretos para guiar a conversa.
Essas entrevistas permitiram contornar uma limitação das observações diretas: os patologistas “veem” rapidamente, muitas vezes curvados sobre o microscópio — condição pouco propícia à observação externa. Como é frequente em pesquisas qualitativas, a eliciação por objetos auxilia os participantes a articular suas experiências vividas. No caso presente, discutir casos concretos com os patologistas, sondando os indícios que os ajudavam a formular um diagnóstico e os modos como esses indícios eram acessados, permitiu alcançar uma compreensão mais profunda das práticas corporificadas que sustentam a análise das lâminas.
Nossa interpretação foi confirmada com entusiasmo pelos próprios patologistas durante duas apresentações realizadas por Carboni em reuniões gerais do departamento. Rascunhos deste artigo também foram compartilhados com os participantes da pesquisa, como parte do processo de validação (member check). Os participantes sugeriram algumas correções técnicas, mas não solicitaram a remoção de nenhuma citação ou nota de campo da análise.
“Transformar carne em informação”: o trabalho patológico como intra-ação
A profissão da patologia, enraizada nos estudos anatômicos dos processos de doença por meio da autópsia, expandiu-se e diversificou-se em uma especialidade médica complexa, cujos profissionais contribuem para o cuidado individual do paciente, para a descrição minuciosa das doenças — e mesmo para a própria ontologia do que se entende por doença. Neste artigo, concentramos nossa atenção na histopatologia (doravante referida simplesmente como “patologia”), ou seja, no exame das estruturas celulares ao microscópio, por ser essa a subseção da especialidade sobre a qual atualmente se concentram os esforços de digitalização.
Desde a década de 1990, a patologia vem atravessando um ciclo intenso de inovações tecnológicas, impulsionado pela gradual adoção da digitalização por varredura de lâminas inteiras (Whole Slide Imaging – WSI), análise automatizada de imagens e desenvolvimento de ferramentas de IA para auxiliar no diagnóstico. Essas formas de digitalização prometem aumentar a qualidade diagnóstica, reduzir a carga de trabalho dos patologistas e abrir caminho para uma medicina mais personalizada.
Contudo, na prática, até mesmo a digitalização isolada tem se mostrado desafiadora. O departamento onde conduzimos nosso trabalho de campo já vinha engajado nesse processo há mais de uma década. Ao longo da pesquisa, testemunhamos o desconforto não apenas de patologistas, mas também de secretárias e técnicos laboratoriais diante das transformações impostas pela digitalização em suas práticas. Esta seção explora o fluxo de trabalho do departamento com foco nas intra-ações por meio das quais lâminas digitais e não digitais são instauradas. Ainda que essas etapas não integrem o processo diagnóstico em sentido estrito, elas atestam tanto a natureza distribuída do diagnóstico quanto a inseparabilidade entre matéria e sentido. O saber é aplicado e produzido em cada estágio da construção da lâmina.
Grande parte do trabalho em um serviço de patologia gira em torno da produção de lâminas “boas”. Trata-se, em certo sentido, de uma dataficação de corpos humanos — como afirmou um patologista sênior ao descrever sua função: “transformar carne em informação”. No hospital onde realizamos o estudo, amostras de tecidos de diversos tamanhos — desde biópsias até órgãos inteiros — são coletadas de diferentes enfermarias e entregues várias vezes ao dia à recepção do departamento. As secretárias registram o caso no sistema de gestão laboratorial (LIMS), associando o arquivo do caso (com a natureza e extensão do material) aos dados do paciente no prontuário eletrônico, e atribuindo-lhe um código de barras 2D que é impresso e afixado em cada frasco envolvido no caso. O escaneamento desse código de barras abre automaticamente o caso no sistema.
Em seguida, as secretárias transferem as amostras para a sala de macroscopia, onde patologistas assistentes, residentes e técnicos de laboratório as examinam e fixam em formalina, tornando os tecidos rígidos e resistentes à proteólise. Enquanto amostras pequenas, como biópsias, são diretamente embebidas em blocos, amostras maiores precisam ser dissecadas, colocadas em cassetes e embebidas em parafina, gerando múltiplos blocos.
Essa etapa já constitui uma intra-ação: um momento em que instaurar um objeto e conhecê-lo são processos inseparáveis. Patologistas e assistentes descrevem o toque em ossos, cartilagens e tumores como uma forma de engajamento corporal orientado — mas não determinado — por protocolos, instrumentos, serras e práticas de numeração. Essas forças também guiam a seleção das partes do espécime que serão transformadas em blocos e daquelas que serão descartadas. O processo de inclusão e exclusão — a escolha do que será instaurado como parte do objeto epistêmico — torna-se aqui visível de forma particularmente clara. Importa destacar que essa seleção é cuidadosamente documentada por meio de fotografias, registros no sistema e, em caso de dúvida, consultas com patologistas mais experientes. Embora não se efetive um corte definitivo (os espécimes maiores são temporariamente preservados na sala de macroscopia para eventual solicitação de novas lâminas), a documentação rigorosa dessa etapa permite rastreabilidade e responsabilização pelos objetos epistêmicos produzidos.
Esses blocos são então levados ao laboratório, onde técnicos cortam seu conteúdo em finas seções usando micrótomos rotatórios. As lâminas são montadas manualmente: os cortes são aplicados sobre pequenos retângulos de vidro, aos quais se anexa a etiqueta com o código de barras do caso. Essas lâminas brutas são então alimentadas em uma máquina automática de coloração. Após esse processamento, os tecidos se tornam visíveis, são cobertos por lamínulas: uma lâmina diagnóstica foi criada.
O corte agencial instaurado nessa segunda intra-ação realiza uma posição de sujeito menos claramente “humana”, uma vez que o processo de coloração é automatizado. A cor — que, como veremos, desempenha papel fundamental nas práticas epistêmicas — é, aqui, instaurada por uma intra-ação automatizada. Quando cortados, os tecidos são transparentes: a coloração é o ato por meio do qual certas partes se tornam visíveis e legíveis. Por meio da coloração, os tecidos são instaurados como contendo células específicas e estruturas com características particulares.
A máquina de coloração automática não documenta essa intra-ação. No entanto, existem dispositivos de verificação retrospectiva que buscam garantir a consistência dos objetos epistêmicos gerados: em colorações especiais, utiliza-se um tecido controle posicionado ao lado da amostra na mesma lâmina. Após a coloração, um técnico observa as lâminas ao microscópio, avaliando a legibilidade dos objetos epistêmicos instaurados e certificando-se da qualidade da coloração.
O fluxo digital adiciona uma etapa extra: a digitalização das lâminas. A pessoa encarregada dessa tarefa varia conforme a instituição. Em outros locais, biotécnicos especializados desempenham essa função; neste departamento, uma secretária foi remanejada do setor administrativo para uma sala dedicada à patologia digital. Ao observarmos pela primeira vez essa profissional — referida aqui como Jane — ela aguardou cerca de dez minutos antes de expressar, com franqueza, seu desagrado pela tarefa. Sua principal função consistia em alimentar os escâneres com as lâminas de vidro.
Havia quatro escâneres na sala: dois de nova geração, altamente automatizados; um especializado em dermatopatologia; e um mais antigo, com baixo grau de automação. Operar esse último exigia um trabalho considerável da secretária. Como revelado nos diários de campo:
Jane preenche o suporte do escâner com as lâminas, cuidando para manter a mesma ordem das bandejas — o que facilita recolocá-las após o escaneamento. Esse escâner antigo é trabalhoso, explica, pois não foca automaticamente no tecido presente em cada lâmina. Ela precisa fazer isso manualmente: digita o número do caso, espera o escâner capturar uma imagem da lâmina, abre essa imagem e começa a clicar nas áreas de tecido, demarcando tanto seus contornos quanto seu corpo. A cada clique, um asterisco aparece sobre a imagem da lâmina. Neste caso, um patologista já havia marcado com círculos as áreas de interesse — Jane insere mais asteriscos nesses pontos. Ao lado, há um tecido adicional; ela identifica como controle e decide não escaneá-lo. É uma tarefa meticulosa, demorada, e Jane brinca que às vezes chega a adormecer durante o processo. Quando termina, inicia-se a varredura. Na tela, os asteriscos escaneados ficam verdes.
Apesar de sua natureza repetitiva e, segundo a própria secretária, tediosa, fica evidente o volume de trabalho necessário para que o escâner gere uma boa imagem digital. O corte agencial instaurado nesse caso configura uma posição de sujeito híbrido, na qual a secretária e a máquina atuam de forma interdependente na instauração da lâmina digital. Jane empresta seus olhos e seu saber contextualizado ao escâner: reconhece as marcações dos patologistas e sabe que elas demandam mais pontos de foco; sabe também diferenciar tecido de controle e ignorá-lo na digitalização. Seu saber tácito e situado permite à máquina produzir imagens digitais de boa qualidade.
Já os escâneres mais novos requerem menos intervenção de sua parte. Fazem parte de um aparato moldado pela narrativa da pseudoautomação. Eles identificam automaticamente a posição do tecido, delimitam as áreas a serem escaneadas e selecionam os pontos focais com base em um protocolo automatizado. Após a varredura, atribuem uma pontuação de qualidade à imagem — com base em nitidez e contraste. Nesse tipo de intra-ação, instaura-se uma posição de sujeito majoritariamente não humano: o aparato pseudoautomatizado torna supérfluas as percepções e o conhecimento tácito de Jane.
Contudo, essa automação é apenas aparente: observamos que os escâneres, na prática, funcionam com muito menos fluidez do que o prometido. Rejeitam lâminas, produzem imagens de baixa qualidade, exigem frequente intervenção humana. Assim, a intra-ação de digitalização é a única etapa do fluxo departamental em que os humanos são marginalmente instaurados como sujeitos epistêmicos e da qual não há registro documental formal.
Importa ressaltar que a digitalização envolve um aparato distinto: escâneres, protocolos, softwares de reconhecimento de imagem, algoritmos de controle de qualidade, regras de prioridade, dispositivos de inscrição, secretárias encarregadas da operação, exigências de nitidez, mitos de pseudoautomação e expectativas de diagnóstico assistido por IA. Como veremos na próxima seção, esse aparato instaura objetos epistêmicos com propriedades e affordances diferentes das lâminas de vidro, o que, por sua vez, habilita (e inviabiliza) diferentes práticas epistêmicas.
Intra-ações diagnósticas
Nesta seção, propomos uma leitura agencial-realista das práticas diagnósticas dos patologistas. Analisamos o diagnóstico como um exemplo de intra-ação. Se compreender o fluxo de trabalho laboratorial como uma cadeia de intra-ações nos ajudou a entender como os objetos epistêmicos adquirem propriedades específicas, agora voltamo-nos a como tais objetos se tornam legíveis dentro de uma cultura epistêmica específica — e a como se envolvem nos processos diagnósticos. Especificamente, atentamos à forma como os objetos digitais e não digitais possibilitam diferentes formas de engajamento intra-ativo por parte de sujeitos epistêmicos distintos.
Este exercício implica desenterrar práticas diagnósticas que, à primeira vista, parecem se resumir ao “ver”: os laboratórios de patologia trabalham para tornar visíveis tecidos e estruturas microscópicas, e os patologistas parecem passar seus dias olhando atentamente para lâminas. No entanto, aqui buscamos compreender o que realmente implica “ver” em patologia (digital). Confrontamos os objetos epistêmicos digitais e não digitais, e as intra-ações que eles favorecem, a fim de elucidar as implicações epistêmicas de sua diferença ontológica. As dinâmicas epistêmicas resultantes produzem, respectivamente, três formas de incerteza: sensorial, intra-ativa e pseudoautomatizada.
Visão situada: Incerteza sensorial
Haraway nos lembra que toda visão é situada — uma perspectiva é sempre “vista de algum lugar”. Essa máxima aplica-se de maneira bastante concreta ao nosso caso, na medida em que culturas epistêmicas específicas desenvolvem modos próprios de ver, bem como objetos que se tornam legíveis nesses modos. Os aparatos co-produzem não apenas objetos e sujeitos, mas também objetos cuja legibilidade está afinada com práticas culturais específicas de leitura. Na patologia, os objetos epistêmicos tradicionais — isto é, as lâminas de vidro — apresentam affordances que podem ser mobilizadas de maneira significativa nas intra-ações dos patologistas. Eles se deixam conhecer de um modo que faz sentido dentro da cultura epistêmica da especialidade.
Nas intra-ações diagnósticas, os patologistas concentram-se nas estruturas histológicas (diferentes tipos celulares, seus componentes e a arquitetura tecidual que conformam), com especial atenção a seus aspectos qualitativos. A cor desempenha um papel importante, como explicou Jody, uma jovem patologista especializada em patologia pulmonar e dermatopatologia, ao observar uma lâmina de vidro ao microscópio:
“[As células malignas] são diferentes. Me desculpe, não tenho metástases nesta lâmina. Mas elas são bem rosadas. Aqui tudo é um pouco mais arroxeado, e as malignas seriam bem rosadas. Vou te mostrar o tumor… elas são maiores e bastante rosadas.”
Por ser resultado direto da coloração, a cor é um indício visual particularmente interessante: é instaurada por uma intra-ação anterior. No entanto, não é o único indício relevante. Formas alteradas, arquiteturas histológicas e relações entre diferentes células também são sinais críticos de alterações patológicas, como explicou Harold, patologista sênior especializado em patologia ginecológica:
“Você pode ver que [as células do câncer cervical] têm menos citoplasma, então são menos rosadas. Têm núcleos escurecidos, às vezes irregulares. Aqui os núcleos estão mais abertos. É mais escuro… há mudança no tamanho e na forma nuclear.”
O aparato não digital do departamento, portanto, instaura lâminas em que cor, forma e linhas são propriedades epistêmicas relevantes; os patologistas e os microscópios são instaurados como usuários potenciais desses objetos, e o detalhamento qualitativo é valorizado nas práticas epistêmicas locais.
Considerando que objetos e práticas epistêmicas são co-instaurações de um mesmo aparato, não surpreende que o aparato digital venha se mostrando uma força disruptiva nos processos diagnósticos do departamento. Apesar de semelhantes na aparência, lâminas digitais e de vidro são instauradas por aparatos diferentes e, por consequência, apresentam affordances distintas. Como resultado, os patologistas raramente realizam diagnósticos exclusivamente a partir de lâminas digitais. Em situações de dúvida, mesmo patologistas entusiastas da digitalização recorrem ao microscópio óptico, como fez Laura, especialista em patologia gastrointestinal, durante nossa entrevista:
“Isso aqui é suspeito. Veja, esse é um lúmen forrado e tem uma célula tumoral. Eu preciso ter certeza. Preciso encontrar isso de novo na lâmina física. Ainda prefiro ver a lâmina, nesse tipo de caso… só para confirmar, na verdade. Mas daria para fazer aqui [na digital].”
Os patologistas frequentemente atribuem essa incerteza a limitações técnicas, como qualidade de imagem insuficiente — problemas que supostamente serão superados com o avanço da tecnologia. Contudo, propomos aqui levar essa incerteza a sério, como enraizada na alteridade ontológica entre objetos digitais e não digitais, e na incompatibilidade entre as affordances das lâminas digitais e as intra-ações dos patologistas. As lâminas digitais são instauradas por um aparato que também prevê a IA como sujeito epistêmico potencial. Consequentemente, suas affordances favorecem práticas epistêmicas menos ancoradas nos modos de ver qualitativos que caracterizam a expertise dos patologistas. Isso se torna perceptível quando os profissionais verbalizam o que os objetos digitais não lhes permitem ver, ou desencorajam que vejam. Veja, por exemplo, o que diz Hanna, usuária experiente de lâminas digitais e especialista em dermatopatologia:
“Olhar em lâminas digitais é algo que você precisa se acostumar. Um granulócito, por exemplo — sob o microscópio o núcleo parece um par de óculos, com um pouco de vermelho ao redor. Dá para ver os grânulos. Mas na lâmina digital… você vê pontos vermelhos, não os grânulos. Você se adapta mentalmente. Consegue reconhecer, mas não da mesma forma. Para mitoses… ainda não encontrei uma solução. Acho que hoje reconheço granulócitos com facilidade nas digitais — desde que bem escaneadas. Mas mitoses, você realmente perde… Às vezes ainda peço a lâmina de vidro, porque já a tenho, e coloco no microscópio.”
As lâminas digitais não permitem aos patologistas examinar o mesmo nível de detalhe qualitativo que as lâminas de vidro, especialmente quando se trata de núcleos celulares. Como Hanna relata, certos elementos podem ser reaprendidos, adaptando o olhar à nova mídia — mas outros permanecem inatingíveis, mesmo após anos de uso.
Por outro lado, as imagens digitais e seus visualizadores associados oferecem vantagens em termos de precisão quantitativa. A combinação entre lâminas digitais e softwares de imagem viabiliza medições objetivas, o que não ocorre com a mesma facilidade nas lâminas de vidro. Além de “vantagens secundárias” (como rastreabilidade, compartilhamento remoto, acessibilidade didática), a patologia digital possibilita medições mais precisas — com implicações terapêuticas importantes. Assim, pode-se pensar que a patologia digital favorece práticas epistêmicas que priorizam a precisão quantitativa (quantas células há, quanto medem), em detrimento da precisão qualitativa (como são, como se distribuem).
Embora essas affordances não se alinhem plenamente às práticas atuais dos patologistas, são centrais para a IA, vista como sujeito epistêmico futuro no departamento. Como observa John:
“Investimos muito dinheiro nas máquinas, mas na verdade… o diagnóstico não melhora imediatamente. Tudo isso serve para gerar imagens digitalizadas que permitirão a análise futura — porque precisamos dar o passo para a inteligência artificial. E só se pode fazer isso com um serviço totalmente digitalizado.”
A análise automatizada de imagens — ainda um projeto futuro neste departamento — se concentraria, inicialmente, em tarefas de quantificação: contagem de células, mitoses etc. Conforme demonstrado em uma reunião da equipe de digitalização, o nível de detalhe qualitativo necessário para que algoritmos reconheçam certos tipos celulares se resume, por vezes, à presença de uma cor específica (como o vermelho dos granulócitos mencionado por Hanna). Detalhes adicionais seriam, neste momento, supérfluos. Ao instaurar a IA como sujeito epistêmico prospectivo, o aparato digital também instaura objetos epistêmicos cujas affordances não se ajustam com facilidade às intra-ações dos patologistas, dando origem àquilo que denominamos incerteza sensorial.
Mais do que olhar: Incerteza intra-ativa
Embora tenhamos destacado, na seção anterior, a importância das propriedades qualitativas das lâminas para as práticas epistêmicas dos patologistas, tratá-las como algo intrinsecamente presente ou ausente nas lâminas nos levaria de volta ao erro representacionista que o realismo agencial justamente busca evitar. Nesta seção, utilizamos o conceito de intra-ação para compreender as lâminas de vidro — e as informações visuais que delas emergem — não como entidades contendo propriedades a serem reveladas, mas como objetos cuja legibilidade se constitui na própria prática epistêmica da microscopia óptica.
Importa frisar: o detalhe qualitativo não é um dado simplesmente “contido” na lâmina, à espera de ser revelado. Um observador não treinado não é capaz de olhar para uma lâmina e discernir informação significativa. Ninguém pode examiná-la sem o auxílio de um microscópio. E, ainda assim, o acesso a esse microscópio costuma ser individual — torna-se difícil interagir com uma lâmina quando ela está sendo utilizada por outra pessoa. O detalhe qualitativo é, portanto, instaurado como propriedade da lâmina por meio da intra-ação entre o patologista e o microscópio.
Uma observação atenta das práticas dos patologistas ao microscópio revela que ver, neste contexto, vai além do simples ato de focalizar. “Ver” com um microscópio envolve: receber lâminas bem preparadas; selecionar as lentes apropriadas; manipular adequadamente a iluminação; percorrer a lâmina sem deixar de examinar áreas relevantes. Ser patologista, nesse sentido, é também tornar-se um com o microscópio — uma fusão prática entre corpo e instrumento.
Essas intra-ações são tão constitutivas da prática patológica que, por vezes, tornam-se difíceis de articular mesmo para os próprios patologistas — e para o etnógrafo que os acompanha. No entanto, existem operações específicas que nos permitem vislumbrar o caráter intra-ativo do exame microscópico. Jody, por exemplo, explicou como “brincar um pouco com o microscópio” permite evidenciar certas propriedades da lâmina, ao mesmo tempo em que obscurece outras:
“Se eu estou procurando figuras mitóticas… é assim, você tem essa imagem. Mas… se eu giro este botão, posso percorrer os núcleos. Assim, consigo tornar este [detalhe] um pouco mais nítido, e se eu girar de novo, esse aqui vai para o fundo, e aquele fica mais evidente. Se eu tenho dúvidas sobre as mitoses, posso usar essa técnica para atravessar os núcleos e ver como as coisas mudam. E isso é algo que não consigo fazer no computador.”
Nesse exemplo, a visibilidade dos núcleos não é simplesmente uma propriedade já presente na lâmina: ela é instaurada na intra-ação. Na microscopia óptica, patologista e microscópio ocupam conjuntamente uma posição de sujeito epistêmico, responsável por (e capaz de) cristalizar certas propriedades como relevantes. Na citação acima, o núcleo torna-se legível porque emerge como tal no contexto da intra-ação — não porque seja intrinsecamente visível.
O mesmo vale para a luz — não apenas como recurso técnico, mas como agente ativo na intra-ação diagnóstica. Jody prossegue, explicando como a luz polarizada permite tornar visíveis estruturas cristalinas:
“Outra coisa que não consigo fazer no computador: se temos material estranho no pulmão, usamos luz polarizada… Isso aqui é provavelmente sujeira, mas veja como brilha. Se houver estruturas cristalinas, por exemplo — algumas doenças pleurais vêm com cristais —, posso torná-las visíveis só com essa técnica. E não consigo vê-las no computador, porque não dá para usar essa forma de quebrar a luz. Se há uma infecção com aspecto granulomatoso, sempre quero ver com luz polarizada — quero saber se há material estranho dentro do granuloma. Se eu só tivesse acesso à lâmina digital, ainda assim teria que pedir à secretária a lâmina de vidro para examinar. Eu quero ter certeza. Não quero deixar nada passar.”
A possibilidade de se engajar corporalmente nessa forma de intra-ação não está disponível para as lâminas digitais. Sua fixidez e bidimensionalidade têm consequências importantes para a prática epistêmica, como aponta John, outro dermatopatologista experiente no uso digital:
“A maior desvantagem é que, às vezes, o escâner não consegue focalizar a seção. Se o tecido estiver fragmentado, haverá diferentes planos de espessura. Uma parte pode ser um pouco mais espessa que a outra, e então o escâner tem dificuldade para focar em tudo. Ele foca na parte mais alta e ignora a mais baixa, por exemplo. No microscópio, dá para migrar pelos planos. Alguns escâneres podem escanear múltiplos planos — fazem imagens em camadas, e aí você pode navegar pelas seções digitalmente. Mas isso demanda muito espaço de armazenamento.”
As affordances das lâminas digitais são, portanto, determinadas a montante: o escâner — enquanto sujeito epistêmico instaurado — é quem define, de forma unilateral, quais propriedades serão visíveis e quais permanecerão ocultas. Se a prática diagnóstica dos patologistas depende da possibilidade de participar ativamente da instauração de detalhes qualitativos, as lâminas digitais colidem com essa prática não porque tais detalhes estejam “ausentes”, mas porque esses objetos são ontologicamente fixos. Ou seja: os patologistas podem interagir com eles — ampliando, medindo, anotando —, mas não podem intra-agir. Não podem, com seu olhar e seu gesto, fazer emergir propriedades ainda não determinadas.
Essa característica nos remete a um aspecto fundamental dos objetos epistêmicos digitais: sua clausura ontológica e sua reduzida potencialidade intra-ativa. A impossibilidade de intra-agir com as lâminas digitais, e de instaurar detalhes qualitativos relevantes, torna mais difícil para os patologistas assumirem responsabilidade plena pelos diagnósticos — especialmente em casos complexos.
Como veremos na próxima seção, isso se agrava pelo fato de que o aparato digital que sustenta tais lâminas instaura um sujeito epistêmico não humano.
Artefatos digitais: Incerteza pseudoautomatizada
Como já discutido, as intra-ações diagnósticas não dependem apenas das práticas dos patologistas, mas também da correta preparação das lâminas de vidro. Em especialidades médicas baseadas em imagem, como a patologia, as lâminas funcionam como meios indiretos de acesso ao corpo humano — e os tecidos nelas contidos passam por diversas manipulações sucessivas. As práticas diagnósticas dos patologistas dependem da performance adequada dessas manipulações: os tecidos precisam ser cortados na orientação correta, aplicados na lâmina com o mínimo de enrugamento e corados de forma apropriada.
Nos termos do realismo agencial, isso significa que os aparatos que sustentam essas diversas intra-ações precisam funcionar de modo consistente.
Desvios nessa performance aparatal resultam naquilo que se convencionou chamar de artefatos: “estruturas artificiais ou alterações teciduais presentes na lâmina microscópica como resultado de fatores extrínsecos”. Artefatos decorrem de erros no manuseio do tecido, desde antes da excisão até as etapas de coloração e montagem da lâmina. O realismo agencial nos permite compreender os artefatos como sinais de falhas nas performances esperadas dos aparatos — falhas que tornam os objetos epistêmicos ilegíveis. As práticas diagnósticas incluem, portanto, a identificação e a rejeição de objetos que contenham artefatos.
A dúvida sobre se algo constitui ou não um artefato pode tornar a lâmina incognoscível, como evidenciad durante uma entrevista com Laura:
“Aqui, tenho a impressão de que isso é um vaso… e que há um tumor dentro dele. Mas não é fácil dizer, porque existem os chamados artefatos de retração, que também criam espaços claros ou lúmens. Então, não tenho certeza se é realmente uma parede vascular com tumor dentro, ou apenas um artefato de retração por fixação — o encolhimento do tecido faz parecer que há um espaço vazio.”
Questionada sobre o que seria um artefato de retração, ela explicou:
“É algo que ocorre durante a fixação — você precisa fixar o tecido para poder fazer a lâmina… e quando fixa, ele encolhe, às vezes rasga. Como aqui há um estroma denso, esse encolhimento pode causar fissuras que se parecem com espaços — mas que talvez não existam de fato. Para resolver, posso usar colorações imunohistoquímicas que me ajudem a saber se é mesmo um vaso, com endotélio, ou apenas estroma. Quando tenho essa dúvida — se é vaso ou artefato de retração —, peço coloração adicional.”
Laura sabe que certas lacerações são possíveis, e como elas aparecem nas lâminas. Mesmo que não seja evidente à primeira vista se determinado aspecto é ou não um artefato, ela conhece os contextos em que tais distorções podem ocorrer e sabe quais técnicas podem esclarecê-las. Crucialmente, resolver essa dúvida exige retornar ao bloco de tecido, produzir novas lâminas e aplicar colorações diferentes. Ou seja: requer uma nova intra-ação, com corte agencial distinto, que cristalize outras propriedades do objeto.
Assim, as lâminas de vidro não são confiáveis por si mesmas — mas as intra-ações que as produzem são conhecidas pelos patologistas e rigorosamente documentadas no sistema LIMS. Além disso, envolvem seres humanos em múltiplos papéis: participando da fabricação e avaliando a qualidade do produto final. O controle de qualidade é, nesse sentido, uma validação formal da performance do aparato. Ainda que isso não garanta que a lâmina contenha todos os indícios necessários ao diagnóstico — tampouco que esteja livre de artefatos —, permite identificar os profissionais envolvidos em cada etapa. O patologista pode acessar o sistema, verificar quem aprovou a lâmina e responsabilizar-se (ou não) pelo seu uso. A maior parte dessas condições não se aplica às lâminas digitais.
As affordances dos objetos epistêmicos digitais produzidos por pseudoautomação comprometem a prática diagnóstica dos profissionais e sua capacidade de assumir responsabilidade pelos saberes produzidos. Como propõe Barad, a ontoepistemologia é também uma questão ética: os sujeitos do saber devem assumir responsabilidade pelas realidades que instauram — e pelas que deixam de instaurar. Contudo, isso só é possível quando os sujeitos estão de fato envolvidos na intra-ação que instaura o objeto epistêmico — ou, ao menos, quando possuem conhecimento suficiente sobre essa intra-ação e suas implicações ontoepistêmicas. No caso da pseudoautomação, que instaura sujeitos não humanos, nenhuma dessas condições é satisfeita.
Isso torna os artefatos digitais particularmente problemáticos. Alguns, como a ausência completa do tecido na imagem digitalizada, são fáceis de identificar, pois tornam a lâmina inequivocamente ilegível — e não geram incerteza diagnóstica. Outros, porém, são mais sutis. Durante nossas observações etnográficas, testemunhamos a inquietação dos patologistas diante de casos assim.
John toma a palavra para alertar o grupo sobre os riscos da transição completa para o diagnóstico digital. Explica que, em biópsias muito pequenas, o escâner às vezes ignora o tecido. Se as lâminas de vidro deixarem de ser distribuídas, os patologistas não terão como comparar e verificar se algo está faltando na imagem digital. “Talvez haja um tumor ali, e você simplesmente não o vê”, afirma.
Harry abre uma lâmina digital aleatória no sistema, e Jesse exclama: “Esse é um ótimo exemplo!” Olhamos com atenção: a amostra contém duas áreas arredondadas lado a lado. No entanto, uma delas tem bordas tão retas que não parecem naturais — tecidos humanos não crescem com tais linhas. Ao ampliar a imagem, Harry confirma: uma parte da lâmina não foi escaneada. Jesse comenta que, neste caso, a falha é visível — mas que nem sempre é assim. “Às vezes você nem percebe que está faltando algo. Isso é assustador.”
Ninguém consegue explicar o que aconteceu, nem mesmo Harry ou Robert, especialistas em TI. O que deixa o grupo ainda mais inquieto é o fato de que essa lâmina foi escaneada pelo modelo 250 — o escâner dedicado à dermatopatologia, supostamente o mais preciso. (notas de campo, reunião da equipe de digitalização)
A possibilidade de trabalhar exclusivamente com imagens digitais — e o risco de receber uma lâmina incompleta sem perceber — causa inquietação entre os patologistas. Quando o escâner falha em instaurar partes do tecido como pertencentes ao objeto epistêmico digital, os patologistas simplesmente não têm como saber o que deixou de ser incluído. Como vimos na seção anterior, os objetos digitais são ontologicamente fechados: as propriedades não cristalizadas pelo escâner estão simplesmente perdidas.
As intra-ações pseudoautomatizadas, portanto, são problemáticas em dois níveis. Primeiro, porque instauram um sujeito epistêmico não humano, eliminando a possibilidade de participação significativa por parte dos profissionais humanos — seja na produção, seja no controle de qualidade das lâminas digitais. Nem patologistas nem secretárias têm voz ativa na definição das propriedades que serão cristalizadas; tampouco são responsáveis por verificar se essas propriedades atendem aos critérios epistêmicos da instituição. A pseudoautomação, nesse sentido, elimina a possibilidade de enfrentar a incerteza que ela própria produz.
Segundo, a digitalização — e a intra-ação pseudoautomatizada que ela implica — adere a uma lógica representacionista: presume que as informações relevantes estão contidas no objeto epistêmico e que o processo diagnóstico consiste apenas em “enxergá-las”. Ao fazer isso, ignora tanto a performatividade do aparato que determina quais propriedades serão ou não visíveis, quanto o engajamento performativo e incorporado dos patologistas com o objeto. Assim, o desconforto que os profissionais sentem diante do diagnóstico digital decorre do fato de que, embora sejam excluídos das intra-ações que instauram as propriedades das lâminas, continuam sendo responsabilizados pelo saber produzido a partir delas.
CONCLUSÃO:
A quem pertence a responsabilidade epistêmica?
Este artigo examinou o uso da digitalização e da IA na patologia a partir de uma perspectiva ontoepistêmica. Partimos do pressuposto de que o conhecimento não é uma representação do mundo tal como ele é, mas sim uma prática encarnada e situada que instaura tanto sujeitos quanto objetos epistêmicos. Utilizando os conceitos de aparato, intra-ação e cultura epistêmica, demonstramos que os saberes produzidos na patologia são constituídos por uma rede complexa de tecnologias, práticas materiais, expectativas institucionais e corpos treinados. A expertise diagnóstica dos patologistas não é um saber abstrato: ela é performada cotidianamente por sujeitos que se tornam, em suas práticas, um com o microscópio, com os cortes histológicos, com os tecidos coloridos, com os padrões celulares reconhecíveis e com os critérios diagnósticos consolidados por décadas de prática e ensino médico.
A introdução da patologia digital — e, com ela, da IA — não representa apenas uma mudança técnica ou logística. Ela implica uma transformação nas condições materiais-discursivas que tornam possível o saber na patologia. Em outras palavras, trata-se de uma mudança ontológica: altera quem pode saber, o que pode ser sabido, e sob quais condições.
Nosso estudo etnográfico mostra que essa transformação provoca três formas distintas de incerteza:
• Incerteza sensorial, ligada à dificuldade dos patologistas em acessar, nas lâminas digitais, os detalhes qualitativos que consideram cruciais ao diagnóstico;
• Incerteza intra-ativa, que surge da impossibilidade de interagir com as imagens digitais da mesma maneira performativa e sensorial que com as lâminas de vidro;
• Incerteza pseudoautomatizada, relacionada à opacidade dos processos automatizados de escaneamento e à exclusão dos sujeitos humanos das intra-ações que determinam quais propriedades do tecido serão — ou não — preservadas na imagem digital.
Essas incertezas são mais do que entraves práticos: elas são sintomas de um desalinhamento profundo entre os novos objetos epistêmicos instaurados pela digitalização e as culturas epistêmicas historicamente constituídas da patologia. Em última instância, elas remetem a uma questão ética: quem deve — e quem pode — assumir responsabilidade pelos saberes que emergem nesse novo aparato?
Nas práticas tradicionais da patologia, a responsabilidade epistêmica é compartilhada entre os diversos atores humanos envolvidos no processo: técnicos, secretárias, patologistas, supervisores. Todos participam, de alguma forma, da instauração do objeto que será interpretado, e todos operam dentro de um sistema cujas lógicas e falhas são mais ou menos conhecidas e rastreáveis. Com a digitalização, especialmente quando operada sob a lógica da pseudoautomação, essa cadeia se torna opaca. As imagens são produzidas por máquinas cujos critérios de decisão não são plenamente compreendidos pelos usuários humanos, e os erros cometidos — como a omissão de uma área da lâmina — não podem ser prontamente identificados, questionados ou corrigidos.
Contudo, a responsabilidade epistêmica não desaparece. Ela continua sendo atribuída aos patologistas humanos, que assinam os laudos e respondem legalmente por eles. Isso gera um campo de tensão ética: os sujeitos do saber são convocados a responder por objetos cuja produção escapa à sua agência.
A discussão sobre IA e patologia digital costuma concentrar-se em questões como a precisão dos algoritmos, a segurança dos dados e os benefícios logísticos. Nosso estudo sugere que é necessário ampliar esse debate, incorporando uma reflexão ética e ontoepistêmica sobre as condições de possibilidade do saber médico. Mais especificamente, sugerimos que a introdução da IA em ambientes clínicos deve ser acompanhada por um exame crítico de suas implicações nos modos de constituição da responsabilidade epistêmica. Isso significa perguntar: que tipo de aparato estamos instaurando? Que objetos ele permite conhecer? Que sujeitos ele autoriza a conhecer? E, sobretudo: quem poderá responder — ética e juridicamente — pelo saber que dele emerge?
