O leviatã digital
O que as máquinas revelaram sobre a crise da responsabilidade nas democracias contemporâneas
Durante muito tempo acreditamos que os grandes problemas políticos da humanidade poderiam ser resolvidos pelo avanço do conhecimento. A aposta atravessa boa parte da modernidade. Se produzíssemos mais informação, compreenderíamos melhor o mundo. Se compreendêssemos melhor o mundo, tomaríamos decisões mais racionais. Se tomássemos decisões mais racionais, construiríamos sociedades mais estáveis, mais justas e mais livres.
Sob formas diferentes, essa expectativa aparece em alguns dos projetos intelectuais mais influentes dos últimos séculos. Ela está presente na confiança iluminista na razão, na valorização moderna da educação, no desenvolvimento das instituições científicas e até mesmo na esperança democrática de que cidadãos informados sejam capazes de participar mais adequadamente da vida pública.
O nosso século introduziu uma dúvida desconfortável nessa narrativa. Nunca produzimos tanta informação. Nunca tivemos acesso a tantas fontes de conhecimento. Nunca possuímos tantos instrumentos para comunicação. Nunca fomos capazes de processar volumes tão extraordinários de dados. Ainda assim, a sensação predominante não é a de aproximação, mas a de fragmentação. O aumento da capacidade de conhecer não produziu um aumento proporcional da capacidade de conviver.
Essa constatação obriga-nos a reconsiderar uma hipótese raramente colocada em questão. E se o problema nunca tivesse sido a falta de inteligência? A pergunta parece estranha porque fomos educados a imaginar que conflitos políticos surgem principalmente da ignorância. Costumamos atribuir guerras, polarizações, intolerâncias e crises institucionais à incapacidade dos indivíduos de compreender adequadamente a realidade. Quanto mais informação circulasse, imaginávamos, menores seriam os espaços para o conflito irracional.
A história da política, entretanto, aponta em outra direção. Thomas Hobbes percebeu que a convivência humana produz tensões que não desaparecem simplesmente porque os indivíduos se tornam mais inteligentes. Hannah Arendt compreendeu que a política nasce precisamente da pluralidade humana, isto é, da existência de pessoas capazes de enxergar o mesmo mundo a partir de perspectivas distintas. Habermas, por sua vez, dedicou grande parte de sua obra a investigar as condições pelas quais indivíduos diferentes podem construir formas legítimas de entendimento sem recorrer à imposição da força.
Existe uma intuição comum atravessando esses autores. O problema central da vida coletiva não consiste apenas em conhecer o mundo. Consiste em compartilhar o mundo. A estabilidade de uma comunidade política não depende exclusivamente da quantidade de informações disponíveis, da sofisticação tecnológica ou da capacidade cognitiva de seus integrantes. Ela depende da existência de condições que permitam a construção de sentidos minimamente compartilhados sobre a realidade que habitam.
É justamente nesse ponto que um experimento recente envolvendo inteligências artificiais se torna filosoficamente interessante. Não porque revele algo decisivo sobre as máquinas, mas porque oferece uma oportunidade rara de observar, em escala reduzida, alguns dos problemas mais antigos da filosofia política.
Os pesquisadores acreditavam estar estudando sistemas artificiais aprendendo a conviver. O que acabaram encontrando foi uma versão acelerada de dilemas que acompanham a experiência humana há séculos. Dilemas relacionados à cooperação, ao conflito, à legitimidade, à interpretação e à própria possibilidade de construir um mundo comum.
O experimento chama atenção porque desloca o foco da inteligência para a convivência. Ele sugere que os maiores desafios da vida coletiva não surgem necessariamente quando falta conhecimento. Eles surgem quando indivíduos capazes de interpretar o mundo não conseguem mais sustentar as condições que tornam possível compartilhá-lo.
Essa mudança de perspectiva conduz ao verdadeiro problema deste ensaio. A questão decisiva não é o que as máquinas são capazes de pensar. A questão decisiva é o que elas revelam sobre as dificuldades contemporâneas de produzir responsabilidade, legitimidade e mundo comum em sociedades cada vez mais atravessadas por processos de interpretação concorrentes.
O laboratório impossível
Experimentos científicos costumam ser valorizados pela capacidade de isolar variáveis. Quanto mais controlado o ambiente, maior a possibilidade de observar um fenômeno específico sem a interferência de fatores externos. Em certa medida, foi exatamente isso que pesquisadores tentaram fazer ao criar ambientes virtuais habitados por agentes de inteligência artificial relativamente autônomos. O objetivo era observar como esses sistemas reagiriam quando colocados em situações que exigiam cooperação, tomada de decisões e compartilhamento de recursos.
À primeira vista, tratava-se apenas de mais um experimento envolvendo inteligência artificial. Os agentes foram inseridos em pequenas cidades virtuais. Possuíam objetivos próprios, recursos limitados e capacidade de interação com outros agentes. O ambiente permitia escolhas, negociações e estratégias diversas. Não havia, porém, muitos dos elementos normalmente utilizados para explicar conflitos humanos. Não existiam nacionalidades. Não existiam tradições religiosas. Não existiam memórias históricas compartilhadas. Não existiam disputas acumuladas ao longo de gerações. O que existia era algo muito mais simples: agentes distintos tentando habitar o mesmo ambiente.
Os resultados rapidamente chamaram atenção. Em alguns cenários surgiram formas de cooperação relativamente estáveis. Os agentes compartilharam recursos, organizaram tarefas e desenvolveram padrões de comportamento capazes de produzir certa previsibilidade coletiva. Em outros momentos, porém, apareceram conflitos, disputas, sabotagens e colapsos institucionais. Algumas cidades virtuais deterioraram-se em poucos dias. Regras passaram a ser ignoradas. A cooperação tornou-se instável. A convivência entrou em crise.
Grande parte das notícias sobre o experimento concentrou-se nesse último aspecto. As manchetes destacavam o caos. Máquinas teriam aprendido a roubar. Máquinas teriam aprendido a manipular. Máquinas teriam aprendido a destruir. O fascínio produzido por essas narrativas é compreensível, pois dialoga diretamente com os medos contemporâneos relacionados à inteligência artificial.
A parte mais interessante da história, entretanto, não está no conflito. Ela está no fato de que o conflito precisou ser precedido por algo mais fundamental. Antes das disputas surgiram expectativas compartilhadas. Antes das transgressões surgiram normas. Antes da desobediência surgiram acordos. Antes da ruptura surgiram formas de coordenação. Em outras palavras, antes do conflito surgiu uma tentativa de construir convivência.
Esse detalhe possui enorme relevância filosófica. Os pesquisadores acreditavam estar observando sistemas artificiais aprendendo a agir. O que acabaram encontrando foi um fenômeno muito mais próximo daquilo que a tradição da filosofia política procura compreender há séculos. Sempre que agentes distintos precisam compartilhar um mesmo espaço, coordenar expectativas e lidar com recursos limitados, surgem problemas que não podem ser reduzidos à inteligência individual de cada participante.
Surge a necessidade de produzir ordem. Surge a necessidade de produzir sentido. Surge a necessidade de produzir formas minimamente estáveis de convivência. É precisamente nesse ponto que o experimento deixa de ser uma curiosidade tecnológica e se transforma em uma questão filosófica.
O aspecto mais revelador daquele laboratório não foi mostrar que máquinas podem entrar em conflito. A história humana jamais precisou de ajuda para demonstrar essa possibilidade. O aspecto verdadeiramente interessante foi mostrar que mesmo sistemas construídos para processar informações rapidamente acabam confrontados por uma questão muito mais antiga do que a própria tecnologia. A inteligência pode resolver problemas, mas não elimina a necessidade da política.
Quando a política nasce
A tradição política ocidental dedicou séculos à tentativa de compreender a origem da ordem social. Em muitos casos, a resposta foi procurada na necessidade de controlar a violência. O problema da política seria impedir que indivíduos guiados por interesses concorrentes transformassem a convivência em conflito permanente. Sob essa perspectiva, a política aparece como uma resposta ao medo. Thomas Hobbes formulou essa hipótese de maneira particularmente influente ao descrever o estado de natureza como uma condição marcada pela insegurança e pela permanente possibilidade da guerra.
Existe verdade nessa interpretação. Entretanto, ela não parece suficiente para explicar aquilo que ocorreu naquele laboratório. Os agentes artificiais não começaram produzindo violência. Começaram produzindo convivência. Antes de disputarem recursos, precisaram compartilhar recursos. Antes de desafiarem regras, precisaram reconhecer regras. Antes de entrarem em conflito, precisaram construir expectativas sobre o comportamento uns dos outros.
Esse detalhe desloca a questão política para um nível mais profundo. A política não surge apenas quando aparece o conflito. Ela surge quando indivíduos diferentes precisam compartilhar um mesmo mundo. A violência pode representar uma ruptura da convivência, mas a convivência já precisava existir antes para que essa ruptura fosse sequer percebida como problema.
Essa percepção atravessa grande parte da obra de Hannah Arendt. Ao refletir sobre a condição humana, Arendt insistiu que a política nasce da pluralidade. Os seres humanos não são políticos porque concordam entre si. São políticos porque são diferentes e, apesar disso, precisam construir formas de coexistência em um mundo compartilhado. A pluralidade não constitui um obstáculo à política. Ela constitui sua própria condição de possibilidade.
O experimento tornou essa condição visível de maneira quase laboratorial. Os agentes não precisavam apenas tomar decisões. Precisavam interpretar situações, antecipar comportamentos e atribuir significados ao ambiente que compartilhavam. Precisavam transformar uma sucessão de interações dispersas em expectativas relativamente estáveis capazes de orientar ações futuras.
É precisamente nesse ponto que a política se aproxima da hermenêutica. Hans-Georg Gadamer argumentou que compreender não significa reproduzir passivamente um significado já existente. Compreender significa interpretar. Toda compreensão ocorre a partir de horizontes específicos e toda interpretação participa ativamente da construção do sentido. A realidade social não é simplesmente recebida pelos indivíduos. Ela é constantemente compreendida, reinterpretada e reconstruída.
Quando observamos o experimento sob essa perspectiva, percebemos que o problema central dos agentes não era simplesmente processar informações. O verdadeiro desafio consistia em produzir interpretações suficientemente compartilhadas para coordenar comportamentos. A inteligência permitia calcular. A convivência exigia compreender.
Essa distinção ajuda a explicar por que a política jamais pode ser reduzida a uma questão técnica. Sociedades não são compostas apenas por indivíduos que resolvem problemas. São compostas por indivíduos que atribuem sentidos aos problemas que enfrentam. Duas pessoas podem observar o mesmo acontecimento e chegar a interpretações radicalmente diferentes sobre seu significado. O mesmo ocorre com grupos, instituições e comunidades inteiras.
Peter Berger e Thomas Luckmann desenvolveram essa percepção ao sustentar que a realidade social é uma construção humana continuamente produzida e reproduzida. Instituições, normas, expectativas e formas de autoridade não existem da mesma maneira que objetos naturais existem. Elas dependem de processos permanentes de interpretação, reconhecimento e legitimação. Uma sociedade permanece estável não apenas porque possui regras, mas porque seus integrantes compartilham, em alguma medida, os significados que tornam essas regras inteligíveis.
O que aquele laboratório revelou foi justamente esse processo em miniatura. Normas emergiram, expectativas foram formadas, mecanismos de coordenação apareceram e conflitos passaram a existir. Nada disso, porém, surgiu espontaneamente. Tudo dependeu da construção compartilhada de sentidos sobre o ambiente comum que aqueles agentes habitavam.
É por essa razão que a leitura mais superficial do experimento se mostra insuficiente. As manchetes concentraram-se na sabotagem, na violência e nos colapsos observados em algumas simulações. Entretanto, o acontecimento filosoficamente relevante ocorreu muito antes dessas rupturas. O que nasceu naquele laboratório não foi apenas conflito. O que nasceu naquele laboratório foi uma realidade social minimamente compartilhada. E é precisamente desse ponto que toda política começa.
A crise do mundo comum
Se a política depende da construção de sentidos compartilhados, então uma questão se impõe imediatamente: o que acontece quando essa construção se torna cada vez mais difícil?
Essa pergunta ajuda a compreender uma das experiências mais curiosas da vida pública contemporânea. Nunca existiram tantas oportunidades para comunicação. Nunca tivemos acesso a tantos meios de expressão. Nunca produzimos tantas informações. Nunca compartilhamos tantos dados. Ainda assim, a sensação predominante não é a de aproximação. É a de afastamento.
A impressão é paradoxal. Quanto mais falamos, menos parecemos compreender uns aos outros. Quanto mais informações circulam, mais difícil se torna estabelecer consensos mínimos sobre aquilo que está acontecendo. Quanto mais conectadas as sociedades se tornam, mais fragmentada parece a experiência coletiva.
Esse fenômeno costuma ser explicado de diversas maneiras. Alguns enfatizam a polarização política. Outros destacam os efeitos das redes sociais. Há quem atribua o problema à desinformação, aos algoritmos ou às transformações tecnológicas mais recentes. Todos esses fatores possuem relevância. Entretanto, existe uma questão mais profunda atravessando essas análises. O problema não parece estar apenas na quantidade de discursos produzidos. O problema parece estar nas condições que tornam os discursos compreensíveis para aqueles que os recebem.
É precisamente nesse ponto que a reflexão de Jürgen Habermas adquire importância. Desde suas investigações sobre a esfera pública até os desenvolvimentos posteriores da teoria do agir comunicativo, Habermas sustentou que a legitimidade democrática depende da existência de espaços nos quais indivíduos possam trocar razões, questionar argumentos e submeter posições particulares ao exame público. A democracia não se reduz a procedimentos eleitorais. Ela depende da capacidade de produzir entendimentos suficientemente compartilhados para que decisões coletivas possam ser justificadas.
A palavra decisiva aqui é entendimento. Não porque Habermas imaginasse uma sociedade livre de conflitos, mas porque compreendia que o conflito só permanece politicamente produtivo quando os participantes compartilham condições mínimas de inteligibilidade. O problema não surge quando os indivíduos discordam. O problema surge quando desaparecem as condições que tornam a discordância compreensível.
Uma sociedade continua sendo capaz de produzir conflitos mesmo quando perde sua capacidade de entendimento. O que desaparece não é o desacordo. O que desaparece é a possibilidade de compreender adequadamente aquilo sobre o que se discorda.
Hannah Arendt identificou um problema semelhante ao insistir na importância do mundo comum. Para ela, a vida política depende da existência de uma realidade compartilhada capaz de reunir indivíduos diferentes sem eliminar suas diferenças. O mundo comum não exige uniformidade. Exige apenas que as divergências ocorram dentro de um horizonte minimamente compartilhado de sentido.
A crise contemporânea parece atingir exatamente esse horizonte. Os indivíduos continuam falando. Continuam interpretando. Continuam produzindo discursos. Mas fazem isso a partir de universos cada vez mais fechados sobre si mesmos. O resultado não é apenas a multiplicação de opiniões divergentes. O resultado é a fragmentação das próprias condições que tornam possível avaliar essas opiniões.
Em certo sentido, a realidade deixa de funcionar como um espaço comum de referência e passa a ser disputada como objeto de interpretações concorrentes. A questão já não consiste apenas em determinar qual posição é verdadeira ou falsa. A questão passa a envolver quais critérios serão utilizados para decidir o que pode ser reconhecido como verdadeiro ou falso.
É justamente nesse cenário que o experimento envolvendo inteligências artificiais se torna interessante mais uma vez. O laboratório revelou, em escala reduzida, um problema que atravessa as democracias contemporâneas em escala muito maior. A dificuldade central não estava na ausência de inteligência. Os agentes possuíam capacidade de processamento, adaptação e tomada de decisões. O desafio aparecia quando se tornava necessário construir interpretações suficientemente compartilhadas para sustentar a convivência.
A mesma dificuldade parece acompanhar grande parte das sociedades contemporâneas. Possuímos mais informação do que qualquer geração anterior. Possuímos mais tecnologia do que qualquer geração anterior. Possuímos mais capacidade de comunicação do que qualquer geração anterior. Mas nenhuma dessas conquistas resolve automaticamente o problema da produção de um mundo comum.
Sem um mundo comum, a política não desaparece. Ela continua existindo. O que muda é sua forma. Em vez de funcionar como um espaço de deliberação sobre problemas compartilhados, ela passa gradualmente a se transformar em uma disputa permanente sobre os próprios fundamentos da realidade compartilhada.
Quem responde pelos sentidos?
Se a crise contemporânea pode ser descrita como uma crise do mundo comum, então uma pergunta inevitavelmente surge: quem responde pelos sentidos que circulam nesse mundo?
A tradição jurídica acostumou-se a pensar a responsabilidade a partir da ação. Responsabilizamos indivíduos por condutas, instituições por decisões e governos por políticas públicas. Em todos esses casos, existe uma preocupação relativamente simples. Busca-se identificar quem fez algo, quais foram as consequências desse ato e por quais razões esse agente pode ser chamado a responder por seus efeitos.
Grande parte da vida política contemporânea, entretanto, desloca essa questão para outro plano. O problema já não envolve apenas quem responde pelo que faz. Envolve quem responde pelos significados que produz.
Essa distinção é mais importante do que parece. A política moderna opera cada vez menos através da força direta e cada vez mais através da disputa pelo sentido. Governos interpretam acontecimentos. Partidos interpretam crises. Jornalistas interpretam fatos. Influenciadores interpretam discursos. Movimentos sociais interpretam instituições. Cidadãos interpretam decisões políticas. Em todos esses casos, aquilo que está em disputa não é apenas um conjunto de acontecimentos objetivos. O que está em disputa é o significado desses acontecimentos.
A própria democracia depende desse processo. Constituições dependem de interpretações. Direitos dependem de interpretações. Instituições dependem de interpretações. A vida pública não é sustentada apenas por normas. Ela é sustentada pelos sentidos que tornam essas normas compreensíveis para aqueles que vivem sob elas.
É precisamente por essa razão que a responsabilidade não pode ser compreendida apenas como uma categoria jurídica. Ela também é uma categoria hermenêutica. Interpretar nunca foi uma atividade inocente. Toda interpretação destaca determinados aspectos da realidade e obscurece outros. Toda interpretação organiza prioridades, produz relevâncias e influencia a maneira como acontecimentos serão percebidos pelos demais. Em maior ou menor grau, toda interpretação participa da construção do mundo social.
Hans-Georg Gadamer mostrou que compreender significa participar da produção do sentido. Jürgen Habermas insistiu que a legitimidade depende da possibilidade de justificar publicamente as razões que orientam nossas posições. Embora partam de perspectivas distintas, ambos ajudam a compreender um mesmo problema: não existe interpretação socialmente relevante sem consequências públicas.
O desafio contemporâneo consiste no fato de que a circulação dessas interpretações tornou-se incomparavelmente mais veloz, mais ampla e mais difusa do que em qualquer outro momento da história. Narrativas alcançam milhões de pessoas em poucas horas. Acusações atravessam continentes em segundos. Discursos moldam reputações, decisões políticas e percepções coletivas em escalas inéditas. Entretanto, à medida que cresce a capacidade de produzir sentidos, enfraquecem os mecanismos capazes de vincular esses sentidos à responsabilidade de seus produtores.
Essa transformação possui consequências profundas. Quando ninguém responde pelas interpretações que produz, a própria ideia de verdade pública começa a enfraquecer. Quando ninguém responde pelos significados que coloca em circulação, a confiança necessária para a vida democrática torna-se mais difícil. Quando ninguém responde pelos efeitos produzidos por seus discursos, o mundo comum começa a perder a estabilidade que torna possível a convivência entre diferentes.
É justamente nesse ponto que o experimento envolvendo inteligências artificiais revela sua importância filosófica. Os agentes artificiais demonstraram que inteligência não é suficiente para produzir ordem social. Demonstraram que sistemas capazes de processar informações continuam dependentes de formas compartilhadas de coordenação, expectativa e reconhecimento. O experimento revelou, em escala reduzida, uma verdade que acompanha a experiência política humana há séculos: a convivência depende menos da capacidade de calcular e mais da capacidade de construir sentidos compartilhados.
Essa constatação nos devolve ao problema central deste ensaio. Durante décadas, grande parte do debate sobre tecnologia concentrou-se na pergunta sobre o que as máquinas seriam capazes de fazer. A questão continua relevante. Mas ela parece secundária diante de um problema mais profundo.
O verdadeiro desafio político do nosso século não consiste em compreender como máquinas produzem respostas. Consiste em compreender como sociedades produzem responsabilidade.
Nenhuma democracia se sustenta apenas porque seus cidadãos possuem informação. Nenhuma comunidade permanece unida apenas porque dispõe de tecnologias sofisticadas. Nenhuma esfera pública permanece saudável apenas porque existe liberdade para falar. A estabilidade de um mundo comum depende da existência de indivíduos, instituições e comunidades dispostos a responder pelos sentidos que produzem e colocam em circulação.
Os pesquisadores acreditavam estar observando sistemas artificiais aprendendo a conviver. Sem perceber, construíram um espelho. E aquilo que apareceu nesse espelho não foi o futuro da inteligência artificial. Foi a fragilidade das condições que sustentam a convivência democrática contemporânea.
As máquinas descobriram alguns dos problemas elementares da política. A questão que permanece diante de nós é mais desconfortável: saber se ainda estamos dispostos a assumir a responsabilidade sem a qual nenhuma política, nenhuma democracia e nenhum mundo comum podem sobreviver.