6° ENCONTRO NACIONAL DA ABRI

“Perspectivas sobre Poder em um Mundo em Redefinição”

Área Temática: Teoria das Relações Internacionais (TRI)

ALGORITMOS E OS LIMITES DA TEORIA DAS RELAÇÕES INTERNACIONAIS

LUISA CRUZ LOBATO

PUC/Rio

BELO HORIZONTE

25, 26, 27 E 28 DE JULHO DE 2017

2

Resumo

Os problemas da “agência” e da “tomada de decisão” são centrais ao estudo da política

internacional. Quer a partir de ficções como o Estado nacional, da figura do representante de

Estado ou de organizações (transnacionais, não-governamentais, empresariais, etc.), a

agência comumente definida a partir do “potencial para a ação” e concebida a partir do

elemento humano – individual ou coletivo – permanece como elo comum ao conjunto

heterodoxo de abordagens que compõe o que se denomina por “teoria das Relações

Internacionais”. Diante deste cenário, discute-se os limites explanatórios da teoria das

Relações Internacionais face ao fenômeno das tecnologias da informação. A partir da

discussão sobre decisões algorítmicas desenvolvidas no campo dos estudos críticos sobre

algoritmos e das reflexões proporcionadas pelo campo dos Estudos de Ciência e Tecnologia

(STS studies, em inglês), questiona-se a noção exclusivamente humana de agência adotada

pelas ciências sociais de forma mais ampla, e pelas RI de maneira mais específica. Não

apenas os agentes humanos são cada vez mais auxiliados pelas tecnologias da informação

em processos de tomada de decisões, como também os avanços na computação permitem a

códigos matemáticos um poder maior de decisão a partir de associações e cruzamento de

dados que, por vezes, resulta em configurações distintas daquelas pretendidas por seus

programadores (técnica do machine learning). Argumenta-se que, à medida que essas

tecnologias se incorporam à vida política internacional, as teorias das RI precisarão fornecer

uma explicação adequada ao fenômeno da decisão na era digital, o que dependerá da

ampliação de seu conceito de agência.

1. INTRODUÇÃO

As tecnologias da informação (TICs) foram acompanhadas por uma significativa

transformação em nossa relação com o mundo, sendo incorporadas ao cotidiano das

instituições de ensino, mundo corporativo, vida privada e governos. Sua difusão na sociedade,

principalmente a partir da difusão da própria Internet, em meados dos anos 1990, facilitou a

automatização de uma série de processos – desde procedimentos rotineiros como compras

em supermercados até a realização de transações monetárias, viagens aéreas e mesmo a

condução de conflitos armados. Preocupações com a influência das TICs no campo da política

internacional e conflito deram origem a toda uma literatura focada, por exemplo, no fenômeno

do conflito cibernético e nos efeitos dessas tecnologias na condução de guerras (ARQUILLA;

RONFELDT 1993; KARATZOGIANNI, 2009; GRAY, 1997); proteção a infraestruturas críticas

informacionais (DUNN CAVELTY, 2007) e proteção de dados (BELLANOVA, 2014; 2016).

O presente artigo aborda os desafios que essas tecnologias trazem à teoria das RI. Em

particular, ele se concentra em um aspecto fundamental de seu desenvolvimento e amplo uso:

a possibilidade de decisões automatizadas, relativamente ou completamente independentes

da influência e ação humanas. Estas decisões são tomadas por procedimentos automatizados

de solução de problemas denominados algoritmos1. A operação discreta, por vezes invisível,

1O termo algoritmo descreve um conjunto de procedimentos codificados que transformam uma determinada entrada de dados (input) em uma saída (output), com base em cálculos específicos. Ver: (GILLESPIE, 2014).

3

destes procedimentos tem ganhado destaque face a grande quantidade de informações e

conhecimento armazenados em computadores ou em servidores geograficamente distantes

do local de origem/uso destes dados e ao desenvolvimento de tecnologias de inteligência

artificial. Argumenta-se que esses instrumentos matemáticos apresentam desafios ao

problema da agência, tal como tratado nas RI: para grande parte da disciplina, a agência

reside, ultimamente, no ser humano, quer na figura do indivíduo, do líder de Estado ou como

pré-condição a uma forma coletiva de agência. O cânone da disciplina não permite a

concepção do papel dos algoritmos na política internacional senão como elemento acessório

às ações humanas – o que não faz jus aos efeitos das decisões algorítmicas em diversos

aspectos da vida cotidiana.

Diante desta limitação, argumenta-se que a teoria ator-rede tem o potencial para

complementar o debate em torno do problema da agência na teoria das RI, ao permitir a

ampliação do conceito, de modo a incluir elementos não humanos como fontes da ação. A

teoria ator-rede não é uma teoria no sentido convencional, mas um “repositório de termos” e

uma forma de se engajar com o mundo: trata-se, principalmente, de uma série de atitudes

metodológicas para se fazer sentido a respeito do mundo (MOL, 2010). Nesse sentido, não

se propõe aqui incorporar à teoria ator-rede às RI, mas compreender de que maneira os

desafios metodológicos por ela propostos contribuem para enriquecer o debate teórico sobre

agência na disciplina, de modo que ele permita fazermos sentido também a respeito dos

elementos não-humanos.

Para proceder a essa discussão, o artigo se divide em duas partes. Inicialmente,

apresenta-se o estado do debate sobre agência nas principais correntes teóricas que

constituem as RI. Na disciplina, o problema da agência compreende dois elementos principais

enquanto fontes da ação: a figura do indivíduo ou a figura do Estado. Identifica-se três

principais abordagens ao fenômeno da agência: uma tendente a um maior individualismo

metodológico; outra à atribuição de características humanas a entidades coletivas complexas

e uma corrente crítica das duas anteriores. Argumenta-se, porém, que, em última instância, o

“indivíduo” se faz presente como condição de possibilidade em todas as três abordagens

identificadas, dificultando formulações alternativas de agência que compreendam também a

ação de elementos não-humanos. Em seguida, tem-se argumento em favor de uma ampliação

deste conceito de agência. A segunda parte do artigo desenvolve esse argumento,

inicialmente considerando a forma como as TICs tornaram possível uma generalização das

decisões automatizadas em diversos momentos da vida cotidiana. A literatura sobre estudos

críticos sobre algoritmos chama a atenção para a maneira com a qual estes instrumentos se

encontram cada vez mais imiscuídos na vida e cotidiano das pessoas e que seus efeitos

jurídicos, políticos, sociais, etc., por vezes se dão de forma independente às intenções de

4

seus programadores. Por fim, apresentam-se os principais pressupostos da teoria ator-rede,

enfatizando-se sua abordagem com relação às entidades não-humanas. A principal reflexão

facilitada pela teoria envolve reconhecer a ação coletiva e o exercício de poder como

dependentes tanto da ação humana quanto não-humana.

2. O PROBLEMA DA AGÊNCIA NA TEORIA DAS RELAÇÕES INTERNACIONAIS

É possível afirmar que, de modo amplo, o problema da agência nas Relações

Internacionais compreende dois elementos principais: a figura do indivíduo enquanto fonte da

ação e a figura do Estado – ou outras coletividades, a exemplo de organizações internacionais

(OIs), organizações não-governamentais (ONGs), grupos insurgentes envolvidos em conflitos

armados, companhias transnacionais, dentre outros. É válido notar que, de modo recorrente,

o termo “agente” é utilizado de maneira intercambiável ao termo “ator”, com pouca ou quase

nenhuma distinção conceitual sendo estabelecida entre ambos (EPSTEIN, 2013;

SCHINDLER, 2014; WENDT, 1999; para uma crítica do fenômeno, ver: WIGHT, 2006). Esta

seção tratará das distintas abordagens acerca do problema da agência nas principais

correntes de pensamento que constituem a disciplina das Relações Internacionais, buscando

identificar elementos comuns e divergentes entre elas.

Não é raro para o analista das Relações Internacionais se deparar com assertivas tais

como “Em 1939, a União Soviética atacou a Finlândia”; ou: “A França e a Grã-Bretanha, na

qualidade de membros protagonistas da Liga das Nações, conseguiram que a União Soviética

fosse expulsa da Liga”; ou mesmo: “A Grã-Bretanha, na qualidade de um dos países garantes

da neutralidade da Bélgica, entrou em guerra com a Alemanha, em agosto de 1911, porque

esta última havia violado a neutralidade belga” (MORGENTHAU, 2003:23-25). A teoria

Realista Clássica estabeleceu a figura do Estado-nação como objeto e, simultaneamente,

como principal fonte da ação no sistema internacional – abordagem que, mais tarde, veio a

ser reforçada pela corrente Neorrealista2 (WALTZ, 1979) – chamando a atenção para o

problema da agência “coletiva” de uma entidade incorpórea, composta por indivíduos, mas

substancialmente distinta destes.

De acordo com Epstein (2013:291) o desejo pelo poder se encontra no centro das

considerações Realistas sobre as motivações para a ação estatal. Esta visão, inspirada por

uma leitura bastante específica do homem Hobbesiano no estado de natureza, é reforçada

por autores como Carr (2001:147) e Morgenthau (2003:23-24). Desse modo, para explicar o

comportamento estatal, a corrente Realista clássica, por vezes, se volta para o indivíduo: “The

2 Importante frisar que a ideia do Estado enquanto ponto de partida não se constitui elemento pacífico e comum a todas as vertentes realistas de pensamento. Enquanto Morgenthau (2003) toma ambos o indivíduo e o Estado como fontes de ação, em Krasner (1999), a ação política reside fundamentalmente na figura do tomador de decisão e líder político.

5

Hobbesian analogy was seen as the earliest metaphorization of the international as a distinct

sphere of political interactions. Hobbes’s account of state action by way of individuals played

a key role in founding IR as an academic discipline” (EPSTEIN, 2012:292).

De forma geral, há uma tensão na teoria das Relações Internacionais entre vertentes que

tratam da agência do Estado – ou outras coletividades no sistema internacional – enquanto

algo próprio desta entidade (WENDT, 1999; WALTZ, 1979) – de modo que a agência partiria

de uma estrutura política – e que disputam essa visão, ao considerar que a agência, no campo

internacional, emana diretamente dos indivíduos ou grupos de indivíduos que representam

essas coletividades, e não da estrutura política em si (MORAVCSIK, 1997; KRASNER, 1999;

BULL, 2002). Neste último caso, o viés do individualismo metodológico3 tende a se tornar mais

patente, enquanto que aquele caso, a partir do momento em que incorre no chamado

estruturalismo metodológico, tende a ser criticado por atribuir atribuições próprias dos seres

humanos a formas sociais coletivas (ver: WIGHT, 2006).

Wendt (1999) se propõe a pensar o sistema estatal a partir da teoria social construtivista,

mas debruça-se com maior zelo sobre uma leitura da ação estatal a partir do realismo

científico4. A afirmação de Wendt de que “States are people too” (1999:194) vai de encontro

com proposições oriundas de autores liberais como Moravcsik (1997), para quem a ação

estatal pode apenas ser compreendida a partir do estudo dos grupos de interesse dos quais

o Estado é apenas uma expressão. Wendt refuta a tese de que o Estado seria tão somente

uma construção teórica ou metáfora para o que realmente importa; em vez disso, ele busca

compreender como Estados são constituídos como “pessoas” na sociedade internacional.

Nesse sentido, Estados são mais do que a soma de seus componentes: são atores reais, aos

quais é possível atribuir qualidades antropomórficas, como desejos, crenças e

intencionalidade e, portanto, trata-se de um ator que não pode ser reduzido às suas partes

(WENDT, 1999).

Essa construção teórica é criticada por Wight (2006), na medida que recairia no

denominado instrumentalismo reducionista, o qual serviria tão somente para legitimar o

argumento de que Estados são atores, sem maiores comprometimentos ontológicos. A crítica

de Wight nos leva a perceber que, uma vez fundada nos elementos “intencionalidade” e

“cognição”, a teoria de Wendt propõe uma compreensão bastante estreita da agência,

3 O individualismo metodológico compreende a exigência de que relatos casuais sobre fenômenos sociais expliquem, pelo menos em princípio, como resultam das ações e motivações dos agentes individuais. 4 Não confundir com teoria Realista nas Relações Internacionais. O realismo científico supõe que o universo é explicado da forma que realmente é pelas afirmações científicas e que a realidade existe independentemente dos seres humanos. Sujeito e objeto, enquanto elementos distintos, podem ser descobertos a partir da ciência (WENDT, 1999:49).

6

fundamentada na consciência humana, que torna o indivíduo sua fundação principal. Tal

abordagem, então, incorre na ilusão de haver incorporado o Estado à análise sem que isto

realmente tenha ocorrido, na medida que qualquer referência ao Estado acaba se tornando

uma referência aos líderes de Estado (WIGHT, 2006). Wight (2006) sustenta ser possível

conferir agência ao Estado sem necessariamente equipará-lo ao ser humano. O autor advoga

pelo estabelecimento de uma distinção entre indivíduos e complexidades sociais coletivas e

sustenta que “we must reject any notion of the state as a psychological person and inter alia

any ascription of moral personhood to the state. This is not to say that the state cannot be held

causally, or legally accountable, but it is in its status as a structural entity that this accountability

occurs.” (WIGHT, 2006:194).

Wight aponta para o debate entre a teoria da personificação do Estado – segundo a qual

o Estado é real e o indivíduo um elemento abstrato seu – e teoria instrumental – para a qual

o Estado funciona como um dispositivo abstrato cuja construção e existência dependeriam

fundamentalmente das ações dos indivíduos – e indaga se é possível rejeitar a primeira,

enquanto, ao mesmo tempo, se aceita alguma forma da tese “Estado como agente” (WIGHT,

2006:199). A saída encontrada pelo autor envolve a distinção entre diferentes coletividades:

o autor sustenta que formas sociais distintas requerem diferentes considerações sobre

agência, desenvolvendo um modelo tripartite5, capaz de diferenciar entre diversas formas de

ação social (composta por indivíduos, grupos, coletividades e corporações). Nesse sentido, o

autor concede certo nível de agência ao Estado:

(…) given that the state appears as a complex institutional ensemble – a structuratum – and given also that the particular form of its structure endows it with its own rationale and operational procedures, and given also that persons are born into it and identify with it, then the state might be considered a form of agency2. Equally, the state is also a site of political practices that seek to deploy its various institutions, organisations and capacities for specific purposes, and this invokes agency3 (…) state actions should not be attributed to the state as an originating subject, but rather should be understood as the emergent, often unintended and complex result of what rival agents within states have done and are doing on a complex strategic terrain. (WIGHT, 2006:224-225)

Uma outra perspectiva alternativa para o problema da agência é apresentada por Epstein

(2013) que, partindo da análise de ambas as formulações teóricas de Wendt (1999) e Wight

(2006), propõe uma compreensão do ator enquanto “sujeito falante”, o ator situado na posição

do eu/nós em um discurso. De acordo com Epstein, esta compreensão suspenderia a questão

a priori de quem se constitui ator no campo da política internacional, vez que o ator falante

poderia tomar forma de um indivíduo, de um Estado, ou mesmo de uma organização não-

governamental, conforme o caso em análise. Dirigindo a crítica especialmente a Wendt,

5 Para uma explanação mais completa deste caráter tripartite da agência, ver: Wight (2006).

7

Epstein (2013) defende que a via do discurso proporciona uma alternativa ao estudo da

identidade mais adequada que o Self construtivista proposto pelo autor, na medida que não

parte de pressupostos a priori acerca dos atores (EPSTEIN, 2013:314).

Desta maneira, no que concerne o debate sobre agência, o principal ponto de disputa na

teoria das Relações Internacionais envolve uma contenda entre propostas tendentes a um

maior individualismo metodológico; a uma atribuição de características humanas a instituições

e coletividades complexas; e, finalmente, a uma crítica a ambos os movimentos, tal como

distintamente tratado por Epstein (2013) e Wight (2006). Com a exceção de Epstein (2013),

que ao desenvolver a noção de ator falante, chama a atenção para a possibilidade da agência

não-humana – porém não desenvolve o debate – o elemento comum a essa contenda

compreende a posição do indivíduo enquanto fonte da ação. Possíveis variações das

vertentes aqui apresentadas e mesmo uma considerável parcela das vertentes críticas não

abarcadas nesta explanação, como, por exemplo, a aplicação da teoria do sociólogo francês

Pierre Bourdieu aos estudos internacionais (Bigo, 2011; Berling, 2012) tendem a ter como

base pelo menos uma das posições acima elencadas.

O artigo busca investigar até que ponto a abordagem teórica predominante sobre o

problema da agência nas RI é capaz de abarcar fenômenos mais recentes, a exemplo da

crescente importância das decisões algorítmicas em diversas esferas da vida social. Nos

questionamos em que medida é possível inserir elementos não-humanos como estes nas

considerações da disciplina sobre agência. Partimos da observação feita por Wight (2006) e

ecoada por Epstein (2013) de que é possível teorizar agência nas RI sem recorrer à sua

equiparação com o ser humano, porém nos distanciamos destas abordagens na medida que

sustentamos que é possível pensar ambos os casos – humano e não humano – de forma co-

constitutiva e que ambos possuem elementos próprios, o que tornaria indesejável para a teoria

a redução de um ao outro.

3. REPENSANDO A AGÊNCIA A PARTIR DAS DECISÕES ALGORITMICAS

O desenvolvimento e amplo uso das TICs para a realização de distintas tarefas cotidianas,

desde seu emprego para o comércio eletrônico perpassando sua centralidade nas hierarquias

governamentais, até a corriqueira prática de conectar pessoas por meio de sistemas de troca

de mensagens e redes sociais, resultou em transformações sociais, econômicas e políticas

amplas ao redor do mundo. Nas Relações Internacionais, preocupações com os impactos

dessas tecnologias se traduziram, i.e., em considerações sobre aspectos econômicos

(ROSENAU; SINGH, 2002); debates sobre sua influência na conceituação e exercício do

poder (KEOHANE; NYE, 1998; BETZ; STEVENS, 2011; ROSENAU; SINGH, 2002);

governança (NYE, 2014; MUELLER, 2010; ROSENAU; SINGH, 2002); e seus impactos em

8

termos de segurança, face a centralidade adquirida pelo conflito cibernético (RID, 2012;

MUELLER, 2010; DEIBERT, 2011; 2013; DUNN CAVELTY, 2015; KARATZOGIANNI, 2006).

A vida cotidiana, quase que em sua totalidade, passa a ser permeada por instruções

matemáticas invisíveis que exercem comando sobre a operação do maquinário físico

(KITCHIN; DODGE, 2011). Kitchin e Dodge (2011) indicam que o poder exercido por essas

instruções pode ser tanto significante e banal quanto significar a diferença entre algo ocorrer

ou não. Enquanto no primeiro caso, uma eventual interrupção no funcionamento do software

resulta em tão somente uma mera inconveniência, no segundo caso, “(...) when some software

systems crash, they can create major incidents with serious economic and political effects, and

even life-threatening situations” (KITCHIN; DODGE, 2011:10).

Essas instruções, ou algoritmos, se configuram como aspecto central ao funcionamento

das TICs e tem recebido ampla atenção de diversos campos de estudo nas últimas décadas.

Uma parcela razoável dos algoritmos opera de maneira corriqueira e, até certo ponto,

previsível, como é o caso da maior parte dos algoritmos que comandam o funcionamento de

sistemas industriais, tornando-se um problema apenas na medida em que seu funcionamento

cotidiano é impedido por fatores internos (erro e mal funcionamento do sistema) ou externos

(quando a ação de terceiros leva ao problema de funcionamento, i.e., quando o sistema é alvo

de um malware) (DONEDA; ALMEIDA, 2016; GILLESPIE, 2014; KITCHIN; DODGE, 2011).

Todavia, com a crescente importância dos avanços no campo da inteligência artificial, e sua

aplicação a diversas situações, desde tarefas simples como filtragem de spam em plataformas

de e-mail e personalização de publicidade, até a análise de risco sobre a periculosidade de

um réu ou a capacidade de autoprogramação, uma gama específica de instruções tem

recebido a atenção da literatura especializada: são estas a aprendizagem profunda e a

aprendizagem de máquina6.

Um crescente campo da literatura atenta para o poder e capacidade de governança dos

algoritmos (AMOORE; PIOTUKH, 2016; DONEDA; ALMEIDA, 2016; SAURWEIN; JUST;

LATZER, 2015; PASQUALLE, 2015; GILLESPIE, 2014). O campo dos estudos críticos sobre

algoritmos expandiu as fronteiras dos algoritmos para além da matemática, engenharia e

ciências da computação para incluir preocupações de natureza sociológica, legal, geográfica,

e ética relativas às relações entre algoritmos e o tecido social. O interesse nesses

instrumentos cresceu consideravelmente, acompanhando o constante recurso à análise de

6 Ambas são formas de inteligência artificial. A aprendizagem de máquina (machine learning) tem por base o uso da análise estatística e preditiva para identificar padrões em bases de dados, sem a necessidade de que o computador seja programado sobre onde busca-los. Ela facilita ao computador aprender e se ensinar à medida em que este é exposto a novos dados; a aprendizagem profunda (deep learning) representa um passo mais avançado do que a anterior e permite uma aprendizagem mais ágil (avaliação, processamento e capacidade de se adaptar a diferentes variantes de uma informação).

9

dados como técnica de governança e a tendência de se utilizar a análise de dados “as a basis

for legal and policy decision, action, thinking, and prediction on the global plane” (JOHNS,

2016:3; 2014; ITS, 2016). Amoore e Piotukh (2016) chamam a atenção para o fato de que

estes instrumentos criam novas percepções de mundo, bem como visibilidades e

invisibilidades, no momento em que selecionam o tipo de conteúdo a ser visualizado e definem

uma pessoa ou objeto de interesse mediante correlações entre dados. A opacidade, aliás, se

configura como principal característica desses instrumentos, diante da patente inabilidade dos

seres humanos de compreender, explicar ou prever o funcionamento e eventuais problemas

deles decorrentes (DONEDA; ALMEIDA, 2016).

As operações dos algoritmos se encontram cada vez mais imiscuídas na vida social e

política. Eles controlam, governam, classificam, regulam e moldam; fazem julgamentos,

selecionam o que será visualizado na linha do tempo das redes sociais, efetuam buscas na

Internet, servem de base para transações financeiras, auxiliam decisões judiciais,

estabelecem correlações sobre ameaças à segurança nacional, e tem se tornado cada vez

mais importantes em ações humanitárias e projetos de desenvolvimento (UN GLOBAL

PULSE, 2017; AMOORE; PIOTUKH, 2016; LEANDER, 2015; JOHNS, 2015). A governança

de distintas esferas da vida internacional – da preservação do meio ambiente à migração e

ajuda humanitária – sugere uma combinação discreta entre algoritmos e diversas técnicas de

governança (JOHNS, 2015). O papel, até certo ponto, sub compreendido, destes instrumentos

nas RI se torna visível a partir dos esforços, no âmbito das Nações Unidas e em outros

campos, para se construir uma revolução digital enquanto objeto da governança global – o

que se torna evidente em debates sobre governança da Internet (FLYVERBOM, 2010).

Sustentamos assim que, à medida que as tecnologias da informação se incorporam à vida

política internacional, é interessante para as RI buscar compreender o fenômeno da decisão

na era digital. No caso das decisões algorítmicas, isso depende fundamentalmente da

ampliação do conceito de agência predominante na disciplina.

3.1. REPENSANDO AGÊNCIA A PARTIR DA TEORIA ATOR REDE

A proposta de se repensar a abordagem teórica acerca da agência nas RI advém da

necessidade de se melhor compreender os efeitos dos algoritmos na vida social – até que

ponto, por exemplo, se pode afirmar que estes instrumentos “exercem” poder sobre as vidas

das pessoas, ou contribuem com arranjos específicos que não seriam possíveis não fossem

as características comuns a esta forma de operação matemática. Como visto na seção

anterior, as RI lidam com o problema da agência tendo o elemento humano como principal

parâmetro, centrando-se em elementos fundamentalmente humanos como intencionalidade,

subjetividade e livre-arbítrio. Uma vez que a ação é restrita a esses elementos, de fato, torna-

10

se difícil compreender como os algoritmos – ou outros elementos não-humanos – teriam

qualquer possibilidade de “ação”. Nesse contexto, seus efeitos se restringem ao domínio das

relações materiais causais, e não ao domínio das relações sociais (LATOUR, 2005).

De modo geral, as Ciências Sociais abordam a questão da agência de duas maneiras: ou

ela é vinculada ao indivíduo e suas características próprias, como subjetividade,

intencionalidade, etc.; ou esta concepção é ampliada, de modo a compreender tanto a ação

intencional quanto tudo mais que modifica o estado das coisas (LATOUR, 2005; SAYES,

2014). Esta última posição se tornou particularmente associada à teoria ator-rede7 (TAR) e

sua abordagem minimalista à questão da agência (SAYES, 2014).

Recentemente, a corrente chamou a atenção de estudiosos nas RI, que se debruçaram

sobre como, uma vez que possível, a disciplina poderia aproveitar suas considerações

epistemológicos e ontológicos (BEST; WALTERS, 2013; NEXON; POULIOT, 2013; BUEGER,

2013; SALTER; WALTERS, 2016). A teoria ator-rede compreende uma série de posições

metodológicas e epistemológicas que reivindica que a análise do poder, desigualdade,

mudança e estabilidade, e, enfim, da constituição da sociedade como um todo, considerada

de forma ampla, requer abraçar seu caráter fundamentalmente contingente. O “social”, nesse

sentido, não se trata de um domínio particular da realidade, mas de um processo, um

movimento, uma transformação, tradução, deslocamento, que se materializa a partir da

interação de várias entidades associadas entre si por intermédio de uma rede (LATOUR,

1996; 2005; LAW, 1992; SAYES, 2014). A insistência no “processo” sugere que: “no version

of the social order (…) no agent, is ever complete, autonomous, and final (...) there is no such

thing as "the social order" with a single center, or a single set of stable relations. Rather, there

are orders, in the plural. And, of course, there are resistances” (LAW, 1992:386). Desse modo,

o que muitos sociólogos abraçam como sociedade seria o produto passageiro e

precariamente estável de processos em constante transformação8 (LATOUR, 2005:64-65).

A teoria ator-rede não estabelece presunções, a priori, sobre o que determina o caráter da

mudança ou estabilidade social. Isto implica em um reconhecimento metodológico da posição

de tanto humanos quanto não-humanos9 enquanto elementos constitutivos de uma rede e

7 Muito embora se convenha denominar “teoria” ator-rede, não é objetivo da TAR explicar o porquê ou como uma rede se forma de uma forma específica. Por isso, seus proponentes sugerem que se trata de uma teoria em um sentido mais brando, representando principalmente um conjunto de atitudes metodológicas para a pesquisa sociológica (MOL, 2010; SAYES, 2014). Law (1992) opta por utilizar o termo sociologia da tradução. 8 A ênfase em uma espécie de pura contingência aproxima a teoria ator-rede da posição filosófica de Maquiavel, em O Príncipe. 9 Sayes (2014) esclarece que termo “não-humano” pode compreender ferramentas, artefatos técnicos, estruturas materiais, dispositivos de transporte, textos, fenômenos naturais, animais e bens econômicos; ficam excluídos os humanos, entidades inteiramente simbólicas, supernaturais e existentes em uma escala tal que sua composição é literalmente humana e não-humana.

11

fontes de ação. Para Latour (1996), “an ‘actor’ in AT is a semiotic definition (...) something that

acts or to which activity is granted by others. It implies no special motivation of human

individual actors, nor of humans in general. An actant can literally be anything provided it is

granted to be the source of an action” (LATOUR, 1996:7; ver também: LATOUR, 2005:71;

SAYES, 2014:138). A atribuição de agência aos elementos não-humanos, que Latour (2005)

define como a “terceira fonte de incerteza”, é de longe o que mais visibilidade rendeu à teoria

– e também críticas.10 Redes que compõem o “social”, portanto, são constituídas por

elementos humanos e não-humanos interagindo de tal forma que se um desses elementos

abandona a rede, o resultado final sofreria consideráveis transformações (LAW, 1992).

Para Sayes (2014), a presença de entidades não-humanas no centro da teoria ator-rede

sugere uma insatisfação com uma tradição filosófica que opõe sujeito e objeto, tratando-os

como elementos radicalmente diferentes. O autor se distancia de afirmações, dentro da

própria TAR, que sugerem uma equiparação absoluta ou de natureza ética entre humanos e

não-humanos, argumentando que essas afirmações teriam “natureza fraca” em relação à

proposta metodológica da TAR, que involve em não se limitar a definir as distinções entre

essas entidades antes da análise em questão.11 De fato, a posição de Sayes (2014) parece

enxugar a crítica de Latour (2005) à “sociologia do social” de seus exageros, mantendo seus

argumentos em favor da importância metodológica e epistemológica de se considerar a

agência de elementos não-humanos, em outras palavras, a forma como estes alteram os

arranjos em uma rede.

De forma similar a certas abordagens nas RI (BALDWIN, 2013; GUZINNI, 2013; BIGO,

2011), a teoria ator-rede sugere uma concepção relacional de poder. O poder é visto não

como um conjunto de causas, mas como efeito das relações entre entidades humanas e não-

humanas interagindo em redes, operando também de maneira distribuída (LAW, 1992).

Aproximando-se também de Foucault, a teoria ator-rede se propõe a analisar as disputas por

ordem, por exemplo, a partir de processos locais de padronização, orquestração social,

ordenamento e resistência e como estes geram efeitos ordenadores, como dispositivos,

agentes, instituições e organizações. Fundamentalmente distinta é a atitude metodológica (e

epistemológica) em face ao não-humano.

Partindo das reflexões proporcionadas pela perspectiva, podemos vislumbrar a presença

dos algoritmos nas distintas redes que constituem o que se compreende por social e

internacional, de forma alternativa ao típico determinismo materialista que acompanha

considerável parte das ciências sociais; algoritmos “exercem” um poder próprio sobre outros

10 Sayes (2014) lida com algumas destas críticas ao tratar sobre a perspectiva de agência na ANT. 11 O forte empiricismo defendido pela TAR lhe rende críticas. Ver: Elder-Vass (2015).

12

elementos na rede e é fundamental levar em consideração que eles autorizam, definem,

selecionam, discriminam, associam, escolhem e decidem sobre vastos amontoados de dados

de forma distinta às pretensões de seus programadores – e alteram, fundamentalmente, o

estado das coisas nas redes onde se inserem.

Algoritmos “agem” de forma mais ou menos independente de seus criadores humanos,

suas intenções ou livre-arbítrio; afetando, porém, estes mesmos criadores de formas, por

vezes, ainda pouco compreendidas pelos especialistas. Quando, por exemplo, um juiz justifica

a sua sentença condenatória com base em nos cálculos de risco de um relatório produzido

por um programa de computador12, não se trata de uma função meramente instrumental de

todo o aparato lógico-matemático; o algoritmo utilizado significativamente afetou o resultado.

O mesmo se aplica, por assim dizer, se o Alto Comissariado das Nações Unidas para os

Refugiados (ACNUR) opta por automatizar o processo de concessão de auxílio para

solicitantes de refúgio, substituindo o poder decisório humano pela decisão automatizada: isso

resultaria em uma significativa alteração dos elementos da rede e, possivelmente, dos

arranjos dela resultantes. Não por acaso, parte da literatura no campo dos estudos críticos

sobre algoritmos tem advogado pela criação de um mecanismo de prestação de contas para

algoritmos (PASQUALLE, 2015)

Nos posicionamos de forma similar a Bueger (2013) quando sustentamos que a teoria

ator-rede tem potencial para enriquecer o repertório metodológico e teórico das RI para se

compreender o “internacional”. De maneira similar a muitas abordagens importadas para o

campo, como o pragmatismo e a teoria da prática, a teoria ator-rede se preocupa em se

afastar de dualismos, compartilha de um interesse em processos criativos envolvidos na

produção e manutenção dos fenômenos e atenta para a importância da performatividade

(BUEGER, 2013). Entretanto, a contribuição da teoria ator-rede às RI não deve ser vista como

novo modelo teórico para a disciplina, não apenas por isso poder transformar a própria TAR

em uma caixa preta, como principalmente por isso ignorar a relação ambígua que a

abordagem tem com a ideia de teoria”, com T maiúsculo. Como argumentam Best e Walters

(2013), “to make such a move would only repeat the import syndrome so common in IR, as

theories ranging from institutionalist economics to constructivism and governmentality have

been brought wholesale into international relations” (BEST; WALTERS, 2013:333). A principal

reflexão facilitada pela teoria ator-rede, nesse sentido, envolve reconhecer que a ação coletiva

12 Em referência ao uso, como fundamento da condenação de Eric L. Loomis, do relatório produzido pela Compas, uma ferramenta de análise de risco desenvolvida pela Northpointe Inc. que se utiliza algoritmos para calcular o grau de periculosidade do indivíduo e a possibilidade de reincidência. Ver: NYT (2017).

13

e o exercício de poder dependem, fundamentalmente, da ação humana e não-humana (BEST;

WALTERS, 2013).

4. CONCLUSÃO

A partir do conceito de agência, o presente artigo propôs discutir os limites explanatórios

do corpo teórico das relações internacionais face à crescente automatização de diversos

processos cotidianos – facilitados pela expansão das tecnologias da informação e

desenvolvimento da inteligência artificial nestes meios. Pontuou-se que as abordagens

heterodoxas que constituem a disciplina se apoiam em uma conceituação de agência

fundamentada no elemento humano, quer como única fonte ou quer como pré-condição para

a atribuição da agência a coletividades, cuja agência é tida como distinta daquela de suas

partes constituintes. O artigo apresentou o fenômeno das decisões algorítmicas como

principal desafio à conceituação internacionalista sobre agência, na medida que estas

decisões dependem cada vez menos da vontade ou das intenções de seus programadores.

O fenômeno da decisão algorítmica deu origem a todo um campo de estudos voltado à

compreensão dos aspectos sociológico, jurídico, político, filosófico, ético, psicológico, etc.,

das decisões algorítmicas. Diante deste cenário, argumentou-se que é possível pensar

algoritmos como portadores de uma agência própria, em outras palavras, como fontes da ação

em uma determinada assemblagem social.

O artigo buscou no campo dos Estudos de Ciência e Tecnologia uma alternativa para se

fazer sentido sobre os efeitos das decisões algorítmicas em diversos campos sociais,

sugerindo que a teoria ator-rede (actor-network theory) e sua proposta de indistinção

metodológica entre humanos e não-humanos tem potencial para contribuir para a disciplina

nesta questão. A teoria ator-rede situa todos os fatores compreendidos em uma dada situação

social, a priori, no mesmo nível e considera que objetos, ideias, processos, dentre outros, são

tão importantes quanto seres humanos para a composição de situações sociais. Relações,

nesse sentido, são tanto materiais quanto semióticas. Os proponentes da teoria ator-rede

sustentam que é apenas a partir de uma análise estritamente empírica que é possível

descrever (preferível a explicar) situações sociais.

A sociologia plana da teoria ator-rede é alvo de críticas substanciais, em razão das

diversas posições metodológicas e epistemológicas que sustenta. Há limitações, por exemplo,

na maneira como Latour concebe a agência humana e não-humana como de mesma

qualidade (CUDWORTH; HOBDEN, 2013; SAYES, 2014); e uma leitura realista-filosófica

prontamente sugere tanto a ausência de uma ontologia profunda (ELDER-VASS, 2008)

quanto os problemas e contradições ontológicos decorrentes da posição Latouriana (ELDER-

VASS, 2015). Estas críticas não são sem fundamento e chamam a atenção para as limitações

e contradições da própria teoria ator-rede e para a necessidade de um posicionamento mais

14

assertivo e coerente de seus proponentes. Entretanto, mesmo os críticos reconhecem a

contribuição ímpar da teoria ator-rede e sua ênfase na indistinção (metodológica ou não) entre

humanos e não-humanos, em termos das interações complexas que seus proponentes

defendem, em particular, do esforço dedicado a iluminar o papel dos elementos não-humanos

na constituição do mundo social (ELDER-VASS, 2008; 2015).

Dessa forma, enquanto se sugere cautela em abraçar de vez todos os compromissos

metodológicos, ontológicos e epistemológicos sugeridos pela teoria ator-rede (ou importa-los

imediatamente às RI), consideramos serem de enorme valia para a discussão sobre agência

na disciplina as contribuições dessa abordagem em termos da ênfase em formas distintas de

agência para além da humana e o reconhecimento de que a ação não é uma característica

exclusivamente antropocêntrica. A teoria ator-rede, nesse sentido, teria muito a contribuir com

as RI ao permitir a ampliação do conceito de agência predominante na disciplina, permitindo,

assim, que se inclua na análise social uma diversa gama de elementos até então mantidos

em uma estante, à espera do estabelecimento de alguma relação causal possivelmente

determinística. Este é um passo importante se desejamos compreender como o fenômeno

das decisões algorítmicas afeta a vida cotidiana e as distintas disputas de poder, política,

desigualdade e conflitos compreendidos no campo das relações internacionais.

REFERÊNCIAS

AMOORE, L; PIOTUKH, V. Introduction. Em: AMOORE, L.; PIOTUKH, V. eds. Algorithmic life:

calculative devices in the age of big data. New York: Routledge, 2016.

ARQUILLA, J.; RONFELDT, D. Cyberwar Is Coming! Santa Monica: RAND Corporation, 1993.

BALDWIN, D. A. Power and International Relations. In: CARLSNAES, W.; RISSE, T.; SIMMONS, B. A.

eds. Handbook of International Relations. London: SAGE, 2013.

BELLANOVA, R. Data protection, with love. International Political Sociology, 2014, p.112-115.

_____________. Digital, politics, and algorithms: Governing digital data through the lens of data

protection. European Journal of Social Theory, 2016, p.1–19

BEST, J.; WALTERS, W. “Actor-Network Theory” and International Relationality: Lost (and Found) in

Translation, International Political Sociology, 3(7), 2013.

BERLING, T. V. Knowledges. Em: ADLER-NISSEN, R. ed. Bourdieu in International Relations:

Rethinking Key Concepts in IR. London: Routledge , 2013, p.59-77.

_____________. Bourdieu, International Relations, and European Security. Em: Theory and Society,

2012, p. 451–478.

BETZ, D.J.; STEVENS, T. Cyberspace and the State: Toward a Strategy for Cyber-power. New York:

Routledge, 2011.

BIGO, D. Pierre Bourdieu and International Relations: Power of Practices, Practices of Power.

International Political Sociology, 2011, p.225-258.

BUEGER, C. Actor Network Theory, Methodology and International Organization. International Political

Sociology, 3(7), 2013.

15

BULL, H. A Sociedade Anárquica. Brasília: Editora UnB, 2002.

CARR, E. H. Vinte Anos de Crise: 1919-1939.Uma Introdução ao Estudo das Relações Internacionais.

Brasília: Editora UnB, 2001.

CUDWORTH, E. HOBDEN, S. Of Parts and Wholes: International Relations beyond the Human,

Millennium: Journal of International Studies,41(3), 2013, p. 430–450

DEIBERT, R. Black Code: inside the battle for cyberspace. Oxford: Signal, 2013.

DEIBERT, R. Tracking the emerging arms race in cyberspace. Bulletin of the Atomic Scientists 67(1),

2011, p.1-8.

DINIZ, G., MUGGAH, R.; GLENNY, M. Deconstructing cyber security in Brazil: Threats and responses.

Igarapé Institute Strategic Paper 11, December 2014.

DONEDA, D.; VIRGÍLIO A.F. Almeida. What is Algorithm Governance? Em: IEEE Internet Computing,

July/August 2016, p. 60-63.

DUNN CAVELTY, M. “Critical Infrastructures: Vulnerabilities, Threats, Responses.” CSS Analysis in

Security Policy, 2007.

_______________ The Normalization of Cyber-International Relations. Em: Strategic Trends 2015: Key

Developments in Global Affairs. CSS, 2015.

ELDER-VASS, D. Searching for realism, structure and agency in Actor Network Theory. British Journal

of Sociology, 59 (3), 2008, p.455-473.

___________. Disassembling Actor-network Theory. Philosophy of the Social Sciences, vol. 45(1),

2015, p. 100–121

EPSTEIN, C. Theorizing Agency in Hobbes’ wake: The Rational Actor, the Self, or the Speaking

Subject? International Organization 67, Spring 2013:287–316.

FLYVERBOM, M. Hybrid networks and the global politics of the digital revolution – a practice-oriented,

relational and agnostic approach. Global Networks, 2010, p. 424-442.

GILLESPIE, T. The Relevance of Algorithms. Em: GILLESPIE, T.; BOCZOKOWSKI, P.; FOOT, K. eds.

Media Technologies. Cambridge: MIT Press, 2014.

GUZZINI, S. Power, Realism and Constructivism. London: Routledge, 2013.

ITS. Big Data in the Global South Project: Report on the Brazilian Case Studies. Instituto de Tecnologia

e Sociedade: Rio de Janeiro, 2016.

JOHNS, F. The Turn to Data Analytics and International Law. ESIL Reflections, 2014.

___________. Data Territories: Changing Architectures of Association in International Law. Netherlands

Yearbook of International Law, 6 de junho de 2016.

KARATZOGIANNI, A., ed. Cyber Conflict and Global Politics. London: Routledge, 2009.

KRASNER, S. Sovereignty: Organized Hypocrisy. Princenton: Princenton University Press, 1999.

KEOHANE, R; NYE, J. Power and Interdependence in the Information Age. Foreign Affairs 77, nº 5

(September/October 1998), p. 81-94.

KITCHIN, R.; DODGE, M. Code/Space: software and everyday life. Cambridge MA: The MIT Press,

2011.

LATOUR, B. Reassembling the social: An Introduction to Actor Network Theory. Oxford: Oxford

University Press, 2005, part I, Third source of uncertainty

16

_______________. On actor-network theory. A few clarifications plus more than a few complications.

Soziale Welt, vol. 47, pp. 369-381, 1996.

LAW, J. Notes on the Theory of the Actor-Network: Ordering, Strategy, and Heterogeneity. Systems

Practice, 5(4), 1992, pp.379-393.

LEANDER, A. Theorising international monetary relations: three questions about the significance of

materiality. Contexto Internacional, 2015.

MORGENTHAU, H. A Política entre as Nações. Brasília: Editora UnB, 2003.

MOL, A. Actor-Network Theory: Sensitive Terms and Enduring Tensions. Kölner Zeitschrift für

Soziologie und Sozialpsychologie 50 (1), 2010, p. 253–269.

MORAVCSIK, A. Taking Preferences Seriously: A Liberal Theory of International Politics. International

Organization, 51(4), 1997, p.513-53.

MUELLER, M. Networks and States: The Global Politics of Internet Governance. Cambridge: MIT Press,

2010.

NEXON, D. H.; POULIOT, V. “Things of Networks”: Situating ANT in International Relations,

International Political Sociology, 3(7), 2013.

NYE, J. S. The Regime Complex for Managing Global Cyber Activities. Centre for International

Governance Innovation and the Royal Institute for International Affairs, 2014.

PASQUALLE, F. The Black Box Society: The Secret Algorithms that Control Money and Information.

Cambridge: Harvard University Press, 2015.

RID, T. Cyber War Will Not Take Place. Journal of Strategic Studies 35(1), 2012.

ROSENAU, J. N.; SINGH, J. P. Information Technologies and Global Politics: The Changing Scope of

Power and Governance. Albany: State of New York Press, 2002. Introduction.

ROSSDALE, C. Anarchy is what anarchists make of it: reclaiming the concept of agency in IR and

security studies. Millennium: Journal of International Studies, 39 (2), 2010, pp. 483-501.

SALTER, M. B.; WALTERS, W. Bruno Latour Encounters International Relations: An Interview.

Millennium: Journal of International Studies, Conference Interview, 2016, 1 –23

SAURWEIN, F.; JUST, N.; LETZER, M. Governance of algorithms: options and limitations. Info 17(6),

2015, p.35-49.

SAYERS, E. Actor–Network Theory and methodology: Just what does it mean to say that nonhumans

have agency? Social Studies of Science, 44(1), 2014:134-149.

SCHINDLER, S. Man versus State: Contested Agency in the United Nations. Millennium: Journal of

International Studies, 2014, Vol. 43(1) 3–23.

UN GLOBAL PULSE. United Nations Global Pulse: Harnessing Big Data for Development and

Humanitarian Action. Acesso: 30/05/2017 http://www.unglobalpulse.org/.

WALTZ, S. Theory of International Politics. Menlo Park: Addison-Wesley: 1979.

WENDT, A. Social Theory of International Politics. Cambridge: Cambridge University Press, 1999.

WIGHT, C. Agents, Structures and International Relations: Politics as Ontology. Cambridge: Cambridge

University Press, 2006. Cap. 5.