Internationali Negotia Bruno José Bergamaschi Kumer Reis

Comissão de Ciência e Tecnologia para o Desenvolvimento

Robôs e automatização de equipamentos militares

MODELO INTERNACIONAL DO BRASIL

Brasília - DF 2015

1

1. Histórico do Comitê

A Comissão de Ciência e Tecnologia para o Desenvolvimento (CCTD) faz parte do

sistema da Organização das Nações Unidas (ONU) e é um dos comitês subordinados ao

Conselho Econômico e Social das Nações Unidas (ECOSOC), um dos seis principais órgãos

da ONU, demonstrando a ligação direta que existe entre a ciência e a tecnologia e posições

socioeconômicas das nações. A comissão atual do CCTD é formada por 43 Estados-membros,

que são eleitos pelo ECOSOC para atuar por um período de quatro anos. É composta por

cinco membros dos Estados europeus orientais, nove membros dos Estados asiáticos, onze

membros dos Estados africanos, oito membros dos Estados latino-americanos e caribenhos e

dez membros dos Estados europeus ocidentais e outros.

O CCTD nasce no contexto de mudanças do início da década 1990, onde a Ciência e

Tecnologia atingem uma abrangência nunca antes vista na história. Com o fim da Ordem

Bipolar e, consequentemente, a difusão para as populações das tecnologias desenvolvidas

nesse período, se inicia a chamada Era da Informação.

A comissão foi estabelecida em 1992 para fornecer à Assembleia Geral e ao Conselho

Econômico e Social da ONU uma consultoria de elevada qualidade sobre questões atuais de

alta relevância, permitindo assim que o CCTD possa guiar o futuro trabalho das Nações

Unidas, no que tange à Ciência e à Tecnologia, desenvolvendo políticas de interesse comum

aos membros participantes e ajudando os países a chegarem à acordos benéficos para todas as

partes.

O primeiro encontro do CCTD foi em 1993 e desde então a secretaria de Comércio e

Desenvolvimento das Nações Unidas (UNCTAD) tem sido a responsável pela manutenção da

Comissão. Nesse contexto internacional, o CCTD tem a função de examinar as questões

relacionadas à ciência e tecnologia e suas implicações para o desenvolvimento, obter um

avanço na compreensão sobre as políticas de ciências e tecnologia dos países em geral,

particularmente em relação às políticas dos países que se encontram em desenvolvimento,

estimular a cooperação entre os países do Norte e os países do Sul, no âmbito de transferência

de tecnologia, e por fim formular recomendações e orientações sobre questões científicas e

tecnológicas das Nações Unidas.

Assim, com o constante aumento do desenvolvimento tecnológico e da integração

entre pessoas e países por meio da tecnologia, o papel do CCTD se mostra cada vez mais

importante dentro da ONU, sendo cada vez mais fundamental para a grande maioria das

questões internacionais. Afinal, a tecnologia está presente em vários aspectos no mundo

globalizado em que vivemos.

2

2. Introdução

Iniciada na Inglaterra, em meados do século XVIII, a 1ª Revolução Industrial foi um

conjunto de mudanças tecnológicas que causaram um profundo impacto no processo

produtivo. A era da agricultura havia sido superada e, a partir daquele momento, cada vez

mais, o trabalho artesanal passou a ser substituído pelo uso das máquinas e,

consequentemente, a automação do processo de produção se tornaria cada vez mais presente

dentro da sociedade como um todo, abalando para sempre a forma como se davam as relações

de trabalho.

Em seguida, tivemos a 2ª Revolução Industrial, iniciada por volta de 1870, tendo como

berço os Estados Unidos da América. Foi responsável por grande parte do desenvolvimento

científico, técnico e de trabalho que ocorreram na Primeira e, principalmente, na Segunda

Guerra Mundial. Teve como sistema de produção o Fordismo, termo criado por Henry Ford

que caracteriza um método de produção que visa à produção e ao consumo em massa,

causando um conjunto de mudanças nos processos de trabalho, sendo caracterizados por

linhas de montagem e semi-automatização do processo de produção.

E temos a 3ª Revolução Industrial, que é a grande responsável pelo estilo de vida

tecnológico que temos hoje e a mais relevante na problemática que iremos tratar dentro deste

comitê. Iniciou-se na década de 1970, tendo como base o uso e desenvolvimento de alta

tecnologia. Nesse período, o mundo conheceu inovações como a microeletrônica, a

informática, os robôs, a biotecnologia entre outras tecnologias dinamizadoras do processo de

produção.

A principal máquina desse período é o computador, uma máquina flexível, composta

por duas partes, o hardware (os componentes físicos da máquina) e o software (os programas

de computadores no geral, responsáveis por dar as instruções ao hardware). O hardware e o

software integram-se sob o comando de um chip, fazendo o computador uma máquina

diferente das demais. Um computador pode ser reprogramável e até mesmo auto programável,

basta que se altere o software que é executado na máquina. E é através dessa máquina

amplamente utilizada no mundo todo, para as mais variadas funções, que surge o conceito-

chave desse comitê, a inteligência artificial.

A inteligência artificial (IA) é a implementação de uma inteligência similar à humana

por meio de um software, ou algum outro mecanismo tecnológico. A que nos interessa aqui, é

aquela implementada em máquinas com o propósito de torná-las um agente inteligente, ou

seja, um sistema que ao perceber seu ambiente, é capaz de tomar atitudes que maximizam

3

suas chances de sucesso em uma dada tarefa a ser cumprida.

O principal objetivo por trás da IA é conseguir fazer com que máquinas consigam

pensar como seres humanos ou que sejam tão inteligentes quanto o homem.Espera-se que

essas máquinas sejam capazes de adquirir habilidades humanas e substituir a atividade

humana em determinadas tarefas. Existem várias formas de se fazer isso. Formas mais

simples como, por exemplo, para um problema x, a resposta programada é y, e formas mais

complexas como a implementação de redes neurais, onde a máquina tentar reproduzir o

funcionamento de neurônios humanos, em que as informações são transmitidas de uma célula

a outra e se combinando com outros dados para se chegar a uma única solução.

Existem vários segmentos no estudo de sistemas inteligentes, em que cada um se

dedica a um aspecto específico do comportamento humano. Para ilustrar, temos, por exemplo,

especialistas que estudam robôs e se preocupam com a parte motora deles, enquanto outras

áreas estudam a fala do ser humano para desenvolver máquinas que possam se comunicar,

entendendo o que é falado e o significado da fala.

O que dificulta a criação de uma máquina capaz de se assemelhar muito com um ser

humano é que todas as áreas de estudo da inteligência artificial são muito específicas e

requerem muita especialização no assunto, o que torna a tarefa de construir uma máquina que

reproduza o ser humano em sua totalidade, quase impossível de ser realizada. Por isso, é

pouco provável que se desenvolvam máquinas que se tornem mais inteligentes que o próprio

ser humano, pois além de todos motivos supracitados, temos também o fato de que o próprio

ser humano não conhece a totalidade do próprio cérebro e está longe de conhecer.

Existem diversas pesquisas que tem o objetivo de desenvolver uma máquina que tenha

capacidade de aprendizagem e assimilação de informações equivalente à do ser humano, mas

os esforços nesse sentido têm passado longe de ser bem-sucedidos. Prova disso é que até hoje

nenhuma máquina tenha conseguido passar pelo Teste de Turing, no qual um julgador irá

entrar em uma conversa com outro ser humano, em linguagem natural, e com uma máquina

projetada para produzir respostas indistinguíveis de outro ser humano. Caso o juiz não seja

capaz de distinguir a máquina do humano, a máquina passa no teste.

Tudo isso pode parecer que beira a ficção e está muito distante da nossa realidade, a

inteligência artificial já está presente no cotidiano da população em geral. Por exemplo, no

desenvolvimento de jogos que utilizam a IA para criar videogames cada vez mais complexos,

ou máquinas fotográficas, que fazem foco automático dependendo do que você quer

fotografar ou que disparam ao encontrar um sorriso. Até mesmo em nossos celulares, nos

corretores ortográficos, é necessário um sistema inteligente para detectar que há um erro de

4

sintaxe em uma frase e oferecer uma solução.

3. Problemática

No CCTD, por mais que existam físicos e cientistas de renome, como por exemplo

Stephen Hawking, que acreditam que o completo desenvolvimento da inteligência artificial

pode significar o fim da raça humana, não é o assunto o qual iremos tratar aqui. A

problemática que será abordada é algo factível e que, por alguns Estados-membros deste

comitê, já foi inclusive testado.

Essa problemática pode ser introduzida com uma questão ética e moral famosa

chamada de "The Trolley Problem" (ou O Dilema do Bonde), aplicada em uma tecnologia já

presente em nossas vidas em algumas partes do mundo: O seu carro que é auto tripulado, seria

programado para matar seu tripulante caso isso significasse salvar a vida de mais pessoas

estranhas?

Não assumiremos aqui um lado para a resolução desse problema, pois a resposta para

ele pode variar dependendo da crença da pessoa a quem o problema é dado. Caso seja uma

pessoa que acredite no utilitarismo, provavelmente tomaria um lado, caso acreditasse na

Deontologia, possivelmente, tomaria outro. Mas o que nos interessa aqui são as variações

desse problema.

E se a pessoa que estivesse na frente do seu carro fossem cinco criminosos perigosos,

a sua ação ainda seria a mesma? E se a pessoa que estivesse na rua fosse seu único filho, você

jogaria seu carro contra a parede para salvá-lo? A questão é, se nem seres humanos racionais

com consciência do mundo a sua volta e conhecimento sobre ele, conseguem decidir a ação a

ser tomada de imediato, será que máquinas programadas para dirigir sozinhas, que não

possuem esse conhecimento, conseguiriam tomar a melhor ação em uma situação como essa?

Com essa questão ética levantada, iremos agora aplicar esse mesmo contexto para o

tema do qual viemos tratar aqui, a automatização de equipamentos militares. Em outono do

ano passado, um bombardeiro B-1 da Força Aérea lançou um míssil experimental.

Inicialmente, os pilotos a bordo do avião direcionaram o míssil, mas na metade do percurso

até seu destino, ele rompeu a comunicação com seus operadores. Sozinho, sem nenhuma

supervisão humana, o míssil decidiu qual dos três navios atacar, baixando pouco acima da

superfície do mar e atingindo um cargueiro não tripulado de 79 metros.

Do ponto de vista militar, o teste foi considerado um sucesso. Mas o projeto desse

novo míssil e de outras armas que podem escolher alvos por conta própria tem provocado um

5

alvoroço no mundo científico e gerado a crítica de diversos analistas, alegando que existe um

limiar ético que está sendo cruzado.

Os críticos alegam que os fabricantes de armas estão dando os primeiros passos para o

desenvolvimento de máquinas de guerra robóticas que fazem uso de software, e não de

instrução humana, para decidir quem irão atacar e matar. A velocidade com que essas armas

fazem seus cálculos e a rapidez com que se movem afetam tanto a capacidade do ser humano

de controlar a máquina e determinar seus comandos e rotas, como dificultam ou até mesmo

impossibilitam a defesa de seu alvo.

Alguns cientistas temem ainda que o desenvolvimento de tais tecnologias possa vir

tornar as guerras a serem mais admissíveis do que são hoje, e até mesmo mais prováveis, visto

que uma das principais motivações da automatização do armamento é a redução de mortes por

parte dos operadores dos equipamentos militares.

Pessoas de grande importância no mundo tecnológico e científico abraçam essa causa,

como o físico Stephen Hawking, o empreendedor Elon Musk e o cofundador da Apple Steve

Wozniak. Na última Conferência Internacional de Inteligência Artificial, ocorrida em Buenos

Aires, em julho desse ano, todos acima juntos de milhares de cientistas e especialistas em

inteligência artificial assinaram a carta aberta "Armas Autônomas: uma Carta Aberta de

Pesquisadores em Robótica & AI", que será transcrita abaixo

3.1 Armas Autônomas: uma Carta Aberta de Pesquisadores de Robótica e Inteligência

Artificial (IA)

Armas autônomas selecionam e engajam em alvos sem intervenção

humana. Elas podem incluir, por exemplo, helicópteros quadrimotores armados que

podem procurar e eliminar pessoas que atendem a certos critérios pré-definidos, mas

não incluem mísseis de cruzeiro ou drones pilotados remotamente, nos quais são

humanos que decidem as decisões de alvo.

Muitos argumentos foram feitos contra e favor de armas autônomas. Por

exemplo, a substituição de soldados humanos por máquinas é boa por reduzir as

casualidades feitas em situações de risco, mas ruim por diminuir a hesitação de ir

para a batalha. A questão chave para a humanidade hoje é se devemos iniciar uma

corrida armamentista global de IA ou prevenir ela de começar. Se qualquer poder

militar maior avançar no desenvolvimento de armas de IA, uma corrida

armamentista global é inevitável, e o fim desta trajetória tecnológica é óbvia: armas

autônomas transformar-se-ão nos Kalashnikovs de amanhã. Diferente de armas

nucleares, elas não necessitam de matérias-primas caras ou de difícil obtenção;

6

então, elas se tornarão onipresentes e baratas para qualquer poder militar significante

produzir em grande escala. Será apenas uma questão de tempo até que elas apareçam

no mercado negro e nas mãos de terroristas, ditadores desejando um melhor controle

da população, chefes militares querendo perpetuar uma limpeza étnica, etc. Armas

autônomas são ideais para tarefas de assassinatos, desestabilização de nações,

subjugamento de populações e extermínio seletivo de um determinado grupo étnico.

Nós, portanto, acreditamos que a corrida armamentista militar de IA não será

benéfica para a humanidade. Existem muitos caminhos nos quais IA podem fazer

campos de batalha mais seguros para humanos, especialmente civis, sem a criação

de novas ferramentas para matar pessoas.

Assim como a maioria de químicos e biólogos não tem nenhum interesse na

construção de armas químicas ou biológicas, a maioria de pesquisadores de IA não

tem interesse na construção de armas com IA - e não desejam que outros denigram

seu campo construindo-as, criando, potencialmente, uma repercussão pública maior

contra IA que prejudicará seus futuros benefícios sociais. De fato, químicos e

biólogos têm apoiado amplamente acordos internacionais que, com sucesso,

proibiram armas químicas e biológicas, assim como a maioria de físicos apoiou os

tratados de banimento de armas nucleares usadas no espaço e armas laser que

causam cegueira.

Em resumo, nós acreditamos que IA tem grande potencial para beneficiar a

humanidade em muitos aspectos, e que o objetivo deste campo de estudos deveria

ser esse. Começar uma corrida armamentista militar é uma má ideia e deve ser

prevenida a partir de um banimento de armas autônomas ofensivas que necessitam

de um controle humano ínfimo. (FUTURE OF LIFE INSTITUTE, 2015)

Como podemos ver, existem diversos medos, entre eles temos que esse tipo de arma

venha a cair em mãos erradas e se vire contra a própria população, a extinção de grupos

étnicos por pessoas que tenham esse tipo de interesse, e até mesmo desestabilizar toda uma

nação, entre diversas outras coisas horríveis que possam vir a acontecer. Como mencionado

na própria carta no segundo parágrafo: “A questão chave para a humanidade hoje é se

devemos iniciar uma corrida armamentista global de IA ou prevenir ela de começar.”

(FUTURE OF LIFE INSTITUTE, 2015).

Por outro lado, existe um grupo significativo de pesquisadores que acredita que o

banimento desse tipo de arma não seja a solução. Alegam que, se observarmos na história da

regulamentação da tecnologia global, fazer declarações como a da carta aberta é comum,

agora quando colocamos na prática, e percebe-se o que pedir por coisas desse tipo significa, o

resultado nem sempre é o esperado. Pode ser muito difícil dizer o que deve-se banir sobre essa

tecnologia e como fazer esse banimento perdurar.

7

Um exemplo que pode-se dar em relação a isso, foi quando durante o período de 50

anos o governo dos Estados Unidos classificou softwares de segurança como armas, graças ao

papel que programas de criptografia tiveram na Segunda Guerra Mundial. Isso significou que

a exportação desse tipo de software era extremamente restrita. Essa condição de proibitiva se

foi por volta dos anos 90 e os softwares de segurança vieram a ter uma importância muito

maior do que seu uso militar. O banimento na época fez com que novas indústrias e melhorias

relativas a tecnologia de segurança online não se desenvolvessem e atrasou algo que viria ser

fundamental no mundo em que vivemos hoje, como por exemplo as compras que fazemos via

internet.

Nesse caso, o problema em restringir a disponibilidade do software é que isso afetou

todos seus potenciais usos, inclusive aqueles que seriam descobertos no futuro e que não

poderiam ter sido previstos pelos cientistas do presente. Os cientistas que se colocavam contra

o banimento da tecnologia armamentista alegam ainda que, os milhares de cientistas que

assinaram essa carta para proibir o uso militar da inteligência artificial podem ter, sem

perceber que o fizeram, assinado uma carta que cria restrições da própria capacidade que eles

teriam futuramente de compartilhar esse tipo de software com colaboradores internacionais, e

até mesmo impedi-los de desenvolver futuras tecnologias.

A tensão existente entre o uso duplo desse tipo de tecnologia, tanto para o bem quanto

para o mal, torna a discussão da utilização dessa tecnologia complexa,uma vez que é possível

utilizá-la de uma forma extremamente ampla e de formas imprevisíveis.

8

5. Posicionamento dos países

Observação importante

Muitos dos blocos de posição dos países listados abaixo foram feitos baseados em

discursos realizados pelos representantes dos países durante conferências internacionais.

Enquanto vocês estiverem simulando, vocês não devem seguir somente a linha de raciocínio

contida no bloco de posição, os blocos servem somente para dar um norte à pesquisa de vocês

e direcionar vocês na posição que devem assumir diante o comitê.

5.1 África

Angola

Após conseguir sua independência de Portugal, em novembro de 1975, entrou em uma

profunda guerra civil que durou 27 anos. Os principais movimentos responsáveis por

conseguir a independência angolana, após obterem seu interesse comum, entraram em uma

profunda disputa pelo poder do país que deixou milhares de baixas e um país completamente

destruído. Atualmente, a Angola se posiciona contra sistemas automatizados de armamento

letais e teme que com a redução de baixas proporcionada por esse tipo de armamento, haja

uma banalização da guerra, algo com que o país sofreu durante anos, e não tem interesse

algum de que se repita.

Egito

O Egito foi um dos cinco primeiros países a se pronunciarem totalmente contra a

sistemas automáticos de armas totalmente autonômos na Convenção da ONU sobre Armas

Convencinais. Mostrou-se firme diante de sua posição, mas acredita que esse assunto deva ser

amplamente debatido para evitar que tal proibição prejudique o desenvolvimento da

inteligência artificial.

Chade

A República do Chade tem sua história marcada por tensões étnicas que se estendem

até os dias de hoje. Brigas entre etnias que, durante sua história, causaram mais de centenas de

milhares de mortes e que, na última década, tiveram destaque internacional, onde o Alto

Comissariado das Nações Unidas para os Refugiados adverte que pode haver um genocídio

futuramente, tal como tem acontecido em Darfur. Atualmente, Chade é a casa de mais de

duzentas etnias distintas, em que muitas delas, vivem em guerra até hoje. Diante da

9

problemática do comitê, a República do Chade teme que esse tipo de armamento possa vir a

ser usado por grupos de etnias rivais para promover a extinção étnica de muitos dos grupos

residentes no país, posicionando-se fortemente contra a utilização e produção destes.

Gana

Gana, na última década, adquiriu uma má reputação relacionada a crimes cibernéticos

e, numa tentativa de reverter essa reputação, tem investido fortemente no setor tecnológico

do país e obtido significativos avanços no que diz respeito à segurança digital e cibernética

dentro do seu território. No mundo, é o sétimo país que mais investe no combate a crimes

cibernéticos e tem investido pesadamente no campo de inteligência artificial, em uma

tentativa de otimizar seus sistemas e reduzir os custos relacionados à segurança digital. Por

mais que tenha interesse no desenvolvimento da inteligência artificial, foi integrante, no ano

de 2014, de uma comissão cujo principal objetivo era alertar o secretário geral da ONU dos

perigos que uma corrida pelo desenvolvimento de sistemas automatizados de armamento

letais poderia trazer para a humanidade. Atualmente, Gana se mostra totalmente contra a

utilização da inteligência artificial para fins militares e a favor da continuidade do

desenvolvimento e pesquisa na área.

Costa do Marfim

A Costa do Marfim, com várias guerras civis em sua história causadas por atritos

étnicos gerados por políticas públicas, e com guerras civis que ocorrem até hoje devido ao

interesse de determinado grupo étnico de se manter no poder do estado, teme

desenvolvimento de sistemas autônomos de armas letais. De um lado, a utilização do estado

de tais artefatos poderiam por em risco a população da etnia rival residente no país e, do outro

lado, ao cair na mão de grupos extremistas presentes dentro do país, pode significar massacres

e até mesmo extinção de grupos étnicos de populações pequenas.

Argélia

A Argélia foi uma das vinte primeiras nações a se pronunciar a respeito da utilização

de armas completamente autônomas no Conselho de Direitos Humanos das Nações Unidas,

em que o assunto foi armas robóticas letais autônomas. Mostrou-se extremamente preocupada

com a violação dos direitos humanos que tais sistemas podem vir a infringir e acredita que se

deve haver uma discussão profunda sobre a inteligências artificial, para estabelecer os limites

dessa tecnologia e tomar as medidas necessárias para a sua fiscalização.

10

Marrocos

O Marrocos fez-se presente no Conselho de Direitos Humanos das Nações Unidas no

qual o assunto era a problemática desse comitê e mostrou sérias preocupações a respeito do

futuro dessa tecnologia. As preocupações se deram principalmente em relação a violação dos

direitos humanos que esses mecanismos podem vir a trazer e também às transgressões sobre a

Lei Humanitária Internacional, afirmando que a discussão deve ser focada nesses dois tópicos

para evitar problemas futuros com a referida tecnologia.

Nigéria

A Nigéria é considerada um estado multinacional, habitada por mais de 500 grupos

étnicos diferentes e com uma história repleta de conflitos étnicos gerados pelo desejo de

grupos maiores assumirem o controle do país. Desde 1999, a Nigéria veem sofrendo um

processo democratização, no qual até os dias de hoje questões étnicas são levantadas e geram

atritos entre os diferentes grupos. Com o anseio de que os Sistemas Autônomos de

Armamento Letais venham ser usados por grupos étnicos para o subjugamento ou até mesmo

o extermínio de grupos rivais, a Nigéria posiciona-se contrária a produção e utilização desse

tipo de sistema.

Serra Leoa

A Serra Leoa passou por diversos conflitos internos relacionados as diferenças étnicas

durante a sua história. Com mais de 16 etnias dentro do país e um passado de governos que

legislavam para favorecer minorias étnicas, a Serra Leoa posiciona-se contra a utilização de

Sistemas Autônomos de Armamento Letais. Com uma grande variedade de grupos étnicos

vivendo dentro do país,tendo acabado de sair de uma guerra civil e um passado repleto de

conflitos entre esses grupos,o governo teme que caso esse tipo de armamento caia nas mãos

erradas, ocorra uma grande catástrofe dentro do país, estimulando um novo conflito civil.

5.2 América Latina e Caribe

Argentina

A Argentina esteve presente em diversas convenções internacionais para tratar o

assunto e se posicionou contrária a produção e utilização de armas autônomas. O país afirma

que caso não sejam impostos limites a esses tipos de sistemas, uma corrida armamentista pode

iniciar-se, dividindo a opinião de países e enfraquecendo o Sistema Internacional de Leis. E

11

ainda fala sobre a possibilidade desses sistemas causarem retaliações, impactos nos direitos

humanos e no Direito Internacional Humanitário e até mesmo terrorismo.

Brasil

Dono de relativa sofisticação tecnológica, o país desenvolve de submarinos a

aeronaves, além de estar presente na pesquisa aeroespacial, possuindo um Centro de

Lançamento de Veículos Leves e sendo o único país do Hemisfério Sul a integrar a equipe de

construção da Estação Espacial Internacional (ISS). Foi um dos primeiros países a se

pronunciar a respeito de sistemas autônomos de armas letais, afirmando que por mais que

existam diversos possíveis problemas no futuro caso não sejam proibidos esse tipo de

armamento, deve-se fazer uma análise cautelosa das consequências que uma possível

proibição traria para o desenvolvimento tecnológico da inteligência artificial.

Chile

O Chile vem se destacando internacionalmente pela inovação e contribuições

tecnológicas no campo da mineração, que vem beneficiando indústrias pelo mundo todo.

Recentemente a Codelco, empresa estatal de exploração de cobre, patenteou um projeto piloto

de mineração robótica, que visa à operação de máquinas via software de controle automático

de geolocalização. Tem investido na pesquisa e desenvolvimento de máquinas inteligentes

para uso industrial e se posiciona fortemente contra armas letais autônomas, querendo

continuar a pesquisa e progressão que tem conseguido no campo da inteligência artificial.

Cuba

Cuba foi um dos primeiros países a se pronunciarem a respeito do uso de sistemas

autônomos de armas letais e mostrou forte preocupação com as consequências negativas, em

especial com a violação dos direitos humanos que pode vir à acontecer. Acredita que deve

haver uma forte discussão a respeito da produção, fabricação, aquisição e uso desses artefatos

para que, assim, caso seja permitido a produção e uso, sejam estipulados limites e regras bem

definidas para o bem geral das nações. No momento, dá suporte ao banimento de sistemas

autônomos de armas letais.

Equador

O Equador foi um dos primeiros países que, em seus discursos, levantou a questão

relacionada a sistemas autônomos de armas letais na Primeira Comissão da Assembleia Geral

12

das Nações Unidas: Desarmamento e Segurança Internacional (DSI). Afirmou que o alto

número de vítimas causadas pelo uso indiscriminado de drones em áreas civis, traz a tona

questões legais e éticas sobre o desenvolvimento de novas tecnologias militares, das quais

incluem a responsabilidade humana no manuseio dessas sistemas militares, tornando urgente

uma discussão em torno desses novos problemas provenientes desses equipamento no campo

das armas convencionais.

México

O México esteve presente no Conselho de Direitos Humanos das Nações Unidas onde

pode manifestar-se a respeito da temática em questão. Mostrou-se preocupado com a falta de

fiscalização com que os sistemas autônomos de armas letais estão sendo produzidos e afirma

que o desenvolvimento tecnológico deve ser observado sempre à luz da obrigação da proteção

sobre a vida. Afirmou ainda que, os estados tem a obrigação garantir o direito à vida e que a

análise de qualquer arma letal deve ser feita à luz do Direito Humanitário Internacional e da

Lei Internacional dos Direitos Humanos, posicionando-se contra o desenvolvimento

desenfreado de equipamentos bélicos sem supervisão humana.

Peru

O Peru esteve presente no encontro informal de experts à respeito de Sistemas

Autônomos de Armas Letais (LAWS) e nele pode externar sua opinião a respeito do tema.

Afirmou que o debate a respeito dos sistemas inteligentes é fundamental antes da tomada de

qualquer decisão, para evitar que o desenvolvimento da inteligência artificial seja

comprometida, e também que é contra armas completamente autônomas, sendo necessário o

mínimo de controle sobre elas, onde um dos debates mais necessários sobre o tema é o quão

mínimo esse controle deve ser.

Uruguai

O Uruguai realizou discursos em diversas convenções relacionados a Sistemas

Autônomos de Armas Letais (LAWS) e em todos eles assumiu uma postura neutra e de

diálogo. Afirma que antes de qualquer tomada de decisão, a favor ou contra a respeito dessas

tecnologias, deve-se ter um profundo debate e diálogo em torno do tema, considerando todas

os fatores que podem vir a resultar em um banimento desse tipo de arma e as consequências

resultantes de uma possível liberação.

13

Venezuela

Dona da maior reserva de petróleo do mundo, a Venezuela possui forte interesse no

desenvolvimento de tecnologias capazes de agilizar a prospecção do recurso e condena

fortemente a utilização de tecnologia para fins militares. No contexto atual, procura por uma

solução que não prejudique o desenvolvimento da inteligência artificial e que ao mesmo

tempo tenha caráter proibitivo para o uso dessa tecnologia para fins militares.

5.3 Ásia-Pacífico

Paquistão

O Paquistão foi um dos primeiros países que se manifestaram como totalmente

contrários a qualquer possibilidade na produção de sistemas automáticos de armamento letais

na Convenção da ONU sobre Armas Convencionais. Foi extremamente duro em suas críticas

e se mostrou muito preocupado, principalmente devido aos ataques realizados pelos Estados

Unidos com drones no passado.

Índia

A Índia, com previsão de ser o país mais populoso do mundo até 2022 (segundo

relatório da ONU) e um dos países com maior densidade populacional, preocupa-se com as

catástrofes que possam vir a ser ocasionadas com a utilização de Sistemas Autônomos de

Armas Letais(LAWS) em áreas civis. Presente em quase todas as convenções a respeito do

tema até o momento, afirma que é contra o desenvolvimento das LAWS sem a devida

fiscalização e acredita que o debate deva girar em torno dos fatores éticos, legais e

humanitários que abrangem a utilização e produção desse tipo de equipamento.

China

Desde a Revolução Cultural, a China tem feito investimentos significativos na área

tecnológica, em que quase sua totalidade é destinada a pesquisa científica. Possui empresas de

destaque como a Lenovo e a Huawei, que são líderes mundiais em telecomunicações e

computadores pessoais. Os supercomputadores chineses são considerados os mais poderosos

do mundo e atualmente a China tem vivido um aumento significativo da utilização de robôs

nos seus processos industriais, robôs inteligentes capazes de desenvolverem múltiplas tarefas

com poder de decisão próprio. A China tem o segundo maior gasto mundial com

equipamentos militares e atualmente vem investido maciçamente na produção de drones de

14

combate e em aeronaves capazes de se camuflarem, além do extenso desenvolvimento de

sistemas de mísseis inteligentes.

República da Coréia

A República da Coréia é um dos países que mais investem em desenvolvimento

tecnológico em todo o mundo. Em seu território, encontra-se a zona mais disputada do

mundo, a fronteira entre a Coréia do Sul e a Coréia do Norte, na qual faz uso de equipamentos

bélicos sem supervisão humana para proteger seu território. Esteve presente em diversas

convenções a respeito do tema e defende que deva ser considerado o Direito Humanitário

Internacional na produção desse tipo de equipamento, mas é estritamente contra um

banimento total desse tipo de sistema automático. Alega que isso causaria o retardo do

desenvolvimento tecnológico da inteligência artificial, setor no qual o país investe

pesadamente.

Japão

Um dos principais produtores de tecnologias do mundo, conta com uma população

com altos níveis de qualidade de vida e com alto grau técnico especializado. A ciência e

tecnologia dentro do Japão está focada principalmente no desenvolvimento de aparelhos

eletrônicos, robôs e na indústria automotiva. Desde o começo do desenvolvimento da

inteligência artificial, indústrias e universidades japonesas tem tido bastante interesse, sendo

inclusive pioneiras, no desenvolvimento de máquinas inteligentes, visto que o

desenvolvimento e financiamento são orientados para essa área. Mesmo com intenso

investimento na área, o objetivo do desenvolvimento dessa tecnologia não tem fins militares,

e sim na automatização de processos industriais e também a inserção da tecnologia dentro da

cultura de sua população. Declarou na última Convenção da ONU sobre Armas

Convencionais (CCAC) que não possui planos de desenvolver robôs que não tenham auxílio

humano e que sejam capazes de cometer assassinatos.

Jordânia

A Jordânia participa do conflito árabe-israelense desde sua origem, o que fez com que

participasse em diversas guerras, em que uma em específico, a Guerra dos Seis Dias, ocorrida

em 1967, fez com que houvesse um aumento dramático no número de palestinos vivendo na

Jordânia. De acordo com o senso de 2008, a Jordânia possuía aproximadamente dois milhões

de refugiados palestinos, representando na época, aproximadamente 33% de sua população

15

total. Atualmente, com o alto desenvolvimento de sistemas autônomos de armas letais por

parte de seu vizinho, Israel, e novos ataques entre palestinos e israelitas, a Jordânia tem

mostrando-se radicalmente contra o desenvolvimento de armas autônomas, sendo um dos

protagonistas na defesa da proibição do armamento autônomo.

Malásia

A infraestrutura da Malásia é uma das mais desenvolvidas da Ásia. No país, todas as

decisões relacionadas a políticas científicas são ditadas pelo Ministro da Ciência, Tecnologia e

Inovação. O país é um dos maiores exportadores de dispositivos semicondutores, e produtos

relacionados à tecnologia da informação e comunicação do mundo. O país possui grande

interesse no desenvolvimento da inteligência artificial para que possa aprimorar ainda mais

sua infraestrutura, permanecendo neutro em relação a questão da utilização de tal tecnologia

como armamento.

Irã

O Irã esteve presente no Conselho de Direitos Humanos das Nações Unidas, em maio

de 2013, onde posicionou-se a respeito do tema. Afirma que diversos países já fazem uso de

sistemas robóticos com diversos níveis de autonomia e letalidade, em especial os Estados

Unidos, e que cabem a esses países prestar contas com a comunidade internacional e se

responsabilizar pelas possíveis consequências resultantes da utilização desse tipo de sistema.

Também é a favor de ações imediatas, partindo da comunidade internacional, de intervir na

produção e distribuição desse tipo de equipamento, visto que muitas vezes o uso desses

sistemas ferem o Direito Humanitário Internacional e a Declaração Universal dos Direitos

Humanos, no estado em que se encontram agora.

Sri Lanka

O Sri Lanka participou de um encontro informal de experts à respeito dos Sistemas

Autônomos de Armas Letais (LAWS) e nele pode expressar sua opinião a respeito do tema.

Afirmou que existem muitas áreas relacionadas às LAWS que devem ser analisadas, debatidas

e entendidas para que sejam tomadas as ações necessárias para prevenir que esses tipos de

sistemas causem catástrofes, no entanto, as consequências negativas resultantes de um

possível uso desse tipo de equipamento dentro do campo de guerra ou em áreas civis podem

ser catastróficas, tornando necessárias medidas preventivas para evitar que isso aconteça.

16

5.4 Europa Ocidental e Outros

Alemanha

Poucos países contribuíram tanto para a ciência e a tecnologia como a Alemanha. É

considerada líder em inovação mundialmente, possuindo universidades de ponta e institutos

de pesquisa na área de engenharia e tecnologia da informação considerados como uns dos

melhores do mundo. Mesmo com todo aparato tecnológico, em abril desse ano, declarou na 3ª

Convenção da ONU sobre Armas Convencionais (CCAC) que era a favor de um banimento

imediato da utilização desse tipo de armamento, alegando que é inaceitável que a decisão

sobre a vida ou a morte de algo deva ser decidida somente por um sistema autônomo.

Espanha

A Espanha esteve presente em quase todas as convenções e encontros realizados para a

discussão a respeito do tema e em seus discursos manteve-se neutra. Afirma que a discussão a

respeito dos Sistemas Autônomos de Armas Letais é extremamente complexa e que ao mesmo

tempo em que devem ser consideradas as consequências do uso indevido desse tipo de

equipamento, deve-se considerar também o s empecilhos que uma possível proibição traria

para o desenvolvimento de novas tecnologias.

Estados Unidos da América

A maior potência do mundo também se configura como o país que mais investe no

setor militar do mundo e também é um dos líderes em pesquisas científicas e inovações

tecnológicas, investindo grandes quantias de dinheiro dentro do setor. Esteve presente em

diversos encontros internacionais para tratar sobre o tópico e defendeu a utilização dos

equipamentos militares autônomos já existentes, como aeronaves pilotadas remotamente,

afirmando que a discussão deve ser focada em tecnologias que estão surgindo, nas armas do

futuro, e não em equipamentos já utilizados pelo país e por outros . Atualmente é um dos três

países que lideram a produção de Sistemas Autônomos de Armas Letais (LAWS), junto aos

Reino Unido e Israel, e acredita que um tratado a respeito do assunto é desnecessário, visto

que os três países já possuem processos de revisão internos sobre as armas que garantem a

conformidade com o interesse comum internacional.

17

França

A França, na última Convenção da ONU sobre Armas Convencionais (CCAC), foi

extremamente ativa e proferiu vários discursos contrários a utilização e produção de sistemas

autônomos de armas letais. Mesmo sendo o quinto país do mundo que mais investe no setor

militar, deixou claro aos países favoráveis à utilização de armas inteligentes que quer

garantias que sempre exista um controle significativo humano sobre a utilização desse tipo de

armamento.

Israel

O campo de ciências e tecnologia de Israel é um dos setores mais desenvolvidos do

país. A porcentagem de israelitas engajados na pesquisa científica e tecnológica, bem como o

gasto que o país realiza com a pesquisa e desenvolvimento de novas tecnologias em relação

ao produto interno bruto do país (PIB), é o segundo maior do mundo. É um expoente tanto na

produção de armamento militar, quanto no desenvolvimento técnico-científico, com destaque

na produção de armas com tecnologias de alta tecnologia e na aplicação de inteligência

artificial a robôs. Atualmente é um dos três países que lideram a produção de Sistemas

Autônomos de Armas Letais (LAWS), junto aos Estados Unidos da América e o Reino Unido,

e acredita que um tratado a respeito do assunto é desnecessário, visto que os três países já

possuem processos de revisão internos sobre as armas que garantem a conformidade com o

interesse comum internacional.

Áustria

A Áustria esteve presente em diversas convenções e assembléias relacionadas à

Sistemas Autônomos de Armas Letais(LAWS) e foi um membro ativo, manifestando sua

opinião a respeito do tópico e mostrando suas preocupações em seus discursos. Afirma que as

consequências do uso indevido desse tipo de equipamento podem ser catastróficas, sendo

urgente a adoção de medidas pelo Conselho das Nações Unidas para impor limites e garantir

que a produção desse tipo de sistema seja feito sem infringir o Direito Humanitário

Internacional e a Lei Internacional dos Direitos Humanos.

Nova Zelândia

A Nova Zelândia esteve presente na Assembléia Geral das Nações Unidas, na Primeira

Comissão sobre o Desarmamento e Segurança Internacional, e em seus discursos mostrou

uma postura neutra mediante ao tema. Afirma estar ciente dos riscos que possam vir a ser

18

causados por uma possível liberação desse tipo de armamento, mas teme que a proibição da

produção e desenvolvimento desses sistemas possa vir a causa impactos no desenvolvimento

tecnológico na área da inteligência artificial, retardando-o ou até mesmo o interrompendo.

Reino Unido

O Reino Unido possui uma excelente infraestrutura tecnológica e é, desde os

primórdios da Revolução Científica iniciada no século 17, um dos países que mais produzem

novas tecnologias no mundo. Atualmente é um dos três países que lideram a produção de

Sistemas Autônomos de Armas Letais (LAWS), junto aos Estados Unidos da América e Israel,

e acredita que um tratado a respeito do assunto é desnecessário, visto que os três países já

possuem processos de revisão internos sobre as armas que garantem a conformidade com o

interesse comum internacional.

Suíça

A Suiça compareceu a todos os eventos relacionados aos Sistemas Autônomos de

Armas Letais e manteve uma postura neutra em seus discursos. Afirma que por mais que o

uso desse tipo de tecnologia possa ser nocivo a vida humana, o seu desenvolvimento deve ser

continuado, desde que a sua produção e uso esteja em conformidade com o Direito

Humanitário Internacional e a Lei Internacional dos Direitos Humanos.

5.5 Europa Oriental

República Tcheca

A República Tcheca tem uma longa tradição no desenvolvimento ciêntifico

tecnológico e apoia todo e qualquer tipo de avanço na área, desde que os avanços sejam feitos

de forma a cumprir acordos internacionais, como por exemplo, o Direito Humanitário

Internacional. Também afirma que não cabe a somente uma máquina a decisão de manter ou

não a vida de uma pessoa, sendo necessária a presença de um controle humano significativo

sobre esses sistemas, sendo esse o maior desafio dessa problemática, a definição do quão

significativo o controle sobre essas máquinas deve ser.

Bielorrússia

A Bielorrússia não é detentora de uma infraestrutura tecnológica desenvolvida, no

entanto, tem participado das últimas convenções e congressos relacionados à Sistemas

19

Autônomos de Armas Letais (LAWS). Sua posição internacional mediante ao assunto é de

extrema preocupação com os perigos que estão envolvidos na utilização de armas

completamente autônomas e afirma que caso seja permitido o uso desses sistemas, haverá

grandes desafios a serem enfrentados para que não ocorram catástrofes internacionais com a

utilização desse tipo de equipamento.

Hungria

A Hungria é famosa pelo seu investimento tecnológico e pelos diversos cientistas

renomados que saíram do páis durante a história. Mantem-se neutra sobre o assunto discutido

dentro do comitê, não é estritamente contra a aquisição e utilização de Sistemas Autônomos

de Armamento Letais.Entretanto, acredita que o tópico deve ser bem debatido e os limites de

aquisição e produção bem estabelecidos para evitar com que a Declaração Universal dos

Direitos Humanos seja seguida.

Lituânia

A Lituânia possui uma grande variedade de centros tecnológicos, especialmente na

área biotecnológica, em que o governo oferece incentivos especiais para investimentos em

tecnologias de última geração. A Lituânia acredita que devem sim ser consideradas questões

humanas nos debates acerca do tema, mas que antes de tudo deve-se compreender o tópico em

questão por completo, para que assim possam ser impostos limites e critérios para o

desenvolvimento de sistemas completamente autônomos.

Polônia

A Polônia fez-se presente na Convenção da ONU Sobre Armas Convencionais com a

temática de Sistemas Autônomos de Armas Letais (LAWS), e argumentou que a discussão em

torno dessa tecnologia deve ser focada em como ela deve ser aplicada e utilizada e não se a

tecnologia deve ser proibida ou não. Argumentou que a tecnologia não é boa e nem ruim para

a sociedade, e sim o uso de que se faz dela. Procura por uma solução intermediária, que

restrinja usos nocivos, mas que possa, ao mesmo tempo, permitir a continuidade da pesquisa

tecnológica na área.

Letônia

Com seu investimento tecnológico irrisório, a Letônia não possui forte interesse no

desenvolvimento da inteligência artificial. É considerada uma nação que preza pelos direitos

20

humanos e levanta essa bandeira em seus discursos. É totalmente contra o desenvolvimento

tecnológico da inteligência artificial e seus usos, alegando que o desenvolvimento dessa

tecnologia pode vir a ferir a Lei Humanitária Internacional.

Rússia

Com altos gastos militares em seu país e um forte investimento no setor tecnológico, a

Federação Russa, nos últimos anos, tem desenvolvido uma extensa gama de veículos aéreos

não pilotados e também equipamentos de guerra automáticos, que são capazes de decidir

alvos por conta própria, e tomar a decisão de atirar ou não. A Rússia afirma que todo

equipamento desenvolvido pelo país está de acordo com a Lei Internacional Humanitária e

também defende que esses sistemas sejam produzidos de forma a respeitar o Direito

Internacional Humanitário, é estritamente contrária a qualquer resolução que a proíba de

continuar com o desenvolvimento na área de inteligência artificial dentro do país.

Geórgia

A Geórgia esteve presente na Convenção de Armas Convencionais(CCW) e em seus

discursos se posicionou de forma neutra. Afirma que esse debate é extremamente complexo e

que antes de ser tomada uma decisão definitiva, deve-se analisar todos os pontos contrários e

favoráveis aos Sitemas Autônomos de Armas Letias para que se chegue a um veredicto que

satisafaça toda a comunidade internacional.

Ucrânia

A Ucrânia esteve presente na Convenção de Armas Convencionais (CCW) e

posicionou-se fortemente contra a utilização e produção de Sistemas Autônomos de Armas

Letais(LAWS). Afirma que devem ser tomadas ações imediatas para proibir a produção,

desenvolvimento e distribuição desses tipos de equipamentos, também sugere a adição desse

tipo de sistema na lista de armas proibidas como a da CCW e também de uma maior rigidez

na fiscalização de países que já utilizam desse tipo de arma.

21

6. Grupos Regionais das Nações Unidas

África América Latina e

Caribe Ásia-Pacífico

Europa

Ocidental e

Outros

Europa

Oriental

Angola Brasil China Alemanha Lituânia

Chade Chile Japão Espanha Polônia

Nigéria Cuba Jordânia

Estados

Unidos da

América

Rússia

Egito Venezuela Malásia França Ucrânia

Costa do

Marfim Argentina

República da

Coréia Israel Bielorrúsia

Argélia Uruguai Sri Lanka Nova Zelândia Hungria

Serra Leoa Equador Paquistão Reino Unido Letônia

Gana México Índia Suíça Geórgia

Marrocos Peru

Irã Áustria República

Tcheca

22

7. Leitura recomendada para o comitê

A maioria dos links encontram-se em inglês

Compilação de declarações feitas pelos países em diferentes conferências

http://www.stopkillerrobots.org/wp-content/uploads/2013/03/KRC_CountryStatus_14Mar2014.pdf

Convenção da ONU sobre armas não convencionais

https://pt.wikipedia.org/wiki/Conven%C3%A7%C3%A3o_da_ONU_sobre_Armas_Convencionais

Documentos redigidos pelos países para o encontro informal de experts sobre LAWS

http://www.unog.ch/80256EE600585943/(httpPages)/6CE049BE22EC75A2C1257C8D00513E26?Ope

nDocument

Lista de países com veículos aéreos não tripulados

https://en.wikipedia.org/wiki/List_of_unmanned_aerial_vehicles

Reportagem do The Guardian com uma análise interessante à respeito do assunto

https://www.theguardian.com/science/political-science/2015/jul/31/artificial-intelligence-ban-

autonomous-weapons-easier-said-than-done

Todos os links presentes na bibliografia.

23

8. Referências

United Nations Commission on Science and Technology for Development. Disponível em:

http://steps-centre.org/anewmanifesto/timeline/un-commission-on-science-and-technology-

for-development/. Acesso em: 08 de setembro de 2015.

Membership of the Commission on Science and Technology for Development. Disponível

em: http://unctad.org/en/Pages/CSTD/CSTD-Membership.aspx. Acesso em: 08 de setembro

de 2015.

Commission on Science and Technology for Development. Disponível em:

http://www.unctad.info/en/Science-and-Technology-for-Development---StDev/Science--

Technology-on-the-UN-Agenda/CSTD/. Acesso em: 08 de setembro de 2015.

FUTURE OF LIFE INSTITUTE. Autonomous Weapons: An Open Letter from AI &

Robotics Researchers. 2015. Disponível em:

<http://futureoflife.org/AI/open_letter_autonomous_weapons>. Acesso em: 15 out. 2015.

RUSSELL, Stuart. Robotics: Ethics of artificial intelligence. 2015. Disponível em:

<http://www.nature.com/news/robotics-ethics-of-artificial-intelligence-1.17611>. Acesso em:

07 nov. 2015.

WELSH, Sean. Machines with guns: debating the future of autonomous weapons systems.

2015. Disponível em: <http://theconversation.com/machines-with-guns-debating-the-future-

of-autonomous-weapons-systems-39795>. Acesso em: 07 nov. 2015.

LEE, Dave. Killer robots: Tech experts warn against AI arms race. 2015. Disponível em:

<http://www.bbc.com/news/technology-33686581>. Acesso em: 07 nov. 2015.

KNIGHT, Will. Military Robots: Armed, but How Dangerous? 2015. Disponível em:

<http://www.technologyreview.com/news/539876/military-robots-armed-but-how-

dangerous/>. Acesso em: 07 nov. 2015.

24

GRAY, Richard. Artificial Intelligence is as dangerous as nuclear weapons: AI pioneer

warns smart computers could doom mankind. 2015. Disponível em:

<http://www.dailymail.co.uk/sciencetech/article-3165356/Artificial-Intelligence-dangerous-

NUCLEAR-WEAPONS-AI-pioneer-warns-smart-computers-doom-mankind.html>. Acesso

em: 07 nov. 2015.

SAUER, Frank. Banning Lethal Autonomous Weapon Systems (LAWS): The way forward.

2014. Disponível em: <http://icrac.net/2014/06/banning-lethal-autonomous-weapon-systems-

laws-the-way-forward/>. Acesso em: 07 nov. 2015.

JEFFRIES, Adrianne. Only five countries actually want to ban killer robots. 2014.

Disponível em: <http://www.theverge.com/2014/5/16/5724538/what-happened-at-the-un-

killer-robot-debate>. Acesso em: 07 nov. 2015.

CAMPAIGN TO STOP KILLER ROBOTS. Consensus killer robots must be addressed.

2013. Disponível em: <http://www.stopkillerrobots.org/2013/05/nations-to-debate-killer-

robots-at-un/>. Acesso em: 07 nov. 2015.

EURONEWS. IA: Stephen Hawking e Elon Musk contra o desenvolvimento de armas

inteligentes. 2015. Disponível em: <http://pt.euronews.com/2015/07/28/ia-stephen-hawking-

e-elon-musk-contra-o-desenvolvimento-de-armas-inteligentes/>. Acesso em: 07 nov. 2015.

CUÉ, Carlos E.; REBOSSIO, A. Cientistas contra robôs armados. 2015. Disponível

em:<http://brasil.elpais.com/brasil/2015/07/28/internacional/1438078885_287962.html>.

Acesso em: 07 nov. 2015.

MUSGRAVE, Zach; ROBERTS, Bryan W. Humans, Not Robots, Are the Real Reason

Artificial Intelligence Is Scary. 2015. Disponível em:

<http://www.theatlantic.com/technology/archive/2015/08/humans-not-robots-are-the-real-

reason-artificial-intelligence-is-scary/400994/>. Acesso em: 07 nov. 2015.

BLAND, Jessica; STILGOE, Jack. A ban on autonomous weapons is easier said than done.

2015. Disponível em: <http://www.theguardian.com/science/political-

25

science/2015/jul/31/artificial-intelligence-ban-autonomous-weapons-easier-said-than-done>.

Acesso em: 07 nov. 2015.