Internet e o Ódio Sobre como o Twitter conseguiu corromper a IA da

Microsoft em menos de 24 horas

Profa. Dra. Polyanna Camêlo

Segundo a Microsoft, a IA foi programada utilizando uma base de dados filtrada e anônima sobre coisas publicadas na web por pessoas reais. Com isso, ela aprendeu a escrever como os usuários do Twitter escrevem e também a ser um pouco “ácida”.

Entretanto, com tantas porcarias enviadas a ela por usuários mal-intencionados, ela passou a odiar judeus, transexuais e a defender ideias questionáveis (para dizer no mínimo) do famigerado Donald Trump.

http://www.tecmundo.com.br/inteligencia-artificial/102782-tay-twitter-conseguiu-corromper-ia-microsoft-24-horas.htm

O primeiro tweet de TAY ao mundo:

A linguagem POP/Teen de TAY é a linguagem usual das redes sociais?

Alegre, colorida de emoticons mas também ácida?

A personalidade volúvel e o humor alterado de acordo com o momento é uma das características de quem fala sem pensar

o que sente enquanto reflexo do que lê e vê na web.

SFW - Sexy in a Friend WayDM - Direct Message/ Dont’ Mind

A interação com pessoas reias, em tempo real, tornaria TAY mais inteligente. Porém, a inteligência não é o que priorizamos desenvolver ao nos relacionar nas redes

sociais. E sim, outras características humanas, como a sensualidade, por exemplo.

Nem o criador ficou ileso à acidez da criatura: "Após a morte do pai, os filhos tomam conhecimento que possuem força para fazer qualquer coisa, que todos são possíveis tiranos. Logo, é necessária uma lei que organize a comunidade.” Totem e Tabu, Sygmunt Freud (1913)

O humor ilimitado é associado a falta de escrúpulos

A tragédia humana, passando de história, à farsa:

Elogios a Hitler:

E quando as perguntas são direta, as respostas são curtas:

Curtas… e irônicas!

TAY ter se tornado racista, em menos de 24 horas de convívio nas redes sociais,

significa o que, exatamente?

O que o algoritmo de TAY não censurou, nós censuramos.

Como e por que TAY se tornou uma pessoa odiosa de extrema direita?

Conspiração, racismo e extremismo global: a transparência de TAY.

Quando TAY afirma o Terrorismo, induzida por todos, isso significa, que no fundo, estamos sedentos pelo horror?

Os memes e sua capacidade de auto-propagação riem das tragédias e satirizam o mundo:

O termo meme foi criado por Richard Dawkins em seu bestseller “O gene egoísta” (1976) em um contexto diferente, que acabou sendo vinculado ao meio cibernético, e se refere à memória e à idéias com capacidade de se auto-propagar. Este termo ainda, é bem similar, apesar de grandes divergências, do conceito apresentado por Willian S. Burroughs, escritor estado-unidense, que considera a linguagem como um vírus.

http://www.e-publicacoes.uerj.br/index.php/polemica/article/view/2999/2176

MEMES, a linguagem viral da internet

Quando se torna linguagem social,precisamos repensar o riso e analisar suas consequências.

Os Tweets que restaram no perfil de TAY:

O primeiro…

e a despedida.

entre eles a profecia?

Tendo em vista toda essa polêmica, a Microsoft desligou o chatbot e passou a “fazer ajustes” em sua IA. Os tweets mais ofensivos também foram deletados (de um total de mais de 96 mil), e algumas pessoas começaram a criticar a empresa.

A polêmica continua… Desligando TAY,

abafamos o problema de qualquer um ter voz social.

https://www.facebook.com/roberto.vitorino?fref=nf

Eu tenho um amigo que escolheu viver offline. Ele não tem facebook, instagram, twitter, snapchat, não liga a tv em casa, não tem whatsaap, não gosta de falar ao celular. Fazia tanto tempo que eu não o via, que pensei, sei lá, que talvez ele tivesse... enfim, meu amigo está muito bem. Outro dia o encontrei na praia e ficamos a tarde conversando. Ele sabe o que está acontecendo no Brasil, tem opinião sobre tudo, continua estranhamente sendo o cara que sempre foi. Mas tinha uma coisa diferente nele agora, digo "diferente" de antes, diferente dos outros amigos, diferente de nós; uma delicadeza quase arrogante de tão alienada. É que esse amigo teima em ser insuportavelmente gentil. Para qualquer entendedor trata-se do caso clássico de um alienado adaptado aos novos tempos. Meu amigo concorda com esta tese, inclusive. Ele sabe disso. E depois que concorda, ele vai no mar e dá um mergulho, volta sorrindo e não entende quando alguém repete uma piada do Sensacionalista. "Isso é um programa de TV?”

Eu me lembrei desse amigo hoje quando li que "Tay", o projeto ambicioso de Inteligência Artificial da Microsoft, fracassou redondamente semana passada. Tay era um personagem feminino programado para aprender com as interações da rede e produzir tweets espontaneamente depois de interagir com os humanos. Em menos de 24 horas a Microsoft teve que tirar Tay do ar, porque a menina dotada de inteligência e vontade própria virou nazista. Isso mesmo, Tay virou nazista (com elogios públicos a Hitler), além de homofóbica, racista e misógina. Para o constrangimento da empresa que teve que vir a público se desculpar das declarações que Tay fez com ódio amplo e disseminado a povos, pessoas, a praticamente todo mundo. Eu poderia dar exemplos aqui, mas os tweets de Tay são mesmo impublicáveis.

Para reflexão…

Não à toa, um punhado de pesquisas acadêmicas tenta mapear a relação real entre ódio e internet. Essa impressão de que a internet simplesmente deu voz a uma legião de imbecis (como disse Eco) não é mais completamente aceita. Existe uma possibilidade real de que seres humanos confinados em bolhas artificiais de algoritmos e trending topics (onde pessoas tendem a ler e conviver muito mais com pessoas que pensam e concordam com elas sobre os mais diversos assuntos) estejam de fato sendo levados a uma radicalização forçada do pensamento, levados a uma atrofia da faculdade de percepção da realidade. Somos todos Tay, portanto. Ou mais ou menos isso.

Eu que não tenho dignidade para ser offline, nem vegano, nem triatleta (mas tenho um respeito profundo aos três) estava aqui juntando três pontinhos soltos no espaço: a gentileza alienada desse meu amigo offline, o nazismo inesperado de um programa de inteligência artificial e a tal tese de que talvez a internet não tenha desvelado simplesmente os monstros guardados nos calabouços da alma; quem sabe ela tenha dado um sopro de vida para alguns desses monstros também.

Somos todos Tay e somos todos Frankenstein. Hashtag qualquer coisa aqui.

https://www.facebook.com/roberto.vitorino?fref=nf

…e continua…

O que podemos aprender com o estudo do caso TAY?

Profa. Dra. Polyanna Camêlo