As seguintes gravações são das apresentações feitos no 3º Colóquio Linguagens, tecnologias, pós-humanismo/humanidades. Para mais informações, acessar este link.
Autor: Paulo Kawanishi
O evento será totalmente on-line, transmitido no canal do Youtube do LiTPos que pode ser acessado por este link.
A participação é gratuita e serão fornecidos certificados de ouvinte.
Resumos/Abstracts
Twin Faces as Sites of Uncertainty in Algorithmic Image Cultures
Prof. Dr. Edward King (University of Bristol)
Twin faces function as blockages within the biometric facial identification interfaces that are binding humans with computational systems. In the process, they expose the identification systems central to neoliberal power in a digital age and invite us to think the human-computer interface differently. In this article, I explore how these blockages constitute moments of uncertainty in the datafication of identity through a study of the performance of identical twinship as a form of mask or act of strategic invisibility on social media in the context of biometric surveillance. The uncertainty of these events is echoed by other uses of the trope of twinship as a method for navigating algorithmic image cultures, including the location of “twin strangers” on online image databases and the practice of the “twin selfie.” These deployments of the trope of twinship clash with the dominant social media logic of what Wendy Chun (2018) terms “homophily” which consolidates social divisions through a production of sameness and stasis. Unlike homophily, twinning here is characterised by a dynamic disequilibrium
Repensando os letramentos pela perspectiva pós-humanista
Prof. Me. Mario Marcio Godoy Ribas (UFMS)
O pós-humanismo não apenas convida a repensar a unidade básica de referência para o ser humano e as ciências humanas, como expande o conceito de (prática) social para abranger os seres humanos e os agentes não-humanos interagindo socialmente de forma mais horizontal e simétrica. A pesquisa sobre letramentos, diante dessa nova forma de olhar para o mundo, exige uma nova proposta teórica que supere binarismos usuais nesse campo de estudo tais como digital/analógico e múltiplos/único, entre outros. Portanto, esta apresentação propõe uma reflexão sobre o conceito de letramentos como práticas sociais sob uma perspectiva pós-humanista, considerando novas ideias vigentes na literatura sobre pós-humanismo, agência, cognição e subjetividade. Utiliza-se de autores pós-humanistas como Rosi Braidotti, Karen Barad e Nancy Hayles. O resultado dessa reflexão teórica indica que os significados constitutivos dos letramentos não são isolados em unidades como palavras ou ideias de significantes, mas sim na rede material-discursiva construída por intra-ação.
Um diálogo pós-humano entre Michel Foucault e Bruno Latour: uma proposta teórico-metodológica
Me. Paulo Noboru de Paula Kawanishi
Pensar na constituição de um ciborgue, como uma figuração do sujeito pós-humano, desdobra-se em um movimento de conseguir apreender o papel dos não-humanos no que depois se transforma em uma amalgama de relações. Entendendo o sujeito como um indivíduo capturado por uma rede heterogênea cujo objetivo é conduzi-lo, como pensado por Michel Foucault, abre-se uma possibilidade para se pensar o ciborgue. Contudo, ainda se estaria distante dos objetos tecnológicos que passam a fazer parte de e atuar sobre seus corpos. Por isso, propomos um diálogo entre alguns conceitos Foucaultianos com alguns advindos do trabalho do filósofo Bruno Latour. Dessa forma, montamos um aporte teórico-metodológico útil para os estudos sobre o sujeito pós-humano. Nessa apresentação, proponho discutir como esse diálogo funciona, levantando os pontos de encontro de ambos os autores. No fim, apresentaremos uma breve análise exploratória com o intuito de ilustrar a aplicação desses conceitos.
“Modificamos tão radicalmente nosso meio ambiente que devemos agora modificar-nos a nós mesmos […] O progresso não só impõe novas possibilidades para o futuro como também novas restrições. Parece quase como se o próprio progresso e a nossa luta contra o aumento de entropia devessem terminar no caminho descendente do qual estamos tentando escapar” [1] (p. 46)
Norbert Wiener foi um dos primeiros acadêmicos a discutir e conceituar a cibernética, aqui focalizada a partir de seu livro “Cibernética e Sociedade: o Uso Humano de Seres Humanos”, editado no Brasil em 1954. Para o autor, “o propósito da cibernética é o de desenvolver uma linguagem técnica que nos capacite, de fato, a haver-nos com o problema do controle e da comunicação em geral” [1] (p. 17). A comunicação, em sua visão, só poderia ser compreendida a partir dos meios (ou facilidades) de comunicação, bem como o estudo das mensagens que uma sociedade dispõe. A partir das perspectivas teóricas propostas pelo matemático e filósofo citado, proponho uma breve discussão em relação ao sistema e ao feedback (ou retroalimentação), tão caros para a compreensão da cibernética e, por conseguinte, controle e linguagem.
Na visão de Wiener, os sistemas, orgânicos ou autômatos, dispõem de recursos que retroalimentam os processos que entram em desequilíbrio, trazendo informação contextual que permita reajustes internos, para que a entropia não aumente de forma demasiada e, com isso, o controle do comportamento do sistema em relação a uma meta definida não se perca por completo. As retroalimentações (ou feedbacks) também podem ser compreendidos como parte de um mecanismo de aprendizagem. Wiener não faz distinção entre ordens (feedback) dadas a uma máquina de ordens dadas a uma pessoa; a única diferença se refere às formas de comunicação e os tipos de mensagens, informações e linguagens (verbal, química, elétrica etc.) que serão trocadas para que o sistema se regule continuamente. Ou seja, o processo de ajuste às contingências do meio ambiente, sempre em interação com a parte interna via feedback, faz com que o sistema, seja ele qual for, recobre seu equilíbrio.
Nesta obra, em particular, Wiener pretende pensar sociedades como sistemas cibernéticos, nas quais o reequilíbrio pode se dar por meio do esgotamento e a saturação de recursos naturais, como no caso das sociedades européias de 1500 que buscavam novas terras. O autor faz analogia entre a forma de exploração de recursos, que pareciam inexauríveis à época, à passagem do livro “Alice no país das maravilhas” [2], quando o chá e o bolo do Chapeleiro Maluco e da Lebre de Março acabavam, eles seguiam para o próximo lugar vazio. Quando Alice indaga ao Chapeleiro o que aconteceria quando eles voltassem ao local inicial, já sem bolo ou chá, os personagens mudam de assunto sem dar qualquer explicação. Desde a metade do século passado, quando o livro foi escrito [1], já se sabia da finitude de nossos recursos, tornando o reequilíbrio de sociedades que se apoiam no domínio da natureza, paradoxalmente, escravos a essa mesma natureza e do aperfeiçoamento técnico das nossas práticas e formas de viver e ser no mundo.
Nesse sentido, Wiener também argumenta que o fato de um sistema de determinado tipo estar em equilíbrio nem sempre implica que todos os sistemas daquela classe se organizam da mesma maneira. Exemplo disso são, para o mesmo autor, os diferentes padrões de comunicação e organização social de sociedades hierárquicas e engessantes, exemplificadas pelas estratificações por castas na Índia, em contraste com formas mais horizontais de compartilhamento de poder, como nas comunidades inuítes ou iupiques [sic], cuja base se sustenta no desejo de sobreviver (p. 50).
Para ilustrar o conceito de feedback (ou retroalimentação), como um método de auto-controle de sistemas, orgânicos ou não, complexos ou não, tomarei o tradicional (e fracassado) sistema escolar de ensino de língua inglesa em escolas públicas no Brasil [3]. Quando, no quinto ano do ensino fundamental, o alunado se depara com a disciplina de língua inglesa, é comum que comece por conteúdos tidos como básicos, como o verbo to be. Os alunos, em geral, decoram a flexão verbal para uso dos verbos ser e estar em língua inglesa e fazem provas escritas sobre regras gramaticais. O uso correto do verbo to be é a meta do aprendiz enquanto sistema, os livros e a fala da professora o input e a prova, ou melhor, a nota da prova, um tipo de feedback. Ainda que os discentes sejam bem sucedidos nessa concepção, ou seja, tirem uma nota que informa ao sistema que a direção em que agiu estava certa e organizada de modo equilibrado, isso conta como aprender? Wiener [1] ressalta que saber conteúdos formais de uma disciplina não é mesmo que ter interesse intelectual por aprender algo (p. 130). Em outras palavras, ainda que haja comunicação e mecanismos de retroalimentação que “funcionem” de forma eficaz para prestígio social, por meio da aprovação na disciplina, em termos de aprendizagem de língua inglesa concebida como algo além do que perseguir uma meta de desempenho formal, “a qualidade e o valor comunicativo da mensagem caem como um peão de prumo” (p. 132).
A retroalimentação também poderá encontrar dificuldades quando o aspecto da linguagem, principalmente no item semântico, encontrar problemas de tradução e ou compreensão. Essas dificuldades se dão, sobretudo, devido aos repertórios linguísticos discursivos disponíveis que medeiam as realidades experienciadas por quem fala cada uma das línguas. Para Wiener, diferentes percepções ou compreensões sobre um mesmo item linguístico configuram-se como um problema para o bom funcionamento de sistemas e a eficácia da retroalimentação. E são justamente essas nuances das linguagens que fazem com que a consciência e a mente sejam amplamente debatidas quando estudiosos discutem o conceito de aprendizagem (ou a retroalimentação) em máquinas de inteligência artificial (IA) [4]. O que autor destaca em relação aos autômatos de alta complexidade, como as IA, é o entendimento de que “[…] o perigo da máquina para a sociedade não provém da máquina em si, mas daquilo que o homem faz dela” (p. 180) fazendo referência a obra de Samuel Butler [5] – Erewhon – nowhere ao contrário, que imaginava como as máquinas inevitavelmente dominariam os seres humanos como seres secundários.
Embora Wiener defina aprendizagem como o tipo de condicionamento operante induzido no sistema por processos de retroalimentação, indiscriminadamente, em máquinas e seres humanos, hoje sabemos que há distinções relevantes entre ações resultantes de um organismo vivo e cognitivamente consciente e a resposta algorítmica de uma máquina a inputs diferentes. Isso implica que o dilema entre aprender para passar na prova e aprender porque se tem interesse em aprender atravessa também as definições de máquina e de humano para além da sua subordinação ao conceito de sistema cibernético, nos levando a reflexões pertinentes em relação a subjetividade em contextos de ensino e aprendizagem, como é o caso de meu projeto de doutorado em andamento, que busca, dentre outras coisas, discutir e analisar como práticas formais e informais de construção de conhecimento, sobretudo para práticas letradas no uso de TDIC, afetam e são afetados na criação de subjetividades.
O autor contribuiu grandemente para conceituação da cibernética ˗ em sua primeira onda ˗ bem como discussões filosóficas importantes para o pós-segunda guerra mundial e a utilização social pervasiva de autômatos, sistemas e feedback; no entanto, no que tange às reflexões acerca da linguagem e consciência, a obra de Wiener não traz questionamentos profundos, tão pouco ampliação ou diferenciação entre organismos ou máquinas conscientes e não conscientes em relação às implicações da consciência para linguagens, sistemas e feedbacks.
[1] WIENER, N. Cibernética e sociedade: o uso humano de seres humanos. São Paulo: Cultrix, 1970.
[2] Carroll, Lewis. Alice’s Adventures in Wonderland. New York: Macmillan, 1920
[3] VILAÇO, F. L.; GRANDE, G. C. Língua Inglesa na BNCC. In: CÁSSIO, F.; CATELLI JR., R. (Eds.). . Educação é a base? 23 educadores discutem a BNCC. 1. ed. São Paulo, SP: Ação Educativa, 2019. p. 145–157.
[4] HAYLES, K. How we became posthuman: virtual bodies in cybernetics, literature, and informatics. Chicago, Ill: University of Chicago Press, 1999.
[5] BUTLER, S. Erewhon Over the range. United Kingdom: Trubner, 1892.
O corpo humano apresenta respostas programadas para diversos tipos de situações. Eleve a temperatura do corpo e você poderá sentir o suor em sua pele tentando resfriar o ambiente. Tenha uma infecção e espere pela elevação da temperatura do seu corpo. Embora “efeitos” parecidos aconteçam, eles são determinados por uma troca de informação entre os sistemas do corpo, assim como entre estes e o ambiente.
Tanto esses processos quanto outros que nossos corpos performam diariamente podem, ao ser observados por alguém como Nobert Wiener, colaborar na classificação do organismo vivo que chamamos de corpo como um sistema. Em Cibernética e sociedade [1], a relação que o autor faz com a vida, seja ela humana ou não, não é uma questão só de entendê-la como um sistema; ele a compara com uma máquina. Apesar dessa continuidade máquina/organismo vivo, Wiener tenta mostrar não apenas semelhanças entre eles, mas também especificar em que pontos o ser humano se torna algo “especial”, seja em comparação com a máquina ou com outros elementos da natureza.
A máquina funciona, segundo Wiener, ora como um sinônimo, ora como uma analogia para o organismo vivo. Ambos têm a capacidade de se modificar para alcançar “fins anti-entrópicos”. As modificações são determinadas de acordo com o funcionamento cibernético do sistema do organismo humano. Quando o organismo se encontra em uma situação, um feedback é dado a um aparato regulador central (o sistema nervoso), o que especifica uma nova ordem ao organismo. Uma vez nesse looping, todo o sistema irá buscar se reorganizar para impedir a desordem dele mesmo. Para Wiener, seria essa a dinâmica que fundamenta não só o organismo e a máquina automatizada, mas também a sociedade.
É interessante mencionar o fato de que Wiener apresenta, já de início, um argumento para fugir das complicações de tratar de um tema tão complexo como a vida. Com o objetivo de evitar os possíveis críticos de sua obra que poderiam tentar minar o seu raciocínio questionando pontos como a sacralidade ou o mistério da vida, e seu propósito vinculado à existência de uma alma, Wiener advoga se tratar de questões “toscas e inadequadas para o pensamento científico preciso” (p. 31). Ele considera que vida não é um bom parâmetro para caracterizar uma classe de seres.
A aproximação entre máquina e organismo vivo, além da recusa de qualquer especificidade humana de ordem metafísica, faz, ao meu ver, com que haja um descentralização do ser humano. Embora sua iniciativa não estivesse seguindo a agenda do anti-humanismo, podemos pensar que Wiener contemplava, implicitamente, o mesmo objeto. Provavelmente, anti-humanismo e cibernética, naquele momento,tinham como objetivo fundamentar desdobramentos desse descentramento, como os que vemos hoje. O pós-humano crítico e o transumano carregam, atualmente, resquícios desses discursos, seus antecessores, já que o primeiro defende a possibilidade de uma existência mais inclusiva, englobando outros seres como pares dos humanos, e o segundo procura maquinizar o indivíduo para aprimorá-lo.
Agora, é válido também mencionar que, embora a visão de Wiener pareça muito análoga ao que se encontra hoje no discurso trans-humanista de futuristas adeptos ao programa de pesquisa do “upload de mentes”, como Ray Kurzweil [2] , eles não defendem a mesma coisa. Ao contrário do trans-humanismo, movimento que nitidamente herdou certos fundamentos das propostas cibernéticas sobre o humano, a visão de Wiener ainda conservava uma certa superioridade do ser humano sobre a máquina. O primeiro detém capacidades muito além da segunda, para o autor. Como Wiener mesmo diz, se conseguíssemos construir uma máquina que tivesse os mesmos processos ocorridos num humano, o máximo alcançado seria uma máquina que simula o humano. Além disso, o humano tem a vantagem do intelecto, ou seja da reflexividade, até mesmo sobre o restante da natureza, o que supostamente concede a ele a capacidade maior de se adaptar.
Entender que uma pessoa tão importante na história da cibernética como Wiener já demonstrava uma visão muito forte do que hoje é defendido pelo transumanismo, é importante para qualquer um que, como eu, estuda a subjetividade na prática do biohacking [3], ou seja, movimentos que atuam sobre o organismo por meio das tecnologias.
[1] WIENER, N. Cibernética e sociedade: o uso humano de seres humanos. São Paulo: Cultrix, 1970.
[2] KURZWEIL, R. Singularity is near: when humans transcend biology. Penguin Books, 2005.
[3] KAWANISHI, P.; LOURENÇÃO, G. Humanos que queremos sere. Humanismo, ciborguimos e pós-humanismo como tecnologias de si. Trabalhos em Linguística Aplicada, n. 58, v. 2, 2019.
Entre as áreas de desenvolvimento tecnológico que mais se ouve na atualidade, está a inteligência artificial. Quando tratamos dela, não conseguimos fugir, porém, de desejar prever o que será o futuro da humanidade. Por ser um tópico tão relevante quando se trata sobre as implicações de tecnologias sobre a sociedade humana, decidimos discutir o tema a partir do livro Life 3.0: being human in the age of artificial intelligence, escrito por Max Tegmark, cosmólogo professor do Instituto de Tecnologia de Massachusetts [1].
Embora há quase trinta anos se imaginasse cenários em que inteligências artificiais seriam perigosas para os humanos, seja atacando-os no mundo material [2] ou criando um reino tirânico digital [3], hoje convivemos com versões mais rudimentares de IA diariamente muitas vezes sem sabê-lo. Elas parecem, ao contrário do que todos temiam, pouco inteligentes e acabaram adentrando a casa das pessoas com o objetivo de ligar aparelhos eletrônicos, fazer telefonemas ou tocar músicas escolhidas por seu dono.
Não é sobre essa inteligência artificial que Tegmark quer discutir. Ele foca sua atenção na que seria chamada de inteligência artificial generalizada. Ao contrário de uma Alexa, tida hoje como mais um eletrodoméstico, a IA generalizada seria “consciente” e autônoma, isto é, teria a capacidade de aprender e de ter experiências subjetivas, o que, talvez, apenas retome um questionamento feito por John Searle em seu quarto chinês[4]: a IA realmente sabe ou apenas age como se soubesse?
A visão de Tegmark sobre esse cenário é tida como “prudente”, relacionada a uma corrente de pesquisa em IA que defende a IA autônoma como inofensiva, uma vez que ela nunca chegaria a ser consciente. O autor defende que não se deve ser um idealista, alguém cuja esperança sobre o futuro da humanidade está depositada sobre a inteligência artificial e na promessa de que essa irá cumprir a previsão dos futurólogos dos últimos anos: atingir a singularidade. Ao mesmo tempo, ele não se vê como um cético que não acredita em nada disso. Pelo contrário, ele dá um passo a mais e propõe que as pessoas se mobilizem para preparar um terreno seguro para um futuro certo.
As ideias de Tegmark se desdobram e tocam em questões determinantes para a concepção do próprio humano. Primeiro, a consciência. Ele defende ser possível uma máquina alcançá-la, mas, para isso, acredita, é necessário que se obtenha conhecimento sobre quais processos físicos, no interior do cérebro, estão envolvidos no fenômeno da consciência. Se por um lado ele admite que a materialidade de um corpo biológico seja indispensável na constituição da consciência, por outro, ele defende uma visão fisicalista [5] de que há – e sempre haverá – algum tipo de interação física concreta e mensurável para os fenômenos do mundo, inclusive o da consciência.
Com relação ao conceito de consciência em si, ele tenta se apoiar na própria experiência subjetiva do humano. Este tem a capacidade de focar em determinados elementos, mas estar totalmente inconsciente sobre outros. Passaríamos, então, a estar conscientes de algo quando houvesse um deslocamento de fatores (ainda desconhecidos). Sendo assim, a experiência subjetiva é, para o autor, resultado de um determinado alinhamento de elementos físicos. Logo, se os cientistas descobrirem quais são as condições, assim como as combinações necessárias, e conseguirem replicá-las, o mistério estaria resolvido.
Em meio às promessas de uma vida 3.0 e a comparação de um ser humano consciente de uma inteligência artificial, há o entendimento particular de que um sujeito humano pode ser descrito como um sistema cibernético. Nessa ótica, os seres vivos, assim como os mecânicos, resumiam-se a um sistema equilibrado, em que inputs, em determinados contextos, produzem os mesmos outputs, sendo tais outputs formas de modificar o ambiente, sendo esse, então retraduzido por retroalimentação, reajustando o sistema internamente e, assim, poderia se produzir vida. Daí deriva-se que, conhecer a fisicalidade do sistema é um passo para melhorá-la, gerando sua próxima versão, possivelmente independente do substrato biológico. No fundo, se queremos ter uma base consistente para refletir e questionar a construção de uma concepção de pós-humano, encabeçado por pensadores como Tegmark e outros, é necessário dar um passo para trás e olharmos a cibernética, por ser o campo que produziu um conjunto de saberes essenciais para seus trabalhos.
[1] TEGMARK, M. Life 3.0: being human in the age of artificial intelligence. Vintage Books, 2017. Livro discutido em nossa reunião de setembro.
[2] No seriado Arquivo X, episódio seis da primeira temporada, cujo nome é “Ghost in the machine”, os investigadores do FBI precisam lidar com um elevador controlado por uma inteligência artificial.
[3] O longa Tron de 1982, feito pela Disney, conta a história de usuários que, uma vez transportador para o mundo digital, precisam lutar contra a ditadura de uma inteligência artificial sobre os outros softwares.
[4] O filósofo John Searle propôs o argumento do Quarto Chinês que nos ajuda a pensar sobre a possibilidade de uma máquina ser inteligente ou não.
[5] Fisicalismo é uma perspectiva que assume a existência de fatores físicos para explicar os fenômenos do mundo.