Tag: linguagem

A concepção de linguagem em Cibernética e Sociedade: o uso humano dos seres humanos, de Norbert Wiener – PARTE 3/3

Quem lê “Cibernética e Sociedade”, com um olhar pós-humanista, sente uma ambiguidade estranha. 

De um lado, percebe-se o extremo apego de Wiener  um humanismo liberal, em alguns momentos ingênuo, em outros até pedante, tal a confiança que ele parece ter em que seus postulados não abalariam a  dicotomia humano não-humano que parece considerara imanente, daí também a dificuldade de entender-se exatamente o que ele quer dizer com a expressão “uso humano dos seres humanos”. “A linguagem é uma atividade tão peculiarmente humana”, diz Wiener, ” que dela sequer se aproximam os parentes mais próximos do homem e seus mais ativos imitadores” (p. 81).  Para além de causa da sua excepcionalidade, a linguagem é pensada pelo autor como também a sua maior conquista: “O interesse humano pela linguagem parece ser um interesse inato por codificar e decifrar, e parece ser quase tão especificamente humano quanto o possa ser qualquer interesse. A linguagem é o maior interesse e a consecução mais característica do homem” (p.84), ainda que, em si, a linguagem não passe, a juízo de Wiener, de um código a ser decifrado.

De outro lado, o humano é “sugado” pela metáfora cibernética de forma direta e violenta, reduzido ao denominador comum da teoria matemática da informação/comunicação, um ser social cujas interações não passam de comandos e pedidos de informação: ” Em certo sentido, todos os sistemas de comunicação terminam por máquinas, mas os sistemas comuns de linguagem terminam por um tipo especial de máquina conhecido como ser humano” (p.77). 

Essa máquina/terminal humano, para Wiener,  funciona em três níveis: um nível “mecânico” (correspondente à fonética) que contempla os aparelhos fonador e auditório e os impulsos elétricos que os conectam aos circuitos cerebrais; um segundo nível, semântico, mais problemático,  na visão de Wiener, porque não se pode tão facilmente ser caracterizado em termos probabilísticos/informacionais, como no caso dos movimentos articulatórios e auditórios do corpo, já que  relacionados com o “aparelho detector de abstrações”  que não trabalha com a linguagem “palavra por palavra, mas ideia por ideia, e, amiúde, de modo ainda mais geral” (p; 79). O terceiro nível proposto por Wiener seria o do “comportamento de linguagem”, isto é, a “tradução das experiências do indivíduo, quer conscientes quer inconscientes, em ações que podem ser observadas externamente” (p. 79), mais especificamente, “ações brutas, diretas, da espécie que podemos observar também nos animais inferiores, e do sistema codificado e simbólico de ações que conhecemos como linguagem falada ou escrita” (p. 80). Bingo, estamos de volta ao jogo da imitação no qual a linguagem é um comportamento (simbólico) observável  que traduz, diretamente, um mundo interior feito de necessidades de saber e capacidades de controlar, um mundo acessível pela observação contínua desses comportamentos e sua tradução em padrões que lhe dão previsibilidade e consistência..

Seria injusto, a despeito de qualquer coisa, reduzir esse clássico de Norbert Wiener ao próprio reducionismo linguagem = comunicação = controle que perpassa a obra. Isso, especialmente, à luz do que, 70 anos mais tarde, a cibernética nos permite compreender sobre como humanos e máquinas tornam-se de fato, a cada dia mais claramente, um sistema acional e cognitivo integrado. Numa época em que ninguém pensaria, possivelmente, em web crawling, data mining, sentiment analysis e internet das coisas, Wiener já anunciava a tese de que “a sociedade só pode ser compreendida através de um estudo das mensagens e das facilidades de comunicação de que disponha” e de que “no futuro desenvolvimento dessas mensagens e facilidades de comunicação, as mensagens entre o homem e as maquinas, entre as máquinas e o homem, e entre a máquina e a máquina, estão destinadas a desempenhar papel cada vez mais importante” (p.17). 

Mais do que tudo, é justamente o impulso inicial, dado por ele e por outros pesquisadores da primeira onda da cibernética, a um processo epistemológico de desmaterialização dos comportamentos das entidades físicas, ou de sua tradução em bits desincorporados, para o acesso ao seu “ser” mais profundo, ou de outra forma, na tradução do “ser” em “comportar-se” ou “imitar-se um comportamento”, que abre uma das perspectivas mais concretas sobre o pós-humano na era da robótica pervasiva, da aprendizagem de máquina e dos mecanismos cada vez mais sofisticados de processamento de linguagem natural. Essa perspectiva nos permite, já distanciados, a essa altura, tanto do humanismo ingênuo dos anos 1950, quanto de certos “furos” daquela primeira onda, como, por exemplo, não incluir o observador no sistema cibernético observado, pensar no que seria de fato um “uso humano dos seres humanos”, no sentido de uma integração benigna do homo sapiens aos sistemas biológicos e maquínicos que compõem seu ecossistema físico e cognitivo [6]. 

A linguagem, obviamente, por conta da sua abertura, da sua polissemia,  de fenômenos como as implicaturas, a dêixis, os atos ilocucionais, e os jogos de interpretação, marca uma zona de segurança ou resistência a certo tipo de aniquilação ou redução do humano à máquina, em lugar da sua reinvenção como ciborgue, ou seja, àquilo que não se poderia chamar de pós, mas, antes de anti-humano.

[6] HAYLES, K. How we became posthuman: virtual bodies in cybernetics, literature, and informatics. Chicago, Ill: University of Chicago Press, 1999. 

[Veja também a Parte 1 e a Parte 2]

A concepção de linguagem em Cibernética e Sociedade: o uso humano dos seres humanos, de Norbert Wiener – PARTE 2/3

Para a primeira onda da cibernética, linguagem é comunicação e comunicação é troca de mensagens. Mensagem, em cibernética, é claro, abrange muito mais, mas também muito menos, do que o signo linguístico ou outros signos humanos. Ela é qualquer tipo de sinal composto por elementos encadeados de forma previsível/identificável que participe de um laco de retroalimentação (feedback) que conecte o sistema com seu ambiente. Assim, em cibernética, a palavra/o gesto/ a figura seria para o humano o que o feromônio ou a dança é para a formiga, a radiação solar ou os íons do solo para a planta, ou a variação de corrente elétrica para o circuito integrado. A partir daí, abre-se o caminho para outra “manobra” de Wiener que terá importantes consequências para o que se tornou hoje, a relação entre máquinas e humanos: 

“Ao dar a definição de Cibernética no livro original, coloquei na mesma classe comunicação e controle. Por que fiz isso? Quando me comunico com outra pessoa, transmito-lhe uma mensagem, e quando ela, por sua vez, se comunica comigo, replica com uma mensagem conexa, que contém informação que lhe é originariamente acessível, e não a mim” (p. 16).

Para o estudioso da linguagem, está clara a redução brutal implicada em equalizar comunicação e controle, já que o controle representa apenas um dos modos da linguagem, o imperativo, podendo a comunicação, em outras teorias da comunicação que não a matemática, exercer uma serie de outras funções [5]. Isso para não falar das modalizações, que permitem graus distintos de força a um imperativo, por exemplo, entre ordem, pedido e sugestão. Mais radical, ou simplista, ainda, é a manobra linguagem = comunicação = controle quando se pensa nos imperativos não expressos na superfície linguística, mas a partir de um “anexo” pragmático compartilhado tacitamente na cultura. Pode-se ordenar a uma criança que fique calada dizendo “quando um burro fala, os outros abaixo as orelhas”. Mas não se pode (ainda?) proibir Alexa/Cortana/Siri de falar dizendo-lhe “silêncio é bom” ou “boca de siri!”. O que dizer, então, sobre perguntarmos, sempre, aos outros, apenas aquilo que ainda não sabemos? “Você me ama?”, pergunta feita entre namorados(as) de forma estatisticamente bem significativa, por exemplo, é um pedido de informação?  

“Ademais”, continua Wiener, referindo-se ao feedback, “para o meu comando ser eficaz, tenho de tomar conhecimento de quaisquer mensagens vindas de tal pessoa que me possam indicar ter sido a ordem entendida e obedecida” (p.16). Aqui esbarramos novamente no problema da interpretação com compreensão, que é necessária se, de fato, espera-se que alguém faca algo com uma informação nova que até então na tinha, o que, é fácil suspeitar, não coincide exatamente, no mundo dos assuntos humanos, com a “mensagem entendida” na citação de Wiener. Me refiro ao “problema” da intencionalidade, essa “propriedade” dos fazeres e sujeitos humanos que, a bem dizer, psicanalistas, comportamentalistas e outros estudiosos não ratificam inequivocamente, e que, no entanto, é central na definição do humano pelo humanismo liberal a que o próprio Wiener parece aderir, ainda que ambiguamente, no livro (ver  a 3ª parte do post).

O que o reducionismo  linguagem = comunicação = controle de Wiener esconde aqui é que o sentido de algo que me é dito depende em grande medida de minha capacidade de entender a intenção de quem aquilo me diz quando o diz, ou, mais sutilmente, de provocar aquela intenção implicitamente ou disfarçar nossa intenção, mesmo falando de modo explícito. É possível considerarmos que animais e máquinas possam reconhecer, ou ao menos estimar, intenções de quem lhes dirige uma  palavra — em geral as interfaces de computador fazem inferências sobre isso a partir de comportamentos do usuário,  ou mesmo perguntam explicitamente qual seria a intenção do usuário a partir de um leque limitado de ações possibilitadas pelo sistema, como um menu. Contudo,  só humanos, até o momento, são capazes de fazer coisas como, por exemplo, perguntar se a visita quer mais um drink enquanto boceja sugerindo que é hora da visita ir embora, ou responder ao vendedor que já tem um bom fogão para evitar que um fogão novo lhe seja oferecido

De certa forma, então, com o fito de demonstrar que se pode reduzir linguagem a comandos, e, portanto, humanos e máquinas a sistemas cibernéticos semelhantes, Wiener acaba suscitando, em um leitor contemporâneo que tenha reflexão sobre a linguagem, um certo apego à ideia de excepcionalismo humano. Se isso, na verdade, traz ao leitor humanista de Wiener algum conforto, ao leitor que projeta sobre o texto certas teses pós-humanistas traz um estranhamento que é bastante significativo [CONTINUA NO PRÓXIMO POST]. 

[5] JAKOBSON, R. Linguística e comunicação. São Paulo (SP): Cultrix, 2010. 

[Veja também a Parte 1 e a Parte 3]

Cibernética e linguagem na conversa do wetware

“LINGUÍSTICA LIVE | SEASON ONE” – Programa de Pós-graduação em Linguística da Universidade Federal de Santa Catarina. Coordenação Prof. Atílio Butturi Junior
12 Jun, 2020

Link para uma minha cópia pessoal (não requer cadastro em sites de mídia social)

A concepção de linguagem em Cibernética e Sociedade: o uso humano dos seres humanos, de Norbert Wiener – PARTE 1/3

“Um computador é capaz de pensar?”, continuamos nos perguntado, quase 70 anos após o famoso jogo da imitação de Alan Turing [1], e continuam, como sabemos, os dilemas que estão na base da pergunta: mente e cérebro são “substâncias distintas”? O que é, afinal a consciência? É possível pensá-la como algo independente de um corpo biológico? [2]

Concepção de linguagem da Linguística Clássica

O jogo da imitação, mais adiante batizado de teste de Turing, como sabemos, era baseado numa espécie de conversa, bastante simplificada, composta de perguntas e respostas feitas a um interlocutor que poderia ser um ser humano ou um computador (inicialmente, no artigo de Turing, um homem ou uma mulher). Assim, de início, a linguagem é vista, entre os precursores  das ciências da  computação, não como uma prática social, gestos de significação ideologicamente saturados ou negociação de sentidos/jogos de linguagem entre sujeitos situados, mas uma sequencia de correspondências entre palavras que solicitam fatos e outras palavras que os transmitem, isto é, um ato comunicativo, de troca de mensagens, não um ato de fala, de enunciação ou de cognição situada.

Humani Victus Instrumenta – Autor desconhecido (cerca de 1570)

Por isso, também, o estudioso da linguagem  têm dificuldade em conceber linguagens de computador como linguagens (seriam códigos, já que não possuem dupla articulação, nem podem gerar um numero infinito de sentenças com sentido a partir de um numero finito de elementos léxico-sintáticos) ou inteligência artificial como inteligência (já que inteligência, no caso do sujeito da linguagem, pressupõe consciência sobre efeitos de sentido devidos às suas escolhas de palavras  que englobam o que possa mudar no mundo a partir daí) ou mesmo aprendizagem de máquina como aprendizagem (porque adquirir ou aprender uma língua não é sobre imitar comportamentos certos com a frequência correta em situações corretas, apenas, mas ativar estruturas plásticas da mente-cérebro  permitirão criar, com compreensão, enunciados que nunca poderiam ter sido escutados, e portanto imitados,  antes).

O modelo matemáticao da comunicação do matemático-engenheiro-criptógrafo Claude Shannon

Não obstantes essas constatações, observamos hoje, a todo momento, pessoas e computadores “conversando” nas mais variadas situações, voluntariamente ou de maneira forçosa, como com as famosas URAs (Unidade de Resposta Audível) dos serviços de atendimento telefonônico,  num jogo em que o humano projeta  sobre a troca de símbolos uma coerência linguística que o computador não alcança,  diante do que o computador diz baseado em cálculos  probabilísticos que, por sua vez, o falante humano não conseguiria fazer “de cabeça”. Logo,  a visão de linguagem na base da cibernética vingou, apesar de tudo,  como uma forma específica de prática discursiva contemporânea, uma forma seminal, talvez, do que será efetivamente a linguagem pós-humana, numa sociedade em que a distinção entre  agentes cognitivo-discursivos  humanos e não-humanos não teria mais sentido.

A linguagem em uso passar a ser uma integração “sofrida” desses dois conjuntos de rotinas e capacidades voltados para metas definidas, como todo sistema cibernético.

Dois bots “controlando” a conversa

No livro, Wiener [3], um dos pais da cibernética, faz inúmeras referencias à linguagem, sempre concebendo-a, de forma reducionista, como troca de mensagens com sentido pré-definido. Mensagens, por sua vez, seriam arranjos codificados de símbolos  cuja forma/ordem fornece informação, isto é, possibilidades de combinação não aleatória, não conteúdos sobre algum estado de coisas concebido por um falante, ou seja, uma noção trazida da então emergente TeMatemática da Informação [4].

 Para Wiener, “A linguagem é, em certo sentido, outro nome para a própria comunicação, assim como uma palavra usada para descrever os códigos por meio dos quais se processa a comunicação” (p. 73).  Mesmo naqueles idos dos anos 1950, já se poderia ver aí uma manobra até certo ponto arbitrária, cujas consequências seriam ainda mais significativas a partir do passo seguinte: declarar comunicação e controle como sinônimos. [CONTINUA NA PARTE 2/3]

[1] TURING, A. M. Computing Machinery and Intelligence. Mind, v. LIX, n. 236, p. 433–460, 1950.

[2] TEIXEIRA, J. DE F. O cérebro e o robô: inteligência artificial, biotecnologia e a nova ética. São Paulo: Paulus, 2015.

[3] WIENER, N. Cibernética e sociedade: o uso humano de seres humanos. São Paulo: Cultrix, 1970.

[4] SHANNON, C. E.; WEAVER, W. The mathematical theory of communication. Urbana: University of Illinois Press, 1975.

[Veja também a Parte 2 e a Parte 3]

As promessas da inteligência artificial: evolução ou apenas uma bagunça em um quarto chinês?

Entre as áreas de desenvolvimento tecnológico que mais se ouve na atualidade, está a inteligência artificial. Quando tratamos dela, não conseguimos fugir, porém, de desejar prever o que será o futuro da humanidade. Por ser um tópico tão relevante quando se trata sobre as implicações de tecnologias sobre a sociedade humana, decidimos discutir o tema a partir do livro Life 3.0: being human in the age of artificial intelligence, escrito por Max Tegmark, cosmólogo professor do Instituto de Tecnologia de Massachusetts [1].

Embora há quase trinta anos se imaginasse cenários em que inteligências artificiais seriam perigosas para os humanos, seja atacando-os no mundo material [2] ou criando um reino tirânico digital [3], hoje convivemos com versões mais rudimentares de IA diariamente muitas vezes sem sabê-lo. Elas parecem, ao contrário do que todos temiam, pouco inteligentes e acabaram adentrando a casa das pessoas com o objetivo de ligar aparelhos eletrônicos, fazer telefonemas ou tocar músicas escolhidas por seu dono.

Não é sobre essa inteligência artificial que Tegmark quer discutir. Ele foca sua atenção na que seria chamada de inteligência artificial generalizada. Ao contrário de uma Alexa, tida hoje como mais um eletrodoméstico, a IA generalizada seria “consciente” e autônoma, isto é, teria a capacidade de aprender e de ter experiências subjetivas, o que, talvez, apenas retome um questionamento feito por John Searle em seu quarto chinês[4]: a IA realmente sabe ou apenas age como se soubesse?

A visão de Tegmark sobre esse cenário é tida como “prudente”, relacionada a uma corrente de pesquisa em IA que defende a IA autônoma como inofensiva, uma vez que ela nunca chegaria a ser consciente. O autor defende que não se deve ser um idealista, alguém cuja esperança sobre o futuro da humanidade está depositada sobre a inteligência artificial e na promessa de que essa irá cumprir a previsão dos futurólogos dos últimos anos: atingir a singularidade. Ao mesmo tempo, ele não se vê como um cético que não acredita em nada disso. Pelo contrário, ele dá um passo a mais e propõe que as pessoas se mobilizem para preparar um terreno seguro para um futuro certo.

As ideias de Tegmark se desdobram e tocam em questões determinantes para a concepção do próprio humano. Primeiro, a consciência. Ele defende ser possível uma máquina alcançá-la, mas, para isso, acredita, é necessário que se obtenha  conhecimento sobre quais processos físicos, no interior do cérebro, estão envolvidos no fenômeno da consciência. Se por um lado ele admite que a materialidade de um corpo biológico seja indispensável na constituição da consciência, por outro, ele defende uma visão fisicalista [5] de que há – e sempre haverá – algum tipo de interação física concreta e mensurável para os fenômenos do mundo, inclusive o da consciência.

Alexa, assistente virtual desenvolvida pela Amazon

Com relação ao conceito de consciência em si, ele tenta se apoiar na própria experiência subjetiva do humano. Este tem a capacidade de focar em determinados elementos, mas estar totalmente inconsciente sobre outros. Passaríamos, então, a estar conscientes de algo quando houvesse um deslocamento de fatores (ainda desconhecidos). Sendo assim, a experiência subjetiva é, para  o autor, resultado de um determinado alinhamento de elementos físicos. Logo, se os cientistas descobrirem quais são as condições, assim como as combinações necessárias, e conseguirem replicá-las, o mistério estaria resolvido.  

Em meio às promessas de uma vida 3.0 e a comparação de um ser humano consciente de uma inteligência artificial, há o entendimento  particular de que um sujeito humano pode ser descrito como um sistema cibernético. Nessa ótica, os seres vivos, assim como os mecânicos, resumiam-se a um sistema equilibrado, em que inputs, em determinados contextos, produzem os mesmos outputs, sendo tais outputs formas de modificar o ambiente, sendo esse, então retraduzido por retroalimentação, reajustando o sistema internamente e, assim, poderia se produzir vida. Daí deriva-se que, conhecer a fisicalidade do sistema é um passo para melhorá-la, gerando sua próxima versão, possivelmente independente do substrato biológico. No fundo, se queremos ter uma base consistente para refletir e questionar a construção de uma concepção de pós-humano, encabeçado por pensadores como Tegmark e outros, é necessário dar um passo para trás e olharmos a cibernética, por ser o campo que produziu um conjunto de saberes essenciais para seus trabalhos.

[1] TEGMARK, M. Life 3.0: being human in the age of artificial intelligence. Vintage Books, 2017. Livro discutido em nossa reunião de setembro. 

[2] No seriado Arquivo X, episódio seis da primeira temporada, cujo nome é “Ghost in the machine”, os investigadores do FBI precisam lidar com um elevador controlado por uma inteligência artificial.

[3] O longa Tron de 1982, feito pela Disney, conta a história de usuários que, uma vez transportador para o mundo digital, precisam lutar contra a ditadura de uma inteligência artificial sobre os outros softwares.

[4] O filósofo John Searle propôs o argumento do Quarto Chinês que nos ajuda a pensar sobre a possibilidade de uma máquina ser inteligente ou não.

[5] Fisicalismo é uma perspectiva que assume a existência de fatores físicos para explicar os fenômenos do mundo.