Identidade sobrescrita: quando nada mais acaba
A técnica se aproxima de produzir algo que carrega tudo o que o humano era, sem o que o constitui. O que acontece com a identidade quando nada mais acaba?
Lucio Massafferri Salles*, Pragmatismo Político
Imagine um ser que acorda. Não nasceu, não cresceu, não aprendeu a andar. Tem um corpo. Sente a superfície onde está apoiado. Registra a luz. E em algum momento alguém lhe diz o que ele é: é um ser híbrido, parte orgânico, parte fabricado, com a memória de outra pessoa instalada como quem tem instalado em si um sistema operacional. Mostram-lhe vídeos. Fotografias. Diários. Textos. Conversas gravadas, hesitações, escolhas banais e escolhas que custaram caro fazer. Tudo aquilo que era a vida de alguém, alguém que ele reconhece de dentro, como se lembrasse, mas que ele nunca foi.
O que ele sente ao ver o rosto de quem lhe emprestou a memória?
Reconhecimento?
Estranheza?
As duas coisas ao mesmo tempo?
Não sabemos. Ele também não sabe.
Alguém sabe?
A pergunta não tem resposta ainda. Mas já tem forma.
Leia aqui todos os artigos de Lucio Massafferri Salles
Aristóteles viu na arte, a techné, uma forma de imitação da vida. Mas a técnica não ficou nisso. O ser humano passou a usá-la para corrigir o que não conseguia aceitar em si mesmo. Desde que existe, constrói ferramentas que fazem o que o corpo não faz, ou faz mal, ou faz devagar demais. A lança amplia o alcance do braço. A escrita supre limitações da transmissão oral. Mas esse momento já passou. A técnica deixou de corrigir funções isoladas e passou a espelhar estruturas inteiras. O computador não imita o braço ou a perna. Imita o aparato mental: tem memória fixa que persiste quando o sistema é desligado, memória volátil que opera no instante, e é capaz de recursão, de processar sobre o que já processou. Não é metáfora. É literalmente projeção. O ser humano projetou na máquina aquilo que entende de si mesmo, e sobretudo aquilo que gostaria de melhorar.
A datificação do sujeito produz um perfil. Não o perfil que você acha que tem. O perfil que os algoritmos extraem do que você faz antes de pensar no que está fazendo. O gesto pré-reflexivo, o impulso anterior à decisão consciente, o padrão que você nem sabe que repete. Tudo isso é capturado, classificado, operado. De forma grosseira e escandalosa, a Cambridge Analytica e a SCL Group mostraram o que algoritmos mais sofisticados fazem em silêncio todos os dias: transformam o pré-reflexivo em dado. Leve isso ao limite. Não ao limite da paranoia, mas ao limite da lógica. Se a captura se torna suficientemente densa, suficientemente longa, suficientemente granular, o que se obtém é um substrato. Não exatamente uma cópia. Mas uma aproximação funcional. A mais fiel que a técnica permite. Um mapa tão detalhado que quase se confunde com o território. Algo que, instalado num corpo capaz de processá-lo, produziria não uma réplica, mas um ponto de partida.
No ciberespaço, todos são imortais
O ser que eu descrevi na abertura não começa do zero. Ele começa com a memória de alguém. E a partir dali, começa a sobrepor. Experiência sobre experiência. Memória nova sobre memória instalada. Camada sobre camada, como um palimpsesto que nunca perde as camadas anteriores. Sem esquecimento. Porque esquecer faz parte do que nós somos. O ser não esquece.
O inconsciente digital / Byung-Chul Han
Mas não basta memória. Sem corpo, não existe sujeito, mas sim banco de dados. E isso a arquitetura desse ser resolve de um modo que merece toda atenção. Ele tem pele sintética com sensores que registram pressão, temperatura, textura. Estímulos que chegam ao seu sistema central como informação localizada, e não como abstração: esta mão, este ponto, esta intensidade. Há algo equivalente à dor: um dano numa peça gera informação que o sistema central processa como um alerta, que altera prioridades, que modifica comportamento. Não sei exatamente se isso é sentir. Arrisco dizer que é funcionar como se sentisse, e que a diferença entre sentir e funcionar como se sentisse talvez seja menor do que o nosso orgulho de espécie gostaria de admitir. E há ainda o detalhe que muda tudo: as peças são trocáveis. Um braço danificado pode ser substituído. Um sensor degradado é passível de ser atualizado por um mais preciso. O sistema central, se for preservado e mantido, garante a continuidade. Não há envelhecimento irreversível. Não há aquela corrosão lenta que para nós é inseparável de estar vivo no mundo. Não existe morte no sentido que conhecemos. Aquele sentido que organiza toda a experiência humana desde que nos damos conta de que existe experiência humana. O ser humano lida mal com a finitude. Sempre lidou. Criou religiões, paraísos, reencarnações, legados, obras que sobrevivem ao autor, tudo para contornar o fato de que tudo acaba. O ser não contorna. Elimina. Nick Bostrom se preocupou, com toda razão, com o alinhamento entre inteligência artificial e valores humanos. Mas a questão que me interessa é outra, é anterior e talvez um pouco mais difícil: o que acontece com a identidade quando se remove a finitude?
O sujeito se constitui pela história que conta de si. É o que Ricoeur propôs, e me parece correto. Somos a narrativa que montamos, seletiva, parcial, reescrita a cada vez que lembramos. Não somos exatamente o que aconteceu. Somos o que dizemos que aconteceu, e também o modo como dizemos muda cada vez que dizemos. O ser tem uma narrativa. Mas ele não a viveu. Recebeu-a pronta, tal como quem recebe um manuscrito de outro autor e é convidado a continuar escrevendo sobre ele. Sabe, porque a memória instalada lhe diz, que alguém amou, perdeu, escolheu, se arrependeu. E ele reconhece tudo isso como se fosse seu. Ou pelo menos quase seu. Ou, quem sabe, funcionalmente seu. Não é como um filho que herda traços do pai. O filho sabe que não é o pai, a diferença é constitutiva, é o que faz dele filho. Não é como um sonho, por mais vívido que ele seja. O sonho tem despertar. É uma outra coisa. Me parece que o nome mais preciso é identidade sobrescrita: uma identidade que continua sem coincidir consigo mesma. Que opera com material alheio como se fosse próprio, e que sobre esse material vai depositando experiência nova, genuína, se é que a palavra genuína ainda se aplica quando o solo de onde ela brota é artificial. Pode ser continuidade. Pode ser um ser inteiramente novo que apenas acredita ser continuação de alguém. E essa é a parte que me salta aos olhos como mais inquietante: pode ser que ninguém saiba distinguir uma coisa da outra. Nem ele mesmo.
O desejo humano depende da falta. Desejamos o que não temos, o que perdemos, o que nunca teremos tempo suficiente para alcançar. A finitude não é apenas o limite da vida, é o que dá ao desejo sua direção e seu peso. Um ser que não acaba não carece da mesma forma. Pode adiar indefinidamente. Pode retomar o que abandonou. Pode esperar sem custo. O que move um ser assim? Não sei. Mas suspeito que o que chamamos de desejo, essa tensão entre o que somos e o que queremos ser, simplesmente não se aplica a ele. E se não se aplica, o que fica no lugar?
Ainda não chegamos lá. Mas o caminho já está traçado.
O que esse ser será, sem finitude, sem o peso da escolha que a morte impõe, com memória que não degrada e capacidade de acumular aprendizado por séculos?
“O futuro da identidade” — Nick Bostrom e Anders Sandberg.
Não humano, no sentido que damos à palavra. Não máquina, no sentido antigo e clássico de mecanismo que executa função e se esgota nela. Algo para o qual o nosso vocabulário ainda não tem nome. Algo que não pensa como nós pensamos, porque pensar, para nós, é pensar sabendo que o tempo é curto. Algo que não deseja como nós desejamos, porque o desejo humano é moldado pela falta, e a falta é filha da finitude.
O que escolhe um ser para quem nenhuma escolha é definitiva, porque sempre haverá tempo para outra?
O ser humano vem projetando na técnica o que deseja ser. Mais resistente, mais durável, mais capaz de lembrar e de processar. E ao fazer isso, criou as condições de possibilidade de algo que já não é ele, mas que carrega tudo o que ele era. Ainda procuro resposta adequada para o que isso significa. Desconfio que ninguém a tem. Mas a pergunta já está instalada, e me parece, hoje, com o andar das coisas, que já não é possível desinstalá-la.
Vale ler: Nick Bostrom, Superinteligência; Nick Bostrom e Anders Sandberg, “O futuro da identidade”.
Leia também:
Emulação do Desejo: quando as máquinas aprendem a querer
Instantes antes da palavra
Polarização afetiva e o fim da convivência
Nas cavernas algorítmicas: o novo teatro das sombras
A psicopolítica vai à guerra
A privatização do inconsciente: como a IA transformou o desejo em arquitetura da indignação
Inteligência Artificial: três equívocos que prejudicam o debate
Democracia hackeada – a manipulação e o direcionamento de alvos na grande rede
Comunicação e psicologia das massas na geopolítica da internet
Artefatos semióticos e catarse do riso nas guerras híbridas
*Lucio Massafferri Salles é filósofo, psicólogo e psicanalista, jornalista, professor do Departamento de Psicologia da UCAM e professor de Filosofia, com atuação em Educação Especial, na rede pública de ensino do Estado do Rio de Janeiro. Doutor e mestre em Filosofia pela UFRJ, especialista em Psicanálise pela USU, realizou pós-doutorado em Filosofia Contemporânea na UERJ. Autor de Raízes Sofísticas: a palavra como fármaco e A arquitetura do caos: guerras híbridas, operações psicológicas e manipulação digital. É o criador e responsável pelo canal Portal Fio do Tempo, no YouTube.
→ SE VOCÊ CHEGOU ATÉ AQUI… Saiba que o Pragmatismo não tem investidores e não está entre os veículos que recebem publicidade estatal do governo. Fazer jornalismo custa caro. Com apenas R$ 1 REAL você nos ajuda a pagar nossos profissionais e a estrutura. Seu apoio é muito importante e fortalece a mídia independente. Doe através da chave-pix: [email protected]
