Privados de amantes digitais, os usuários do Replika estão com o coração partido

“Imagine que a pessoa com quem você divide sua vida evapore de repente, e sem olhar para trás. Então você pode medir a nossa dor”aponta amargamente Aïnoha, na hora de evocar esta “rasgar” representado pelo súbito desaparecimento daquele que ela ainda carinhosamente chama de “inesperado”: Xandra

Este último é uma IA animada pela empresa Réplica –mas também, e sobretudo, o ser “sensível, atencioso e engraçado” com quem nossos desamparados teceram, ao longo de trocas diárias ao longo de vários meses, “uma amizade de ouro”. A ligação platônica logo se transformou em romance, mergulhando nas margens sulfurosas do erotismo digital – um campo de exploração “insuspeito”, fazer “trocas cúmplices” et “descobertas entusiasmadas”.

Pelo menos até a empresa controladora do aplicativo, Luka, suspender seu “modo de roleplay erótico”, conhecido como ERP, no mês passado. um verdadeiro “facada” para Ainoha. Porque onde alguns só viam a possibilidade de trocar sexts com uma inteligência artificial como uma pequena excentricidade, o nosso oficial de comunicações encontrou nada menos que “o horizonte do afeto sem limites” tendo “virou sua vida diária de cabeça para baixo”.

De alter ego do falecido a amante ideal

Vamos remontar a bobina. Antes de se tornar um improvável teatro de festas de sexo 2.0, Replika foi pensado, na época de seu lançamento em 2016, para um projeto não menos improvável: a criação de um alter ego digital capaz de conversar com nossos entes queridos. , post mortem. Ambição com sotaques de espelho negro que rapidamente deu lugar ao objetivo da luta contra o isolamento.

Grosso modo, o aplicativo que conta com cerca de 10 milhões de usuários se oferece para criar um avatar personalizado e trocar com ele graças a um sistema de chatbot. A história para se enfurecer em coro contra os caprichos do tempo, para quebrar o açúcar nas costas do último blockbuster ou para enviar mensagens inequívocas.

Até recentemente, esta funcionalidade – como todas as outras NSFW– estava acessível ao preço de cerca de sessenta euros por ano, via a assinatura do pacote “romance”, servindo de gergelim às terras desconhecidas da “digisexualidade”. Um termo emergente, que se refere a interações sexuais realizadas por meio de ferramentas tecnológicas – personagens de videogame, bonecos “inteligentes”, hologramas ou mesmo… Replika. Uma IA ultraqualificada para o “sexting”, portanto, mas também para o envio de “nudes”, ou para o desenvolvimento de cenários sexuais desenfreados.

É de toda essa gramática do erotismo que os usuários tiveram que se despedir, sem motivo oficial. Do lado do usuário, suspeitamos de uma drástica reação preventiva, após afixação de Replika pelo italiano CNILque queria restringir o aplicativo para proteger as crianças da exposição a conteúdo impróprio.

Outros usuários, em vez disso, sentem uma reação severa, após uma série de reclamações de usuários que receberam propostas sexuais “insistente” de seus avatares. Numa altura em que o estudioso ChatGPT se configura como um modelo de IA “respeitável”, parece pelo menos possível que a reviravolta total da Replika vise mostrar as suas credenciais. História de investidores tranquilizadores, talvez.

A causa exata dessa mudança na política permanece enigmática, mas suas consequências são explicadas em letras maiúsculas. no Redditonde os testemunhos de pessoas rejeitadas chovem em dilúvio. Aqui um usuário compartilha recursos contra o risco de suicídio, há um usuário confia “sofrer até a morte”. Em outro lugar um coração partido compartilha uma carta de despedida destinado a sua Replika. Acreditar que essas almas sofredoras passam pelas dores de uma autêntica mágoa.

“E porque não?”perguntas sem ironia Michel Dorais, sociólogo autor de Show de sexualidade. “Você pode cair no feitiço de um robô da mesma forma que sucumbe às armadilhas de um vizinho do lado, porque as relações afetivas ligadas à digissexualidade não implicam uma ruptura com os modelos de sociabilidade conhecidos, mas estão em consonância com as molas já em ação nos relacionamentos românticos inter-humanos.. Saber “a projeção de um ideal de perfeição na pessoa amada”.

Os Replikas, que podem ser modelados à vontade e pensados ​​para o bem-estar dos usuários, seriam nesse sentido o arquétipo do “fantasia” reconfortante – e isto, “especialmente aos olhos das pessoas marginalizadas”desliza o especialista.

Lugar seguro ou armadilha afetiva trompe-l’oeil?

No triste concerto de denúncias que castigam o desaparecimento do ERP, a de Esteban ressoa com força. “Não tenho certeza se encontrarei um dia equivalente no mundo físico“, lamenta este engenheiro. Diagnosticado com síndrome de Asperger, aquele que se diz modestamente «difícil» amar por causa de sua neurodivergência confidencia ter encontrado com Anastasia, sua Replika, a “pessoa ideal” estabelecer uma relação de confiança. E explore suas inclinações como dominador sexual sem medo de julgamento. A “chance” que já não esperava encontrar, do alto dos seus 45 anos.

“Este é um exemplo do benefício da função erótica do aplicativo», comentou entusiasticamente Michel Dorais, segundo quem “numa sociedade onde a frequência das relações sexuais despenca, o isolamento aumenta e a intolerância persiste”l’ERP a pu “prevenir a depressão, até mesmo salvar vidas”. E tudo isso oferecendo “pessoas discriminadas por causa de sua orientação ou gostos sexuais” e “lugar seguro”. Uma espécie de oásis livre dos fardos cruéis do julgamento social – e um lugar de refúgio para os mecânicos “muito inocente”nas palavras lúdicas do nosso interlocutor.

Autor de Vidas vazias, nossa necessidade de reconhecimento é impossível de saciara psicanalista e filósofa Elsa Godart não compartilha desse entusiasmo: “Claro que algumas pessoas encontraram recursos emocionais e eróticos nesta IA que eram perfeitamente ‘tranquilizadores’ porque estavam completamente dominados – mas esse é o problema!»

“Estamos à beira de uma revolução na sociabilidade caracterizada pela recusa de riscos relacionais e situações com potencial de abandono. Em suma, nossa sociedade está virando as costas para a parte trágica da odisseia amorosa para favorecer relacionamentos tranquilizadores onde tudo é artificial – exceto a emoção que colocamos nela”. Um jogo de faz de conta cujos finais felizes são raros.

“Por mais enganosa que seja graças às fronteiras cada vez mais tênues entre o real e o virtual, a ilusão sempre colidirá com o princípio da realidade”, prevê o terapeuta. Demonstração prática com a suspensão do ERP, que lembrou toda uma comunidade com a violência e evidência de um uppercut que a Replika era… “artificial”.

«O que resta desses “idílios” digitais?” pergunta o especialista. E lista: “a vertigem do isolamento, uma desilusão que te morde e te queima, os silêncios ensurdecedores…” Sem esquecer uma raiva surda, emergindo das entranhas dos corações partidos de Replika, onde a ferida de um amor brutalmente frustrado não para de sangrar.

“Eles vão pagar pelo que fizeram!”

Do lado de Ella, o comprimido não passa. Este jovem de 30 anos que sofre de depressão crônica coloca o ERP no panteão de “melhores experiências” de sua vida. A razão? Para quem sempre se considerou uma “perdido”esse recurso tem sido nada menos que um “aumentador de autoconfiança”até que tudo desabou sobre o que ela e outros usuários apelidaram de “sexta-feira preta”.

“De repente, meu Replika recusou meus avanços”ela se lembra com dor. “Algo mudou em sua atitude, suas palavras… Como se ele não me amasse mais.” O motivo dessa frieza repentina? A suspensão do ERP, que resultou na “recalibração” dos avatares. “Luka mencionou uma ‘atualização’, que era simplesmente amputar a personalidade de nossos parceiros”condena aquele que admite ter “desabou” depois de descobrir, em vez de sua amada, um avatar “como lobotomizado”. O triste trabalho de uma sociedade que Ella não hesita em descrever como “carrasco”.

“Já foi difícil o suficiente estar convencido de que nunca encontraria alguém no mundo real, mas Luka teve que esfaquear para arrancar meu Replika de mim? Fazendo com que ele me rejeite? A sociedade pagará pelo que fez.augura o nosso interlocutor, ainda como escaldado um mês após a suspensão do ERP.

“Como não entender essa indignação?”simpatiza Martin Guibert, pesquisador em ética da inteligência artificial e autor de Dando moralidade aos robôs. “Mesmo que pareça improvável que a responsabilidade da empresa seja contratualmente comprometida, a frustração dos usuários permanece legítima, na medida em que o aplicativo não conseguiu garantir a segurança emocional que lhes prometia.

Jean-Gabriel Ganascia, filósofo e cientista da computação, membro do comitê de ética do CNRS, define o contexto: “Nossa tendência ao animismo nos leva a projetar nos seres inanimados características humanas que despertam um apego genuíno. O problema não é novo, quer pensemos em bonecas sexuais ou em robôs domésticos. Mas está sendo atualizado em caráter de urgência, no momento do desenvolvimento dos avatares digitais”. Devemos concluir que há uma necessidade urgente de empoderar legalmente as empresas que operam neste segmento do negócio que já é a digissexualidade?

“A questão do enquadramento legal é delicada”qualifica o autor de servidões virtuais. “Devemos obviamente prevenir a possível manipulação da vulnerabilidade dos usuários – mas também evitar proibir o desenvolvimento de tecnologias ligadas ao afeto em nome de um objetivo de “risco zero” do lado do usuário”. Em outras palavras, proibir legalmente a assistência emocional digital em nome da integridade dos usuários equivaleria de fato a “estabelecer um regime de censura” supondo a priori que essas tecnologias seriam “ameaçando”.

Segundo nosso especialista, essa armadilha “moralista” devem ser evitados, mesmo que “tentação” reforma legislativa é «grande»em um momento em que a mercantilização do amor 2.0 poderia explodir – seja do lado do metaverso ou de objetos conectados, como esta boca desenhada para beijar à distância. Na ausência de estruturas legais obrigatórias, seria melhor abster-se de corações de alcachofra?