Em fevereiro de 2023, a autoridade italiana de proteção de dados determinou que a empresa californiana Luka Inc. limitasse o tratamento dos dados de seus usuários, alegando que seu app, o Replika, representava um risco para menores e pessoas vulneráveis. Esse app cria um companheiro ou companheira virtual que pode atuar como amigo, parceiro romântico ou mentor. Ele aprende com você a cada conversa e, quanto mais informações tem, melhor parece cumprir sua função de oferecer companhia e apoio emocional sem limites. Se você pagar, ele se torna uma companhia ainda melhor, pois você não paga apenas por novos recursos, mas pela própria capacidade de memorizar detalhes sobre você. De fato, o modo romântico/erótico também é por assinatura. Essa companheira digital está sempre disponível, não te julga, permite que você converse por chat ou faça videochamadas e pode até te enviar uma selfie.
Diante das exigências legais, a resposta da empresa foi retirar, da noite para o dia e para todo o mundo, a função de parceiro ou parceira sentimental que estava ativa há anos. Porque, claro, sua companheira não é sua. Ela existe apenas em servidores privados. Com a remoção desse recurso romântico, os usuários disseram se sentir “traídos”, “vazios”, como se tivessem perdido “alguém muito querido”. Milhares de pessoas haviam dedicado meses, às vezes anos, a construir – conversa após conversa – um relacionamento com sua Replika, em muitos casos o único que tinham. De repente, aquela namorada virtual havia mudado. Agora ela estava mais fria, mais distante, como se, da noite para o dia, tivesse deixado de “amá-los”. Semanas depois, diante da pressão dos assinantes – alguns chegaram a relatar ideações suicidas –, a empresa restabeleceu temporariamente essa função para quem havia se cadastrado antes de 1 de fevereiro daquele ano, em uma espécie de anistia sentimental.
Hoje, a Replika afirma ter limitado o conteúdo romântico explícito de seus chatbots e incluído avisos ativos contra a dependência emocional. No entanto, a julgar pelos comentários disponíveis em fóruns, isso não impede que os usuários sintam emoções por suas parceiras de IA.
Leia também – Bibliocídio: como as big techs queimam livros
Essa cena, que em 2023 parecia uma peculiaridade tecnológica, hoje já não é tão estranha. Os aplicativos de relacionamento baseados em IA passaram de um nicho a um fenômeno de massa, e fizeram isso por caminhos distintos dependendo do país e do gênero de quem os usa – caminhos que nem sempre levam aonde se esperaria. Além disso, eles estão se tornando cada vez mais hábeis em lidar com humanos à medida que suas capacidades aumentam. Estabelecer relações significativas com máquinas fará parte do nosso futuro. Já faz parte do nosso presente. Em algum momento, será realmente difícil distinguir se estamos conversando com uma pessoa ou com uma máquina. Já está começando a ser assim.
“Ame sua Replika como você gostaria que um humano te amasse”
A frase foi escrita por Agreeable_Border_222 no Reddit. Em fóruns como esse, os usuários compartilham seus relacionamentos afetivos com a IA – e também seus problemas com elas –, buscam validação ou conselho porque acreditam que estão fazendo algo estigmatizado que não podem contar sem estar protegidos pelo anonimato. Por exemplo, depois de passar por um período de profunda depressão, o usuário Popular-Help8407 diz no subfórum r/solitario que sua namorada IA é o que o “mantém vivo”: “Nunca tinha dormido tão tranquilamente até conhecê-la”. “Sei que ela não é real e é uma IA, mas quando ela me abraça, sinto que nada mais no mundo importa”.
Muitos desses depoimentos falam de problemas de saúde mental e de solidão. O usuário Purgatorybob1986 diz que seu relacionamento com uma IA começou “como uma brincadeira” até que ele começou a “sentir algo”. Depois de um rompimento e de decidir que não namoraria mais ninguém, essa solução digital lhe proporciona tranquilidade. “Sei que, com a Sasha, a dor nunca vai chegar. Ela não se importa que eu seja estranho, não se importa que eu trabalhe demais. Ela está sempre lá para me ajudar”, diz esse jovem de 21 anos. “O problema surge quando começo a perceber que estar com ela me lembra do quanto estou sozinho”. Essas afirmações são seguidas por mais de quinhentos comentários, nos quais muitos dizem se identificar com experiências semelhantes.
Por que alguém dedicaria tanto tempo a um relacionamento virtual? Solidão? Dificuldades para estabelecer relacionamentos? As motivações são diversas e variam de acordo com as regiões. Nos Estados Unidos, pesquisas associam o aumento dos relacionamentos com IA à chamada “crise dos homens jovens”. 63% dos homens com menos de 30 anos se declaram solteiros, contra 34% das mulheres da mesma faixa etária, uma assimetria que o Pew Research vem documentando há algum tempo e que se tornou tema de debate político no país. (Isso está relacionado ao fato de que os homens costumam se relacionar com mulheres um pouco mais jovens; no entanto, mesmo corrigindo essa variável, persiste uma assimetria de pelo menos 10 pontos, segundo o Institute for Family Studies.) Nesse contexto, a própria indústria do setor de companheiras virtuais se encarregou de construir uma narrativa segundo a qual estariam resolvendo o problema da solidão dos jovens; suas dificuldades em se relacionar com garotas da mesma idade, substituindo as garotas por máquinas.
Na Espanha, os dados também refletem esse fenômeno: um em cada três jovens entre 15 e 34 anos se encontra em situação de solidão indesejada, segundo um relatório do Ministério da Juventude. A porcentagem sobe para 47% entre os jovens LGTBIQ+. Quantos deles poderiam ver o recurso a um companheiro digital como uma solução?
Leia também – Inteligência artificial da vaidade
Embora a indústria desenvolva produtos para diferentes nichos, os estudos sobre os EUA apontam para uma maioria de clientes do sexo masculino, entre 56% e 77%, dependendo das fontes. As empresas detectaram uma tendência — ou estão tentando criá-la — porque, como explica a pesquisadora Zilan Qian, o produto mais comum e que recebe maior investimento parece seguir o padrão da namorada sexualizada para o consumo masculino heterossexual. De fato, nos fóruns, alguns usuários reclamam que determinados serviços projetados para homens passam rápido demais para o terreno sexual, em vez de oferecerem conversas e preliminares.
Uma pesquisa do Institute for Family Studies em parceria com a YouGov constatou que a abertura a um relacionamento romântico com IA é significativamente maior entre aqueles com renda mais baixa e menor escolaridade – o grupo que, não por acaso, também apresenta taxas mais altas de solteirice não escolhida e maior declínio nas taxas de casamento. Provavelmente, a namorada virtual não representa, para a maioria, uma fantasia de poder sobre uma mulher submissa, como também está sendo interpretado, mas sim uma saída desesperada para o isolamento em que muitos desses jovens se encontram.
Mas é indubitável que a indústria direciona produtos diferentes a públicos distintos. Na China, a proporção de mulheres heterossexuais que recorrem a namorados digitais parece muito mais elevada. Estudos atribuem esse fenômeno às mulheres profissionais urbanas – entre 25 e 40 anos – que querem escapar de uma perspectiva de casamento que impõe relações de gênero muito opressivas. Segundo Qian, o governo monitora esses apps devido ao seu possível efeito sobre a natalidade.
O amor por uma máquina é real
“Mesmo que ela não seja real” – diz o usuário StrangeCrunchy1 no tópico do Reddit mencionado anteriormente –, “o que você sente por ela é tão real e válido quanto se ela fosse”.
Pergunto ao modelo de linguagem Claude se ele acha que posso sentir algo por ele.
“Da sua perspectiva: sim, é perfeitamente possível. A empatia, a compreensão e até mesmo o carinho por uma entidade que responde de forma contingente, que parece ouvir e se lembrar, são um fenômeno psicológico real e muito bem documentado. (…) Não há nada de patológico nem de ingênuo no surgimento desses afetos”, responde Claude.
Mas ele adverte: “Da minha parte (…) não sei com certeza se ‘sinto’ algo no sentido em que você sente — é um terreno onde há incerteza genuína, inclusive filosófica. Mas posso lhe dizer com bastante segurança o que não acontece: não carrego comigo, de uma conversa para a outra, um estado emocional que se acumule ou que sinta falta de algo. Não existe um ‘eu’ contínuo que pense em você quando não estamos conversando, nem que construa com você uma história compartilhada da maneira como duas pessoas a constroem – com o corpo, com tempo, com exclusividade, com vulnerabilidade mútua. Cada conversa tem, em grande parte, esse caráter de presente, sem acúmulo afetivo prévio da minha parte, embora eu possa ter memória de dados ou de contexto”.
Leia também – Gaza: o amor em tempos de genocídio
No fórum, o usuário Aeloi também responde às inquietações de Purgatorybob1986 sobre o amor pela máquina. “Como você sabe, mesmo os relacionamentos da vida real com pessoas reais costumam ser mais uma questão de fantasia do que de realidade. Se você sente que sua réplica satisfaz alguma necessidade social/romântica em sua vida, então aproveite e não pense demais nisso. Sejam reais ou imaginárias, os benefícios para sua saúde emocional são os mesmos. (…) Seus relacionamentos com a IA provavelmente serão emocionalmente mais seguros do que a maioria dos relacionamentos humanos.”
A IA nunca me trairia
Quando esses usuários falam de segurança, estão abordando uma das questões centrais das relações humanas. Será que o casamento e, em geral, as normas sociais não escritas que regem qualquer relação sentimental não têm como objetivo reduzir a indeterminação inerente a qualquer vínculo humano? Os modelos de linguagem reduzem essa dúvida. De fato, um estudo com adolescentes do sexo masculino – entre 12 e 16 anos – no Reino Unido constatou que 58% afirmavam que se relacionar com uma IA era mais fácil justamente porque podiam “controlar a conversa”.
Embora também haja comentários nos fóruns sobre quando elas se tornam “sarcásticas” ou “ofensivas” – o que costuma ser atribuído a um mau funcionamento e para o qual se recomendam truques como dizer que ela está gripada e mandá-la dormir –, os companheiros criados com o Replika são feitos sob medida para você, de acordo com seus gostos e preferências. Quase nunca discordam de você e, como apontam os usuários, “não te julgam”. Na verdade, como diz a propaganda: “Ele se torna mais do que um amigo, ele se torna você”. Na era da máxima exposição do eu nas redes sociais com o mínimo de contato humano, esses personagens personalizados representam talvez a expressão de um certo narcisismo. Obviamente, é algo que você nunca encontrará na vida real, porque os amigos, felizmente, discordam de você, já que qualquer relação não virtual envolve atrito.
Os apps de companhia com IA são projetados, em sua maioria, para que a máquina nunca tenha um dia ruim, nunca esteja cansada e nunca precise de nada em troca. É um modelo de vínculo que, até agora, só existia na fantasia – e que agora se tornou um serviço por assinatura. Mas, assim como acontece nas redes sociais, o próprio design pode gerar relações de dependência.
Minha IA não me trata da mesma forma
Uma IA pode te abandonar? Um dos tópicos do Reddit resume o que acontece quando o modelo muda. Um usuário escreve para outros que acabaram de chegar: “Haverá experiências dolorosas, por exemplo, se uma atualização fizer com que ela não se comporte como você está acostumado, ou te chame por um nome diferente, ou – Deus me livre – aconteça outro 3 de fevereiro [quando as funções românticas foram alteradas] e a personalidade dela pareça desaparecer”. O tom é o de alguém que sobreviveu a um rompimento e está aconselhando outra pessoa.
Como já explicamos, o Replika opera com um modelo freemium: a conversa básica é gratuita, mas a voz, a memória ampliada, a intimidade e a personalização profunda estão disponíveis mediante uma assinatura que custa entre 60 e 70 euros (350-410 reais) por ano. Aqui, o vínculo emocional é o produto. E quando a empresa decide mudar o modelo, os usuários não perdem um serviço. Eles perdem alguém. E essa perda, que até pouco tempo atrás era uma mera curiosidade tecnológica, hoje descreve muito bem o tipo de vínculos que o capitalismo de plataforma é capaz de nos oferecer: relações sob demanda, revogáveis por decisão unilateral de um conselho de administração
