E quando seu clone assumir o comando? Reflexões jurídicas sobre o app Replika

Um amigo que morre e a vontade de dialogar com mesmo, criando sua versão “simulada”, motiva o desenvolvimento de um robô que após interagir com você em certa intensidade se torna uma cópia das suas características. O Aplicativo Replika, disponível para IOS e Android, utiliza inteligência artificial na criação de uma espécie de “clone virtual”.

Eugenia Kuyda, que perdeu o melhor amigo em 2015 em um atropelamento, reuniu todas as mensagens pessoais e comentários do rapaz em redes sociais (Twitter e Facebook) e criou um chatbot que teria a personalidade do amigo. Algo parecido com o Episódio Be Right Back de Black Mirror, ou com o filme de ficção científica Chappie? No filme, ao ser reprogramado, um Android se torna Chappie, o primeiro robô com capacidade de pensar e sentir por si mesmo, mas que imita pessoas com quem convive.

O Acesso ao App Replika se dá por convite ou por meio de um link, reservando-se um nome de usuário. Acessando o aplicativo, o mesmo permite a conversa com o bot, que interagindo contigo, chega ao ponto em que “é você”.

No AppAnnie, que monitora os aplicativos populares, o aplicativo foi um dos mais baixados no Brasil. Em meio aos humorísticos “usos” como por exemplo, colocar o bot para discutir a relação com a namorada, alguns pontos merecem uma reflexão. Se coletando dados manualmente, foi possível traçar a personalidade do amigo e desenvolver um aplicativo que com alguns chats faz a leitura da personalidade, o que podemos imaginar seria possível com terabytes de dados que lançamos diariamente em redes sociais, comentários, impressões, criticas, ofensas, elogios, curtidas, tweets. Agora imagine um clone que sabe mais de nós do que nós mesmos?

Alguns estudos indicam que em 20 (vinte) likes, isso mesmo, likes, já é possível traçar a personalidade de alguém, que sequer precisa “abrir a boca”, se assim podemos dizer. A própria Universidade de Cambridge tem o projeto Apply Magic Sauce, onde é capaz realizar inúmeras predições de personalidade, apenas analisando likes em redes sociais.

O segundo ponto a se tratar também está relacionado à privacidade. O que é possível fazer com estes dados se estiverem em mãos erradas? A cada réplica é criado no sistema um perfil com uma URL e usuários que não se atentarem às configurações podem exibir conversas e até dados privados. Pessoas podem querer interagir com seu clone antes de conversar com você por inúmeros motivos, desde conquistá-lo a comprar ou fazer algo, já conhecendo seu perfil e possíveis objeções, o que seria um marketing mais questionável, a até mesmo obter informações privilegiadas ou privadas (como indícios de uma senha, estratégias ou códigos de acesso) para inimagináveis ações, positivas ou extremamente negativas.

Imagine alguém usando seu clone para aplicar um golpe em alguém de confiança, valendo-se da forma com que fala e de sua personalidade? Teríamos novas modalidades de ciberataques focados na clonagem da personalidade?

Mas como no filme Lucy, estes aplicativos teriam aplicações úteis como melhorar “nossa capacidade”, ou nos oferecer uma extensão de nós mesmos, onde poderíamos dizer como no referido filme “estamos em toda parte”? Poderíamos nos relacionar, trabalhar ou fechar contratos inteligentes aplicando nossos clones? E se algo der errado, qual o direito digital aplicável? O Replika permite, por exemplo, que pessoas conversem com seu clone. Inquietações registradas, por hora, o Replika é apenas um aplicativo que aprende com você, utilizando duas tecnologias em absoluta emergência, a inteligência artificial e os chatbots.

Mas e quanto ao amigo da programadora Eugenia Kuyda? Ele autorizaria que sua personalidade fosse clonada e eternizada em códigos? Mas, qual direito temos sobre a clonagem de personalidade? Será que teremos que dispor sobre nossa herança virtual (dados), evitando que sejam tratadas e gerem clones ou usos indevidos? Já existem projetos de lei no Congresso Nacional a respeito. E quando a tecnologia por trás do Replika estiver em todos os locais virtuais que passemos, e por onde interagirmos, lá poderá estar um o novo “eu” em formação, sem que eu saiba? O que estamos criando e quais suas formas de uso? Seria muito bom que soubéssemos.

José Antonio Milagre, palestrante tecnólogo, advogado especializado em Direito Digital, Mestre e Doutorando pela UNESP. facebook.com/josemilagreoficial

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *