Fabrício Mainenti
RedatorNão faz nem um mês que a Meta lançou o Muse, mas já estamos vendo que o novo agente de IA da empresa de Zuckerberg está gerando mais atrito do que a Meta gostaria. A ideia da empresa é que o utilizemos para cuidar de tarefas como fazer compras no supermercado ou cancelar assinaturas, entre muitas outras coisas. A realidade é que, para isso, ele precisa de acesso a toda a nossa vida, e é aí que muitos desconfiam, devido ao próprio histórico da Meta.
Agora, uma investigação da Time (embora não sejam os únicos) detalhou até que ponto o Muse investiga a nossa vida, indicando que nem mesmo quem não o utiliza escapa ao seu conhecimento.
Em resumo
Há algumas horas, a Time publicou uma análise indicando que, quando o Muse começa a trabalhar, ele cria um dossiê de cada usuário e de seus contatos. Esse documento interno é atualizado a cada hora e inclui tudo o que o sistema sabe sobre o próprio usuário, mas também sobre as pessoas que aparecem em seus chats, mensagens e e-mails — basicamente, tudo o que o agente leu.
A Time estima em quatro milhões o número de usuários do Muse; o agente classifica todas as informações em uma espécie de mapa de relações sociais. Por exemplo, o Muse registra como conhecemos outra pessoa, quais interesses compartilhamos e as conversas que tivemos, mantendo até um registro de "tensões e alianças" entre nós e outras pessoas.
O agente também teria instruções para analisar que tipo de mensagem funciona melhor com cada pessoa e até para inferir coisas que o usuário não disse em voz alta. Um exemplo citado é o fato de o sistema saber que um determinado usuário responde melhor a lembretes curtos após as 22h. Esse é o nível de precisão do agente.
Investigação detalhada
O curioso — embora, novamente, considerando o histórico da Meta, seja até esperado — é que o conhecimento do Muse não se limita aos seus usuários, mas abrange qualquer pessoa que entre nesse mapa mental. De fato, a investigação revela que o Muse tem a instrução de prestar atenção a piadas internas, expressões próprias e ao contexto para interagir com os usuários de maneiras específicas, fortalecendo assim a confiança.
Muse, limpe a memória
Ao começarmos a usar sistemas de inteligência artificial com memória ou os agentes mais recentes, fica evidente que é preciso abrir mão de certa privacidade. Existem inúmeras pesquisas apontando tudo o que a IA sabe sobre nós, mas com os agentes a situação vai além, pois, para serem realmente úteis, eles precisam ter acesso a todos os cantos do dispositivo que utilizamos.
No entanto, existe supostamente uma ferramenta de controle: a opção de solicitar que o sistema esqueça coisas específicas. A Meta afirma que cada usuário controla seu Muse e pode pedir que ele esqueça algo; contudo, a revista Time aponta que isso não funciona como deveria e que dar a ordem para esquecer não apaga necessariamente a mensagem original na qual determinada informação foi compartilhada.
Ao que parece, entre as instruções do agente está a ordem de não avisar ao usuário que essas mensagens podem continuar visíveis no chat e, além disso, ele não pode dizer que não conseguiu apagá-las. Simplesmente parece que ele apagou — ou acreditamos que o fez —, mas, segundo a Time, a questão tem nuances.
A defesa da Meta
Um porta-voz da empresa não negou as descobertas da Time, limitando-se a ressaltar que o funcionamento do Muse está descrito no blog de lançamento, onde já se detalha que o agente memoriza o que é importante para cada usuário, incluindo informações sobre outras pessoas que o próprio usuário decide se compartilha ou não.
Além disso, a Meta considera que o Muse conta com várias garantias para assegurar a segurança do usuário:
- Cada usuário possui sua própria máquina virtual na nuvem, isolada das demais (embora o site 404 tenha noticiado correções de última hora, pois um Muse teria conseguido escapar de sua máquina virtual);
- O Sentinel é um segundo agente que opera em paralelo, aprovando o que o Muse compartilha na Internet;
- Antes de realizar ações sensíveis, como fazer uma compra ou enviar um e-mail, o Muse solicita confirmação ao usuário;
- Os dados de cada pessoa não são compartilhados com os sistemas de publicidade da Meta;
- Cada usuário pode optar por não permitir que suas interações sejam usadas para treinar outros modelos da Meta;
- E o mais importante: ele não tem acesso a senhas nem a métodos de pagamento.
O que ele realmente faz: por outro lado, algo que a Meta reconhece fazer é aprender com o usuário (como aponta a Time); segundo a análise, o agente tem instruções para remover nomes e dados de identificação dos usuários, mas compartilhar as informações com outros sistemas Muse para fins de aprendizado.
Os primeiros embates
Em algum momento, a Meta lançará uma versão do Muse criptografada com uma chave exclusiva para cada usuário; se a Time encontrou todas essas informações, é porque elas estão disponíveis no gerenciador de arquivos do próprio aplicativo.
O Meta Superintelligence Labs destacou isso como um sinal de transparência — algo que a Time não nega —, mas ressalta que o acesso é restrito a usuários avançados, não ficando claro até que ponto a maioria dos usuários do Muse terá consciência disso.
Não cabe a nós julgar aqui, pois, como mencionado, há anos fazemos concessões às plataformas para utilizar certos serviços — e, na era dos agentes inteligentes, essa tendência só tende a crescer.
É importante que esse tipo de análise seja realizado para que usuários menos experientes saibam a que estão se expondo e possam decidir se concordam ou não; no entanto, o fato é que o Muse tem gerado muita repercussão, e essa análise da Time é apenas o episódio mais recente de uma trajetória marcada por polêmicas e resistências.
Primeiro, houve a Amazon vetando o agente para proteger seus negócios; depois, um jornalista afirmou que o Muse sabia coisas que não deveria, já que não havia recebido permissão para acessar certas áreas do dispositivo. Recentemente, a própria Apple reforçou a segurança do macOS para impedir que agentes transitem livremente pelo sistema sem o conhecimento do usuário.
O debate concentra-se no Muse — provavelmente devido ao histórico da Meta no que diz respeito ao tratamento de dados de usuários —, mas essa é uma discussão que está apenas começando.
Sucesso
Seja como for, o Muse — disponível, por enquanto, apenas nos Estados Unidos — já acumula mais de cinco milhões de downloads em menos de um mês. Embora muitas instalações possam ter ocorrido por mera curiosidade, outras tantas certamente refletem um interesse genuíno dos usuários em "desafogar" a mente de certas tarefas enquanto se concentram em outras atividades.
Há muitas considerações a fazer, mas não consigo deixar de compreender esses usuários em uma época em que tudo compete pela nossa atenção e somos constantemente bombardeados com informações de todo tipo.
Imagem de capa | David Singleton (editada)
Ver 0 Comentários