Até onde deve ir a confiança em assistentes virtuais?

Você confia na sua assistente virtual? Softwares como Alexa, Google Assistente e Siri estão cada vez mais presentes no nosso cotidiano. Mas, se eles fossem pessoas, você os contrataria como assistentes?

Leia também: Cringe, Pix, WhatsApp e tudo o que buscamos na internet em 2021

As habilidades desses programas de ter senso crítico ainda não chegam perto das de humanos (os que têm bom senso, é claro). E essa realidade foi exposta em dois acontecimentos que ganharam repercussão internacional nesta semana.

Alexa e o desafio da moeda

No primeiro caso, uma mãe relatou, indignada, que a assistente virtual da Amazon, presente em dispositivos de casa conectada, teria sugerido à sua filha — uma criança de 10 anos — a realização de um desafio que oferece riscos à saúde. A “brincadeira da moeda” consiste em puxar uma fonte de carregador de celular da tomada até que metade dos pinos estejam expostos e, em seguida, encostar uma moeda nesta área do objeto.

Esse tipo de desafio viralizou no último ano em redes sociais, como o TikTok e o Twitter, e há descrições e instruções para ele na web — de onde a Alexa tirou a informação. Segundo especialistas em saúde, porém, trata-se de uma “brincadeira” que pode causar choque elétrico e, em casos mais graves, até mesmo a perda dos dedos, das mãos ou do braço.

Felizmente, no caso relatado, a mãe da criança estava presente e pôde explicar à filha que não se deve confiar em tudo o que há na internet e, consequentemente, no que a assistente diz. A menina não chegou a realizar o procedimento.

Google Maps e a rota perigosa

Também nesta semana, o aplicativo de mapas do Google estava sugerindo uma rota com potencial fatal para motoristas durante uma nevasca, nos Estados Unidos. O software, com o intuito de ajudar as pessoas a evitarem rodovias bloqueadas pela neve, estava desviando os usuários para uma estrada florestal estreita, que deveria ser evitada durante a tempestade, devido a riscos de acidentes.

Até mesmo o Serviço Florestal dos EUA emitiu um alerta pedindo que as pessoas evitassem o trajeto, ao notar que vários viajantes estavam tomando o caminho perigoso.

A recomendação do Google Maps, no entanto, foi alvo de diversas críticas — segundo a maioria das reclamações, tempestades de inverno são relativamente comuns no país e um serviço presente na vida dos usuários há tanto tempo já poderia ter um sistema que evitasse esse tipo de problema.

Até onde você deve confiar?

Apesar da difusão dos softwares de auxílio pessoal e da evolução da inteligência artificial, esses programas ainda estão longe da maturidade para tomada de decisões totalmente autônomas. Neste momento, há provavelmente centenas de cientistas dedicados a estudar o próximo passo para esse ecossistema, mas o bom senso para máquinas não é uma tarefa simples de se calcular.

É importante ter em mente que as informações dadas por assistentes como Google, Alexa e Siri vêm dois grandes bancos: o da própria empresa — e cada uma tem o seu próprio, cujo enriquecimento de informações é um dos principais esforços nos últimos tempos — e a web aberta.

Assim como a gente, que pode simplesmente fazer uma pesquisa no Google para encontrar a resposta para algum problema — sem certezas de sua eficácia ou veracidade — os assistentes virtuais também fazem suas buscas.

Dito isso, ainda é cedo para confiar de olhos fechados no seu assistente favorito. A dica é usá-lo como uma ferramenta para agilizar tarefas, mas sempre com uma pitada de pé atrás, para evitar ciladas.