Uma voz pode lembrar um encontro, ler uma mensagem ou responder enquanto temos as mãos ocupadas. A facilidade do gesto torna familiar um sistema que entra nos espaços da casa. Mas uma conversa em casa também contém informações sobre hábitos, pessoas presentes e momentos que não tínhamos pensado compartilhar.
O tema diz respeito a assistentes de voz e outros sistemas de automação que coletam sinais do meio ambiente. O nome robô pode evocar uma figura humana, enquanto o ponto decisivo muitas vezes permanece menos visível: onde os dados são processados e que decisões podemos tomar sobre seu uso?
O conforto inclui outras pessoas
As diretrizes do EDPB sobre assistentes de voz distinguem usuários registrados, pessoas que interagem sem uma conta e pessoas envolvidas acidentalmente. Também chamam a atenção para o risco de uma gravação conter entradas ou informações adicionais às necessárias para o serviço. EDPB, orientações 02/2021.
Esta observação move o problema da escolha individual para a relação. Uma pessoa pode ter comprado o dispositivo, enquanto um hóspede não sabe que ele está presente ou ativo. Em uma família pode haver expectativas diferentes sobre a confidencialidade. A decisão de quem configura um serviço pode, portanto, envolver outros.
Podemos abordar o tema através de perguntas compreensíveis: quando o sistema ouve, que informações armazena, quem pode acessá-las e como a coleta é interrompida? Pedir clareza sobre esses pontos permite conhecer melhor um instrumento sem ter que assumir que ele é sempre inofensivo ou necessariamente hostil.
Entenda o que resta
O EDPB também recorda os limites de retenção e a necessidade de avaliar a base jurídica dos dados recolhidos acidentalmente. A transparência diz respeito, portanto, mais do que ao momento em que pronunciamos um comando: inclui a vida subsequente da informação e as possibilidades de exercer os seus direitos.
A partir desta indicação, podemos obter um critério de design: tornar visível o que uma pessoa deve poder escolher. Um comando de parada, uma informação compreensível e um percurso acessível para consultar ou apagar dados têm valor na medida em que funcionam no uso diário. Não basta que uma possibilidade exista apenas dentro de um documento difícil de encontrar.
A Resolução 54/21 do Conselho de Direitos Humanos da ONU faz referência à proteção da vida privada também no ambiente digital e à necessidade de considerar os efeitos das tecnologias emergentes. É uma referência pública ao fato de que a conveniência técnica não esgota a avaliação de um instrumento. ONU: direito à privacidade na era digital.
Ouvir é um relacionamento
Um assistente pode apoiar atividades práticas, mas a palavra escuta também traz um significado humano: alguém acolhe o que dizemos, pode entender o contexto e responder ao relacionamento. Podemos pedir que essa diferença permaneça reconhecível, especialmente quando atribuímos uma presença afetiva à voz de um sistema.
A questão não é renunciar à automação. Considere qual o lugar que desejamos dar. Uma ajuda pode liberar tempo para nos encontrarmos; também pode preencher cada pausa com uma resposta imediata. É possível observar como os hábitos de uma casa mudam.
A consciência do instrumento nasce então da possibilidade de escolher com informações adequadas. Ele nos ajuda a manter um espaço privado e um espaço de relacionamento em que o silêncio não seja tratado como um vazio a ser ocupado. Uma tecnologia útil adquire valor quando torna mais livre e compreensível a nossa participação na vida comum.
