Pular para o conteúdo

Remover linhas duplicadas

Cole a lista e receba ela sem as repetições — ou só o que repetiu, ou só o que aparece uma vez. E a ferramenta te conta o que tirou, em vez de tirar calada.

O texto não sai do seu navegador — fechou a aba, sumiu.

O que fazer

Devolve seu texto inteiro, com uma ocorrência de cada linha e na ordem em que você colou.

Ao comparar duas linhas
Na saída

O resultado aparece aqui, enquanto você cola.

Nenhum texto ainda.

As duas linhas iguais que o computador diz que são diferentes

É a situação que traz a maioria das pessoas aqui, e quase nunca ela aparece descrita: você olha para a lista, vê joao@empresa.com duas vezes, manda tirar duplicadas — no Excel, no bloco de notas, em qualquer site — e as duas continuam lá. Não é bug do programa. As duas linhas são mesmo diferentes dentro do arquivo, e a diferença é um caractere que não tem desenho nenhum na tela.

Os suspeitos de sempre são quatro. O espaço duro (U+00A0), que vem colado quando se copia de uma página web e é idêntico a um espaço comum. O espaço de largura zero (U+200B), que sites usam para forçar quebra de linha e simplesmente não ocupa lugar. O hífen suave, que o PDF enfia no meio da palavra para poder quebrá-la e some quando a quebra não acontece. E o acento decomposto: “ação” pode estar gravado com o til colado no “a” ou com o til como caractere separado logo depois — duas formas de escrever a mesma palavra, iguais para o olho e diferentes para qualquer comparação.

Esta ferramenta trata os quatro sempre, sem caixa para marcar, porque não é escolha de ninguém: se as duas linhas são iguais na tela, elas são a mesma linha. E, quando isso acontece, ela avisa — o relatório marca a repetição que só parecia igual. Vale a pena reparar nesse aviso: se a sua lista tem esse tipo de sujeira, ela também está quebrando o PROCV da planilha e a busca do seu sistema, não só a remoção de duplicadas.

O que ela conta que as outras não contam

A saída limpa é metade. A outra metade é o relatório embaixo: quantas linhas você colou, quantas são diferentes, quantas foram tiradas e — a parte que interessa — quais repetiram, quantas vezes cada uma e em que linhas do seu texto elas estão. Numa lista de mil e-mails, saber que contato@ apareceu sete vezes é uma informação; receber 993 linhas de volta não é.

Ignorar maiúsculas vem ligado. Ignorar acento, não

A assimetria é de propósito. Joao@Ex.com e joao@ex.com são o mesmo endereço para qualquer pessoa e para quase todo servidor de e-mail, então juntar as duas é o que você esperava. Já acento é conteúdo em português: “publico” e “público” são palavras diferentes, e juntar as duas sem você pedir seria a ferramenta decidindo no seu lugar. Quando o que você tem é uma lista de nomes digitados por gente diferente — “José” e “Jose” —, marque a caixa e elas viram uma só.

A caixa é baixada com o idioma dito na conta, e não com o do aparelho. Parece detalhe e não é: num celular configurado em turco, o “I” minúsculo é “ı”, sem pingo — e a mesma lista daria resultado diferente só naquele aparelho.

Guardar a primeira ou a última?

Por padrão fica a primeira ocorrência, na posição em que ela estava. Marcando a outra caixa, fica a última — e ela assume a posição da última também. Isso importa quando a lista é um histórico: em registro de sistema, em exportação de cadastro e em planilha de atualizações, a linha que vale costuma ser a mais recente, e a mais recente está embaixo.

Linha em branco não é linha repetida

Linhas em branco saem da lista por padrão, e é o que se quer ao colar uma coluna de planilha. Desmarcando a caixa, elas ficam onde estavam e nunca são juntadas entre si: três linhas em branco continuam três. Elas separam parágrafo, não identificam nada — juntá-las transformaria o seu texto num bloco só.

Serve para lista do Excel?

Serve, e é o uso mais comum. Selecione a coluna, copie, cole aqui: cada célula chega como uma linha. O caminho de volta é o mesmo — copiar o resultado e colar na planilha. A vantagem sobre o “Remover Duplicatas” do próprio Excel é justamente o caso do começo desta página: o Excel compara célula com célula sem tratar espaço duro nem acento decomposto, e é por isso que ele às vezes deixa duas linhas que você jura serem iguais.

Ela ordena a lista?

Não, e é decisão: a ordem que sai é a ordem que você colou. Uma lista devolvida reorganizada não dá para conferir contra a original — e quem quer ordenar quer escolher o critério, o que é outra ferramenta.

O texto que sai é o seu

As opções mudam a comparação, nunca a linha devolvida. Se você marcou “ignorar espaço sobrando”, duas linhas viram uma — mas a que fica volta com os espaços que tinha, letra por letra. Nada é consertado pelas suas costas. Se o que você quer é o texto limpo, isso é trabalho do conversor de texto, que tem a opção “espaços limpos” e caça esses mesmos caracteres invisíveis.

Quantas linhas ela aguenta?

Muito mais do que se costuma colar. Medido aqui: dez mil linhas em 17 milésimos de segundo, cem mil em 174, e meio milhão de linhas — 16 MB de texto — em pouco menos de um segundo. O seu aparelho pode ser mais lento que o desta medição, mas a conta cresce em linha reta, sem pulo. A lista na tela mostra as primeiras duas mil linhas para não travar o navegador desenhando; o botão copia todas.

O texto sai do meu computador?

Não. A conta inteira acontece dentro do seu navegador, enquanto você cola: não existe servidor recebendo a sua lista, não existe cadastro e nada fica guardado. Fechou a aba, acabou. É por isso que o resultado aparece sem botão de “enviar” e sem espera — e é o que permite colar aqui aquela lista de e-mails de clientes que você não colaria num site qualquer.