Eliminar líneas duplicadas
Eliminar líneas duplicadas de cualquier bloque de texto. Se mantiene la primera ocurrencia de cada línea; se retiran copias posteriores. Orden original preservada.
apple
banana
apple
cherry
banana → apple
banana
cherry
Eliminar líneas duplicadas de cualquier bloque de texto. Se mantiene la primera ocurrencia de cada línea; se retiran copias posteriores. Orden original preservada.
apple
banana
apple
cherry
banana → apple
banana
cherry
Elimina líneas duplicadas de un bloque de texto. Se mantiene la primera ocurrencia de cada línea y se elimina cada duplicado subsiguiente, por lo que se conserva el orden original. La comparación es exacta y se tiene en cuenta caso: "Aplicar" y "aplicar" se tratan como líneas diferentes.
Útil para limpiar listas de palabras, archivos de registro, CSV exportados, salida desechada, donde usted tenga la oportunidad de contenido repetido. Corre completamente en su navegador — su texto nunca sale de la página.
Las exportaciones de correo electrónico pegadas suelen contener duplicados de errores de relleno de forma o fusionar artefactos. Eliminar duplicados antes de importar en un CRM o enviar una campaña.
¿Compilar una lista de vocabulario, una crema de marca o un conjunto de palabras clave? Esta herramienta le da una lista única limpia en una sola pasta.
Las líneas de registro índivas de un servicio ruidoso pueden ahogar la señal real. La tira duplica para ver los eventos únicos.
Pruebe una sola columna CSV y recuperar los valores únicos. Más rápido que abrir una hoja de cálculo para una tarea única.
La salida de intermitentes o compiladores a veces repite la misma advertencia a través de las construcciones. Dedupe a centrarse en los problemas únicos.
La herramienta divide el texto de entrada en líneas usando el carácter de la nueva línea (\n). Normaliza los finales de línea de CRLF (\r\n) a LF para asegurar la división constante en plataformas. Cada línea se procesa secuencialmente: un conjunto de hash interno registra el exacto contenido de cada línea (cual es sensible, sensible al espacio blanco). Si una línea no está todavía en el conjunto, se adjunta a la salida y se añade al conjunto; si ya está presente, se salta. El orden de los primeros eventos se conserva estrictamente. La salida final se combina uniendo las líneas guardadas con caracteres de nueva línea, y una nueva línea de seguimiento se añade sólo si la entrada original termina con uno (para combinar el comportamiento típico editor).
Comparado con alternativas comunes, esta herramienta conserva el orden original y no requiere ningún conocimiento de línea de comando.
| esta herramienta | Ordenación Unix -u | Excel eliminar duplicados | |
|---|---|---|---|
| Conservación del pedido | Sí, se mantuvo la primera aparición | No, ordena alfabéticamente | No, elimina pero puede cambiar filas |
| Sensibilidad entre mayúsculas y minúsculas | Exacto (distingue entre mayúsculas y minúsculas) | Distingue entre mayúsculas y minúsculas (predeterminado) | No distingue entre mayúsculas y minúsculas (predeterminado) |
| Facilidad de uso | Pegar y hacer clic | Requiere terminal y tubería. | Requiere importación de datos y múltiples clics |
| Manejo de nueva línea final | Coincide exactamente con la entrada | Agrega una nueva línea final | N/A (basado en células) |
La eliminación de líneas duplicadas es una tarea fundamental de procesamiento de textos que se originó en herramientas tempranas de Unix. uniq comando (V7 Unix, 1979) sólo puede eliminar duplicados consecutivos, requiriendo un anterior sort. Más tarde, sort -u clasificación y deduplicación combinadas. La necesidad de preservar el orden original condujo a scripts de awk como awk '!seen[$0]++', un patrón que se convirtió en idiomático. Esta herramienta implementa esa misma lógica cliente lado para el uso instantáneo, no-instalación.
Sí. "Aplicar" y "aplicar" cuentan como líneas diferentes. Para ignorar el caso, por debajo de su texto primero utilizando el convertidor de minúsculas.
No, son significativos. "hola" y "hola" (espacio de navegación) se tratan como líneas diferentes. Recortar espacios en blanco primero si desea una coincidencia indulgente.
Sí. La primera ocurrencia de cada línea mantiene su posición; posteriormente se eliminan los duplicados. Orden de líneas únicas no se cambia.
Ambos Unix (\n) y Windows (\r\nLos finales de línea son reconocidos.