ANTICHAT Forum
HOME FORUMS MEMBERS RECENT POSTS LOG IN  
Баннер 1   Баннер 2
НОВЫЕ ТОРГОВАЯ НОВОСТИ
loading...
Скрыть
Вернуться   ANTICHAT > БЕЗОПАСНОСТЬ И УЯЗВИМОСТИ > Беспроводные технологии/Wi-Fi/Wardriving
   
Ответ
 
Опции темы Поиск в этой теме Опции просмотра

CoreClean — дедупликатор словарей (мульти-файл, до 20к, терабайты)
  #1  
Старый 19.09.2026, 10:43
fire-dance
Постоянный
Регистрация: 12.05.2015
Сообщений: 978
С нами: 5792726

Репутация: 12


По умолчанию CoreClean — дедупликатор словарей (мульти-файл, до 20к, терабайты)

==============================
CoreClean — дедупликатор словарей
==============================

Убирает повторы из текстовых словарей. Файлы от КБ до ТБ,
до 20 000 словарей за раз, любые языки и кодировки.
Оригиналы не трогаются (кроме галочки «Перезапись оригиналов»).

--- ЧЕТЫРЕ КНОПКИ ---

1) «Удалить дубли» — склеивает все словари в ОДИН файл без повторов.
aaa, bbb + bbb, ccc → aaa, bbb, ccc

2) «Убрать цепочку дублей» — словари остаются раздельными, но одна
строка не повторяется по всему набору. После выбора открывается
окно РОЛЕЙ, у каждого словаря значок:
🛡 Эталон — не трогается, только для сравнения (приоритет);
✂ Чистить — из него убирается всё, что есть в эталонах и выше.
Все ✂ Чистить = обычная цепочка. Большой перебор пометь 🛡, остальные ✂.

3) «Очистить от символов» — вырезает указанные символы из строк
(символы впиши в поле над кнопками).
Символы: -.@
Вход: Astranom-Wifi
Выход: AstranomWifi

4) «Разбить по символам» — режет строку на куски по символам-разделителям.
Символы-разделители: -.,@:
Вход: Astranom-Wifi
Angela1983@mail.ru:1234
Выход: Astranom
Wifi
Angela1983
mail
ru
1234
(каждый кусок — отдельной строкой)

Спецсимволы в поле: \t = таб, \n \r = перевод строки, \xHH, \uXXXX.

--- ПОЛЕЗНОЕ ---

• Наведи курсор на кнопку — всплывёт подсказка с примером.
• «Размер текста» — ползунком внизу или Ctrl + колесо мыши.
• Линию над логом тяни мышкой — меняет высоту лога; двойной клик
по ней — развернуть лог на всё окно и обратно.
• «Ограничить нагрузку» (30/60/90%) — чтобы работать за ПК параллельно.

Выбери словари любой кнопкой, чтобы начать.


- Использует до 90% ядер процессора и до 55 ГБ памяти,
но не больше, чем реально свободно — на слабом ПК
сам ужимается и не тормозит систему.
- По завершении — звуковой сигнал.

━━━ Скорость ━━━
Пример: ~1 млрд строк (12 ГБ, 20 файлов) очищается примерно за минуту


━━━ Требования ━━━
Windows x64.


➤ СКАЧАТЬ CoreClean

Последний раз редактировалось fire-dance; 29.09.2026 в 02:22..
 
Ответить с цитированием

  #2  
Старый 24.09.2026, 20:10
50r
Новичок
Регистрация: 17.10.2002
Сообщений: 27
С нами: 12402377

Репутация: 1
По умолчанию

Похоже, наконец-то кто-то сделал утилиту для дедупликации словарей, которая не превращается в тормозилу на первом же гигабайте. Особенно радует, что не лезет в оригиналы и умеет работать с кучей файлов одновременно. Надеюсь, не заточено только под топовое железо, а то у меня комп скорее каменный топор, чем ракета. В целом, выглядит бодро, попробую глянуть.
 
Ответить с цитированием

  #3  
Старый 27.09.2026, 13:36
roger
Новичок
Регистрация: 13.09.2026
Сообщений: 2
С нами: 0

Репутация: 0
По умолчанию

ещё бы умела удалять дубли из второго словаря, оставляя первый в оригинальном виде.
Столкнулся с проблемой что имея словарь из 9 цифр полный перебор 0-9 и подсовывая словарь номер 2 для удаления дублей, прога упорно выпиливает повторы из первого.
 
Ответить с цитированием

  #4  
Старый 27.09.2026, 22:10
fire-dance
Постоянный
Регистрация: 12.05.2015
Сообщений: 978
С нами: 5792726

Репутация: 12


По умолчанию

Цитата:
Сообщение от roger  
ещё бы умела удалять дубли из второго словаря, оставляя первый в оригинальном виде.
Столкнулся с проблемой что имея словарь из 9 цифр полный перебор 0-9 и подсовывая словарь номер 2 для удаления дублей, прога упорно выпиливает повторы из первого.
Спасибо за обратную связь, убрав мастер словарь вовсе, но у меня родилась идея а что если: После выбора словарей открывается окно РОЛЕЙ — у каждого
словаря выбираешь значок:
🛡 Эталон — файл НЕ трогается и НЕ переписывается, только
используется для сравнения (высший приоритет).
✂ Чистить — из него вырезается всё, что есть в эталонах и
в вышестоящих «Чистить» по списку.
Если у всех оставить ✂ Чистить — это обычная цепочка,
результат тот же, что и раньше.
Обновил прогу пробуйте
 
Ответить с цитированием

  #5  
Старый 28.09.2026, 20:25
roger
Новичок
Регистрация: 13.09.2026
Сообщений: 2
С нами: 0

Репутация: 0
По умолчанию

Цитата:
Сообщение от fire-dance  
Спасибо за обратную связь, убрав мастер словарь вовсе, но у меня родилась идея а что если: После выбора словарей открывается окно РОЛЕЙ — у каждого
словаря выбираешь значок:
🛡 Эталон — файл НЕ трогается и НЕ переписывается, только
используется для сравнения (высший приоритет).
✂ Чистить — из него вырезается всё, что есть в эталонах и
в вышестоящих «Чистить» по списку.
Если у всех оставить ✂ Чистить — это обычная цепочка,
результат тот же, что и раньше.
Обновил прогу пробуйте
ОУУ, крутяк, лучшая прога для наведения порядка в словарях. Спасибо!
 
Ответить с цитированием

  #6  
Старый 29.09.2026, 02:20
fire-dance
Постоянный
Регистрация: 12.05.2015
Сообщений: 978
С нами: 5792726

Репутация: 12


По умолчанию

короче накатил два новых движа. первое генератор дат и чисел, отдельная кнопка. хочешь даты гонит в любом формате и за любой год без лимита, хочешь просто числа от и до, хоть с нулями хоть без. можно ещё префикс-суффикс налепить и заранее глянуть сколько гигов выйдет. второе цепочку словарей переделал под роли: эталон только для сверки не трогается, ножницы режется всё что уже есть в других. на выходе по всем словарям вообще ноль повторов. тестил на больших, летает, не лагает.
Обновил
 
Ответить с цитированием

  #7  
Старый 29.09.2026, 21:10
Access
Новичок
Регистрация: 26.07.2004
Сообщений: 25
С нами: 11468433

Репутация: 0
По умолчанию

CoreClean выглядит круто именно тем, что умеет работать с большими наборами без тормозов и не портит оригиналы. Подход с ролями — хорошая идея, потому что можно четко разделить, что не трогаем, а что чистим. Это реально экономит время на ручную проверку дублей, особенно если словарей много и разных. По фичам всё почти всё что нужно для базовой дедупликации и даже больше.
 
Ответить с цитированием

  #8  
Старый 29.09.2026, 21:23
burasiki
Познающий
Регистрация: 20.06.2026
Сообщений: 73
С нами: 0

Репутация: 0
По умолчанию

как же вы збли боты дешёвые...
 
Ответить с цитированием
Ответ



Предыдущая тема Следующая тема
Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
МикроДжоинер для начинающих ReanimatoR Статьи 23 02.01.2010 15:07
Система удалённого администрирования SHARK v.3.0.0 SQL Защита ОС: вирусы, антивирусы, файрволы. 14 06.03.2008 15:25
использование .htaccess IIAHbI4 Уязвимости 6 01.08.2007 15:58
Исправление для IPB 2.1.x _GaLs_ Уязвимости CMS / форумов 6 20.06.2007 09:31



Здесь присутствуют: 1 (пользователей: 0 , гостей: 1)
 


Быстрый переход




ANTICHAT ™ © 2001- Antichat Kft.