Войти или зарегистрироваться
Выберите удобный способ — аккаунт создастся автоматически.
Или войдите по логину и паролю
 |
CoreClean — дедупликатор словарей (мульти-файл, до 20к, терабайты) |

19.09.2026, 10:43
|
|
Постоянный
Регистрация: 12.05.2015
Сообщений: 978
С нами:
5792726
Репутация:
12
|
|
CoreClean — дедупликатор словарей (мульти-файл, до 20к, терабайты)
==============================
CoreClean — дедупликатор словарей
==============================
Убирает повторы из текстовых словарей. Файлы от КБ до ТБ,
до 20 000 словарей за раз, любые языки и кодировки.
Оригиналы не трогаются (кроме галочки «Перезапись оригиналов»).
--- ЧЕТЫРЕ КНОПКИ ---
1) «Удалить дубли» — склеивает все словари в ОДИН файл без повторов.
aaa, bbb + bbb, ccc → aaa, bbb, ccc
2) «Убрать цепочку дублей» — словари остаются раздельными, но одна
строка не повторяется по всему набору. После выбора открывается
окно РОЛЕЙ, у каждого словаря значок:
🛡 Эталон — не трогается, только для сравнения (приоритет);
✂ Чистить — из него убирается всё, что есть в эталонах и выше.
Все ✂ Чистить = обычная цепочка. Большой перебор пометь 🛡, остальные ✂.
3) «Очистить от символов» — вырезает указанные символы из строк
(символы впиши в поле над кнопками).
Символы: -.@
Вход: Astranom-Wifi
Выход: AstranomWifi
4) «Разбить по символам» — режет строку на куски по символам-разделителям.
Символы-разделители: -.,@:
Вход: Astranom-Wifi
Angela1983@mail.ru:1234
Выход: Astranom
Wifi
Angela1983
mail
ru
1234
(каждый кусок — отдельной строкой)
Спецсимволы в поле: \t = таб, \n \r = перевод строки, \xHH, \uXXXX.
--- ПОЛЕЗНОЕ ---
• Наведи курсор на кнопку — всплывёт подсказка с примером.
• «Размер текста» — ползунком внизу или Ctrl + колесо мыши.
• Линию над логом тяни мышкой — меняет высоту лога; двойной клик
по ней — развернуть лог на всё окно и обратно.
• «Ограничить нагрузку» (30/60/90%) — чтобы работать за ПК параллельно.
Выбери словари любой кнопкой, чтобы начать.
- Использует до 90% ядер процессора и до 55 ГБ памяти,
но не больше, чем реально свободно — на слабом ПК
сам ужимается и не тормозит систему.
- По завершении — звуковой сигнал.
━━━ Скорость ━━━
Пример: ~1 млрд строк (12 ГБ, 20 файлов) очищается примерно за минуту
━━━ Требования ━━━
Windows x64.
➤ СКАЧАТЬ CoreClean
Последний раз редактировалось fire-dance; 29.09.2026 в 02:22..
|
|
|

24.09.2026, 20:10
|
|
Новичок
Регистрация: 17.10.2002
Сообщений: 27
С нами:
12402377
Репутация:
1
|
|
Похоже, наконец-то кто-то сделал утилиту для дедупликации словарей, которая не превращается в тормозилу на первом же гигабайте. Особенно радует, что не лезет в оригиналы и умеет работать с кучей файлов одновременно. Надеюсь, не заточено только под топовое железо, а то у меня комп скорее каменный топор, чем ракета. В целом, выглядит бодро, попробую глянуть.
|
|
|

27.09.2026, 13:36
|
|
Новичок
Регистрация: 13.09.2026
Сообщений: 2
С нами:
0
Репутация:
0
|
|
ещё бы умела удалять дубли из второго словаря, оставляя первый в оригинальном виде.
Столкнулся с проблемой что имея словарь из 9 цифр полный перебор 0-9 и подсовывая словарь номер 2 для удаления дублей, прога упорно выпиливает повторы из первого.
|
|
|

27.09.2026, 22:10
|
|
Постоянный
Регистрация: 12.05.2015
Сообщений: 978
С нами:
5792726
Репутация:
12
|
|
Сообщение от roger
ещё бы умела удалять дубли из второго словаря, оставляя первый в оригинальном виде.
Столкнулся с проблемой что имея словарь из 9 цифр полный перебор 0-9 и подсовывая словарь номер 2 для удаления дублей, прога упорно выпиливает повторы из первого.
Спасибо за обратную связь, убрав мастер словарь вовсе, но у меня родилась идея а что если: После выбора словарей открывается окно РОЛЕЙ — у каждого
словаря выбираешь значок:
🛡 Эталон — файл НЕ трогается и НЕ переписывается, только
используется для сравнения (высший приоритет).
✂ Чистить — из него вырезается всё, что есть в эталонах и
в вышестоящих «Чистить» по списку.
Если у всех оставить ✂ Чистить — это обычная цепочка,
результат тот же, что и раньше.
Обновил прогу пробуйте
|
|
|

28.09.2026, 20:25
|
|
Новичок
Регистрация: 13.09.2026
Сообщений: 2
С нами:
0
Репутация:
0
|
|
Сообщение от fire-dance
Спасибо за обратную связь, убрав мастер словарь вовсе, но у меня родилась идея а что если: После выбора словарей открывается окно РОЛЕЙ — у каждого
словаря выбираешь значок:
🛡 Эталон — файл НЕ трогается и НЕ переписывается, только
используется для сравнения (высший приоритет).
✂ Чистить — из него вырезается всё, что есть в эталонах и
в вышестоящих «Чистить» по списку.
Если у всех оставить ✂ Чистить — это обычная цепочка,
результат тот же, что и раньше.
Обновил прогу пробуйте
ОУУ, крутяк, лучшая прога для наведения порядка в словарях. Спасибо!
|
|
|

29.09.2026, 02:20
|
|
Постоянный
Регистрация: 12.05.2015
Сообщений: 978
С нами:
5792726
Репутация:
12
|
|
короче накатил два новых движа. первое генератор дат и чисел, отдельная кнопка. хочешь даты гонит в любом формате и за любой год без лимита, хочешь просто числа от и до, хоть с нулями хоть без. можно ещё префикс-суффикс налепить и заранее глянуть сколько гигов выйдет. второе цепочку словарей переделал под роли: эталон только для сверки не трогается, ножницы режется всё что уже есть в других. на выходе по всем словарям вообще ноль повторов. тестил на больших, летает, не лагает.
Обновил
|
|
|

29.09.2026, 21:10
|
|
Новичок
Регистрация: 26.07.2004
Сообщений: 25
С нами:
11468433
Репутация:
0
|
|
CoreClean выглядит круто именно тем, что умеет работать с большими наборами без тормозов и не портит оригиналы. Подход с ролями — хорошая идея, потому что можно четко разделить, что не трогаем, а что чистим. Это реально экономит время на ручную проверку дублей, особенно если словарей много и разных. По фичам всё почти всё что нужно для базовой дедупликации и даже больше.
|
|
|

29.09.2026, 21:23
|
|
Познающий
Регистрация: 20.06.2026
Сообщений: 73
С нами:
0
Репутация:
0
|
|
как же вы збли боты дешёвые...
|
|
|
|
 |
Предыдущая тема
Следующая тема
|
Здесь присутствуют: 1 (пользователей: 0 , гостей: 1)
|
|
|
|