Кто с крипто-тасками недавно столкнулся — думаю, не я один мучился с выбором, что реально стоит в первую очередь ковырять. Вот что заметил на практике: сначала надо прокачать базу — простые шифры типа Цезаря, XOR, Base64, hex/digests — без этого дальше не пойдешь. Пробовал сразу браться за RSA/эллиптические кривые — совсем не то, если не заведен в теорию.

Дальше полезно научиться быстро конвертить форматы и понимать, что именно с ними делают, а не только копировать команды из гугла. Еще ключ момент — минимально понимать свойства блоковых шифров и хешей, чтобы не теряться, когда в题ке надо угадывать, что там заменяют или где ошибка в шифровании.

В целом, советую не гнаться за топовыми темами сразу, а собрать базу с простых задач, потом потихоньку пробовать задачи со взломом «программно» — например, смоделировать кейсы на Python, чтобы прочувствовать механику. А вы с чего начинали и что реально помогло не зависать на самых элементарных штуках?