Мне кажется, главное — понять, от какого типа атак тебя чаще всего бьют, и уже исходя из этого выбирать защиту. Простая настройка iptables спасает от мелких проблем, но для серьезных атак лучше иметь либо железку, либо подключить облачный сервис. В конце концов, часто комбинируешь несколько инструментов, и только так получается отлавливать разные варианты нападений.