DenyHosts es un software bastante utilizado que intenta evitar los ataques de fuerza bruta vía ssh (dictionary based attacks o brute force attack).
Existen varios, como FailtoBan, aunque esté sea más genérico y dependa mucho de encontrar las expresiones regulares adecuadas lo que todavía no está bien encontrado.
Volviendo a DenyHosts, si lo que queremos es evitar ataques por ssh, este software es bastante útil. Lo digo porque cuando tienes el fichero btmp con este tamaño:
12[root@hn19 software]# ls -lisah /var/log/btmp
3189425 785M -rw------- 1 root utmp 784M Jul 30 07:39...