primero debes de tener definido bien tu foro, ya que muchos mods hacen cambio en los estilos y por tanto si alguno modifica tu estilo por defecto pues se aplica a ese, asi que si algun dia cambias de estilo tendras que hacer los cambios en ese nuevo estilo para que te funcione el mod que hayas instalado (esto ultimo solo aplica como dije antes si el mod modifico archivos en tu estilo).
en el tema estilos hay algo que tienes que tener en cuenta, los 2 estilos bases por decirlo asi son el prosilver y el subsilver2, ambos vienen en la instalacion del foro phpbb3, si no deseas usar alguno de estos 2 estilos pues desearas usar algun otro que te guste o que se adapte mejor a tu foro, pero tienes que mirar bien si el estilo que elegiste pues en cual de estos 2 estilos esta basado, por ejemplo mi estilo del foro es SE Blackpro pero esta basado en el estilo prosilver pues es una modificacion de ese.
la instalacion de los mods siempre esta definido en los archivos install.xml y tienes que abrirlo y seguir las indicaciones, algunos o en la gran mayoria contienen archivos que hay que cargar en tu hosting y estan siempre en la carpeta root, todo lo que esta dentro de esta carpeta tienes que copiarlo dentro de la carpeta donde instalaste tu foro.
ya veras que con un poco de practica se te hara mas facil cada vez, yo recuerdo que mi primer mod que instale decia que en 15 minutos se instalaba y me demore unas cuantas horas
saludos y si tienes consultas pues nos las haces saber.