Por lo visto, estas usando Invisible reCaptcha, a menos que lo hayas modificado recientemente.
Podrías cambiar a otra extensión de captcha como menciona @ThE KuKa, o implementar medidas de seguridad más estrictas como menciona @J_Sparrow.
Por ejemplo, en el apartado "Configuración de registro de usuarios" habilita la asignación al grupo de "Nuevos Usuarios Registrados" por defecto y opcionalmente aumenta el limite de mensajes.

En "Medidas contra el Spam" puedes probar reduciendo el número de intentos de registro y habilita las medidas contra spambots.

En la sección de "Permisos" > "Permisos de grupos", puedes restringir los permisos que desees estableciéndolos en "Nunca".

Y si deseas que sus primeros mensajes mensajes (el número que estableciste al inicio) sean aprobados por algún moderador, en "Permisos" > "Permisos de los grupos en los foros" selecciona "Nuevos Usuarios Registrados", posteriormente selecciona los foros a los que les aplicaras las restricciones.
Luego da clic en "Permisos avanzados", y en la pestaña "Mensaje" cambia el permiso "Puede publicar sin aprobación" a "Nunca".

Esto permitirá a los moderadores saber si es un spammer porque aunque publique muchos mensajes spam, no serán visibles hasta que los aprueben.
Esta restricción se eliminaría automáticamente a usuarios que no son spammers después de un moderador habilite los primeros mensajes del usuario.
Si son cuentas antiguas, podrías deshabilitar el uso de "Recordar sesión" y habilitar la expiración de contraseñas.

Usar servicios como Cloudflare o un WAF en tu servidor podría ayudar.