La imagen que buscas estará seguramente en style.css
Una de las ventajas de wordpress es precisamente que separa los estilos del código, pudiendo variar completamente el diseño sin tocar otro archivo que el CSS.
Como sabes el nombre de la imagen, encuéntrala en el archivo style.css de tu theme y suprímela.
Antes de hacer cambios guarda una copia de seguridad de los archivos que vayas a modificar, así puedes probar sin miedo a equivocarte, observando en el navegador el efecto que consigues con cada cambio. En caso de equivocarte siempre puedes restaurar el archivo original o los pasos exitosos que vayas logrando.
Es la única forma de aprender WordPress: probar, equivocarse, familiarizarse con las plantillas y aprender CSS, nos ha pasado a todos, pero verás que poco a poco lo consigues ;-)