[Objetivo] El propósito del estudio fue examinar la relación entre autoeficacia matemática y el rendimiento en la prueba nacional de bachillerato en matemáticas, que considera otros predictores psicosociales relevantes y los efectos moderadores del sexo y del centro educativo. [Metodología] El diseño del estudio fue de corte observacional y transversal, con la participación de 487 estudiantes de undécimo año, provenientes de colegios públicos de la Gran Área Metropolitana de Costa Rica. Se aplicaron varios instrumentos para medir: sexismo hostil y benevolente, percepciones de igualdad de género en las habilidades matemáticas, autoeficacia matemática y habilidades de razonamiento. [Resultados] Los resultados del análisis multinivel bayesiano de efectos aleatorios confirmaron las diferencias a favor de los hombres en la medida de autoeficacia, donde el sexo del estudiantado fue un moderador entre la relación de la autoeficacia matemática y el puntaje de la prueba. Además, se encontró que, según el sexo, la asociación entre autoeficacia y rendimiento también se encontró moderada por el centro educativo. [Conclusiones] Entre las conclusiones se destaca que, si el efecto moderador del colegio entre autoeficacia y rendimiento difiere por sexo, esto implica que las acciones dirigidas a promover la autoeficacia no tendrán el mismo resultado en los hombres y en las mujeres, lo que evidencia la necesidad de desarrollar intervenciones diferenciadas.