El cuarto jefe de Gobierno provisional o interino desde la restauración democrática de 1974 en Grecia recibió su formación jurídica en la Universidad Nacional y Kapodistríaca de Atenas, por la que se licenció en Derecho en 1979, y en la Universidad Panteón-Assas (París II), donde realizó tres diplomas en Derecho Penal, Derecho Público y Finanzas Públicas entre 1980 y 1984, seguidos de un doctorado en Derechos Fundamentales en base a una tesis sobre la libertad de expresión y el delito de difamación.
Tras realizar el servicio militar en la Fuerza Aérea, de la que salió con el grado de subteniente de vuelo en la reserva, Sarmas entró en 1987 en la magistratura del Estado. Durante seis años sirvió como juez en el Consejo de Estado, el Tribunal Supremo Administrativo de Grecia, y en 1993 pasó a la judicatura del Tribunal de Cuentas. En 2002 fue nombrado miembro y presidente de una de las salas del Tribunal de Cuentas Europeo, condición que mantuvo hasta 2013. En enero de 2014 regresó al Tribunal de Cuentas helénico en calidad de vicepresidente y titular de su III Sección, y el 4 de noviembre de 2019 se convirtió en presidente de la institución auditora, cargo con un mandato no renovable de cuatro años y que ocupaba en el momento de su nombramiento como primer ministro interino de Grecia.
Ioannis Sarmas posee doctorados honoríficos en los campos del Derecho y la Administración Pública que le fueron concedidos por la Universidad Internacional de Grecia, la Universidad Panteion de Atenas y la Universidad Aristotle de Tesalónica.
(Cobertura informativa hasta 26/5/2023)