Durante la guerra del Rif, y ante la marcha tan desastrosa de la misma, España necesitaba poseer una unidad militar bien aguerrida y compuesta exclusivamente de voluntarios ; el modelo para ello era la Legión Extranjera francesa, un cuerpo militar que, tras casi noventa años de existencia, no había dejado de combatir, desde su fundación en 1831, por cuatro continentes, logrando una reputación extraordinaria de auténtica fuerza militar de choque, una fama equiparable a su propia aura romántica que por aquel entonces ya se hallaba plasmada en múltiples obras literarias.

España deseaba copiar este modelo francés que había conseguido tanto éxito, una unidad militar a imagen y semejanza de la Legión Extranjera y, por lo tanto, que estuviera compuesta, en su gran mayoría, de extranjeros. Para ello, el entonces comandante Millán Terreros fue destacado a Argelia para conocerla.

El Tercio de Extranjeros fue fundado el 20 de septiembre de 1920 y lo que inicialmente fue un fracaso en su concepción inicial, ante la ausencia de un alistamiento masivo de extranjeros, provocó, sin embargo, ante la presencia de voluntarios españoles, que el Tercio adquiriera, desde casi un principio, un marcado sentido patriótico y una espiritualidad propia desde su vinculación icónica con Cristo en la Cruz, dotándose de unas características y tradiciones profundamente españolas. Se formó algo único.

En la actualidad, la Legión Extranjera y la Legión española están estrechamente vinculadas por una estima mutua, asentada en unos valores castrenses comunes que las hacen unas magníficas unidades profesionales de las que sus respectivas naciones se sienten profundamente orgullosas.