Fondés il y a des millénaires à une date qui nous reste inconnue, les Mandaloriens ont effectués leur première apparition importante lors de la Grande Guerre des Sith, 4.000 ans avec l’Empire, lorsque le Seigneur Noir des Sith Exar Kun et son apprenti Ulic Quel-Droma aspiraient à conquérir les territoires sous le contrôle de la République.
A cette époque, les Mandaloriens utilisaient les puissants droïdes Basilisk, des chasseurs-créatures mécaniques contrôlées par un guerrier-pilote mandalorien. Ces machines ont vaincus les plus puissantes armées de la galaxie, y compris celles de la République.
Avant d’entrer au service des Sith, les Mandaloriens étaient des conquérants dont les ambitions n’étaient pas aussi excentriques que celles des Sith. Mais personne n’aurais jamais osé les rencontrer pour leur demander leur appui, excepté Ulic Quel-Droma.
Le jeune Sith alla à la rencontre de Mandalore sur la planète Kuar et le défia devant tous ses hommes sur les plaines d’Harkul. Mandalore, monté sur un droïde Basilisk ne fît toutefois pas le poids face à Quel-Droma, utilisant son sabre laser et le Côté Obscur de la Force.
Le Sith, au lieu de tuer Mandalore et prendre sa place comme le lui disais le code des Mandaloriens, épargna le guerrier et lui fît jurer allégeance. Dès cet instant, les Mandaloriens devinrent les ennemis de la République, mais aussi des Jedi.
Les forces Sith, appuyées par les Mandaloriens, remportèrent leurs batailles les unes après les autres, mais l’effet de surprise y était pour beaucoup.
Exar Kun le savait, contrairement à Ulic Quel-Droma qui, se pensant invincible, mena une attaque sur Coruscant avec ses forces mandaloriennes et Krath.
Quel-Droma fut vaincu et fait prisonnier. Peu après, il fut libéré par Kun, et les Mandaloriens reprirent les combats. Suite à la victoire des Jedi sur Yavin IV, permise par Quel-Droma, les Sith fûrent vaincus. Au même instant, les mandaloriens faisaient face aux chevaucheurs de bêtes de la planète Onderon. Au cœur de la bataille, la flotte républicaine arriva et les Onderoniens battirent les Mandaloriens. Mandalore ordonna alors la retraire sur la lune de Dxun. Mais, alors que ses hommes suivaient sa consigne, il fut touché et s’écrasa dans la jungle d’Onderon où vivent de terribles créatures. Mandalore fut tué avant qu’un groupe de ses guerriers ne puisse le retrouver. Le premier guerrier à l’avoir vu s’empara alors de son casque et pris le titre de Mandalore.