L’origine du mot « Gallardon », viendrait du nom du seigneur local à l’époque Carolingienne : Galard ou Walha-hard. Les premiers documents mentionnant Gallardon disent « Walardo ».
Les premières traces d’occupation à Gallardon remontent au néolithique. Elles ont été révélées par des fouilles archéologiques au nord de la commune derrière la supérette mais aussi par la présence dans le secteur de Gallardon de plusieurs mégalithes.
Nous n’avons ensuite pas d’éléments sur l’occupation du lieu jusqu’à la fin de l’époque Gallo-romaine, si ce n’est le fait qu’une voie romaine passait par Gallardon.
Les traces suivantes remontent au Haut-Moyen âge à l’époque des invasions normandes (IXème siècle). Ensuite il n’est fait mention d’un seigneur de Gallardon qu’à partir du Xème siècle.
On ne peut cependant douter de la présence d’habitations avant le Xème même si elle n’est citée dans aucune source écrite.
En effet, il est question dans les archives d’un château probablement construit en bois (Castrum) qui a été détruit à cette époque. Un second château est reconstruit en pierre à partir de 1025. Les archives attestent aussi de la présence de fortifications autour de la ville dès le XIème siècle. Ces défenses comportaient cinq portes fortifiées (pont-levis, herse et bastion).
L’église de Gallardon remonte aussi à l’époque romane (début XIème siècle).
Le site est choisi pour sa position dominante sur les pentes ouest d’un promontoire commandant les vallées de la Voise et celle de l’Ocre.
Pendant tout le Moyen-âge et la renaissance, la ville connaît une grande prospérité, on y recense de très nombreux métiers et ses marchés y sont très fréquentés. Elle offre un asile pour les habitants des alentours en temps de guerre grâce à ses remparts mais aussi à un réseau de caves communicantes très étendu. Elle occupe une position stratégique forte et un rôle de pôle économique majeur dans la région.
Par la suite si son influence diminue un peu, elle n’en demeure pas moins jusqu’au début du XXème siècle une ville jouant un rôle de centralité important vis-à-vis des communes environnantes.