Le père, ingénieur des mines à La Combelle, sera nommé dans la Creuse vers 1883 puis deux ans plus tard à Saint-Étienne où naîtra le cinquième et dernier enfant, Marguerite en 1890. François est donc arrivé à Saint-Étienne vers l'âge de 6 ans.

Après ses années de lycée, François entre à l'École de Dessin de Saint-Étienne puis à l'École des Beaux-Arts de Paris. Alphonse Clermont meurt à Saint-Étienne le 22 mai 1902, François est alors élève à l'École des Beaux-Arts de Paris et Émile élève à l'École Normale Supérieure soldat au 38e régiment d'infanterie.

En 1907, François Clermont construit avec l'architecte parisien Godefroy Teisseire l'Hôtel de la Société amicale des anciens élèves de l'École Nationale des Mines, dit Hôtel des Ingénieurs, dont les sculptures sont signées Paul Graf. À la fin de sa vie son père était secrétaire de cette Société amicale.
Le 13 février 1912 il épouse Alice Hélène Chenet à Paris 14e.
Vers 1916, il obtient le premier prix pour ses plans de la reconstruction de la préfecture de Clermont-Ferrand inaugurée le 7 juillet 1923.
Il a été l'architecte de nombreux monuments aux morts notamment celui de Montaigu-le-Blin (Allier) inauguré le 30 octobre 1921 et sur lequel est inscrit le nom de son frère Émile.

Dans les années 1920, il va ouvrir avec Auguste Bossu une agence à Marseille qui se spécialise dans les Habitations Bon Marché, HBM. En 1923, ils fondent la Société des Immeubles par étages destinée à construire des immeubles vendus en copropriété. François Clermont a aussi édifié de nombreuses cités ouvrières en France et même en Pologne.