Les premiers « collèges », créés au XIIIe siècle, sont des lieux d'hébergement pour des étudiants pauvres bénéficiant d'une bourse, qui fréquentent les mêmes cours universitaires que les étudiants aisés. Ces collèges (une quarantaine à Paris au XIVe siècle) vont ensuite assurer des fonctions d'enseignement en complément de l'université. Au XVIe siècle, ils deviennent des établissements autonomes majoritairement tenus par des congrégations religieuses. Ils assurent désormais une formation de base à des élèves issus de la bourgeoisie et de la noblesse.
La Réforme protestante au XVIe siècle, peut être considérée comme un facteur déclencheur de la multiplication des collèges. Créés à partir d'écoles existant dans les villes, les collèges constituent un enjeu important entre protestants et catholiques. Jusqu'en 1685, date de la révocation de l'édit de Nantes, les protestants vont conserver leurs collèges où l'enseignement du français tient une place déterminante. Du côté catholique, les Jésuites qui ont reçu du pape le droit de conférer les grades universitaires dans leurs collèges, ouvrent notamment en 1562, le collège de Clermont à Paris : sous Louis XIV, le collège de Clermont devient le collège Louis-le-Grand (actuel lycée du même nom). Les méthodes pédagogiques des Jésuites sont mises au point à cette époque, avec la répartition en six classes de niveau, le découpage par disciplines, la création de cours de physique et de chimie. Ils visent la formation des classes dirigeantes, avec une éducation qui reste centrée sur les lettres classiques, la philosophie et la théologie. Le latin est très majoritairement leur langue d'enseignement : les cahiers d'élèves des Jésuites au XVIIIe siècle, révèlent encore le peu de place réservé aux études en français.