La biblioteca deve la sua origine a Cosimo il Vecchio dei Medici che inizia a raccogliere una biblioteca personale verso il 1418. Negli anni '40 dona gran parte della sua biblioteca al Convento di San Marco, dove nasce dalla sua collezione una biblioteca 'pubblica'. La biblioteca acquisisce molta fama sotto Lorenzo Il Magnifico. Sotto la spinta di Clemente VII, nel 1571 apre al pubblico la, nella quale vengono uniti sia la Medicea privata, sia la biblioteca con la collezione pubblica di San Marco. Il fondo dei Medici, il nucleo della biblioteca, viene completato con diversi altri fondi, come per esempio i libri provenienti della Biblioteca di Santa Maria del Fiore.