L'istituzione coincide con l'inizio del funzionamento della Regia Scuola di musica. Ai sensi dell'art. 69 del R.D. 3 ott. 1875 n. 2736, che approvava il regolamento della scuola, il ricavo delle tasse di iscrizione degli alunni esterni era riservato all'acquisto di opere nuove per la biblioteca. Il primo bibliotecario (senza retribuzione dal 1870 al 1888) fu Primo Crotti. Con la riforma del 1888 fu deciso di tentare un esperimento pilota che doveva riguardare le biblioteche degli istituti musicali italiani. Dati i ben scarsi risultati, rimase applicata solo a Parma con la conseguenza che questo è l'unico conservatorio, che pur ospitando una biblioteca musicale, non ha giuridicamente una biblioteca, essendo diventata questa una sezione specializzata della Biblioteca Palatina. Questa veste giuridica fu conferita nel 1889 con un decreto che riuniva nel Conservatorio il materiale della Regia Scuola di musica con quello esistente nella Biblioteca Palatina. La biblioteca possiede tra l'altro: 15 volumi ms, già di proprietà del castrato Farinelli, contenenti 463 sonate di Domenico Scarlatti che costituiscono, assieme ai 15 della Biblioteca Marciana di Venezia, la principale fonte dell'opera clavicembalistica del compositore; 31 volumi di madrigali e canzonette pubblicati nel 500 e 600; alcuni autografi. Sono da segnalare i fondi storici: l'archivio musicale della duchessa Maria Luigia di circa 2500 volumi, opuscoli e fogli sciolti (escluse le parti musicali staccate), di cui circa 1600 ms del 700 e 800. Tra i volumi a stampa, diverse edizioni rare e belle rilegature napoleoniche; l'archivio musicale dei Borbone-Parma di circa 5000 volumi, opuscoli e fogli sciolti (escluse le parti musicali staccate) a stampa e ms della seconda metà del 700 e prima metà dell'800 (fanno eccezione 2 ms del 600 e 2 stampe madrigalesche del 500 e 600); il fondo della Biblioteca Palatina di circa 600 volumi (tra cui il Libro di Vihuela di Luis Milan, il Fronimo di Vincenzo Galilei, alcuni trattati del 500 e 600); il fondo Sanvitale di opere antiche, i 6000 libretti d'opera dal 600 all'800 e il fondo Bottesini, con le musiche ms cedute alla morte del musicista al Conservatorio. In una stanza è ospitato lo studio di Ildebrando Pizzetti con la biblioteca e una modesta parte dei carteggi, avendo gli eredi alienato quanto vi era di più significativo.