Antiche popolazioni di costruttori di tumuli e i nomadi shawnee della tribù degli algonchini si insediarono secoli fa sulle alte coste di quello che oggi è il Cumberland River. Gli europei colonizzarono la zona per la prima volta nel 1779, chiamandola Fort Nashborough (il nome anglosassone fu americanizzato cinque anni più tardi). Il leggendario Daniel Boone era della partita e la sua Wilderness Road (strada della foresta) portò gli emigranti di qua dagli Appalachi dalla Virginia, dalla Carolina del Nord e del Sud e dagli stati del nord-est. Nashville si sviluppò rapidamente come centro commerciale e manifatturiero; dal 1806 ebbe uno statuto e fu nominata capitale dello stato nel 1843.

La sua posizione strategica sulle rive del Cumberland River (che la collega al sistema di navigazione fluviale del Mississippi) e all'incrocio tra importanti linee ferroviarie fece della città un punto strategico durante la guerra civile. Mentre le truppe federali risalivano il fiume, la sede del governo fu trasferita a Memphis e in meno di una settimana Nashville si arrese. Un altro cittadino leggendario, Andrew Jackson (che era allora senatore), fu nominato governatore militare, permise l'occupazione da parte dei lealisti dell'Unione e impose a Nashville la legge marziale dal 1862 al 1865, misura che le consentì di mantenersi intatta.

I Confederati tentarono di riappropriarsi della città per interrompere il collegamento ferroviario che riforniva le truppe del generale unionista William Tecumseh Sherman durante la campagna contro Atlanta; i due eserciti si scontrarono nel 1864, nella Battaglia di Nashville a sud della città. Le truppe confederate del generale Thomas Hood vennero distrutte.

La ripresa economica dopo la guerra civile fu ostacolata da due grandi epidemie di colera che uccisero circa mille persone e costrinsero alla fuga altre migliaia. La Centennial Exposition del 1897, per la quale venne allestita la ricostruzione del Partenone greco visibile ancora oggi, fu il segno della rinascita della città.

La famiglia Maxwell diede inizio qui alla rinomata impresa della Maxwell House Coffee. Teddy Roosevelt in persona dichiarò che il caffè servito al Maxwell House Hotel era "buono fino all'ultima goccia". La tenuta dei Maxwell è oggi una galleria d'arte e un complesso di giardini botanici aperti al pubblico.

Ma alla fine Nashville fu conosciuta nel mondo per l'enorme popolarità del suo Barn Dance, trasmesso in diretta radiofonica a partire dal 1925. La città fu rapidamente proclamata Capitale Mondiale della Musica Country, e lungo la Music Row, a ovest del centro, si installarono studi di registrazione e compagnie discografiche.

Negli anni Sessanta studenti della Fisk University per soli neri indissero manifestazioni di sit-in presso i ristoranti del centro, incoraggiarono il boicottaggio economico e marciarono sul municipio per chiedere la fine della segregazione. La loro protesta non violenta fu un modello e un catalizzatore per il tutto il movimento dei diritti civili nel Sud.

Negli anni Settanta la Gaylord Entrerprises fondò l'impero di Oprylandia e diede forma all'industria turistica basata sulla musica country con il trasferimento del Gran Ole Opry, la ristrutturazione del Ryman Auditorium, l'istituzione di un servizio di traghetti e la generale rivitalizzazione economica delle sponde cittadine del fiume. Le principali risorse economiche della città, oltre all'industria dello spettacolo e a quella turistica, che da sola vale oltre due milioni di dollari l'anno, sono l'industria medica e il settore automobilistico, rappresentato dalla Nissan.