La band nacque ad Atlanta nel 1984 con il nome di Mr. Crowes Garden. Nonostante la formazione sia cambiata nel corso degli anni, la forza trainante dei Black Crowes sono, sin dalle origini, i fratelli Chris e Rich Robinson. Nel 1989, influenzati da gruppi come i Led Zeppelin, The Rolling Stones, The Faces, The Band, Little Feat, Creedence Clearwater Revival, incisero il loro primo demo, grazie al quale si vincolarono alla American Recordings. Nel 1990 realizzarono Shake Your Money Maker, il loro primo lavoro in studio, e, grazie al successo dei singoli "Hard to Handle", "She Talks to Angels", "Jealous Again", "Twice As Hard", "Sister Luck" e "Seeing Things", l'album ebbe un grande successo, vendendo 5 milioni di copie e assicurandosi 5 dischi di platino nel 1995. "Hard to Handle" e "She Talks to Angels" entrarono tra le prime 30 canzoni della classifica pop del 1990, e contribuirono alla notorietà del gruppo. I Black Crowes nel 1991 presero parte al Monsters of Rock accanto ad AC/DC, Metallica, Mötley Crüe e Queensrÿche e Pantera. Dopo aver rimpiazzato il chitarrista Jeff Cease con Marc Ford, la band incise il suo secondo album The Southern Harmony and Musical Companion nel 1992. Dal disco vennero estratti i singoli "Remedy", "Thorn In My Pride", "Sting Me", "Sometimes Salvation" and "Hotel Illness", e venne venduto in 2 milioni di copie (grazie alle quali ottenne 2 dischi di platino). Per la sua creazione la band reclutò il tastierista Eddie Harsch, che divenne un membro permanente del gruppo nel tour "High As the Moon". Il 1994, dopo aver scartato, l'anno precedente, l'album Tall, venne segnato dall'uscita di Amorica, che, tuttavia, non ebbe lo stesso successo dei precedenti (ne vennero vendute 500 000 copie). Three Snakes & One Charm venne pubblicato l'anno successivo, nel 1996; all'inizio del 1997 venne registrato un altro lavoro, ma dopo il tour estivo della band Marc Ford venne licenziato, Johnny Colt lasciò il gruppo e il progetto fu quindi abbandonato (successivamente molte delle canzoni del cd vennero suonate durante i vari live). Il bassista Sven Pipien si aggiunge ai Black Crowes nel 1998 e l'anno seguente uscì l'album By Your Side, con etichetta Columbia Records, lavoro che andava in una direzione decisamente differente da quella presa dai due album precedenti Amorica e Three Snakes & One Charm. Il chitarrista Audley Freed, proveniente dai Cry of Love, entrò nella formazione, ma non prese parte alle sessioni di registrazione di By Your Side. Nel 2000 i Crowes fecero un tour ed incisero un album col chitarrista dei Led Zeppelin Jimmy Page. Nello stesso anno il cantante Chris Robinson sposò l'attrice Kate Hudson (figlia dell'attrice Goldie Hawn). Nel 2001 uscì l'album Lions, che includeva canzoni come "Lickin'" e "Soul Singing", e l'anno dopo pubblicavano un nuovo lavoro che raccoglieva pezzi registrati dal vivo durante due concerti all'Orpheum Theatre di Boston; in contemporanea all'uscita di questa raccolta Live i Black Crowes annunciarono che si sarebbero ritirati dalla scena musicale per un tempo indeterminato. Alcuni membri del gruppo si riunirono per suonare la canzone "Sometimes Salvation" con i Gov't Mule al Jammy Awards del 2004. In questo periodo Chris Robinson pubblicò due album: New Earth Mud nel 2002 e This Magnificent Distance nel 2004. Nel frattempo il fratello Rich formò una band chiamata Hookah Brown, che ebbe vita breve, e poi incise il proprio album da solista Paper (2004). Nei primi mesi del 2005 i fratelli Robinson ed Eddie Harsch riunirono il gruppo, compresi Marc Ford e Sven Pipien, introducendo il batterista Bill Dobrow. Cinque esibizioni in club del nord-est sono state pubblicizzate misteriosamente, ma con scarsa promozione, sotto il nome di Mr. Crowes Garden. Fino a quando non salirono sul palco al The Staircase di Pittston, si era vociferato che questo gruppo era una riformazione dei Black Crowes. Poco dopo, la fine ufficiale della separazione dei Black Crowes fu segnata da sette spettacoli alla Hammerstein Ballroom di New York nella fine di marzo. Quando queste esibizioni fecero il tutto esaurito e la band aggiunse delle date al tour statunitense, facendo diverse serate tutte esaurite. Dopo solo un paio di concerti Dobrows venne licenziato per il suo scarso interesse nei confronti della band, e nel maggio del 2005 i Black Crowes si riunirono col primo batterista Steve Gorman al Tabernacle in Atlanta e suonarono per cinque serate, sbancando i botteghini. Durante l'estate, il gruppo si unì in tour ai Tom Petty and The Heartbreakers. Durante il tour di riunione, i Black Crowes suonarono al concerto di fine anno 2005 nel famoso Madison Square Garden di New York con i North Mississippi All Stars e il primo frontman dei Phish Trey Anastasio. Anastasio suonò la parte di chitarra in "Hard To Handle". Il 21 marzo 2006 la band pubblicò il suo primo concerto in DVD, intitolato "Freak n' Roll...Into The Fog", frutto della performance registrata nello storico Fillmore Auditorium di San Francisco. Tra gli extra del DVD si trova il dietro alle quinte dell'esibizione. Successivamente, i fratelli Chris e Rich Robinson intrapresero un tour di serate acustiche, durante le quali suonarono canzoni loro, cover e nuovi pezzi. Pubblicizzate come Brothers of a Feather: An Acoustic Evening With Chris & Rich Robinson of The Black Crowes, le performance vennero registrate per una possibile pubblicazione. Poco prima dell'inizio del tour autunnale del 2006, tra agosto e settembre, il chitarrista Marc Ford e il tastierista Ed Harsch hanno lasciato la band, venendo rimpiazzati da rispettivamente da Paul Stacey e Rob Clores. Il cd è stato pubblicato nel mese di luglio del 2007, più o meno in contemporanea all'esibizione live al Taste Of Chicago. Nel 2008 hanno pubblicato Warpaint, l'anno seguente il doppio Before the Frost...Until the Freeze, con solamente il primo disco stampato (Before the Frost) ed il secondo (Until the Freeze) scaricabile dal loro sito grazie ad coupon allegato. Nel 2010, per celebrare il ventennale, è uscito Croweology un album contenente la versione acustica dei brani più rappresentativi della loro carriera. Successivamente Chris Robinson si è dedicato al progetto Chris Robinson Brotherhood e Rich Robinson ha formato il gruppo Magpie Salute con gli ex-crowes Marc Ford e Sven Pipien.