A Down egy már befutott zenészekből álló mellékprojectnek indult; tagjai a Panterából (Phil Anselmo énekes), a Corrosion of Conformity-ből (Pepper Keenan gitáros), és a Crowbar-ból kerültek ki (Kirk Windstein gitáros, Todd Strange basszusgitáros és JimmyBower dobos).

A 90-es évek közepén alakultak meg, mikor a Pantera rövid vakációt tartott a ’Far Beyond Driven’ és a ’The Great Southern Trendkill’ lemezeik között. A formáció tagjai már régóta barátok voltak, ekkor pedig elhatározták, hogy abbahagyják a láblógatást (egyébként az együttes neve is innen ered).

A Down debütáló albumát 1995-ben az East/West kiadó forgalmazta; ez volt a ’Nola’, ami New Orleans és Los Angeles kezdőbetűiből áll össze, ugyanis ezekből a városokból származtak az alapítótagok. Sokan arra számítottak, hogy a Down elsősorban az extrém, „a célon túllövő” fajta metalt fogja játszani, azonban zenéjükben több klasszikus rock-elem kapott helyet, mint a tagok eredeti együtteseiben (leginkább a Black Sabbath volt hatással a stílusukra).

Miután a banda letudott egy bemelegítő-együttesként végigjárt turnét, minden tag visszatért saját kezdeti csapatához. Innentől kezdve már alig lehetett hallani róluk, így sokan úgy vélték, hogy a Down is amolyan egynyári produkció. Ez azonban megcáfolódott, mikor 2001-ben Anselmo, Keenan és Bower ismét összeültek, hogy új dalokat szerezzenek. A foghíjas együttesben a Pantera basszusgitárosa, Rex Brown vette át Strange helyét.

2002 márciusában végre megszületett a Down sokat várt második albuma, amit lényegretörően ’Down II’ névre kereszteltek el.

Ezt 2007-ben követte a harmadik felvonás, a ’Down III’.

2010-ben az együttes ’Diary of a Mad Band’ címmel élő-felvételeket tartalmazó CD-DVD szettet adott ki.