Het is dan ook niet vreemd dat toen hij zelf muziek ging maken, die muziek elementen uit veel genres in zich had.
Pierce ontmoette in 1978 Brian Tristan in de rij voor een Pere Ubu concert. Het klikte tussen de twee door een gedeelde liefde voor muziek. Toen Pierce een nieuwe band wilde beginnen moedigde hij Tristan aan gitaar te gaan spelen zodat hij bij de band kon komen. Tristan nam het pseudoniem Kid Congo Powers aan, maar verliet de band (die gestart was als The Creeping Ritual, maar later The Gun Club zou gaan heten) al voordat de eerste plaat gemaakt werd.
De split gebeurde zonder gevoelens van wrok omdat Powers een aanbod had gekregen dat hij niet kon weigeren (hij kon gitarist worden bij geestverwanten The Cramps). Hij zou drie jaar bij The Cramps blijven, maar keerde nog voor het derde album (tijdelijk) terug bij The Gun Club.
De debuutplaat (Fire Of Love, 1981) en het tweede album (Miami, 1982) werden goed ontvangen. Waar de eerste plaat nog veel verschillende invloeden herbergt (punk blues, psychobilly, gothic country), daar is de focus op de tweede meer op punk blues en alternative country. Dat tweede album werd geproduceerd door Blondie-gitarist Chris Stein en Debbie Harry verzorgt achtergrondzang onder het pseudoniem 'D.H. Laurence Jr'.
Ik maakte kennis met The Gun Club door een juichende recensie in OOR over het derde studio-album uit 1984, The Las Vegas Story. Nieuwsgierig geworden schafte ik de plaat aan en daar kreeg ik geen spijt van.
Opener The Las Vegas Story / Walkin' With The Beast komt direct hard binnen. Het rammelende rockabilly-ritme en de overstuurde gitaar kunnen niet los worden gezien van de terugkeer van Powers en zijn recente Cramps-verleden. Eternally Is Here, My Dreams, Moonlight Hotel en Give Up The Sun vallen grotendeels in hetzelfde stramien, maar hebben meer een post-punk geluid.
