Die Platte versammelt sechs Coversongs, daher der Name, der impliziert, dass die Songs nicht von Gore geschrieben wurden. Es handelt sich um Stücke von Joe Crow, Tuxedomoon, The Durutti Column, The Comsat Angels, Sparks und ein Traditional.
»Counterfeit EP« wurde während einer Bandpause nach den Aufnahmen und der Tournee für das Depeche-Mode-Album »Music For The Masses« (1987) aufgenommen. Gore kümmerte sich selbst um die Produktion, zusammen mit Rico Conning in den Sam Therapy Studios in London. Obwohl die Veröffentlichung die Buchstaben »EP« im Titel trägt, wurde sie von Mute Records mit einer Album-Katalognummer versehen.