John Graham Mellor est né le 21 août 1952 à Ankara en Turquie. Son père était alors diplomate là-bas. Il fait toutes ses études à Londres en Angleterre et dès l'adolescence, il a un intérêt marqué pour la musique rock et reggae. Il s'impose d'abord au sein d'un groupe au Pays de Galles appelé Flaming Youth (qui allait devenir The Vultures un peu plus tard). Il s'impose parce qu'en échange de sa batterie qu'il prête au groupe, il exige d'en être le chanteur et guitariste. En 1974, il revient à Londres et forme le groupe The 101'ers. Quand il découvre les Sex Pistols, il décide rapidement de quitter son groupe pour se consacrer au nouveau mouvement punk et co-fonde The Clash en 1976.

Chanteur, guitariste et principal compositeur du groupe, il crée certains des plus grands classiques de l'histoire de la musique punk rock. Son intérêt passé pour le reggae est souvent revenu au cours de sa carrière, particulièrement après un voyage en Jamaïque, et ce style s'est donc retrouvé à plusieurs reprises dans des chansons de The Clash, surtout vers la fin de leur carrière.

Joe Strummer est le seul avec Paul Simonon à être resté jusqu'au bout de l'histoire du groupe, puisqu'ils ont enregistré l'album Cut The Crap ensemble en 1985 après le départ de Topper Headon et Mick Jones. Ils décident ensuite de dissoudre définitivement le groupe et malgré plusieurs rumeurs de réunion, il n'y en a jamais eu.

Après la fin de The Clash, Strummer participe à plusieurs projets, dont le nouveau groupe de Mick Jones, Big Audio Dynamite. Il participe à plusieurs bandes originales de films dont Walker et joue aussi en tant qu'acteur dans beaucoup de ces films. En 1989, il met sur le marché son premier album solo, Earthquake Weather qui mélange du rock n' roll classique à une touche de musique du monde. Il fait partie d'une tournée de The Pogues en tant que guitariste et chanteur en remplacement de Shane MacGowan avant de disparaître quelques temps au début des années 90.

En 1999, Strummer effectue un retour sur disque avec un nouveau groupe, Joe Strummer & The Mescaleros et met sur le marché Rock Art And The X-Ray Style. Cette fois-ci, la musique du monde (world beat) est au coeur de l'album. Il remet ça en 2001 avec Global A Go-Go.