Testament gehört zu den ältesten Thrash-Metal-Bands, die Anfang der 1980er Jahre aus der San Francisco Bay Area hervortraten.
Ursprünglich wurde die Band 1983 von Eric Peterson (Gitarre), Derrick Ramirez (zunächst Gesang und Gitarre; später Bass auf Demonic) und Mike Ronchette (Schlagzeug) als Legacy gegründet. Zum Line-Up gesellten sich im gleichen Jahr Steve Souza, der Ramirez am Gesang ablöste, sowie Greg Christian am Bass und Louie Clemente, der Ronchette am Schlagzeug ablöste. Ramirez wurde später auch an der Gitarre durch Alex Skolnick ersetzt. Souza, der zu Exodus wechselte, wurde 1986 von Chuck Billy am Gesang abgelöst. 1987 brachte die Band das Debütalbum The Legacy heraus, jetzt unter dem Namen Testament. 1988 folgte mit The New Order ein Zweitling, der sich erstmals in den Charts platzieren konnte. Practice What You Preach im Jahr 1989 enthielt mit The Ballad erstmals eine Halbballade, die des Öfteren im Musikfernsehen gespielt wurde. 1990 veröffentlichte die Band Souls of Black und spielte gemeinsam mit Slayer, Megadeth und Suicidal Tendencies in Europa auf der Clash-of-the-Titans-Tournee sowie in den USA mit Megadeth auf der Judas-Priests-Painkiller-Tournee.
Im Laufe der folgenden Jahre wurde die Musik Testaments melodischer und langsamer, bis auf The Ritual von 1992 kaum noch von Thrash Metal die Rede sein konnte und im Anschluss an die Veröffentlichung dieses Albums Alex Skolnick die Band verließ, um sich ganz dem Jazz zu widmen. Nach der Trennung von Skolnick und Louie Clemente griff man den härteren Stil der früheren Alben wieder auf und bewegte sich dabei auch auf neue Extreme zu, indem sowohl Low 1994 als auch insbesondere Demonic und The Gathering deutliche Death-Metal-Anleihen in Gesang und Riffing enthielten. Nicht umsonst war mit James Murphy (Ex-Death/-Obituary/-Cancer) einer der renommiertesten Death-Metal-Gitarristen hinzugekommen. Inzwischen hatte außerdem Ex-Exodus-Drummer John Tempesta das Schlagzeug übernommen, verließ jedoch nach den Aufnahmen zu Low die Band, um bei White Zombie einzusteigen.
Die Band bewegte sich über die Jahre durch eine Reihe fester und temporärer Line-Ups, die teilweise noch während Tourneen mehrfach wechselten. Für Demonic (1997) verpflichtete man Gene Hoglan (ehem. Death, Dark-Angel, Strapping Young Lad, Devin Townsend) und für The Gathering (1999) mit Dave Lombardo (Slayer, Grip Inc., Fantômas, John Zorn) einen der bekanntesten Metal-Schlagzeuger. Für First Strike Still Deadly, eine Compilation klassischer, neuaufgenommener Testament-Stücke, kehrte kurzzeitig neben Alex Skolnick an der Gitarre auch John Tempesta zurück. Später übernahmen Jon Allen (Sadus) und Paul Bostaph (Ex-Forbidden, -Slayer, und -Exodus), der auch bereits früher auf der Live-EP Return to the Apocalyptic City (1993) mitwirkte, das Schlagzeug. Bostaph kehrte 2007 erneut zurück. Weitere Drummer in der Bandhistorie sind Jon Dette (zeitweise Slayer, Evildead), Steve Jacobs (Ex-Forbidden), der über die Jahre immer wieder im Live-Line-Up zu finden war und Chris Kontos (Ex-Machine Head). An der Gitarre waren nach Skolnicks Weggang ein paar Jahre Steve Smyth (Ex-Vicious-Rumors) und Metal Mike Chlasciak (Halford, Painmuseum) zu hören, am Bass nach Greg Christians Weggang Steve DiGiorgio (Ex-Death/-Sadus/-Iced-Earth).
Nachdem bereits 1999 bei Death-Frontmann Chuck Schuldiner (1967–2001) ein Hirntumor diagnostiziert worden war, wurde 2001 bei Chuck Billy ein seltener Tumor im Brustbereich festgestellt. Etwa zur gleichen Zeit wurde auch die Krebserkrankung von Ex-Gitarrist James Murphy bekannt. Daraufhin wurde von Freunden Testaments das Thrash-of-the-Titans-Benefiz-Konzert zugunsten von Chuck Billy organisiert, bei dem viele namhafte 1980er-Jahre-Bay-Area-Thrash-Bands und auch Bands der New Yorker Thrash-Szene in San Francisco auftraten und sich für dieses Konzert teilweise sogar wiedervereinigten. Billy hat sich inzwischen vollständig erholt.
Nach diesen zahlreichen Besetzungswechseln, beschloss die Band sich ähnlich wie Anthrax in ihrem klassischen Lineup wiederzuvereinigen und auf Tour zu gehen. Ende April 2008 erschien mit The Formation of Damnation sieben Jahre nach dem letzten Studioalbum ein neuer Longplayer. Die Band befand sich laut offiziellen Angaben ihrer Facebook-Seite ab dem 20. Juni 2011 im Studio. Am 27. Juli 2012 veröffentlichte die Band ihr zehntes Studioalbum Dark Roots of Earth.
Seitdem war die Band in unveränderter Besetzung auf diversen Tourneen unterwegs, bis Greg Christian im November 2013 während der Tournee kurzfristig durch Jack Gibson von Exodus vertreten und im Januar 2014 vom ehemaligen Langzeit-Bassisten Steve DiGiorgio ersetzt wurde.
2019 trat die Band auf Summer Breeze auf und kündigte einen Tour mit neuem Album für 2020 an.