In het midden van de 19de eeuw verzamelde het Koninklijk Geschied- en Oudheidkundig Genootschap van Tongeren archeologische vondsten. Met steun van het provinciebestuur voerde de vereniging ook opgravingen uit. Vanaf 1854 konden bezoekers de voorwerpen bekijken op diverse locaties in de stad. Tot in de eerste helft van de 20ste eeuw verwierf het Genootschap regelmatig nieuwe collecties. Vaak van privé personen die ook opgravingen uitvoerden. In 1937 verhuisde de verzameling naar het nieuw opgerichte Provinciaal Museum in het Begijnhof van Hasselt.

In 1954 startte het eerste echt volwaardige museale initiatief. De belangrijkste archeologische vondsten uit de regio werden verzameld en getoond in het Provinciaal Gallo-Romeins Museum in Tongeren. De collectie breidde zich alsmaar verder uit. Onder andere dankzij opgravingen van de toenmalige ‘Nationale Dienst voor Opgravingen’, de archeologische buitendienst van het museum zelf en de vele schenkingen. Het museum toonde de objecten op een klassieke manier. Soms organiseerde het ook tijdelijke tentoonstellingen. Het aantal bezoekers nam toe, tot 20.000 per jaar. Voor vele scholen groeide het museum uit tot een vaste waarde.

Begin jaren 1990 besliste de bestendige deputatie om te investeren in een nieuw museumgebouw en een vernieuwende museale aanpak. In 1994 opende het museum ‘nieuwe stijl’. De eigentijdse presentatie van de collectie, de onderbouwde educatieve werking en het laagdrempelige tentoonstellingsbeleid verhoogden de aantrekkingskracht. De collectie werd systematisch aangevuld. Denk maar aan het bronzen bijlendepot van Heppeneert, het Keltisch gouddepot met halsring van Beringen en de ‘muntschat van Ambiorix’, gouden munten van onder meer de Eburonen.

Vrij snel werd het nieuwe museum slachtoffer van zijn eigen succes. Bijna 150.000 mensen bezochten de tentoonstelling ‘Neanderthalers in Europa’ (2004-2005). De tentoonstellingsruimtes en educatieve ruimtes waren ongeschikt om deze toevloed kwaliteitsvol op te vangen. In 2000 zette de bestendige deputatie het licht op groen voor een nieuwe uitbreiding. In 2004 was de financiering voor de nieuwbouw rond en in 2006 werd het bouwdossier opgestart. Het museum kreeg hiermee alle kansen om door te groeien tot één van de belangrijkste archeologische musea van Europa.