Construite autour des vestiges d'un temple celte découvert en 1976, la Fondation présente les principales trouvailles archéologiques faites à Martigny, l'Octodurus gaulois, puis le Forum Claudii Vallensium romain. La Fondation se trouve au départ d'une intéressante promenade archéologique qui conduit les visiteurs à travers le site antique.
Comme les statuts de la Fondation le précisent, le Musée d’archéologie gallo-romain est mis sur pied d’entente avec l’État du Valais et ses services : « La conservation et l’entretien des vestiges du temple gallo-romain incombent à l’archéologue cantonal. Les collections archéologiques appartenant à l’État du Valais sont placés sous la surveillance du conservateur des Musées cantonaux. Ces tâches sont assumées en accord avec le Conseil de Fondation. »
Dès le départ, un accord est conclu entre le Canton et la Fondation. Toutefois, quelques difficultés surgissent entre les deux parties. Au moment d’ouvrir le musée et d’inaugurer une première exposition, Léonard Gianadda n’obtient pas le retour des Grands Bronzes d’Octodure, dont l’exceptionnelle tête de taureau tricorne, découverts à Martigny en 1883 et conservés à Sion.
Alors que de nombreuses pièces originales sont prêtées par d’autres musées romands, le Conseiller d’Etat valaisan en charge de l’instruction publique refuse de transférer les bronzes originaux, il les remplace par des copies. Une mesquinerie qui ne passera pas inaperçue dans la presse romande. Il faudra donc patienter plusieurs années, un changement au sein du Conseil d’Etat et des anniversaires pour que le transfert s’opère. À l’occasion du centenaire de la découverte des Grands Bronzes et du bimillénaire d’Octodure, Bernard Comby, en charge du Département de l’instruction publique et de la culture, demande que les pièces originales soient « déplacées » à Martigny et exposées dans le Musée gallo-romain de la Fondation !
Heureuse coïncidence, la même année, lors de la construction d’une buvette dans les jardins de la Fondation, des vestiges sont mis au jour dans les jardins de la Fondation. Tous sont conservés pour compléter la promenade archéologique de Martigny.
En 2008, sous l'égide de l'archéologue cantonal, François Wiblé, une nouvelle scénographie du Musée gallo-romain est réalisée et un ouvrage, Martigny-la-Romaine, répertorie et analyse l'histoire et les découvertes archéologiques de la ville.
Le Musée gallo-romain est intégré dans la Promenade archéologique de Martigny-la-Romaine, dont il en est un des points de départ ou d’aboutissement.
Martigny gallo-romaine, (A. Cretton, 2009)
