Les Cours administratives d'appel ont été créées par la loi du 31 décembre 1987 portant réforme du contentieux administratif.
Auparavant c’était le Conseil d’État qui était juge d’appel des décisions des Tribunaux administratifs. Celui-ci devient alors le juge de cassation des décisions rendues par ces nouvelles cours.
A leur création, les Cours ne sont qu’au nombre de cinq (Bordeaux, Lyon, Nancy, Nantes et Paris) et c’est donc la Cour de Lyon qui était alors compétente pour connaître des jugements de tous les Tribunaux administratifs du Sud-Est, dont Bastia, Marseille et Nice.
Le développement du contentieux administratif créée des tensions et appelle la création de nouvelles cours.
La Cour de Marseille, créée le 1ᵉʳ septembre 1997, est la première des Cours de la 2ème génération. Elle décharge ainsi la Cour de Lyon de sa compétence sur les Tribunaux administratifs de Bastia, de Marseille et de Nice et la Cour de Bordeaux de sa compétence sur le Tribunal administratif de Montpellier.
Avec la création des Tribunaux administratifs de Nîmes en 2006 et de Toulon en 2008, la Cour réunit six juridictions dans son ressort et devient la Cour administrative d'appel la plus importante en volume d’activité. Elle compte jusqu’à 9 chambres et une cinquantaine de magistrats.
La croissance de son activité justifie la création d’une nouvelle Cour, celle de Toulouse, en mars 2022, qui décharge, à son tour, la Cour de Marseille de sa compétence sur les Tribunaux administratifs de Montpellier et de Nîmes et la Cour de Bordeaux de sa compétence sur le Tribunal administratif de Toulouse.
La Cour administrative d'appel de Marseille a eu pour président :
Jean-François Hertgen de septembre 1997 au 16 janvier 2003, date de son décès
Jacques Léger de février 2003 à août 2011
Jacqueline Sill de septembre 2011 à décembre 2015
Lucienne Erstein de janvier 2016 à février 2018
Laurence Helmlinger de février 2018 à ce jour
Pour plus de détails sur l’histoire de la Cour : cf. Ahmed Slimani, "La Cour administrative d'appel de Marseille : création et évolution (1997 - 2007)" in Revue de recherche juridique 2019-1 XLIV - 176, p. 307 et suiv.