Initialement, les établissements de crédit ayant leur siège social dans un autre État de l'Union européenne devaient, comme toute autre banque étrangère, obtenir un agrément avant d'entreprendre une activité bancaire en France. Cet agrément était délivré par le Comité des établissements de crédit et des entreprises d'investissement (CECEI)
1544892371261qui émanait du ministère de l'Économie, des Finances et de l'Industrie. Le CECEI a fusionné avec la Commission bancaire, l'Autorité de contrôle des assurances et des mutuelles et le Comité des entreprises d'assurances pour former l'Autorité de contrôle prudentiel (ACP) en janvier 2010, depuis devenue l'Autorité de contrôle prudentiel et de résolution (ACPR) en 2013. Sur le fondement du principe de la liberté d'établissement inscrit dans le traité de Rome, l'agrément était accordé dès lors que ces établissements de crédit remplissaient les conditions légales.
Depuis novembre 2014, la BCE contrôle directement les plus grandes banques des États participants, tandis que les autorités nationales continuent de superviser les autres banques. En effet, seules cent vingt-quatre banques parmi les plus importantes de la zone euro et des pays qui décident de participer au Mécanisme de surveillance unique (MSU, qui est le système de supervision bancaire européen)
1549491213580, sont soumises à la supervision directe de la BCE. Leur nombre était de cent trente au lancement du mécanisme. Ces banques, jugées « importantes » selon différents critères (actifs supérieurs à 30 M€ ou représentant au moins 20 % du PIB du pays d'appartenance), détiennent ensemble 82 % des actifs bancaires de la zone euro. Parmi elles, BNP Paribas, le Crédit Agricole ou encore UBS (Luxembourg). Les autres banques des pays concernés sont supervisées par les autorités nationales, en lien avec la BCE. Au total, environ 4 700 banques sont donc soumises au MSU. Toutefois, certains observateurs considèrent que des banques de plus petite taille peuvent être responsables d'un risque systémique, sans pour autant être surveillées par la BCE, ce qui limite la portée du MSU.