Récemment, des couches très fines autour des structures tourbillonnaires ont été observées dans plusieurs régions océaniques. Ces couches sont quasi horizontales, elles ont une épaisseur de l’ordre de 10 mètres et une taille horizontale de l’ordre de 1 à 10 kilomètres. L'étude de la formation de ces couches conduit à un problème aux limites et à la résolution d'un problème aux valeurs propres généralisé. Les modes instables d'une lentille gaussienne anticyclonique dans un fluide continûment stratifié en rotation sont simulés numériquement. Le mode le plus instable est un mode lent, associé à une instabilité couche critique située à la périphérie du vortex.