La théorie des équations différentielles stochastiques rétrogrades (EDSRs) permet, entre autre, de donner une représentation probabiliste d'EDPs semi-linéaires. Dans cet exposé nous nous intéresserons à des EDSRs en horizon infini qui nous fournissent un outil alternatif pour l'étude de problèmes de contrôle optimal ainsi que certains problèmes de Neumann semi-linéaires associés à des phénomènes ergodiques et étudiés par G. Barles et F. Da Lio dans leur article ``On the boundary ergodic problem for fully nonlinear equations in bounded domains with general nonlinear Neumann boundary conditions'' (2005).