Alors que la décision de moderniser la ligne de Sceaux et de l'électrifier en 1500 V continu fut prise par la Compagnie du chemin de fer Métropolitain de Paris (CMP) au début des années 30, se posa le problème du matériel roulant à y utiliser.
Rapidement, il fut choisi de développer un nouveau modèle d'automotrices utilisées par paires, formant des coupons utilisables en unités multiples. Trois premières commandes furent passées par la CMP en 1934 :
En 1937 débuta le service commercial des rames, assorti de la commande de 4 autres éléments par la CMP (Z 23278 à 23281), et de 14 rames identiques utilisées en banalité par la compagnie du Paris Orléans (PO) exploitant le sud de la ligne (Z 23451 à 23464). Livrées en 1938, ces 14 rames ont rapidement été renumérotées Z 3401 à 3414 par la SNCF qui reprit la section du PO.
En 1942, d'autres commandes furent passées, avec de légères différences par rapport aux engins précédemment livrés (livrée verte, pas de compartiment postal) :
Ces nouveaux éléments ne furent reçus qu'entre 1947 et 1949, alors que la CMP devint RATP. Le trafic sur la ligne de Sceaux augmentant toujours, d'autres commandes furent passées :
Ces deux dernières tranches possédaient quelques différences (notamment au niveau des fenêtres) mais conservaient une conception robuste mais trentenaire alors qu'à la même époque était défini un nouveau matériel, les rames MS 61. En 1964, la section sud de la ligne étant reprise par la RATP, les Z 3400 SNCF devinrent les Z 23401 à 14 RATP.
Suite à la transformation de la ligne de Sceaux en RER B avec prolongement vers la banlieue Nord exploitée par la SNCF, la réception d'un matériel commun à la SNCF et la RATP à partir de 1980 (rames Z 8100 dites MI 79) entraîna de déclin des rames "Z", victimes de leur conception remontant aux années 30 et de leur impossibilité de rouler sous caténaire 25000 V 50 Hz. Les réformes débutèrent en 1984 mais furent retardées par les soucis techniques rencontrés en hiver par les nouvelles rames ; les dernières circulations eurent lieu en 1987.
Au fil du temps, les compositions ont varié, avec des couplages allant de deux à huit motrices.