Ces engins sont intimement liés à la Provence et à la Vallée du Rhône, pour lesquelles ils furent construits et passèrent la majeure partie de leur carrière. Les commandes furent successivement :
Dès leur livraison, les BB 9400 furent majoritairement affectées au dépôt d'Avignon et utilisées dans la vallée du Rhône, remontant jusqu'à Dijon et la région parisienne avec des trains de messageries ou certains trains de voyageurs assez lents (trains supplémentaires, omnibus, de nuit...). A partir de mai 1960, elles gagnèrent Nîmes puis Narbonne et Toulouse et, en juillet 1961, Miramas. 1962 vit aussi leur utilisation jusqu'à Marseille avec utilisation sur les omnibus Marseille - Avignon , ainsi qu'en UM sur les trains de marchandises RA ou RO.
En 1967, le parc des BB 9400 d'Avignon fut renforcé par des machines provenant d'autres dépôts afin de remplacer les BB Midi (dont les 4600) utilisées sur la transversale Sud Tarascon - Sète - Toulouse et, en partie, sur la ligne des Causses (Béziers - Neussargues).
Au milieu des années 70, les BB 9400 étaient à 40 % utilisées en RA, 50 % en RO (notamment trains de pétrole en UM dans la vallée du Rhône) et 10 % sur des trains de voyageurs principalement omnibus.
Le parc avignonnais augmenta encore en 1977 avec 103 unités, suite à la réception des nouvelles BB 7200 et 22200, alors que son champ d'action s'accroissait avec l'électrification de Avignon - Miramas via Cavillon puis de la ligne de la Rive Droite du Rhône.
L'arrivée du TGV Sud Est libérant de nombreux engins, alors que les électrifications Bordeaux - Montauban et Narbonne - Cerbère faisaient naitre de nouveaux besoins, une partie de ces engins fut envoyé au dépôt de Bordeaux en plusieurs vagues, les effectifs d'Avignon tombant à 50 machines en 1984, alors que le complexe de Fos sur Mer venait d'être mis sous tension.
Dès l'automne 1984, alors que le trafic marchandises régressait, des locomotives furent placées en garage longue durée. L'arrêt des révisions générale était prévu pour 1988, la SNCF préférant continuer à exploiter des engins plus anciens mais plus robustes et plus puissants comme les CC 7100.
Les réformes commencèrent dès 1987, le dépôt d'Avignon recevant à cette occasion toutes les locomotives auparavant affectées à Lyon Mouche et portant son parc à 75 engins. Ces engins parcouraient la ligne de Paris à Marseille et celle de Toulouse à Tarascon, ainsi que Narbonne - Cerbère / Le Boulou et Perpignan - Villefranche.
La sous utilisation de la série s'accentua rapidement : à l'hiver 1988-89, les machines d'Avignon ne dépassaient plus Cerbère, Bordeaux, Miramas et Dijon, et seules 25 engins étaient engagés dans le roulement, avec une moyenne journalière de seulement 554 km. 12 machines furent radiées en 1987, 11 en 1988, mais seulement trois en 1989
A cette époque, la livraison des nouvelles RRR et RIO 88 accapara de nombreuses BB 8500 et 25500, alors que ces séries étaient jugées surpuissantes pour cette utilisation. La modification de BB 9400 pour cette nouvelle tâche, avec adaptation à la réversibilité et possibilité de rouler à 140 km/h, fut alors décidée dès avril 1988 : à l'horizon 1994 seules 80 machines devaient être conservées, dont la moitié ayant subi une telle transformation avec renumérotation dans la série 9600. En attendant, les révisions générales de BB 9400 reprirent début 1989, permettant à une dizaine de machines de revêtir la nouvelle livrée grise et orange.
Fin 1990, la chute du trafic marchandises se poursuivant, l'arrêt des révisions générales sur les BB 9400 fut définitivement prononcé, tous les engins survivants étant regroupés sur Avignon. Alors que les transformations en BB 9600 se poursuivent pour finalement toucher 42 exemplaires, 13 réformes eurent lieu en 1990, 5 en 1991, 3 en 1992, 19 en 1993 et les 22 derrières en 1994, la BB 9467 étant le dernier engin de la série à être radiée, le 29 août 1994.
La BB 9411, restaurée au Musée du Chemin de Fer de Nîmes, est la dernière existante de la série.