Alors que les premières A1A A1A 68000 commencent non sans heurts leur carrière, la 68005 reçoit dès sa construction un moteur Diesel AGO, de conception française, et est renumérotée 68501. Il en découle la livraison de 28 machines identiques, livrées jusqu'en 1968.
Durant toute leur carrière, ces engins ont été affectés au dépôt de Chalindrey (Haute Marne), afin d'être utilisées sur bon nombre de lignes non électrifiées du Nord Est de la France. Assurant d'abord du trafic voyageurs grandes lignes (notamment sur l'axe Paris - Mulhouse) aux cotés des A1A A1A 68000, elles ont été comme ces dernières rapidement évincées par des engins plus modernes comme les BB 67400 et CC 72000.
Au milieu des années 70, alors que la série perd sa chaudière de chauffage des rames et reçoit de nouvelles cabines de conduite à l'occasion de son passage en GRG (Grande Révision Générale), quatre machines reçoivent un moteur Diesel Sulzer (acquis d'occasion auprès de British Rail, ex class 48) et sont renumérotées 68082 à 68085.
A partir de 1993, les transformations ont lieu dans le sens inverse : contrairement aux moteurs AGO, les moteurs Sulzer ont souvent leurs bâtis fissurés, alors que les caisses des A1A A1A 68500 vieillissent plus mal que celles des 68000, car n'ayant pas subi une rénovation mi vie aussi poussée. Apparaissent donc les 68529 (ce numéro ayant pourtant déjà été attribué à un engin différent) à 68535 entre 1993 et 1996, puis les 68536 à 68540 en 2000 - 2001, peintes en livrée Fret.
Lors de la répartition du parc moteur entre les différentes activités de la SNCF en 1999, la série 68500 a été majoritairement affectée à l'activité Infrastructure ; les engins restant étant affectés à l'activité Fret. Lors de la réforme de cette dernière activité en 2003, celle ci a éliminé bon nombre d'engins, ceux en bon état étant reversés aux autres activités ; c'est ainsi que les dernières A1A-A1A 68500 transformées sont peintes en livrée Fret mais affectées à l'Infrastructure.
Après avoir été utilisées sur le chantier du TGV Est, bon nombre de A1A-A1A 68500 sont maintenant utilisées sur des chantiers un peu partout en France ; en 2009, deux engins pouvant encore rouler quelques années ont même été repeints en jaune vif, avec un liseré violet en toiture et des persiennes en gris. Cependant, mi 2011 toute la série a été radiée à l'exception d'une seule machine, la 68506.
| Année | 1963 | 1964 | 1965 | 1966 | 1967 | 1968 |
| Mises en service | 1 | 4 | 3 | 5 | 12 | 4 |
| Parc total en fin d'année | 1 | 5 | 8 | 13 | 25 | 29 |
| Année | 1971 | 1975 | 1984 | 1985 | 1986 | 1993 | 1994 | 1995 | 1996 | 1997 | 1998 | 2000 | 2001 | 2002 | 2003 | 2004 | 2005 | 2009 | 2010 | 2011 |
| Transformations en A1A-A1A 68000 | 1 | 1 | 2 | |||||||||||||||||
| Transformations d'anciennes A1A-A1A 68000 | 2 | 2 | 1 | 1 | 1 | 2 | 2 | |||||||||||||
| Réformes | 4 | 2 | 2 | 5 | 4 | 1 | 2 | 7 | 9 | |||||||||||
| Parc restant en fin d'année | 28 | 27 | 25 | 25 | 25 | 27 | 25 | 26 | 25 | 25 | 25 | 26 | 28 | 28 | 23 | 19 | 18 | 16 | 9 | 0 |