Après des débuts au Bordeaux EC, Alain Roche signa sa première licence aux Girondins de Bordeaux à l'âge de 12 ans. Il gravit tous les échelons jusqu'à l'équipe première.

Remarqué par Aimé Jacquet, il fut convié dès la saison 1985-1986 aux entraînements des professionnels. Il débuta en Première division en novembre 1985, en remplaçant Alain Giresse, blessé. Malgré son très jeune âge (18 ans), il entra dans l'équipe, profitant de la blessure de Léonard Specht, pour accompagner Patrick Battiston en charnière centrale. Il joua 28 matches toutes compétitions confondues. Couvé par les barons du vestiaire bordelais, il remporta la Coupe de France 1986, son premier trophée.

Lors de la saison suivante, il confirma son importance dans le groupe bordelais en jouant 43 matches et en remportant un fabuleux doublé coupe-championnat et en atteignant les demi-finales de la Coupe des Coupes. Après les départs de Battiston et de Specht, il s'installa définitivement comme un titulaire indiscutable au sein de la défense bordelaise.

Durant l'été 1988, de nombreux joueurs clés quittèrent les Girondins. Les recrues, quant à elles, déçurent et Bordeaux tomba dans une crise sportive. Alain Roche ne parvint pas à assumer les nouvelles responsabilités qui lui incombaient.  Aimé Jacquet fut limogé et remplacé par Didier Couécou. Ce remue-ménage ne remit pas en cause le statut de titulaire de Roche.

Confronté à de grosses difficultés financières, Claude Bez réussit à le convaincre de rejoindre l'Olympique de Marseille, en même temps que Jean Tigana. Il ne resta qu'un an à l'OM, avant de signer à Auxerre puis au PSG. Il connut ses plus grandes heures sportives dans la Capitale (Coupe des Coupes 1996, Champion de France 1994, Coupe de France 1993, Coupe de la Ligue 1995 et 1998). Mais il dut quitter le PSG qui voulait clore la page Denisot. Il découvrit un nouveau championnat, la Liga et le FC Valence.

En juillet 2000, de retour en France après deux ans passés de l'autre côté des Pyrénées, Alain Roche demanda aux dirigeants bordelais l'autorisation de pouvoir s'entraîner avec le groupe professionnel. À force de persévérance et de travail, il retrouva un bon niveau qui intéressa Elie Baup et il signa un contrat d'un an avec son club formateur. Associé à David Sommeil, il réalisa une saison correcte (4^ème). En revanche, sa dernière année à Bordeaux fut perturbée par ses problèmes de cartilage à la cheville. Il ne disputa que 27 matches et ne put prendre part à la victoire en finale de la Coupe de la Ligue.

Après huit mois sans jouer, il raccrocha les crampons en septembre 2002, handicapé par une cheville douloureuse. Il intégra le staff des Girondins en qualité de responsable des Relations Publiques. Mais il quitta le club en 2003 pour occuper le poste de responsable du recrutement du Paris SG.

Mais en août 2020, les dirigeants de King Street le nommèrent directeur sportif d'un club en totale déliquescence. Une rude tâche l'attendait... avec un budget recrutement proche de 0. Il ne put accomplir aucun miracle, restructurant néanmoins la formation. Les Girondins version américaine furent très proches de sombrer. Avec l'arrivée de Gérard Lopez, il se vit remplacé par Admar Lopes au poste de directeur sportif. N'occupant plus de fonction opérationnelle au sein du club, il quitta officiellement le club le 7 octobre 2021.