Débuta en D2 à Cherbourg, Jacky Simon choisit de rejoindre en 1963 le FC Nantes. Il ne le regretta pas puisqu'il remporta deux titres de champion de France en 1965 et 1966, au nez et à la barbe des Girondins de Bordeaux. À l'aise dans le système mis en place par José Arribas, il découvrit également l'équipe de France, en 1965 : il était le premier Nantais à jouer chez les Bleus. Meilleur buteur et meilleur joueur du championnat 1965, il laissa une trace indélébile sous le maillot des Canaris.

En 1968, les dirigeants bordelais parvinrent à le débaucher, à la surprise générale, en espérant qu'il permette aux Girondins, enfin, de doubler leur concurrent nantais. Hélas, malgré les 15 buts de Simon, intronisé capitaine, ils finirent vice-champion de France, cette fois-ci derrière Saint-Etienne. Ils perdirent également une nouvelle Coupe de France face à l'OM, une rencontre au cours de laquelle il donna l'impression d'errer comme une âme en peine.  Même si le succès continuait à fuir les Girondins, ces derniers adoptèrent, notamment grâce à l'apport de l'ancien Nantais et du nouvel entraîneur Bakrim, un style de jeu très différent. Simon apporta une touche technique à cette grande équipe de tempérament qu'était la formation d'Artigas. Lors de sa deuxième saison, Jacky Simon connut un sacré passage à vide, ne marquant qu'à 4 reprises.

Il quitta à sa demande les Girondins à l'issue de cette saison décevante pour se lancer un nouveau défi au Red Star.