Découvrant le football dans les rues de Douala, Jean-Pierre Tokoto fréquenta ensuite le club de l'Oryx Club Douala avec qui il remporta 4 titres de champion du Cameroun et 2 Coupes du Cameroun. Devenu international à 16 ans et demi, il remporta en 1965 la première CAN.

Repéré par les recruteurs de l'Olympique de Marseille et souhaitant devenir professionnel, il quitta son pays clandestinement pour venir en France en 1968, malgré le refus de la Fédération camerounaise. Mais confronté à la réglementation qui limitait à 2 étrangers sur une feuille de match, il signa une licence amateur mais ne joua pas beaucoup à l'OM. Il fut prêté à Paris-Neuilly et à Paris-Joinville, avant de revenir sur la Canebière.

Toujours relégué en tribunes ou en D3 malgré des prestations remarquées avec sa sélection lors de la CAN ou de la Mini-Coupe au Brésil en 1972, il fit à nouveau l'objet d'un prêt, cette fois aux Girondins de Bordeaux en novembre 1972. Mais la concurrence en attaque était vive avec Wojciak, Gallice et Liposinovic, tout comme la règle des étrangers. Il ne joua que 25 matches mais fut transféré définitivement aux Girondins à la fin de la saison. En Gironde, le Camerounais trouva l'équilibre et le bonheur de jouer régulièrement.

Installé au milieu de terrain par Pierre Phelipon, il devint enfin titulaire avec les Marine et blanc et aida chaque saison le club à se maintenir. Ses bonnes prestations attirèrent les convoitises d'autres clubs. Il était impossible pour les dirigeants bordelais de s'aligner sur la proposition salariale et sur le projet sportif du Paris SG où il s'engagea en juin 1975. Arrivé avec beaucoup d'ambition dans la capitale, il connut une bonne première saison avant d'être plus souvent mis sur la touche la seconde par Vasovic. Durant l'été 1976, il fut même question d'un retour aux Girondins.

Il lui fallut attendre août 1977 pour revenir en Gironde sous forme de prêt. Il prit une part importante dans l'obtention du maintien à la fin de la saison, avec 38 matches joués pour 10 buts marqués. Son entente avec Jeandupeux et Giresse et la liberté accordée par Montes expliquèrent cette belle saison.

Durant l'été 1978, il ne parvint pas à se mettre d'accord avec les dirigeants bordelais qui ne voulaient pas lui octroyer les 2 ans de contrat demandés. Alors le Camerounais choisit de s'engager avec Béziers, club de D2, qui les lui offrit et qui l'aida à ouvrir un magasin de sports dans le cadre d'une prochaine reconversion.

Déçu de son expérience biterroise, Jean-Pierre Tokoto termina sa carrière à Boston aux côtés de Salif Keita, à Jacksonville puis à Philadelphia. Il prit enfin part à 3 matches de la Coupe du Monde 1982.