Karl-Johan Johnsson vint au monde dans une petite localité du sud de la Suède. A l'âge de 15 ans, il quitta son premier club, Ränneslövs GIF, pour intégrer le Halmstads BK. Il y fit toutes ses classes et débuta en équipe première à 18 ans. Après deux saisons comme doublure, il s'empara du poste de titulaire. Il découvrit même les joies de la sélection en équipe de Suède A lors d'une tournée au Moyen-Orient en janvier 2012.

Durant le mercato hivernal 2013, arrivé en fin de contrat, il tenta une nouvelle expérience à l'étranger, du côté du club hollandais du NEC Nimègue. Mais son équipe étant reléguée d'Eredivisie, il quitta les Pays-Bas pour rejoindre le Randers FC, club de 1ère division danoise. 

Au Danemark, Karl-Johan réalisa des saisons pleines et de grande qualité. Il décrocha le titre de meilleur gardien de Superliga 2015 et découvrit la Ligue Europa. Alertés par ses bonnes prestations, les recruteurs de Guingamp le firent signer en Bretagne en juillet 2016. 

En Ligue 1, le gardien suédois trouva rapidement ses marques, devenant titulaire indiscutable durant deux saisons. Mais lors de sa dernière saison en Bretagne, il perdit sa place à cause de performances médiocres qui conduisirent Jocelyn Gourvennec à lui préférer le jeune Marc-Aurèle Caillard.

Aussi, en juillet 2019, il retourna au Danemark pour occuper le poste de titulaire au FC Copenhague. Mais il perdit son statut de titulaire chez le champion danois en 2021. Arrivé en fin de contrat, il repartit à l'étranger et saisit l'opportunité de signer aux Girondins dans les dernières heures du mercato estival 2023.

Remplaçant du jeune gardien polonais Rafal Straczek, il assista impuissant aux nombreuses bourdes de son coéquipier et aux mauvais résultats de sa nouvelle équipe. Albert Riera l'installa finalement comme titulaire en octobre. Ses prestations furent rapidement remarquées mais s'il apporta de la sérénité à sa défense, il ne put inverser le cours des choses. Les Girondins terminèrent à une piteuse 12ème place.

Les graves problèmes financiers des Girondins le poussèrent, à regret, vers un nouveau départ après la relégation administrative du club bordelais. Il retrouva un poste en Ligue 1, du côté du RC Strasbourg.