Jens Johansson es hijo del conocido pianista de jazz sueco Jan Johansson y hermano del baterista de Heavy Metal Anders Johansson. Desde muy joven se interesa por la música y por la electrónica, lo que le lleva a adquirir conocimientos clásicos de teclado, que abandona debido a su inquieta personalidad, incapaz de seguir la rigidez de la enseñanza reglada. En sus comienzos se le puede ver tocando, junto con su hermano Anders, con el que después se convertiría en el gran guitarrista de jazz sueco Eric Borelius.

En 1982 se une a la banda Silver Mountain, intregrada dentro de la NWOBHM y con fuertes influencias de Rainbow, donde comienza a desarrollar el teclado puramente Heavy. Con ellos sólo sacaría el álbum Shakin' Brains.

Es Yngwie J. Malmsteen quien lo proyecta definitivamente al incluirlo en su famosa banda Rising Force, junto con Anders, y es en ella donde llega a demostrar todo su potencial como solista. En la memoria quedan los famosos duelos guitarra/teclado de los...