Empezó jugando en el Nuorese y, más tarde, en el Torres (un equipo de divisiones bajas en el Calcio italiano) para luego ser traspasado al SSC Napoli. En la entidad napolitana fue suplente del astro, Diego Armando Maradona. Según el propio Maradona, "Zolita miraba mucho lo que hacía en los entrenamientos. Algo le quedó". Llegaron a jugar juntos en el Napoli y ganaron la Supercopa Italiana en 1991. Gianfranco, fue el sucesor de Maradona cuando éste quedó suspendido por doping. En Nápoles estuvo hasta 1993, cuando fue transferido al Parma FC.
En Parma tuvo una destacada actuación que lo llevó en 1996 a irse al Chelsea FC de Inglaterra. En Londres, el italiano provocó una revolución. Fue premiado como el Futbolista del Año 1997 (el anterior había sido Éric Cantona). Gianfranco convirtió aproximadamente 80 goles en el club londinense, y es de los jugadores más queridos por la hinchada.
En el Chelsea jugó hasta el 2003, cuando volvió a Italia para vestirse la camiseta del club del cual es hincha: el Cagliari Calcio, donde se ganó el reconomiento de los hinchas del club del sur italiano. Jugó allí hasta mediados del 2005 para retirarse definitivamente del fútbol y despidiéndose con una frase que marca la humildez del italiano y el reconomiento que tiene éste para con Maradona: "Mucho de lo que hice en el fútbol, se lo debo a Maradona"
En la azzurra soló tuvo el privilegio de jugar un Mundial, el de EEUU 1994, formando parte del combinado subcampeón. Marcó 7 goles en 35 partidos jugados en la selección italiana.
A pesar de sus destacadísimas actuaciones en Inglaterra, Zola no tuvo el visto bueno del seleccionador Cesare Maldini y no fue convocado para Francia 1998. Gianfranco sí jugó la Eurocopa de Inglaterra de 1996 y fue convocado para varios partidos de la Clasificación para Francia 1998.
A pesar de que tuvo algunos traspiés en la selección italiana, ya que en EEUU fue expulsado frente a Nigeria y posteriormente falló un penal en una tanda decisiva en la Eurocopa 1996, Gianfranco es reconocido en Italia como uno de los jugadores más talentosos que la península haya dado.
Gianfranco Zola fue parte de los jugadores italianos que decoraron el calcio a nivel internacional y elevaron el prestigio de éste, junto con Roberto Baggio, Paolo Maldini, Franco Baresi, Paolo Di Canio, Giuseppe Signori, Enrico Chiesa y Francesco Totti, entre muchos otros.