Deuxième ligne, Williams compte treize sélections comme joueur avec l'Afrique du Sud. Il avait pris l'équipe en mains en 1992, durant une saison.
Son bilan sportif, une victoire et quatre défaites jusqu'à son remplacement par Ian McIntosh, est clairement négatif, mais Williams restera comme le premier entraîneur post-apartheid de l'Afrique du Sud.
En raison du boycott du pays par le sport international, les Springboks n'avaient pas été admis à participer en 1987 et 1991 aux deux premières Coupes du monde de rugby. Le rugby était un sport à l'image très associée au régime d'apartheid.
Adoubés par Nelson Mandela, les rugbymen sud-africains ont remporté à domicile en 1995, trois ans après leur réadmission sur la scène internationale, un sacre mondial historique devenu un symbole de réconciliation nationale. John Williams est décédé dans un hôpital de Pretoria après dix jours de coma, a annoncé le président des Bulls Willem Strauss.