Figlio di un famoso fisico attivo tra Bratislava e Pest, nel 1769, in occasione del passaggio del pianeta Venere e poi di una cometa, sviluppò un acuto interesse per l'astronomia.
Arruolatosi come ingegnere militare nell'esercito austriaco, dopo poco abbandonò la carriera e lavorò tra Berlino e Londra per alcuni anni, come tutore dei figli del conte Moritz von Brühl, ambasciatore della Sassonia, cultore dell'astronomia e possessore di una Specola privata. Nel 1786 entrò al servizio del duca Ernst II di Saxe Coburg, che gli affidò la direzione della Specola di Gotha, presso la quale von Zach lavorò fino al 1806.
Fu fondatore della illustre rivista "Corrispondance astronomique, géographique, hydrographique et statistique" (1816-1826) e s'interessò anche di strumentazione. Fu lui a mettere in contatto Federico Zuccari, conosciuto negli anni del suo soggiorno milanese, ed il costruttore tedesco Joseph von Reichenbach, per l'acquisto di apparecchi moderni per la Specola di Napoli.
Morì di colera a Parigi.