Nato a Weimar come quinto di dodici figli, mostrò fin da giovane un'insaziabile curiosità per le leggi della natura, spaziando dalla matematica alla mineralogia. Dopo un lungo apprendistato che lo portò a studiare e lavorare nei principali centri meccanici europei, da Stoccarda a Vienna, fino a Berlino, decise nel 1846 di aprire la propria officina a Jena. La sua ossessione era la perfezione della lente: non si accontentava di costruire strumenti, voleva comprendere la fisica che governava la luce.
Il primo grande riconoscimento arrivò nel 1861, quando il suo microscopio "Stand I" fu premiato con la medaglia d'oro all'Esposizione Industriale della Turingia, consacrandolo come il miglior costruttore della Germania. Tuttavia, non ne era soddisfatto: sapeva che, senza una solida base teorica, la qualità dei microscopi avrebbe sempre incontrato un limite fisico insuperabile. Per questo, nel 1866, intraprese la collaborazione più importante della sua vita con il fisico
Ernst Abbe.
Questi aveva formulato le leggi fisiche sulla formazione delle immagini e sul limite di risoluzione, permettendogli di costruire obiettivi non più "per tentativi", ma seguendo rigorosi calcoli matematici. Questa sinergia, a cui si aggiunse in seguito il chimico del vetro
Otto Schott, portò alla creazione della moderna industria ottica.