Er war der 2. Sohn eines Unternehmers. Nach einer Lehre als Feinmechaniker im väterlichen Betrieb und einer Ausbildung zum Kaufmann trat er als Teilhaber in das optische Unternehmen Leitz ein. Er widmete sich zunächst der Entwicklung neuer Mikroskope.

Die von seinem Mitarbeiter Oskar Barnack entwickelte Kleinbildkamera mit den Wechselobjektiven fand seit 1925 weltweite Verbreitung. Die kleine, leichte Leica löste die schweren Plattenkameras für statische Einzelaufnahmen ab. Sie begründete als erste die dynamische Fotografie und veränderte die Welt die Welt der Fotografie, insbesondere die der Printmedien. Das Leica-Format wurde zur weltweiten Norm.