Geboren 1945 in Ried im Innkreis in Oberösterreich, verbrachte Zeilinger seine frühe Kindheit in Wolfpassing in Niederösterreich, wo Zeilingers Vater an der dortigen Milchwirtschaftsschule unterrichtete. Er besuchte die Volksschule in Steinakirchen am Forst. 1955 zog die Familie nach Wien. Als Kind zerlegte er die Puppen seiner Schwester, weil er schon immer verstehen wollte, „wie etwas funktioniert“.
Nach der Matura am Gymnasium Fichtnergasse im Wiener Bezirk Hietzing studierte Zeilinger von 1963 bis 1971 Physik und Mathematik an der Universität Wien, 1971 promovierte er, 1979 habilitierte er sich an der Technischen Universität Wien.
Nach Aufenthalten in den USA, Frankreich, Australien und Deutschland (Gastprofessur am Massachusetts Institute of Technology (MIT), an der Technischen Universität München, am Merton College (Oxford) und am Collège de France in Paris wurde er 1990 ordentlicher Universitätsprofessor an der Universität Innsbruck sowie Vorstand des Institutes für Experimentalphysik.
Seit 1999 ist er Universitätsprofessor an der Universität Wien und Vorstand des Instituts für Experimentalphysik. Von 2006 bis 2009 war er Dekan der Fakultät für Physik der Universität Wien.
Er ist wirkliches Mitglied der mathematisch-naturwissenschaftlichen Klasse der Österreichischen Akademie der Wissenschaften (ÖAW), seit 2004 leitet er die Abteilung des im selben Jahr gegründeten Instituts für Quantenoptik und Quanteninformation (IQOQI) der ÖAW. Ende 2007 hat er für seine grundlegenden Beiträge zu den genannten Fächern die neu geschaffene Isaac-Newton-Medaille des britischen Institute of Physics erhalten. Vom 1. Juli 2013 bis 30. Juni 2022 war Zeilinger Präsident der Österreichischen Akademie der Wissenschaften.