Weite Gebiete des heutigen Österreich gehörten im späten 8. Jahrhundert zum baierischen Stammesherzogtum im Fränkischen Reich Karls des Großen. Im folgenden Ostfrankenreich war in der Region des heutigen Niederösterreich seit 856 eine Marchia Orientalis den Karolingern unterstellt. Diese Grenzmark im Südosten des Reiches wurde zur Keimzelle des späteren Österreich. Dieses Gebiet ging 907 allerdings an die Ungarn verloren. Erst nach der Schlacht auf dem Lechfeld 955 konnte das ostfränkische Reich wieder nach Osten expandieren, und es entstanden neue Herzogtümer und Markgrafschaften. Damit begann auch eine weitere Welle bajuwarischer (baierischer) Siedlungstätigkeit.
Im Jahr 976 entstand die älteste Ländereinheit auf dem Boden der heutigen Republik Österreich in der Form des selbständigen Herzogtums Kärnten. Im selben Jahr wurde die Marchia Orientalis von Kaiser Otto II. einem Babenberger-Grafen übereignet. Die Marchia Orientalis wurde darin erstmals Ostarrîchi genannt; Aussprache und Schreibweise wandelten sich später zu Österreich. Die älteste bekannte schriftliche Nennung des Namens stammt aus einem in Bruchsal verfassten Dokument vom 1 . November 996. Darin ist eine Schenkung Kaiser Ottos III. an den Bischof von Freising festgehalten, nämlich eines Gebietes „in der gewöhnlich Ostarrichi genannten Region” („regione vulgari vocabulo Ostarrichi”), womit die Region um Neuhofen an der Ybbs gemeint war („in loco Niuuanhova dicto“). Diese Urkunde wird heute im Bayerischen Hauptstaatsarchiv in München aufbewahrt. Das Gebiet wurde auch als Ostland (lat. Austria) oder Osterland bekannt und 1156 von Kaiser Friedrich I. (Barbarossa) zu einem eigenständigen, von Bayern unabhängigen Herzogtum erhoben. Damit beginnt die eigentliche Geschichte Österreichs als selbständiges Territorium innerhalb des Heiligen Römischen Reiches.
Den Babenbergern folgten ab 1278 die Habsburger, die ihr Herzogtum Österreich durch das gefälschte Privilegium maius (maius = groß) zum Erzherzogtum machten, um ihren besonderen Rang zu betonen. Sie dehnten ihr Herrschaftsgebiet bis 1526 weiter aus und wurden zum Machtfaktor im Heiligen Römischen Reich. Schon die späten Babenberger hatten die Steiermark mit Österreich verbinden können, die Habsburger schufen davon ausgehend mit der Erwerbung Kärntens, Tirols, Krains und anderer Gebiete einen Länderkomplex in den Ostalpen, der Herrschaft zu Österreich genannt wurde. Ab 1438 besaß die Dynastie fast durchgehend die römisch-deutsche Königs- und die damit verbundene Kaiserwürde.
Vom späten 15. Jahrhundert bis 1690 waren die habsburgischen Länder ständigen Angriffen des Osmanischen Reichs ausgesetzt, das von Ungarn aus westwärts strebte. Erst dem berühmten Prinzen Eugen von Savoyen gelang es, die „Türken“ dauerhaft hinter Belgrad zurückzudrängen. Die Reformation der Kirche konnte sich anfangs schnell durchsetzen, wurde aber im Laufe des 17. Jahrhunderts zurückgedrängt.
1713 wurde mit der Pragmatischen Sanktion erstmals ein für alle habsburgischen Länder gleichermaßen gültiges Grundgesetz in Kraft gesetzt. Es legte fest, dass auf Kaiser Karl VI. († 1740), der keinen männlichen Erben hatte, seine Tochter Maria Theresia als Monarchin der österreichischen Erblande folgen sollte. Im Österreichischen Erbfolgekrieg konnte das neue Haus Habsburg-Lothringen die Erbländer großteils für sich behaupten. Als Preußen und Russland im 18. Jahrhundert Polen aufteilten, erhielt Österreich Galizien und Lodomerien zugesprochen.
Franz II. nahm 1804 als Franz I. den Titel Kaiser von Österreich an. 1806 legte er unter dem Druck Napoleons die Kaiserkrone des Heiligen Römischen Reiches Deutscher Nation nieder, womit dieses auch de jure zu bestehen aufhörte.