Im Rahmen der Landnahmen in Richtung Westen gründete General Moses Cleaveland am 22. Juli 1796 an der Einmündung des Cuyahoga River in den Erie-See einen Hafen, der nach ihm benannt wurde. Lebensfähig wurde die Stadt aber erst, als eine erste Werft 1808 mit dem Bau von Schiffen für den Verkehr auf den großen Seen errichtet wurde.
Rasch siedelten sich viele Einwanderer an; 1818 wurden die ersten zwei Zeitungen für die aufstrebende Gemeinde gegründet; in den nächsten Jahren kamen neben mehreren weiteren englischsprachigen Zeitungen auch Blätter auf Deutsch, Hebräisch und Italienisch hinzu. Einer dieser Zeitungen, dem Cleveland Advertiser, verdankt die Stadt ihre „offizielle“ Umbenennung: da die ursprüngliche Schreibweise des Namens einen Buchstaben zu lang für die Titelzeile der Zeitschrift war, entfernte die Zeitung das erste „a“ aus „Cleaveland“, behauptete, dies sei amtlich - und kam damit durch. Seither schreibt sich die Stadt ohne „a“.
Am 4. Juli 1827 wurde der Eriekanal zwischen Akron und Cleveland eröffnet, 1831 wurde er auf seiner gesamten Strecke eingeweiht. Damit war der Weg zu dem großen Handelszentrum an der Ostküste frei, nach New York. Dies und die erste Eisenbahnverbindung 1849 führten zu einem raschen Aufstieg der Stadt.
Cleveland wurde ein wichtiges Zentrum der Schwerindustrie. 1868 wurde das erste Stahlwerk eingeweiht, 1870 gründete die Standard Oil Company mit ihrem Chef John D. Rockefeller (1839-1937) hier eine Erdölraffinerie.
Erste Rückschläge ereilten Cleveland während der Wirtschaftskrise der frühen 30er Jahre. 1933 waren fast ein Drittel aller Einwohner arbeitslos. Doch noch einmal erholte sich die Wirtschaft der Stadt. 1950 erreichte die Einwohnerzahl gute 900.000 Bürger. Cleveland ist damit die fünftgrößte Stadt der USA.
Die Veränderungen in der Seeschifffahrt begannen in den frühen 60er Jahren sich auf die Stadt auszuwirken. Die Stahl- und Ölexporte, die bisher über den Sankt-Lorenzstrom in die Atlantikhäfen gingen, wurden unwirtschaftlich. Dadurch konnten sich die Stahlwerke und die Schwerindustrie nicht mehr halten. Viele Firmen mussten schließen. Wer konnte, wanderte in andere Städte ab. Cleveland verarmte. Aus dieser Zeit stammt auch der zynische Ausdruck, der bis heute oft als Synonym für die Stadt verwendet wird: „The mistake at the lake“.
Zusätzlich zur schlechten Wirtschaftslage begannen Rassenunruhen die Bürger zu verunsichern. Ein einwöchiger Aufstand 1966 führte zu Neuwahlen des Bürgermeisters, die 1967 mit Carl B. Stokes den ersten farbigen Bürgermeister einer amerikanischen Großstadt hervorbrachten. Doch den wirtschaftlichen Niedergang der Stadt konnte auch er nicht beenden: am 15. Dezember 1978 musste sich Cleveland als erste Stadt nach der Wirtschaftsdepression der 30er Jahre für zahlungsunfähig erklären. Erst 1987 konnte dieser Schritt zurückgenommen werden.
Seit Mitte der 90er Jahre wird die Wirtschaft Clevelands umstrukturiert: von der Stadt der Schwerindustrie zu einer Stadt der Dienstleistungen und des Tourismus. Der größte Arbeitgeber Clevelands ist heute die weltweit renommierte Cleveland Clinic Foundation. Ein Schritt war die Gründung des Museums Rock and Roll Hall of Fame im Jahr 1995. Weitere touristische Bauten und Veranstaltungen sollen helfen, den Verfall der Stadt aufzuhalten. Erste Erfolge zeichnen sich ab, doch noch ist Clevelands Abstieg nur gebremst, nicht gestoppt.