Die Stadt wurde im 7. Jahrhundert v. Chr. von den Phöniziern unter dem Namen Oea gegründet. Unter den sizilischen Griechen wurde sie gemeinsam mit den benachbarten Städten Sabratha und Leptis Magna unter dem Namen Tripolis zusammengefasst. Tripolis bildete im Altertum ein mittelbares Gebiet Karthagos, die so genannte Regio Syrtica.
Nach dem zweiten Punischen Krieg wurde es von den Römern Numidien überlassen, nach deren Unterwerfung zu der römischen Provinz Africa geschlagen. Unter Septimius Severus wurde im 3. Jahrhundert n. Chr. die Provincia Tripolitana gebildet mit Oea als Hauptstadt, auf welche sodann der Name Tripolis überging. Die wirtschaftliche Blütezeit endete mit dem Niedergang des Römischen Reichs.
Durch die Einfälle der Nomaden und der Vandalen sank die Bevölkerung von 30.000 auf 7.000 Menschen. Nach der Invasion der Araber im 7. Jahrhundert teilte Tripolis die Geschicke der Berberei. Nachdem es längere Zeit zu Tunis gehört hatte, erlangte es zu Ende des 15. Jahrhundert seine Unabhängigkeit. 1509 wurde die Stadt Tripolis von den Spaniern unter Graf Pietro von Navarra erobert und ein spanischer Statthalter eingesetzt. Kaiser Karl V. überließ sie 1530 den Johannitern als Lehen, aber schon 1551 wurde sie von den Türken unter Turgut Reis (Dragut) wiedererobert, der daraufhin vom Sultan zum Bei von Tripolis ernannt wurde.
1711 machte sich der türkische Pascha Ahmad Qaramanli (der Große) fast unabhängig von der Pforte, indem er nur noch Tribut zahlte, und begründete die Dynastie der Qaramanli (1711-1835). Der 1728 unternommene Kriegszug der Franzosen gegen Tripolis endigte mit der fast gänzlichen Zerstörung der Stadt. Dessen ungeachtet machte erst die französische Eroberung Algiers (1830) der Seeräuberei auch in Tripolis ein Ende.
1835 fand sich die Pforte durch die in Tripolis herrschende innere Zerrüttung zum Einschreiten veranlasst und machte der Herrschaft der Familie Karamanli ein Ende, worauf Tripolis als Vilayet dem türkischen Reich einverleibt würde. Nach der Unabhängigkeit Libyens (1951) unter König Idris I. und der Bildung eines Einheitsstaates wurde Tripolis 1963 Hauptstadt des Landes.