Die Stadt Zibo entstand 1949 durch Zusammenschluss der Städte Zichuan und Boshan, deren Namen zu Zibo verschmolzen wurden. 1954 wurde die Stadt um Zhangdian im Norden erweitert und das Verwaltungszentrum wurde dorthin umgesiedelt. Heute besteht Zibo aus den Bezirken Boshan, Linzi, Zhangdian, Zhoucun und Zichuan sowie den Landkreisen Gaoqing, Huantai und Yiyuan.
Linzi war zur Zeit der Frühlings- und Herbstannalen und zur Zeit der Streitenden Reiche, von 384 v. Chr. bis 221 v. Chr., die Hauptstadt des Staates Qi (齊; pinyin: qi2).
Das Gebiet der Stadt Zibo war auch die Heimat des Dichters Pu Songling (1640-1715), der vor allem durch seine unheimlichen Geschichten aus Liao Zhai (Liao Zhai Zhi Yi) berühmt wurde.
1937 wurde Zibo im zweiten Japanisch-Chinesischen Krieg (1937-1945) von Japan eingenommen, unter japanischer Herrschaft begann dann die umfangreiche Industrialisierung der Stadt.
Zibo unterhält Städtepartnerschaften mit 27 Städten, unter anderen Erie (USA), La Roche (Frankreich), Kamo (Japan) und Nowgorod in Russland.