Die erste Erwähnung des Belgrader Wappens datiert das Jahr 1403 als Belgrad zum ersten Mal zur Hauptstadt des serbischen Reiches erklärt wurde. Doch bis zum heutigen Tag ist nicht mit Sicherheit festgestellt worden, wie es ausgesehen hat. Das darauffolgende Wappen genannt „Fugerspiegel der Ehre“ stammt aus dem Jahre 1555 während der ungarischen Herrschaft. Die Tradition des Belgrader Wappens wurde unter der Türkenherrschaft unterbrochen, da das Wappen mit der Einigkeit der Serben verbunden wurde und somit verboten wurde. Doch als Österreich-Ungarn Belgrad im 18. Jahrhundert eingenommen haben, wurde diese Tradition fortgesetzt. Im Jahre 1725 wurde auf Vorschlag des kaiserlichen Gouverneurs Alexander von Württemberg ein neues Siegeswappen herausgebracht. Es folgten noch drei weitere Wappen. Doch hauptsächlich waren es Wappen, die eine nichtserbische Obrigkeit Belgrad zugedacht hat und somit vom Volk nie akzeptiert wurden.
1931 leitete Belgrads Bürgermeister Milan Nešić, eine Aktion zur Festlegung des Wappens. Ein Ausschuss aus Künstlern, Heraldikern, Universitätsprofessoren, Generälen und Staatsräten wurde gebildet. Es wurde beschlossen:
Das Wappen muss die Form eines Schildes aufweisen, das nach unten in einer sanfte Spitze endet.
Es müssen die Landesfarben, der Fluss (als Symbol der Kraft Belgrads), ein römisches Schiff (Triere) (als Symbol des Altertums) und weiße Mauern mit einem Turm und offenem Tor (Symbol für die Stadt und freien Verkehr) dargestellt sein.
Die Erde zwischen den Flüssen soll rot sein, als Symbol für das jahrhundertelange Leiden der Stadt . Die Flüsse und die Mauern sollen nach heraldischen Gesetzen weiß sein, als Symbol der „weißen Stadt“ und der Himmel soll blau sein, als Symbol der Hoffnung und des Glaubens an eine bessere Zukunft.
Bei einer Ausschreibung ging die Skizze des Belgrader Malers Ðorđe Andrejević-Kun überzeugend als Sieger hervor. Auf Vorschlag der Jury sind an der Skizze geringfügige Änderungen vorgenommen worden. Die preisgekrönte und offiziell angenommene Skizze des Wappens in Farbe wurde in der „Belgrader Allgemeinen Zeitung“ Nr. 1/32 veröffentlicht.
Wegen der veränderten gesellschaftlichen Umstände nach dem Zweiten Weltkrieg begann die Stadt langsam ihr Wappen zu vergessen. Statutarische Lösungen bewegen sich zwischen dem völligen Fehlen einer Verordnung bezüglich des Wappens, über den Gebrauch des Terminus „Emblem“, ohne Angabe des Blasons (Beschreibung) des Wappens, bis hin zur Verordnung, die dem Blason eine stilisierte Version verleiht, für die keine entsprechenden Dokumente vorlagen.