Hyderabad wurde 1590 von Muhammad Quli Qutb Shah (reg. 1565-1611), dem Herrscher des Dekkan-Sultanats Golkonda, gegründet. Von 1724 bis 1948] war sie Hauptstadt des Fürstenstaates Hyderabad unter der Asaf Jahi-Dynastie. Als solche war sie ein bedeutendes Zentrum der indisch-muslimischen Kultur, in dem traditionell gebildete Muslime, die auf direkt britisch regiertem Gebiet kaum noch Karrierenaussichten hatten, hoch angesehen waren. Die Bevölkerung der Stadt war mehrheitlich muslimisch, während 88% der Staatsbevölkerung hinduistisch waren.
Nach dem Anschluss des Staates Hyderabad 1948 an Indien wanderte ein großer Teil der muslimischen Oberschicht ins pakistanische Karachi aus. Dennoch ist der muslimische Bevölkerungsanteil mit fast 40% der höchste in einer indischen Metropole. Die Muslime sprechen in der Regel weiterhin Urdu, nicht Telugu die Landessprache von Andhra Pradesh. Auseinandersetzungen zwischen Muslimen und Hindus sind häufig.
Eigentlich ist Hyderabad eine Zwillingsstadt, mit Sikandarabad (engl. Secunderabad), nördlich gelegen, als Schwesterstadt. Die beiden Städte werden von einem im Jahre 1562 in der Regierungszeit von Ibrahim Quli Qutb Shah (1550-1580) angelegten schönen See namens Hussain Sagar, getrennt. Sikandarabad wurde von der britischen Armee, die dort während der Kolonialzeit stationiert war, gegründet.
Am Ende der britischen Herrschaft 1947 wollte der Herrscher von Hyderabad, Mir Osman Ali (1886-1967), dass seine Stadt unabhängig von Indien sein sollte. Seine Armee, die Razakars, eine schlechtbewaffnete feudale Truppe, wurde mühelos von den modern ausgerüsteten indischen Streitkräften entwaffnet. Bei den kurzen Kämpfen und anschließenden Pogromen starben etwa 200.000 Muslime.