Sheffield liegt im Metropolitan County South Yorkshire, gehörte aber früher zum West Riding, dem westlichen Drittel der Grafschaft (eine aus der Zeit der Wikinger stammende Einteilung). Die genaue Position der Stadt ist 53°23' Nord, 1°28' West.
Die Stadt erstreckt sich über ein natürliches "Amphitheater" aus sieben Hügeln am Zusammenfluss der fünf Flüsse Don, Sheaf, Rivelin, Loxley und Porter. Genau im Westen liegt der Peak District Nationalpark und das Mittelgebirge der Pennines. Tatsächlich liegt ein Drittel des Stadtgebietes innerhalb des Nationalparks (dies trifft bei keiner anderen englischen Stadt zu). Sheffield gilt deshalb als die grünste Stadt Englands.