Schon im zehnten Jahrhundert vor Christi Geburt gab es auf dem Territorium von Almaty Siedlungen von Menschen, wie die Funde wunderschöner Bronzen von Ausgrabungsgebieten nördlich des Orts belegen. Seit dem 7. Jahrhundert v. Chr. finden sich kulturelle Spuren von Saken und Usunen. Das bekannteste und gleichzeitig das faszinierendste Zeugnis der sakischen Kultur ist der so genannte „Altyn Adam“, „Goldener Mensch“ von Issyk-Kurgan bei Stadt Issyk, 48 KM von Almaty entfernt. Hierbei handelt es sich um eine vollständig erhaltene, reich verzierte Rüstung aus Gold, die einem jungen sakischen Fürst gehörte.
Die Ausgrabungen belegen, dass es auf dem Territorium von Almaty spätestens seit dem 10. Jahrhundert n. Chr. vier größere Siedlungen gab, von denen drei nach etwa zwei Jahrhunderten zusammenwuchsen zur Stadt Almatu. Dieser Name wird zum ersten Mal auf einem silbernen Dirham aus dem Jahre 684 (nach unserer Zeitrechnung 1285-86) erwähnt. Diese Münzen wurden in der Vorgängerstadt des heutigen Almaty während der mongolischen Herrschaft (Khanat Tschagatai) geprägt. Der Name Almatu erscheint außerdem in einigen arabischen Quellen und in Reisenotizen eines chinesischen Mönchs.
Im 14. Jahrhundert wurde die Stadt durch Mongolen (wahrscheinlich im Zuge der Unterdrückung einer Rebellion) fast vollständig zerstört. Da der Handel an der Seidenstraße – die Existenzgrundlage der Stadt – ebenfalls zum Erliegen kam, verkümmerten die Reste von Almatu im 16. Jahrhundert. Ihre Ruinen waren noch Mitte des 19. Jahrhunderts zu sehen, die Russen benutzten sie als Steingrube für die Stadt Werny.