Prostor města byl osídlen již v době prehistorické.V období velkomoravském se na protějším ostrohu rozkládalo jedno z největších velkomoravských hradišť (Hradiště sv. Hypolita), které chránilo brod přes řeku Dyji, kudy procházela obchodní cesta z české kotliny do Podunají. Hradiště, ležící asi 900 m severovýchodně od brodu na výšině nad levým břehem řeky, vystřídal v přemyslovské době před rokem 1100 hrad, vybudovaný v bezprostřední blízkosti brodu. Zakladatelem tohoto hradu byl kníže Břetislav I.

V roce 1055 zde vzniklo údělné přemyslovské knížectví, v roce 1190 založil znojemský kníže Konrád II. Ota premonstrátský klášter v Louce a roku 1226 se, na základě královského privilegia Přemysla I. Otakara, stává Znojmo městem královským. Velký rozkvět Znojma nastal ve 13. a 14. století, kdy Znojmo mělo již dlážděné ulice, vodovod a dva špitály. Roku 1240 daroval král Václav I. proboštství sv. Hypolita společenství špitálních bratří a sester u sv. Františka v Praze, vzniklému z iniciativy sv. Anežky České, sestry krále Václava, z něhož se zanedlouho vytvořil řád křižovníků s červenou hvězdou.

V bezprostřední blízkosti hradu založil král Václav I. klášter minoritů (1226–1239), později zde vznikl i klášter klarisek (1271–1274). Po bitvě na Moravském poli 26. 8. 1278 byl ve společné klášterním kostele Nanebevzetí Panny Marie pohřben český král Přemysl II. Otakar (1279). V roce 1296 přenesl Václav II. pozůstatky svého otce do chrámu sv. Víta v Praze. V konfesijních sporech v 15. století zůstalo město katolické a prokrálovské.

Smrtí Zikmunda Lucemburského zde v roce 1437 vymřela dynastie Lucemburků.

V období třicetileté války obléhali Znojmo Švédové, kteří si vynutili velké výpalné. Po bitvě na Bílé hoře se ve městě v roce 1628 koná zemský sněm, na němž bylo pro Moravu vyhlášeno obnovené zřízení zemské, uzákoňující dědičnost Habsburků na českém trůnu, rekatolizaci a germanizaci.

V období třicetiletých válek v první polovině března roku 1645 obsadila město švédská vojska pod velením generála Lennart Torstensona (1603-1651).

Koncem 17. století bylo město postiženo velkou epidemií moru, která si vyžádala téměř 800 obětí. Znojmo zasáhly i napoleonské války, poprvé v roce 1805, kdy tudy prošli Rusové i Francouzi před bitvou u Slavkova, a podruhé roku 1809, kdy se v blízkosti Znojma odehrála bitva mezi rakouskými a francouzskými vojsky. Znojemský hrad ztratil po porážce Turků u Vídně roku 1683 svůj strategický význam a ve zpustlém stavu jej císař Josef I. prodal Maxmiliánovi Františkovi z Deblína a jeho bratrovi, kteří jeho západní část přestavěli na zámek 171?–1721 (snad podle plánu Jana Bernarda Fischera z Erlachu). Ve východní části zřídili pivovar. Od roku 1784 byl hrad využíván jako kasárna a špitál a od roku 1921 slouží Jihomoravskému muzeu. Z původního hradu se zachovala pouze na druhém nádvoří románská rotunda sv. Kateřiny a do roku 1892 zde stála i takzvaná Loupežnická věž. Další rozvoj města Znojma nastal až v 19. století s vybudováním císařských silnic do Brna, Prahy a Vídně a v souvislosti s nalezením ložisek kaolínu (keramický průmysl.

Díky příhodným klimatickým podmínkám se zde daří vinařství a ovocnářství. Znojmo se stalo proslulé rovněž okurkami, jejichž pěstování na Znojemsku zavedl roku 1571 loucký opat Jiří II. Dnes se město stalo opětovně centrem vinařství a cílovým místem milovníků přírody a to zejména zásluhou nově vzniklého Národního parku Podyjí.