Οι ανασκαφές που έγιναν στην Παλιά Πόλη των Χανίων αποκάλυψαν ότι ήταν η περιοχή της αρχαίας Κυδωνίας, μιας από τις πόλεις της Μινωικής Κρήτης. Μετά την κατάρρευση του μινωικού πολιτισμού, έγινε μια πολιτικά ισχυρή πόλη-κράτος και παρέμεινε έτσι κατά την κλασική ελληνική περίοδο. Μετά την αρχική αντίσταση στη ρωμαϊκή εισβολή, υπέκυψε το 69 π.Χ., αλλά, ειρωνικά, η πόλη άνθισε κάτω από τη ρωμαϊκή κυριαρχία, η οποία διήρκεσε μέχρι το 324.
Τα Χανιά ήταν η έδρα ενός επισκόπου κατά την πρώιμη χριστιανική εποχή και παρέμεινε ένας σημαντικός οικισμός και στρατιωτικό οχυρό υπό την προστασία της Βυζαντινής Αυτοκρατορίας. Ωστόσο, καθώς η επιρροή του Βυζαντίου εξασθένησε, η Κρήτη επήλθε υπό τον έλεγχο των Βενετών, που αποίκησαν τα Χανιά το 1252 και ανέλαβαν να ενισχύσουν την άμυνα της πόλης. Κατά τη διάρκεια της κατοχής τους, η οποία διήρκεσε σχεδόν 400 χρόνια, έχτισαν δύο σειρές αστικών τειχών, τμήματα των οποίων είναι ακόμα άθικτα. Παρ ‘όλα αυτά, η πόλη καταλήφθηκε από τους Οθωμανούς το 1645 και παρέμεινε υπό την κυριαρχία τους μέχρι το 1898. Τόσο η βενετσιάνικη όσο και η τουρκική κατοχή άφησαν το σημάδι τους στην αρχιτεκτονική των Χανίων.
Για τα επόμενα εννέα χρόνια, η Κρήτη ήταν υπό τον έλεγχο των Μεγάλων Δυνάμεων που εγκατέστησαν τον Πρίγκηπα Γεώργιο της Ελλάδας ως κυβερνήτη της Αυτόνομης Κρητικής Πολιτείας. Η ένωση με την Ελλάδα ήρθε την 1η Δεκεμβρίου 1913.
Τον Μάιο του 1941, οι γερμανικές δυνάμεις ξεκίνησαν έναν έντονο αεροπορικό βομβαρδισμό των Χανίων, καταστρέφοντας ένα μεγάλο τμήμα της παλιάς πόλης. Ενώ κέρδισαν τη Μάχη της Κρήτης, οι δυνάμεις των αλεξιπτωτιστών της ελίτ του κομήτου του Χίτλερ αποδεκατίστηκαν. Η επέτειος της μάχης γίνεται κάθε χρόνο με εορταστικές εκδηλώσεις στα Χανιά καθώς και στις γύρω πόλεις, που επίσης έπαιξαν σημαντικό ρόλο στη μάχη.