Bereits zu Beginn des 15. Jahrhunderts wurden in Köln nach einem Beschluss des Rates der Stadt juristisch bedeutende Dokumente im Gewölbekeller unter dem neu erbauten Rathausturm aufbewahrt. Das zentrale Anliegen vor gut 600 Jahren war die Sicherung der „Privilegien“, also der Rechte der Stadt, wie beispielsweise das sogenannte „Stapelrecht“ oder das Mauerprivileg.
Nachdem diese Dokumente im Zuge der französischen Besatzung im späten 18. Jahrhundert an Aussagekraft und praktischem Nutzen verloren hatten, wurden sie im Nachhinein zu einem wichtigen Bestandteil des kulturellen Gedächtnisses der Stadt.
1857 wurde der erste hauptamtliche Archivar eingesetzt, der die vermehrt erstellten Verwaltungsschriftstücke im Stadtarchiv dokumentierte.
1897 wurde ein repräsentativer Bau am Gereonskloster bezogen, und 1971 zog das Stadtarchiv in einen modernen Neubau in der Severinstraße. Dort untergebracht wurden im Laufe der Jahre etwa 30 Regalkilometer Archivmaterial in Form von alten Handschriften, Urkunden, Akten, Karten, Fotografien sowie Ton- und Bildträgern.
Beim tragischen und dramatischen Einsturz des Gebäudes in der Severinstraße im Jahr 2009 verloren zwei Menschen ihr Leben.
Unmengen an Archivgut wurden unter Schutt begraben. Immer noch und schätzungsweise auch noch einige weitere Jahre werden die provisorisch eingelagerten Archivalien Stück für Stück gesichtet, um sie in einer Datenbank so zu erfassen, dass ihre Zusammenführung sowie ihre Restaurierung möglichst professionell und nachhaltig erfolgen können.
Derzeit ist das Archiv der Stadt Köln mit der Verwaltung und einem digitalen Lesesaal am Heumarkt 14 in der Kölner Altstadt zugänglich. Hier befinden sich auch Ausstellungsräume und ein großes Präsenzfenster.
In der Frankfurter Straße 50 in Köln-Lind befindet sich das Restaurierungs- und Digitalisierungszentrum. Hier können bereits wieder erste Originale eingesehen werden.
Die Zukunft des Archivs der Stadt Köln wird in der Südstadt am Eifelwall/ Ecke Luxemburger Straße liegen. Ein Termin für die Umsetzung und Fertigstellung des Bauprojektes wurde noch nicht verbindlich genannt.
Die zukünftige Ausrichtung des Archivs soll besonders der Bildungsarbeit gelten. Sowohl die Zusammenarbeit mit Schulen als auch die Integration von Migranten werden zentrale Themen sein.
Natürlich ist und bleibt das Archiv Anlaufstelle zur Klärung von Fragen zu historischen Themen aller Art.