København er berømt for at have balance mellem ny og gammel arkitektur og en homogen bygningsmasse i 5-6 etagers højde, og i 2008 vedtog Borgerrepræsentationen at Indre By skal friholdes for højhuse. Således fremstår store dele af Indre By ganske velbevaret på trods af historiske bybrande og bombardementer, selv om mange af de berømte tårne og spir er af nyere dato. Brandene betyder dog, at middelalderens bygningsmasse stort set er forsvundet, og det er derfor den eneste epoke, som er dårligt repræsenteret i byens fremtoning. Modsat fx Stockholm er København præget af punktvise fornyelser af bygningsmassen frem for voldsomme rydninger af større kvarterer. Samtidig har økonomien ofte lagt bånd på de mest ambitiøse projekter, hvorfor knopskydningsløsninger som ved Statens Museum for Kunst og Den Sorte Diamant er udbredt. Store dele af Indre By, Christianshavn og Frederiksstaden er underlagt bygningsfredning.
Som i mange lignende byer har venerationen for det bestående fulgt de økonomiske konjunkturer: I gode tider er det blevet revet ned, mens perioder med stagnation har resulteret i genbrug af bygninger. Byggefeberen har især raset efter voldenes fald i 1850'erne og 1860'erne, i 1880'erne og 1900'erne, i efterkrigstidens 1950'erne og 1960'erne og senest i 1990'erne og 2000'erne, der især så en vækst i boligbyggeriet. I sidstnævnte periode er gamle industrianlæg blevet omdannet til luksusboliger i verdensklassearkitektur, som fx Carlsberg-siloen (1997) af Vilhelm Lauritzens Tegnestue, Torpedohallen (2003) af Tegnestuen Vandkunsten og Gemini Residence (2005) af hollandske MVRDV i samarbejde med JJW arkitekter.
Fra middelalderen Store bybrande (bl.a. 1728 og 1795) og bombardementer (1807) de seneste århundreder har medført, at ganske få rigtig gamle bygninger står tilbage i den ældste del af byen. Pga. brande er de ældste boligejendomme i Indre By højst 370 år gamle, og bl.a. Vor Frue Kirkes storslåede gotiske klokketårn gik tabt ved branden i 1728. Sankt Petri Kirke fremstår som den eneste københavnske kirke i Indre By, der i store træk er bevaret fra middelalderen, dvs. 1400-tallet. Tårnet er fra 1500-tallet, mens det specielle rokokospir dog først blev rejst i 1757.
Nikolaj Kirkes tårn er fra 1591, men det nuværende spir (1910) er en rekonstruktion af det oprindelige fra 1669.
Konsistoriehuset fra ca. 1420, der var en del af Roskildebispens bolig, er en anden bevaret bygning fra perioden.
1600- og 1700-tallet thumb|250px|Børsen Christian 4. indtager ikke uden grund en særlig plads i byens historie. Ikke blot fordoblede han byens areal mod øst og anlagde Christianshavn, han var også hovedstadens første byplanlægger, der via ingeniøren Johan Semp introducerede en stram og regulær, nederlandsk inspireret byplan for Christianshavn (1617) i kontrast til det tilfældige middelalderlige gadenet. Mod øst skulle Sankt Anna Rotunda have været centrum for den nye bydel, hvilket orienteringen af Nyboders gader stadig afspejler.
Af alle kongens mange pragtbyggerier fremstår Børsen (1619-25) i nederlandsk renæssancestil som et enestående bygningsværk i europæisk arkitektur med bl.a. sine ni gavle, børsrampen og det berømte dragespir.
I anden halvdel af århundredet skete der ikke meget. Svenskekrigene var hårde ved byen, og blandt de få fornyelser, der skete efterfølgende, var anlæggelsen af Kastellet (1661-65) ved Henrik Ruse. Frederik 3. planlagde et slot i Kastellet, men det blev kun til Sophie Amalienborg (1667-73), der senere måtte vige pladsen. Under efterfølgeren Christian 5. blev Nyhavn gravet ud, Kongens Nytorv anlagt og Charlottenborg (1672-83) opført. Disse byggerier vidnede om den ændrede smag i retning af nederlandsk barokstil, men først med Frederik 4. slog barokstilen for alvor igennem i form af Frederiksberg Slot (1699 ff.) og Den røde Bygning for Danske Kancelli ved siden af kongeslottet.
I kølvandet på Københavns brand 1728 blev borgerhusene genopbygget efter J.C. Kriegers tegninger. Det gav sig udslag i de såkaldte "ildebrandshuse" med gavlkviste og kraftige farver, f.eks. på Gråbrødretorv 1-5.
1700-tallet blev et stort arkitektonisk århundrede for byen. Det gamle Københavns Slot, der var et miskmask af forskellige perioders lappeløsninger, blev revet ned af den byggelystne Christian 6., der lod det første Christiansborg Slot opføre. Slottet brændte 1794, men Ridebaneanlægget med Marmorbroen (1745) stammer fra det første Christiansborg og er tegnet af Nicolai Eigtved i wienerbarok og fransk rokoko. Det betragtes som et af Europas smukkeste arkitekturmonumenter fra midten af 1700-tallet.
Eigtved var også arkitekten bag den nye bydel Frederiksstaden, som blev igangsat af Frederik 5. i 1749, og som blev et triumftog for rokokostilen. Centralt blev der anlagt en stor ottekantet plads, Amalienborg Slotsplads med fire adelspalæer opført i 1750'erne i saksisk-inspireret rokoko. Anlægget regnes for et hovedværk inden for såvel dansk som europæisk bygningskunst og omkranser J.F.J. Salys mesterværk: Rytterstatuen af Frederik 5. (1768). thumb|left|Klosterstræde 24. Bygget ca. 1820 med karakteristisk afskåret hjørne. På tværs af slotspladsen løber bydelens ene hovedakse, som har sit udspring i Frederikskirken (Marmorkirken) påbegyndt i 1754 af Jardin og færdiggjort i 1894 af Meldahl i en stilefterligning af italiensk barok. Kuppelkirken betragtes som en vellykket afslutning på Frederiksstaden. Kirkerummet er 46 meter højt, og kuplen spænder 31 meter. I modsatte ende af aksen, der oprindeligt blev afsluttet af rytterstatuen, ligger Amaliehaven (1983) ud til havnen, og i 2004 blev aksen forlænget med Henning Larsens Operahus – et kontroversielt projekt, som mødte kritik fra bl.a. Akademiraadet.
To andre mesterlige arkitekter skabte barokkens København: Eigtveds konkurrent Lauritz de Thurah, der tegnede det berømte snoede trappespir på Vor Frelsers Kirkes tårn (1752) med en tre meter forgyldt Kristusfigur på toppen, og Philip de Lange, der udformede Holmens bygninger, bl.a. Mastekranen (1750).
Efter Eigtveds død skiftede moden i retning af Louis Seize og klassicisme. C.F. Harsdorff tegnede et sobert hus med pilastre på Kongens Nytorv, som blev en "model" for andre arkitekter i tiden, der fulgte. Efter byens brand 1795 og englændernes bombardement 1807 skulle store dele af byen genopføres, og Harsdorffs elever, Johan Martin Quist og Andreas Hallander, udførte denne opgave i hans fodspor. Det blev til sparsomt dekorerede, forfinede huse; ofte med afskårne hjørner. Det meste af Indre By præges af denne borgerlige, uprætentiøse arkitektur. Københavns stadskonduktør og stadsbygmester, Jørgen Henrik Rawert og Peter Meyn, havde efter branden udarbejdet en plan, som anviste, hvordan det nye Københavnske gadenet skulle anlægges, og Kronprinsessegade er et særligt fint eksempel på en husrække fra denne tid.
1800-tallet thumb|250px|Københavns Domhus på Nytorv 1800-tallets store arkitekt C.F. Hansen tegnede Københavns Domhuset (1815), oprindelig kombineret med Københavns femte rådhus, og Københavns domkirke Vor Frue Kirke i meget ren nyklassicistisk stil med henholdsvis dorisk og jonisk tempelportal. Det faldt i Hansens lod at fylde den genopbyggede by op med monumentalbygninger, hvilket gjorde ham i stand til at konstruere fornemme ensembler af bygninger, bl.a. samspillet mellem Frue Kirke og Metropolitanskolen.
C.F. Hansen øvede også efter sin død 1845 stor indflydelse på datidens arkitektursyn, og klassicismen blev knæsat som ideal, indtil historicismens arkitekter gjorde op med denne arv. Hansens svigersøn, G.F. Hetsch, blev toneangivende i senklassicismen. Han gav stilen et tysk præg, der blev taget op af bl.a. H.C. Stilling, P.C. Bønecke, stadsbygmestrene Peder Malling og N.S. Nebelong og P.C. Hagemann. Modsat C.F. Hansens formsprog blev de plastiske virkninger nedtonet til fordel for det lave relief og større detaljerigdom på facaderne. De fleste af disse arkitekter bevægede sig dog i 1840'erne i retning af historicismen. M.G. Bindesbølls Thorvaldsens Museum (1848) markerede både en kulmination af klassicismen og dens endeligt.
I slutningen af århundredet blev klassicismen således afløst af historicismen, også kaldet eklekticisme (stilblanding). I denne periode stod Vilhelm Dahlerup for nogle af byens fineste og mest folkekære bygninger, lige fra officielle huse såsom Det Kongelige Teater (1874) og det monumentale Statens Museum for Kunst (1896) inspireret af italiensk renæssance og til små steder som Søpavillonen (1894) og Pantomimeteatret (1874) i Tivoli.
Voldenes fald (1856) blev startskuddet på en utøljet og liberalistisk tid, hvor nye arbejderkvarterer hastigt skød op, bygget af spekulanter. Byens første byggelov fra samme år var meget elastisk og resulterede i brokvarterernes og Gammelholms bygningsmasse, hvor der var en afgrundsdyb forskel på de heftigt dekorerede facader mod gaden og de mørke baggårde og små lejligheder. left|thumb|250px|Søtorvet er et eksempel på "stuktidens" arkitektur Herman Bangs roman Stuk skildrer livet i de glade 1880'ere og parodierer byggematadoren Hellig-Hansen, der har skabt store dele af det København, som vi kender i dag, bl.a. kvarteret omkring Israels Plads med de festligt udsmykkede facader.
Byens vokseværk, foranlediget af de mange tilflyttere fra landet, øgede behovet for nye skoler, vandværker, kirker etc. Byens første vandværk (1859) kan stadig beses ved Vesterport Station, og den første kirke uden for voldene var Skt. Johannes Kirke på Nørrebro (1862). I 1886 fik byen en stadsarkitekt, Ludvig Fenger, der fik monopol på kommunens opgaver og skulle sikre kvaliteten i det offentlige byggeri. Det var ikke populært blandt de private arkitekter, men i realiteten blev mange opgaver overdraget til andre, fordi Fenger ikke kunne overkomme arbejdsbyrden. Mange kommuneskoler er således tegnet af Andreas Clemmensen og Hans J. Holm, og Thorvald Jørgensen fik mange kirkeopgaver. Byens største opgave, det nye Københavns Rådhus, gik heller ikke til Fenger, hvis historicerende stil i mellemtiden var blevet gammeldags.
1900-tallet thumb|En solnedgang i maj måned spejler sig i Nationalbankens facade. Bygningen er tegnet af Arne Jacobsen. Det 20. århundrede blev således indledt med bygningen af byens sjette rådhus, Martin Nyrops mesterværk og den nationalromantiske bygningskunsts gennembrud, Københavns Rådhus (1905). Det er, ud over at være en af byens mest markante bygninger, fyldt med en detaljerigdom såvel udvendigt som indvendigt med det bedste håndværk. Inspirationen spænder fra vikingekunst til norditaliensk renæssance. Den forgyldte statue af Biskop Absalon på facaden blev udført af billedhugger Vilhelm Bissen, og indvendigt optager Rådhushallen 1048 kvm.
I 1911 fik byen endnu en stor bygning i samme stil: Københavns Hovedbanegård tegnet af Heinrich Wenck som var den tredje i rækken og udmærkede sig ved sine vældige trækonstruktioner over ankomsthal og perroner. Anlagt oven på en udgravning mellem Reventlowsgade og Bernstorffsgade blev samtlige 12 spor ført videre under ankomsthallen ad Boulevardbanen.
Ved Rådhuset ligger Anton Rosens Palace Hotel (1910), som er et hovedværk i dansk jugendarkitektur. Især det svungne indgangsparti og det 65 meter høje tårn med fire mosaikker af Johannes Kragh er iøjnefaldende. left|thumb|Grundtvigs Kirke