Celý komplex obklopují Kremelské hradby dlouhé přes 2 km a vystavěné z pálených cihel, které jim dávají typickou barvu. Výška hradeb se liší rozdílem až 12 metrů podle toho, kudy na bývalém vršku porostlém borovicemi procházejí. Střeží je dvacet věží. Nejznámější a nejkrásnější je „Spaskaja bašna“ (věž Vykupitelova). Jednaosmdesát metrů vysoká stavba byla dokončena kolem roku 1600 a má celkem devět pater. Ta tři nejvyšší zabírá hodinový stroj orloje.
První zmínky o kamenných stavbách v Kremlu pocházejí z první poloviny 14. století, poté co metropolita Petr přesunul svoje sídlo z Kyjeva do Moskvy. V tomto období začala vznikat v Kremlu řada chrámů. Jako hlavní, ve kterém byli později korunováni ruští carové, byl postaven chrám Nanebevzetí Panny Marie založený v roce 1327 (v 15. století byl výrazně přestavený a rekonstruovaný). Většina z těchto chrámů byla postavena v rusko-byzantském architektonickém slohu (s jednou centrální a několika po obvodu rozmístěnými zlatými kopulemi) z vápence. Z vápence byla také postavena masivní kamenná obvodová zeď, která nahradila původní dřevěnou V tomto období byl založen také klášter Zjevení archanděla Michaela a chrám Zvěstování Panny Marie.
V 15. století vyrost Kreml do té podoby, jak ho známe dnes. Za vlády cara Ivana IV. Hrozného se Moskva stala jedním z nejdůležitějších měst Evropy a panovník nechal své panství rozšířit hlavně v italském stylu. Pevnostní vápencová zeď byla nahrazen neomítanými pálenými cihlami a zdi dostaly výrazná cimbuří (v 17. století byli doplněny o věžičky). Vznikla nová stavba Diamantový palác, Archandělský chrám a zvonice Ivana Velikého.
Po roce 1560 nechal car Ivan IV. postavit Chrám Vasilije Blaženého na oslavu vítězství nad Tatary. Chrám se skládá z devíti sloupových kostelů. Uprostřed je největší kostel, s výrazným jehlanovým vrcholem. Později byl k chrámu přistaven ještě jeden malý kostelík přímo nad hrobem náboženského fanatika Vasilije Blaženého. Chrám je postaven z kamene, v tradičních formách ruské architektury. Vnitřní výzdoba každého z deseti kostelů je různorodá. Tato fantastická stavba se stala symbolem Ruska a panorama Rudého náměstí si bez ní nedokážeme představit.
V 17. století byla carská moc převedena do Petrohradu a Kreml upadl v zapomnění. Znovu ho „objevila“ Kateřina Veliká. Nechala postavit budovu senátu. Stavba leží v do té doby nevyužité severovýchodní části Kremlu. Má čtyři patra a tvoří souměrný trojúhelník s dvěma vnitřními křídly a třemi nádvořími. Do východního vrcholu tohoto trojúhelníku byla umístěna výrazná rotunda, která sloužila pro shromažďování senátu. Po dostavbě byla hradební věžička před senátem z bezejmenné přejmenována na „Senátní“.
V 19. století proběhla přestavba Velkého Kremelského paláce. Tato přestavba vytvořila skutečnou dominantu Kremlu při pohledu přes řeku Moskvu. Během těchto prací také došlo k propojení Velkého paláce s palácem Těremským, Diamantovým palácem a s chrámem Zvěstování.
Za vlády komunismu ve 20. století došlo k rozsáhlému bourání po staletí stavěných chrámů po celém Rusku. Z části se toto řádění vyhnulo Kremlu, i když ani tomu ne úplně. Některé chrámy zbourány byly - konvent Nanebevstoupení, klášter Zjevení, Spasitelův chrám a Nikolský palác. Ze soukromých komnat byly odstraněny všechny carské symboly a Kreml se pro veřejnost uzavřel. Stal se pevností sovětské moci a za Kremelskými zdmi vzniklo Leninovo mauzoleum a nekropole.
K uvolnění došlo až v roce 1955, kdy byl Kreml znovu veřejnosti otevřen a v roce 1961 se z něho stalo krom sídla vlády muzeum.
