Krupszkaja 1869. február 26-án (az ortodox naptár szerint február 14-én) született Szentpéterváron. Elszegényedett nemesi-katonatiszti családból származott, a gimnáziumot aranyéremmel fejezte be 1887-ben. Két év múlva beiratkozott a szentpétervári női főiskolára, ahol egy évet tanult, majd megismerve a marxi eszméket, propagandista lett és munkásiskolában tanított.
Szentpéterváron több marxista vitakörbe is eljárt, itt ismerkedett meg 1894-ben Vlagyimir Uljanovval, a későbbi Leninnel, akinek segítségére volt a Harci Szövetség a Munkásosztály Felszabadítására elnevezésű szervezet kiépítésében. Lenint és társait 1895-ben letartóztatták, egy évvel később Krupszkaja is hét hónapra börtönbe került.
Három évre száműzték, de elérte, hogy mint Uljanov menyasszonya Szibériába kerüljön, leendő férje mellé. Házasságot 1898 nyarán, Susenszkoje faluban kötöttek, Krupszkaja ezután Lenin hű segítője, társa és harcostársa maradt, még akkor is, amikor az 1910-es években a francia születésű Inessa Armand személyében komoly vetélytársa akadt.
Ráadásul az autoimmun pajzsmirigy-túlműködés egyik formájától, a Basedow-kórtól szenvedett, amely rányomta bélyegét életére, valószínűleg ez okozta meddőségét is. Egy bolsevik harcostársuk visszaemlékezése szerint „Vlagyimir Iljics találhatott nála szebb asszonyt, de Nagyezsda Konsztantyinovnánál okosabb, az ügy iránt odaadóbb nem volt a köreinkben”.
Krupszkaja 1898-ban lépett be az Oroszországi Szociáldemokrata Munkáspártba, ahol különböző álnevek alatt tevékenykedett. Száműzetésének letelte után Németországba emigrált, tagja lett az Iszkra című pártlap szerkesztőségének, az 1903-as pártkongresszuson bekövetkezett szakadáskor a bolsevikokhoz csatlakozott.
Az 1905-ös forradalom idején visszatért Oroszországba, a Központi Bizottság titkára lett, de a forradalom leverése után ismét emigrációba kényszerült. Pártmunkával foglalkozott, segített leveleket kódolni és dekódolni, tanított a franciaországi bolsevik pártiskolában, pártlapok szerkesztőjeként, Lenin titkárnőjeként dolgozott, igen szerény anyagi körülmények között.
Krupszkaja 1917 áprilisában tért haza Leninnel, részt vett a forradalmi eseményekben, majd a hatalom megragadása után bolsevik eszmeiségű ifjúsági szervezetek (Komszomol, úttörőmozgalom) létrehozásán munkálkodott, oktatás- és művelődéspolitikai kérdésekkel foglalkozott.
1924-től tagja volt a párt Központi Ellenőrző Bizottságának, 1927-től a Központi Bizottságnak, 1929-től haláláig a művelődésügyi népbiztos helyetteseként egyik kialakítója volt a szovjet népoktatási rendszernek. A Lenin 1924. januári halála után kiéleződött párton belüli harcokban kezdetben Sztálinnal szemben a Zinovjev és Kamenyev vezette „új ellenzéket” támogatta.
Később Sztálin nyomására beismerte „hibáját”, és a KB plénumain követelte az elhajlók (Zinovjev, Kamenyev, Trockij, Buharin) eltávolítását a pártból, bíróság elé állítását. A sztálini terror kibontakozásakor Lenin özvegyeként némi védettséget élvezett, ezt kihasználva megpróbált szembeszállni a parancsuralmi rendszer egyes megnyilvánulásaival.
Sztálin ezt nem vette jó néven, és gyakorlatilag félreállította: bár Krupszkaja haláláig tagja maradt a KB-nak és a Szovjetunió „kis parlamentjének”, a Központi Végrehajtó Bizottságnak, de csak könyvtárak felügyeletét, múzeumok szervezését bízták rá.
Krupszkaja több könyvet írt Leninről, a bolsevik párt történetéről, a kommunista nevelésről, a pedagógiai tudományok doktoraként 1931-től tagja volt a Szovjet Tudományos Akadémiának.
1939. február 27-én halt meg, hamvait a moszkvai Kreml falánál temették el. A Szovjetunióban utcák, terek, közintézmények, továbbá egy leningrádi csokoládégyár viselték nevét, 1971-ben egy aszteroidát is elneveztek róla.
