Macierz gęstości (ang. density matrix) lub operator gęstości (ang. density operator) to matematyczna reprezentacja stanu układu kwantowego. Jest ogólniejsza od reprezentacji wektorowej, gdyż oprócz stanów czystych (reprezentowanych przez wektor) obejmuje również półklasyczne stany mieszane.
Formalizm operatorów gęstości został wprowadzony przez Johna von Neumanna w 1927[potrzebny przypis].
Dla stanu czystego reprezentowanego przez wektor
odpowiadający mu operator to

czyli operator rzutowy rzutujący na jednowymiarową podprzestrzeń
przestrzeni Hilberta
Z kolei dla stanu mieszanego składającego się z (nieinterferujących ze sobą) składników
odpowiadający mu operator gęstości to

gdzie
to prawdopodobieństwa znalezienia poszczególnego składnika. Muszą one spełniać
dla każdego i oraz
Dla układu kwantowego opisywanego w przestrzeni Hilberta
operator gęstości to dowolny operator liniowy ciągły
spełniający poniższe warunki
jest samosprzężony,
jest dodatnio określony,

przy czym równość zachodzi wyłącznie dla stanu czystego.
Gdy układ jest opisywany w skończenie wymiarowej przestrzeni Hilberta, macierz gęstości jest rzeczywiście reprezentowana przez macierz operatora liniowego.
Zbiór wszystkich macierzy gęstości przestrzeni Hilberta
jest oznaczany jako
Jest to zbiór wypukły, co oznacza, że każdy operator gęstości może być przedstawiony jako kombinacja wypukła:

gdzie
dla każdego
oraz
Przedstawienie to jest niejednoznaczne, co oznacza że stan mieszany układu kwantowego może być zrealizowany jako próbka stanów czystych na wiele sposobów.
Stany czyste są punktami ekstremalnymi zbioru macierzy gęstości i jako takie mają jednoznaczne przedstawienie.
Tak jak dla funkcji falowych istnieje równanie Schrödingera, również dla macierzy gęstości istnieje odpowiednie równanie zwane równaniem von Neumanna (lub Liouville’a-von Neumanna)
![{\displaystyle i\hbar {\frac {\partial \rho }{\partial t}}=[{\hat {H}},\rho ],}](https://wikimedia.org/api/rest_v1/media/math/render/svg/c1e2af95fd63b5675fbca4b916a2fa38379804d0)
gdzie
to komutator hamiltonianu z macierzą gęstości.
Dzięki temu, że powyższe równanie jest liniowe, w wyprowadzeniu można ograniczyć się do stanów czystych. Istotna jest także samosprzężoność hamiltonianu.
![{\displaystyle {\begin{aligned}{\frac {\partial |\psi \rangle \langle \psi |}{\partial t}}&={\frac {\partial |\psi \rangle }{\partial t}}\langle \psi |+|\psi \rangle {\frac {\partial \langle \psi |}{\partial t}}\\&=\left({\frac {1}{i\hbar }}{\hat {H}}|\psi \rangle \right)\langle \psi |+|\psi \rangle \left({\frac {1}{i\hbar }}{\hat {H}}|\psi \rangle \right)^{*}\\&={\frac {1}{i\hbar }}\left({\hat {H}}|\psi \rangle \langle \psi |-|\psi \rangle \langle \psi |{\hat {H}}\right)\\&={\frac {1}{i\hbar }}\left[{\hat {H}},|\psi \rangle \langle \psi |\right]\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/08c34562d2f59b83a7ae68b2497c353d9f81594b)
Dla operatora obserwabli
wartość średnia na wektorze
to

W przypadku mieszania stanów wartość średnią operatora należy uśrednić po wszystkich stanach podlegających mieszaniu wagowaną przez prawdopodobieństwa ich wystąpienia

Do wnętrza powyższego wyrażenia możemy wstawić operator jednostkowy:

Możemy przestawić
pod znak sumy oraz zmienić indeks sumowania w (), dzięki czemu otrzymujemy:



W wyniku pomiaru obserwabli
na układzie opisanym przez operator gęstości
otrzymujemy rozkład prawdopodobieństwa na przestrzeni możliwych wyników opisany wzorem

gdzie
to rozkład spektralny obserwabli
W odniesieniu do spektroskopii NMR operator macierzy gęstości
opisuje średnią statystyczną układu spinów po wszystkich stanach
w których się one znajdują:
Elementy diagonalne macierzy
oraz
odpowiadające stanom własnym energii Zeemana
odpowiadają spinom będącym na głównych poziomach energetycznych spinów w polu magnetycznym, są to tzw. populacje. Elementy poza diagonalne
w macierzy nazwane są koherencjami, odpowiadają one superpozycjom stanów.