Квантовая относительная энтропия

В квантовой теории информации квантовая относительная энтропия является мерой различимости двух квантовых состояний . Это квантовомеханический аналог относительной энтропии .

Мотивация

Для простоты будем считать, что все объекты в статье являются конечномерными.

Сначала мы обсудим классический случай. Предположим, что вероятности конечной последовательности событий заданы распределением вероятностей P = { p ₁ ... p _n }, но каким-то образом мы ошибочно предположили, что это Q = { q ₁ ... q _n }. Например, мы можем принять нечестную монету за честную. Согласно этому ошибочному предположению, наша неопределенность относительно j -го события или, что эквивалентно, количество информации, предоставленной после наблюдения j -го события, составляет

${\displaystyle \;-\log q_{j}.}$

Тогда (предполагаемая) средняя неопределенность всех возможных событий равна

${\displaystyle \;-\sum _{j}p_{j}\log q_{j}.}$

С другой стороны, энтропия Шеннона распределения вероятностей p , определяемая как

${\displaystyle \;-\sum _{j}p_{j}\log p_{j},}$

является реальным количеством неопределенности до наблюдения. Поэтому разница между этими двумя величинами

${\displaystyle \;-\sum _{j}p_{j}\log q_{j}-\left(-\sum _{j}p_{j}\log p_{j}\right)=\sum _{j}p_{j}\log p_{j}-\sum _{j}p_{j}\log q_{j}}$

является мерой различимости двух распределений вероятностей p и q . Это и есть классическая относительная энтропия, или расхождение Кульбака-Лейблера :

${\displaystyle D_{\mathrm {KL} }(P\|Q)=\sum _{j}p_{j}\log {\frac {p_{j}}{q_{j}}}\!.}$

Примечание

1. В приведенных выше определениях предполагается, что 0·log 0 = 0, поскольку . Интуитивно можно было бы ожидать, что событие с нулевой вероятностью не вносит никакого вклада в энтропию. ${\displaystyle \lim _{x\searrow 0}x\log(x)=0}$
2. Относительная энтропия не является метрикой . Например, она не симметрична. Неопределенность расхождения при принятии честной монеты за нечестную не совпадает с противоположной ситуацией.

Определение

Как и многие другие объекты в квантовой теории информации, квантовая относительная энтропия определяется путем расширения классического определения с распределений вероятностей на матрицы плотности . Пусть ρ — матрица плотности. Энтропия фон Неймана ρ , которая является квантово-механическим аналогом энтропии Шеннона, определяется как

${\displaystyle S(\rho )=-\operatorname {Tr} \rho \log \rho .}$

Для двух матриц плотности ρ и σ квантовая относительная энтропия ρ по отношению к σ определяется как

${\displaystyle S(\rho \|\sigma )=-\operatorname {Tr} \rho \log \sigma -S(\rho )=\operatorname {Tr} \rho \log \rho -\operatorname {Tr} \rho \log \sigma =\operatorname {Tr} \rho (\log \rho -\log \sigma ).}$

Мы видим, что когда состояния классически связаны, т.е. ρσ = σρ , определение совпадает с классическим случаем в том смысле, что если и с и (поскольку и коммутируют , они одновременно диагонализируемы ), то — это просто обычная дивергенция Кульбака-Лейблера вектора вероятности относительно вектора вероятности . ${\displaystyle \rho =SD_{1}S^{\mathsf {T}}}$ ${\displaystyle \sigma =SD_{2}S^{\mathsf {T}}}$ ${\displaystyle D_{1}={\text{diag}}(\lambda _{1},\ldots ,\lambda _{n})}$ ${\displaystyle D_{2}={\text{diag}}(\mu _{1},\ldots ,\mu _{n})}$ ${\displaystyle \rho }$ ${\displaystyle \sigma }$ ${\displaystyle S(\rho \|\sigma )=\sum _{j=1}^{n}\lambda _{j}\ln \left({\frac {\lambda _{j}}{\mu _{j}}}\right)}$ ${\displaystyle (\lambda _{1},\ldots ,\lambda _{n})}$ ${\displaystyle (\mu _{1},\ldots ,\mu _{n})}$

Неконечная (расходящаяся) относительная энтропия

В общем случае носитель матрицы M является ортогональным дополнением ее ядра , т. е . . При рассмотрении квантовой относительной энтропии мы предполагаем, что − s  · log 0 = ∞ для любого s  > 0. Это приводит к определению, что ${\displaystyle {\text{supp}}(M)={\text{ker}}(M)^{\perp }}$

${\displaystyle S(\rho \|\sigma )=\infty }$

когда

${\displaystyle {\text{supp}}(\rho )\cap {\text{ker}}(\sigma )\neq \{0\}.}$

Это можно интерпретировать следующим образом. Неформально, квантовая относительная энтропия является мерой нашей способности различать два квантовых состояния, где большие значения указывают на состояния, которые более различны. Ортогональность представляет собой наиболее различные квантовые состояния, которые могут быть. Это отражается неконечной квантовой относительной энтропией для ортогональных квантовых состояний. Следуя аргументу, приведенному в разделе «Мотивация», если мы ошибочно предполагаем, что состояние имеет поддержку в , это ошибка, от которой невозможно избавиться. ${\displaystyle \rho }$ ${\displaystyle {\text{ker}}(\sigma )}$

Однако следует быть осторожным, чтобы не сделать вывод, что расхождение квантовой относительной энтропии подразумевает, что состояния и ортогональны или даже сильно отличаются по другим меркам. В частности, могут расходиться, когда и отличаются на исчезающе малую величину , измеренную по некоторой норме. Например, пусть есть диагональное представление ${\displaystyle S(\rho \|\sigma )}$ ${\displaystyle \rho }$ ${\displaystyle \sigma }$ ${\displaystyle S(\rho \|\sigma )}$ ${\displaystyle \rho }$ ${\displaystyle \sigma }$ ${\displaystyle \sigma }$

${\displaystyle \sigma =\sum _{n}\lambda _{n}|f_{n}\rangle \langle f_{n}|}$

с для и для где есть ортонормированное множество. Ядро есть пространство, натянутое на множество . Далее пусть ${\displaystyle \lambda _{n}>0}$ ${\displaystyle n=0,1,2,\ldots }$ ${\displaystyle \lambda _{n}=0}$ ${\displaystyle n=-1,-2,\ldots }$ ${\displaystyle \{|f_{n}\rangle ,n\in \mathbb {Z} \}}$ ${\displaystyle \sigma }$ ${\displaystyle \{|f_{n}\rangle ,n=-1,-2,\ldots \}}$

${\displaystyle \rho =\sigma +\epsilon |f_{-1}\rangle \langle f_{-1}|-\epsilon |f_{1}\rangle \langle f_{1}|}$

для небольшого положительного числа . Так как имеет поддержку (а именно состояние ) в ядре , расходится, хотя следовая норма разности равна . Это означает, что разность между и , измеренная следовой нормой, исчезающе мала, как даже несмотря на то, что расходится (т.е. бесконечна). Это свойство квантовой относительной энтропии представляет собой серьезный недостаток, если не относиться к нему с осторожностью. ${\displaystyle \epsilon }$ ${\displaystyle \rho }$ ${\displaystyle |f_{-1}\rangle }$ ${\displaystyle \sigma }$ ${\displaystyle S(\rho \|\sigma )}$ ${\displaystyle (\rho -\sigma )}$ ${\displaystyle 2\epsilon }$ ${\displaystyle \rho }$ ${\displaystyle \sigma }$ ${\displaystyle \epsilon \to 0}$ ${\displaystyle S(\rho \|\sigma )}$

Неотрицательность относительной энтропии

Соответствующее классическое утверждение

Для классической дивергенции Кульбака–Лейблера можно показать, что

${\displaystyle D_{\mathrm {KL} }(P\|Q)=\sum _{j}p_{j}\log {\frac {p_{j}}{q_{j}}}\geq 0,}$

и равенство выполняется тогда и только тогда, когда P = Q. Проще говоря, это означает, что неопределенность, рассчитанная с использованием ошибочных предположений, всегда больше реальной величины неопределенности.

Чтобы показать неравенство, перепишем

${\displaystyle D_{\mathrm {KL} }(P\|Q)=\sum _{j}p_{j}\log {\frac {p_{j}}{q_{j}}}=\sum _{j}(-\log {\frac {q_{j}}{p_{j}}})(p_{j}).}$

Обратите внимание, что log — вогнутая функция . Поэтому -log — выпуклая . Применяя неравенство Йенсена , получаем

${\displaystyle D_{\mathrm {KL} }(P\|Q)=\sum _{j}(-\log {\frac {q_{j}}{p_{j}}})(p_{j})\geq -\log(\sum _{j}{\frac {q_{j}}{p_{j}}}p_{j})=0.}$

Неравенство Йенсена также утверждает, что равенство имеет место тогда и только тогда, когда для всех i q i ₌ (Σ q _j ) p _i , т.е. p = q .

Результат

Неравенство Клейна утверждает, что квантовая относительная энтропия

${\displaystyle S(\rho \|\sigma )=\operatorname {Tr} \rho (\log \rho -\log \sigma ).}$

в общем случае неотрицательна. Она равна нулю тогда и только тогда, когда ρ = σ .

Доказательство

Пусть ρ и σ имеют спектральные разложения

${\displaystyle \rho =\sum _{i}p_{i}v_{i}v_{i}^{*}\;,\;\sigma =\sum _{i}q_{i}w_{i}w_{i}^{*}.}$

Так

${\displaystyle \log \rho =\sum _{i}(\log p_{i})v_{i}v_{i}^{*}\;,\;\log \sigma =\sum _{i}(\log q_{i})w_{i}w_{i}^{*}.}$

Прямой расчет дает

${\displaystyle S(\rho \|\sigma )=\sum _{k}p_{k}\log p_{k}-\sum _{i,j}(p_{i}\log q_{j})|v_{i}^{*}w_{j}|^{2}}$

${\displaystyle \qquad \quad \;=\sum _{i}p_{i}(\log p_{i}-\sum _{j}\log q_{j}|v_{i}^{*}w_{j}|^{2})}$

${\displaystyle \qquad \quad \;=\sum _{i}p_{i}(\log p_{i}-\sum _{j}(\log q_{j})P_{ij}),}$

где P _{i j} = | v _i *w _j | ² .

Поскольку матрица ( P _{i j} ) _ij является дважды стохастической матрицей , а -log является выпуклой функцией, то приведенное выше выражение имеет вид

${\displaystyle \geq \sum _{i}p_{i}(\log p_{i}-\log(\sum _{j}q_{j}P_{ij})).}$

Определим r _i = Σ _j q _j P _{i j} . Тогда { r _i } — распределение вероятностей. Из неотрицательности классической относительной энтропии имеем

${\displaystyle S(\rho \|\sigma )\geq \sum _{i}p_{i}\log {\frac {p_{i}}{r_{i}}}\geq 0.}$

Вторая часть утверждения следует из того, что, поскольку -log строго выпуклый, равенство достигается в

${\displaystyle \sum _{i}p_{i}(\log p_{i}-\sum _{j}(\log q_{j})P_{ij})\geq \sum _{i}p_{i}(\log p_{i}-\log(\sum _{j}q_{j}P_{ij}))}$

тогда и только тогда, когда ( P _{i j} ) является матрицей перестановки , что подразумевает ρ = σ , после подходящей маркировки собственных векторов { v _i } и { w _i }.

Совместная выпуклость относительной энтропии

Относительная энтропия является совместно выпуклой . Для и состояний имеем ${\displaystyle 0\leq \lambda \leq 1}$ ${\displaystyle \rho _{1(2)},\sigma _{1(2)}}$

${\displaystyle D(\lambda \rho _{1}+(1-\lambda )\rho _{2}\|\lambda \sigma _{1}+(1-\lambda )\sigma _{2})\leq \lambda D(\rho _{1}\|\sigma _{1})+(1-\lambda )D(\rho _{2}\|\sigma _{2})}$

Монотонность относительной энтропии

Относительная энтропия монотонно уменьшается при операциях сохранения полностью положительного следа (CPTP) над матрицами плотности, ${\displaystyle {\mathcal {N}}}$

${\displaystyle S({\mathcal {N}}(\rho )\|{\mathcal {N}}(\sigma ))\leq S(\rho \|\sigma )}$.

Это неравенство называется монотонностью квантовой относительной энтропии и впервые было доказано Линдбладом .

Мера запутанности

Пусть составная квантовая система имеет пространство состояний

${\displaystyle H=\otimes _{k}H_{k}}$

и ρ — матрица плотности, действующая на H.

Относительная энтропия запутанности ρ определяется как

${\displaystyle \;D_{\mathrm {REE} }(\rho )=\min _{\sigma }S(\rho \|\sigma )}$

где минимум берется по семейству разделимых состояний . Физическая интерпретация величины — оптимальная отличимость состояния ρ от разделимых состояний.

Очевидно, когда ρ не запутано

${\displaystyle \;D_{\mathrm {REE} }(\rho )=0}$

по неравенству Клейна.

Связь с другими квантовыми информационными величинами

Одна из причин, по которой квантовая относительная энтропия полезна, заключается в том, что несколько других важных квантовых информационных величин являются ее частными случаями. Часто теоремы формулируются в терминах квантовой относительной энтропии, что приводит к непосредственным следствиям, касающимся других величин. Ниже мы перечислим некоторые из этих соотношений.

Пусть ρ _AB будет совместным состоянием двухчастичной системы с подсистемой A размерности n _A и B размерности n _B . Пусть ρ _A , ρ _B будут соответствующими редуцированными состояниями, а I _A , I _B — соответствующими тождествами. Максимально смешанными состояниями являются I _A / n _A и I _B / n _B . Тогда можно показать с помощью прямого вычисления, что

${\displaystyle S(\rho _{A}||I_{A}/n_{A})=\mathrm {log} (n_{A})-S(\rho _{A}),\;}$

${\displaystyle S(\rho _{AB}||\rho _{A}\otimes \rho _{B})=S(\rho _{A})+S(\rho _{B})-S(\rho _{AB})=I(A:B),}$

${\displaystyle S(\rho _{AB}||\rho _{A}\otimes I_{B}/n_{B})=\mathrm {log} (n_{B})+S(\rho _{A})-S(\rho _{AB})=\mathrm {log} (n_{B})-S(B|A),}$

где I ( A : B ) — квантовая взаимная информация , а S ( B | A ) — квантовая условная энтропия .

Ссылки

• Ведрал, В. (8 марта 2002 г.). «Роль относительной энтропии в квантовой теории информации». Reviews of Modern Physics . 74 (1). Американское физическое общество (APS): 197–234. arXiv : quant-ph/0102094 . Bibcode : 2002RvMP...74..197V. doi : 10.1103/revmodphys.74.197. ISSN  0034-6861. S2CID  6370982.
• Майкл А. Нильсен, Айзек Л. Чуан, «Квантовые вычисления и квантовая информация»
• Марко Томамичел, «Квантовая обработка информации с конечными ресурсами — математические основы». arXiv:1504.00233