Пропускная способность канала

Информационно-теоретический предел скорости передачи в канале связи

Пропускная способность канала в электротехнике , информатике и теории информации — это теоретическая максимальная скорость, с которой информация может быть надежно передана по каналу связи .

Согласно теореме о кодировании канала с шумом , пропускная способность данного канала — это наивысшая скорость передачи информации (в единицах информации в единицу времени), которая может быть достигнута с произвольно малой вероятностью ошибки. ^{[1] [2]}

Теория информации , разработанная Клодом Э. Шенноном в 1948 году, определяет понятие пропускной способности канала и предоставляет математическую модель, с помощью которой она может быть вычислена. Ключевой результат гласит, что пропускная способность канала, как определено выше, задается максимумом взаимной информации между входом и выходом канала, где максимизация относится к распределению входных данных. ^[3]

Понятие пропускной способности канала стало центральным при разработке современных проводных и беспроводных систем связи с появлением новых механизмов кодирования с исправлением ошибок , которые привели к достижению производительности, очень близкой к пределам, обещанным пропускной способностью канала.

Формальное определение

Базовая математическая модель системы связи выглядит следующим образом:

${\displaystyle {\xrightarrow[{\text{Message}}]{W}}{\begin{array}{|c|}\hline {\text{Encoder}}\\f_{n}\\\hline \end{array}}{\xrightarrow[{\mathrm {Encoded \atop sequence} }]{X^{n}}}{\begin{array}{|c|}\hline {\text{Channel}}\\p(y|x)\\\hline \end{array}}{\xrightarrow[{\mathrm {Received \atop sequence} }]{Y^{n}}}{\begin{array}{|c|}\hline {\text{Decoder}}\\g_{n}\\\hline \end{array}}{\xrightarrow[{\mathrm {Estimated \atop message} }]{\hat {W}}}}$

где:

• ${\displaystyle W}$это сообщение, которое должно быть передано;
• ${\displaystyle X}$- входной символ канала ( последовательность символов), взятый в алфавите ; ${\displaystyle X^{n}}$ ${\displaystyle n}$ ${\displaystyle {\mathcal {X}}}$
• ${\displaystyle Y}$- выходной символ канала ( последовательность символов), взятый в алфавите ; ${\displaystyle Y^{n}}$ ${\displaystyle n}$ ${\displaystyle {\mathcal {Y}}}$
• ${\displaystyle {\hat {W}}}$оценка переданного сообщения;
• ${\displaystyle f_{n}}$— функция кодирования для блока длиной ; ${\displaystyle n}$
• ${\displaystyle p(y|x)=p_{Y|X}(y|x)}$- это зашумленный канал, который моделируется условным распределением вероятностей ; и,
• ${\displaystyle g_{n}}$— функция декодирования для блока длиной . ${\displaystyle n}$

Пусть и будут смоделированы как случайные величины. Кроме того, пусть будет условной функцией распределения вероятностей заданного , которая является неотъемлемым фиксированным свойством канала связи. Тогда выбор маргинального распределения полностью определяет совместное распределение из-за тождества ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle p_{Y|X}(y|x)}$ ${\displaystyle Y}$ ${\displaystyle X}$ ${\displaystyle p_{X}(x)}$ ${\displaystyle p_{X,Y}(x,y)}$

${\displaystyle \ p_{X,Y}(x,y)=p_{Y|X}(y|x)\,p_{X}(x)}$

что, в свою очередь, вызывает взаимную информацию . Пропускная способность канала определяется как ${\displaystyle I(X;Y)}$

${\displaystyle \ C=\sup _{p_{X}(x)}I(X;Y)\,}$

где супремум берется по всем возможным вариантам выбора . ${\displaystyle p_{X}(x)}$

Аддитивность пропускной способности канала

Пропускная способность канала является аддитивной по сравнению с независимыми каналами. ^[4] Это означает, что использование двух независимых каналов в комбинированном режиме обеспечивает ту же теоретическую пропускную способность, что и их независимое использование. Более формально, пусть и будут двумя независимыми каналами, смоделированными, как указано выше; имеющими входной алфавит и выходной алфавит . То же самое для . Мы определяем канал продукта как ${\displaystyle p_{1}}$ ${\displaystyle p_{2}}$ ${\displaystyle p_{1}}$ ${\displaystyle {\mathcal {X}}_{1}}$ ${\displaystyle {\mathcal {Y}}_{1}}$ ${\displaystyle p_{2}}$ ${\displaystyle p_{1}\times p_{2}}$ ${\displaystyle \forall (x_{1},x_{2})\in ({\mathcal {X}}_{1},{\mathcal {X}}_{2}),\;(y_{1},y_{2})\in ({\mathcal {Y}}_{1},{\mathcal {Y}}_{2}),\;(p_{1}\times p_{2})((y_{1},y_{2})|(x_{1},x_{2}))=p_{1}(y_{1}|x_{1})p_{2}(y_{2}|x_{2})}$

Эта теорема гласит: $${\displaystyle C(p_{1}\times p_{2})=C(p_{1})+C(p_{2})}$$

Доказательство

Сначала покажем, что . ${\displaystyle C(p_{1}\times p_{2})\geq C(p_{1})+C(p_{2})}$

Пусть и будут двумя независимыми случайными величинами. Пусть будет случайной величиной, соответствующей выходу через канал , и для через . ${\displaystyle X_{1}}$ ${\displaystyle X_{2}}$ ${\displaystyle Y_{1}}$ ${\displaystyle X_{1}}$ ${\displaystyle p_{1}}$ ${\displaystyle Y_{2}}$ ${\displaystyle X_{2}}$ ${\displaystyle p_{2}}$

По определению . ${\displaystyle C(p_{1}\times p_{2})=\sup _{p_{X_{1},X_{2}}}(I(X_{1},X_{2}:Y_{1},Y_{2}))}$

Так как и независимы, а также и , независимы от . Мы можем применить следующее свойство взаимной информации : ${\displaystyle X_{1}}$ ${\displaystyle X_{2}}$ ${\displaystyle p_{1}}$ ${\displaystyle p_{2}}$ ${\displaystyle (X_{1},Y_{1})}$ ${\displaystyle (X_{2},Y_{2})}$ ${\displaystyle I(X_{1},X_{2}:Y_{1},Y_{2})=I(X_{1}:Y_{1})+I(X_{2}:Y_{2})}$

Сейчас нам нужно только найти распределение такое, что . Фактически, и , достаточно двух распределений вероятностей для и достижения и : ${\displaystyle p_{X_{1},X_{2}}}$ ${\displaystyle I(X_{1},X_{2}:Y_{1},Y_{2})\geq I(X_{1}:Y_{1})+I(X_{2}:Y_{2})}$ ${\displaystyle \pi _{1}}$ ${\displaystyle \pi _{2}}$ ${\displaystyle X_{1}}$ ${\displaystyle X_{2}}$ ${\displaystyle C(p_{1})}$ ${\displaystyle C(p_{2})}$

${\displaystyle C(p_{1}\times p_{2})\geq I(X_{1},X_{2}:Y_{1},Y_{2})=I(X_{1}:Y_{1})+I(X_{2}:Y_{2})=C(p_{1})+C(p_{2})}$

т.е. ${\displaystyle C(p_{1}\times p_{2})\geq C(p_{1})+C(p_{2})}$

Теперь покажем это . ${\displaystyle C(p_{1}\times p_{2})\leq C(p_{1})+C(p_{2})}$

Пусть будет некоторым распределением для определения канала и соответствующего выхода . Пусть будет алфавитом для , и аналогично и . ${\displaystyle \pi _{12}}$ ${\displaystyle p_{1}\times p_{2}}$ ${\displaystyle (X_{1},X_{2})}$ ${\displaystyle (Y_{1},Y_{2})}$ ${\displaystyle {\mathcal {X}}_{1}}$ ${\displaystyle X_{1}}$ ${\displaystyle {\mathcal {Y}}_{1}}$ ${\displaystyle Y_{1}}$ ${\displaystyle {\mathcal {X}}_{2}}$ ${\displaystyle {\mathcal {Y}}_{2}}$

По определению взаимной информации мы имеем

${\displaystyle {\begin{aligned}I(X_{1},X_{2}:Y_{1},Y_{2})&=H(Y_{1},Y_{2})-H(Y_{1},Y_{2}|X_{1},X_{2})\\&\leq H(Y_{1})+H(Y_{2})-H(Y_{1},Y_{2}|X_{1},X_{2})\end{aligned}}}$

Перепишем последний член энтропии .

${\displaystyle H(Y_{1},Y_{2}|X_{1},X_{2})=\sum _{(x_{1},x_{2})\in {\mathcal {X}}_{1}\times {\mathcal {X}}_{2}}\mathbb {P} (X_{1},X_{2}=x_{1},x_{2})H(Y_{1},Y_{2}|X_{1},X_{2}=x_{1},x_{2})}$

По определению канала продукта, . Для данной пары мы можем переписать как: ${\displaystyle \mathbb {P} (Y_{1},Y_{2}=y_{1},y_{2}|X_{1},X_{2}=x_{1},x_{2})=\mathbb {P} (Y_{1}=y_{1}|X_{1}=x_{1})\mathbb {P} (Y_{2}=y_{2}|X_{2}=x_{2})}$ ${\displaystyle (x_{1},x_{2})}$ ${\displaystyle H(Y_{1},Y_{2}|X_{1},X_{2}=x_{1},x_{2})}$

${\displaystyle {\begin{aligned}H(Y_{1},Y_{2}|X_{1},X_{2}=x_{1},x_{2})&=\sum _{(y_{1},y_{2})\in {\mathcal {Y}}_{1}\times {\mathcal {Y}}_{2}}\mathbb {P} (Y_{1},Y_{2}=y_{1},y_{2}|X_{1},X_{2}=x_{1},x_{2})\log(\mathbb {P} (Y_{1},Y_{2}=y_{1},y_{2}|X_{1},X_{2}=x_{1},x_{2}))\\&=\sum _{(y_{1},y_{2})\in {\mathcal {Y}}_{1}\times {\mathcal {Y}}_{2}}\mathbb {P} (Y_{1},Y_{2}=y_{1},y_{2}|X_{1},X_{2}=x_{1},x_{2})[\log(\mathbb {P} (Y_{1}=y_{1}|X_{1}=x_{1}))+\log(\mathbb {P} (Y_{2}=y_{2}|X_{2}=x_{2}))]\\&=H(Y_{1}|X_{1}=x_{1})+H(Y_{2}|X_{2}=x_{2})\end{aligned}}}$

Просуммировав это равенство по всем , получим . ${\displaystyle (x_{1},x_{2})}$ ${\displaystyle H(Y_{1},Y_{2}|X_{1},X_{2})=H(Y_{1}|X_{1})+H(Y_{2}|X_{2})}$

Теперь мы можем дать верхнюю границу взаимной информации:

${\displaystyle {\begin{aligned}I(X_{1},X_{2}:Y_{1},Y_{2})&\leq H(Y_{1})+H(Y_{2})-H(Y_{1}|X_{1})-H(Y_{2}|X_{2})\\&=I(X_{1}:Y_{1})+I(X_{2}:Y_{2})\end{aligned}}}$

Это отношение сохраняется в супремуме. Поэтому

${\displaystyle C(p_{1}\times p_{2})\leq C(p_{1})+C(p_{2})}$

Объединяя два доказанных нами неравенства, получаем результат теоремы:

${\displaystyle C(p_{1}\times p_{2})=C(p_{1})+C(p_{2})}$

Емкость Шеннона графа

Если G — неориентированный граф , его можно использовать для определения канала связи, в котором символы являются вершинами графа, и два кодовых слова могут быть перепутаны друг с другом, если их символы в каждой позиции равны или смежны. Вычислительная сложность нахождения пропускной способности Шеннона такого канала остается открытой, но ее можно ограничить сверху другим важным инвариантом графа — числом Ловаса . ^[5]

Теорема кодирования в шумном канале

Теорема кодирования канала с шумом гласит, что для любой вероятности ошибки ε > 0 и для любой скорости передачи R, меньшей пропускной способности канала C , существует схема кодирования и декодирования, передающая данные со скоростью R , вероятность ошибки которой меньше ε, для достаточно большой длины блока. Кроме того, для любой скорости, большей пропускной способности канала, вероятность ошибки на приемнике стремится к 0,5, когда длина блока стремится к бесконечности.

Пример заявки

Применение концепции пропускной способности канала к каналу с аддитивным белым гауссовым шумом (AWGN) с полосой пропускания B Гц и отношением сигнал/шум S/N представляет собой теорему Шеннона–Хартли :

${\displaystyle C=B\log _{2}\left(1+{\frac {S}{N}}\right)\ }$

C измеряется в битах в секунду, если логарифм берется по основанию 2, или в нацах в секунду, если используется натуральный логарифм , предполагая, что B измеряется в герцах ; мощности сигнала и шума S и N выражаются в линейных единицах мощности (например, ваттах или вольтах ² ). Поскольку показатели S/N часто приводятся в дБ , может потребоваться преобразование. Например, отношение сигнал/шум 30 дБ соответствует линейному отношению мощности . ${\displaystyle 10^{30/10}=10^{3}=1000}$

Оценка пропускной способности канала

Чтобы определить пропускную способность канала, необходимо найти распределение, обеспечивающее пропускную способность , и оценить взаимную информацию . Исследования в основном были сосредоточены на изучении каналов аддитивного шума при определенных ограничениях мощности и распределениях шума, поскольку аналитические методы нецелесообразны в большинстве других сценариев. Поэтому в литературе были предложены альтернативные подходы, такие как исследование поддержки входных данных, ^[6] релаксации ^[7] и ограничения пропускной способности ^[8] . ${\displaystyle p_{X}(x)}$ ${\displaystyle I(X;Y)}$

Пропускную способность дискретного канала без памяти можно вычислить с помощью алгоритма Блахута-Аримото .

Глубокое обучение может быть использовано для оценки пропускной способности канала. Фактически, пропускная способность канала и распределение достижения пропускной способности любого дискретного по времени непрерывного векторного канала без памяти могут быть получены с помощью CORTICAL ^[9] , кооперативной структуры, вдохновленной генеративно-состязательными сетями . CORTICAL состоит из двух кооперативных сетей: генератора, цель которого — научиться делать выборки из входного распределения достижения пропускной способности, и дискриминатора, цель которого — научиться различать парные и непарные выборки и оценки входных-выходных каналов . ${\displaystyle I(X;Y)}$

Пропускная способность канала беспроводной связи

В этом разделе ^[10] основное внимание уделяется сценарию с одной антенной, точка-точка. Для информации о пропускной способности канала в системах с несколькими антеннами см. статью о MIMO .

Канал AWGN с ограниченной полосой пропускания

Пропускная способность канала AWGN с режимом ограничения мощности и режимом ограничения полосы пропускания указана. Здесь ; B и C могут быть масштабированы пропорционально для других значений. ${\displaystyle {\frac {\bar {P}}{N_{0}}}=1}$

Если средняя принимаемая мощность равна [Вт], общая полоса пропускания выражена в герцах, а спектральная плотность мощности шума равна [Вт/Гц], то пропускная способность канала AWGN равна ${\displaystyle {\bar {P}}}$ ${\displaystyle W}$ ${\displaystyle N_{0}}$

${\displaystyle C_{\text{AWGN}}=W\log _{2}\left(1+{\frac {\bar {P}}{N_{0}W}}\right)}$[бит/с],

где - полученное отношение сигнал/шум (SNR). Этот результат известен как теорема Шеннона-Хартли . ^[11] ${\displaystyle {\frac {\bar {P}}{N_{0}W}}}$

Когда SNR велико (SNR ≫ 0 дБ), емкость логарифмическая по мощности и приблизительно линейная по полосе пропускания. Это называется режимом с ограниченной полосой пропускания . ${\displaystyle C\approx W\log _{2}{\frac {\bar {P}}{N_{0}W}}}$

Когда SNR мало (SNR ≪ 0 дБ), емкость линейна по мощности, но нечувствительна к полосе пропускания. Это называется режимом ограничения мощности . ${\displaystyle C\approx {\frac {\bar {P}}{N_{0}\ln 2}}}$

На рисунке проиллюстрированы режимы ограничения полосы пропускания и мощности.

Частотно-избирательный канал AWGN

Пропускная способность частотно-избирательного канала определяется так называемым распределением мощности заполнения водой ,

${\displaystyle C_{N_{c}}=\sum _{n=0}^{N_{c}-1}\log _{2}\left(1+{\frac {P_{n}^{*}|{\bar {h}}_{n}|^{2}}{N_{0}}}\right),}$

где и - коэффициент усиления подканала , выбранный для удовлетворения ограничения мощности. ${\displaystyle P_{n}^{*}=\max \left\{\left({\frac {1}{\lambda }}-{\frac {N_{0}}{|{\bar {h}}_{n}|^{2}}}\right),0\right\}}$ ${\displaystyle |{\bar {h}}_{n}|^{2}}$ ${\displaystyle n}$ ${\displaystyle \lambda }$

Медленно затухающий канал

В канале с медленным замиранием , где время когерентности больше, чем требуемое время задержки, нет определенной емкости, поскольку максимальная скорость надежной связи, поддерживаемая каналом, зависит от случайного коэффициента усиления канала , который неизвестен передатчику. Если передатчик кодирует данные со скоростью [бит/с/Гц], существует ненулевая вероятность того, что вероятность ошибки декодирования не может быть сделана произвольно малой, ${\displaystyle \log _{2}(1+|h|^{2}SNR)}$ ${\displaystyle |h|^{2}}$ ${\displaystyle R}$

${\displaystyle p_{out}=\mathbb {P} (\log(1+|h|^{2}SNR)<R)}$,

в этом случае говорят, что система находится в состоянии отключения. При ненулевой вероятности того, что канал находится в состоянии глубокого замирания, пропускная способность медленно замирающего канала в строгом смысле равна нулю. Однако можно определить наибольшее значение такое, что вероятность отключения будет меньше . Это значение известно как пропускная способность -отключения. ${\displaystyle R}$ ${\displaystyle p_{out}}$ ${\displaystyle \epsilon }$ ${\displaystyle \epsilon }$

Быстро затухающий канал

В канале с быстрым замиранием , где требования к задержке больше, чем время когерентности, а длина кодового слова охватывает много периодов когерентности, можно усреднить по многим независимым замираниям канала, кодируя по большому количеству интервалов времени когерентности. Таким образом, можно достичь надежной скорости связи [бит/с/Гц], и имеет смысл говорить об этом значении как о емкости канала с быстрым замиранием. ${\displaystyle \mathbb {E} (\log _{2}(1+|h|^{2}SNR))}$

Емкость обратной связи

Пропускная способность обратной связи — это наибольшая скорость, с которой информация может быть надежно передана в единицу времени по каналу связи точка-точка, в котором приемник возвращает выходные данные канала передатчику. Информационно-теоретический анализ систем связи, включающих обратную связь, более сложен и труден, чем без обратной связи. Возможно, именно по этой причине CE Shannon выбрал обратную связь в качестве темы первой лекции Shannon, прочитанной на Международном симпозиуме IEEE по теории информации в 1973 году в Ашкелоне, Израиль.

Пропускная способность обратной связи характеризуется максимумом направленной информации между входами канала и выходами канала, где максимизация осуществляется по отношению к причинной обусловленности входа при заданном выходе. Направленная информация была введена Джеймсом Мэсси ^[12] в 1990 году, который показал, что это верхняя граница пропускной способности обратной связи. Для каналов без памяти Шеннон показал ^[13] , что обратная связь не увеличивает пропускную способность, а пропускная способность обратной связи совпадает с пропускной способностью канала, характеризуемой взаимной информацией между входом и выходом. Пропускная способность обратной связи известна как выражение в замкнутой форме только для нескольких примеров, таких как: канал Trapdoor, ^[14] канал Изинга, ^{[15] [16]} двоичный стирающий канал с ограничением на вход без последовательных единиц, каналы NOST.

Базовая математическая модель системы связи выглядит следующим образом:

Связь с обратной связью

Вот формальное определение каждого элемента (где единственное отличие относительно емкости без обратной связи — это определение кодера):

• ${\displaystyle W}$представляет собой передаваемое сообщение, записанное в алфавите ; ${\displaystyle {\mathcal {W}}}$
• ${\displaystyle X}$- входной символ канала ( последовательность символов), взятый в алфавите ; ${\displaystyle X^{n}}$ ${\displaystyle n}$ ${\displaystyle {\mathcal {X}}}$
• ${\displaystyle Y}$- выходной символ канала ( последовательность символов), взятый в алфавите ; ${\displaystyle Y^{n}}$ ${\displaystyle n}$ ${\displaystyle {\mathcal {Y}}}$
• ${\displaystyle {\hat {W}}}$оценка переданного сообщения;
• ${\displaystyle f_{i}:{\mathcal {W}}\times {\mathcal {Y}}^{i-1}\to {\mathcal {X}}}$— функция кодирования в момент времени для блока длиной ; ${\displaystyle i}$ ${\displaystyle n}$
• ${\displaystyle p(y_{i}|x^{i},y^{i-1})=p_{Y_{i}|X^{i},Y^{i-1}}(y_{i}|x^{i},y^{i-1})}$- это зашумленный канал в момент времени , который моделируется условным распределением вероятностей ; и, ${\displaystyle i}$
• ${\displaystyle {\hat {w}}:{\mathcal {Y}}^{n}\to {\mathcal {W}}}$— функция декодирования для блока длиной . ${\displaystyle n}$

То есть, для каждого времени существует обратная связь предыдущего вывода , так что кодер имеет доступ ко всем предыдущим выводам . Код представляет собой пару отображений кодирования и декодирования с , и равномерно распределен. Скорость считается достижимой, если существует последовательность кодов, такая что средняя вероятность ошибки: стремится к нулю при . ${\displaystyle i}$ ${\displaystyle Y_{i-1}}$ ${\displaystyle Y^{i-1}}$ ${\displaystyle (2^{nR},n)}$ ${\displaystyle {\mathcal {W}}=[1,2,\dots ,2^{nR}]}$ ${\displaystyle W}$ ${\displaystyle R}$ ${\displaystyle (2^{nR},n)}$ ${\displaystyle P_{e}^{(n)}\triangleq \Pr({\hat {W}}\neq W)}$ ${\displaystyle n\to \infty }$

Пропускная способность обратной связи обозначается как и определяется как супремум по всем достижимым скоростям. ${\displaystyle C_{\text{feedback}}}$

Основные результаты по способности обратной связи

Пусть и моделируются как случайные величины. Причинно-следственная обусловленность описывает заданный канал. Выбор причинно-следственного распределения определяет совместное распределение из-за цепного правила для причинно-следственной обусловленности ^[17], которое, в свою очередь, индуцирует направленную информацию . ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle P(y^{n}||x^{n})\triangleq \prod _{i=1}^{n}P(y_{i}|y^{i-1},x^{i})}$ ${\displaystyle P(x^{n}||y^{n-1})\triangleq \prod _{i=1}^{n}P(x_{i}|x^{i-1},y^{i-1})}$ ${\displaystyle p_{X^{n},Y^{n}}(x^{n},y^{n})}$ ${\displaystyle P(y^{n},x^{n})=P(y^{n}||x^{n})P(x^{n}||y^{n-1})}$ ${\displaystyle I(X^{N}\rightarrow Y^{N})=\mathbf {E} \left[\log {\frac {P(Y^{N}||X^{N})}{P(Y^{N})}}\right]}$

Мощность обратной связи определяется по формуле

${\displaystyle \ C_{\text{feedback}}=\lim _{n\to \infty }{\frac {1}{n}}\sup _{P_{X^{n}||Y^{n-1}}}I(X^{n}\to Y^{n})\,}$,

где супремум берется по всем возможным вариантам выбора . ${\displaystyle P_{X^{n}||Y^{n-1}}(x^{n}||y^{n-1})}$

Гауссовская емкость обратной связи

Когда гауссовский шум окрашен, канал имеет память. Рассмотрим, например, простой случай на авторегрессионном модельном процессе шума , где есть iid-процесс. ${\displaystyle z_{i}=z_{i-1}+w_{i}}$ ${\displaystyle w_{i}\sim N(0,1)}$

Методы решения

Пропускную способность обратной связи трудно решить в общем случае. Существуют некоторые методы, связанные с теорией управления и марковскими процессами принятия решений , если канал дискретный.

Смотрите также

• Пропускная способность (вычисления)
• Пропускная способность (обработка сигнала)
• Скорость передачи данных
• Скорость кода
• Экспонента ошибки
• Скорость Найквиста
• Негэнтропия
• Избыточность
• Отправитель , Сжатие данных , Получатель
• Теорема Шеннона–Хартли
• Спектральная эффективность
• Пропускная способность

Продвинутые темы общения

• MIMO
• Кооперативное разнообразие

Внешние ссылки

• «Скорость передачи данных по каналу», Энциклопедия математики , EMS Press , 2001 [1994]
• Пропускная способность канала AWGN с различными ограничениями на входе канала (интерактивная демонстрация)

Ссылки

1. Салим Бхатти. "Пропускная способность канала". Конспект лекций для магистратуры. Сети передачи данных и распределенные системы D51 -- Основы коммуникаций и сетей . Архивировано из оригинала 21-08-2007.
2. Джим Лесёрф. «Сигналы выглядят как шум!». Информация и измерения, 2-е изд .
3. Томас М. Кавер, Джой А. Томас (2006). Элементы теории информации. John Wiley & Sons, Нью-Йорк. ISBN 9781118585771.
4. Обложка, Томас М.; Томас, Джой А. (2006). "Глава 7: Пропускная способность канала". Элементы теории информации (Второе изд.). Wiley-Interscience. С. 206–207. ISBN 978-0-471-24195-9.
5. Ловас, Ласло (1979), «О емкости графа по Шеннону», IEEE Transactions on Information Theory , IT-25 (1): 1–7, doi : 10.1109/tit.1979.1055985.
6. Смит, Джоэл Г. (1971). «Информационная емкость склер-гауссовых каналов с ограничениями по амплитуде и дисперсии». Информация и управление . 18 (3): 203–219. doi :10.1016/S0019-9958(71)90346-9.
7. Хуан, Дж.; Мейн, С. П. (2005). «Характеристика и вычисление оптимальных распределений для канального кодирования». Труды IEEE по теории информации . 51 (7): 2336–2351. doi :10.1109/TIT.2005.850108. ISSN  0018-9448. S2CID  2560689.
8. Маккеллипс, АЛ (2004). "Простые строгие границы пропускной способности для дискретного канала с ограничением по пикам". Международный симпозиум по теории информации, 2004. ISIT 2004. Труды . IEEE. стр. 348. doi :10.1109/ISIT.2004.1365385. ISBN 978-0-7803-8280-0. S2CID  41462226.
9. Летиция, Нунцио А.; Тонелло, Андреа М.; Пур, Х. Винсент (2023). «Кооперативное обучение пропускной способности канала». IEEE Communications Letters . 27 (8): 1984–1988. arXiv : 2305.13493 . doi : 10.1109/LCOMM.2023.3282307. ISSN  1089-7798.
10. Дэвид Це, Прамод Вишванат (2005), Основы беспроводной связи, Cambridge University Press, Великобритания, ISBN 9780521845274
11. Справочник по электротехнике. Ассоциация исследований и образования. 1996. стр. D-149. ISBN 9780878919819.
12. Мэсси, Джеймс (ноябрь 1990 г.). «Причинность, обратная связь и направленная информация» (PDF) . Proc. 1990 Int. Symp. On Information Theory and Its Applications (ISITA-90), Waikiki, HI. : 303–305.
13. Шеннон, К. (сентябрь 1956 г.). «Нулевая пропускная способность канала с шумом». Труды IEEE по теории информации . 2 (3): 8–19. doi :10.1109/TIT.1956.1056798.
14. Пермутер, Хаим; Кафф, Пол; Ван Рой, Бенджамин; Вайсман, Цахи (июль 2008 г.). «Пропускная способность канала с люком и обратной связью» (PDF) . IEEE Trans. Inf. Theory . 54 (7): 3150–3165. arXiv : cs/0610047 . doi :10.1109/TIT.2008.924681. S2CID  1265.
15. Элишко, Охад; Пермутер, Хаим (сентябрь 2014 г.). «Пропускная способность и кодирование для канала Изинга с обратной связью». Труды IEEE по теории информации . 60 (9): 5138–5149. arXiv : 1205.4674 . doi : 10.1109/TIT.2014.2331951. S2CID  9761759.
16. Ахарони, Зив; Сабаг, Орон; Пермутер, Хаим Х. (сентябрь 2022 г.). «Емкость обратной связи каналов Изинга с большим алфавитом с помощью обучения с подкреплением». Труды IEEE по теории информации . 68 (9): 5637–5656. doi :10.1109/TIT.2022.3168729. S2CID  248306743.
17. Пермутэр, Хаим Генри; Вайсман, Цахи; Голдсмит, Андреа Дж. (февраль 2009 г.). «Конечные каналы с инвариантной во времени детерминированной обратной связью». Труды IEEE по теории информации . 55 (2): 644–662. arXiv : cs/0608070 . doi : 10.1109/TIT.2008.2009849. S2CID  13178.