stringtranslate.com

нат (единица измерения)

Естественная единица информации (символ: nat ), [1] иногда также nit или nepit , представляет собой единицу информации или информационную энтропию , основанную на натуральных логарифмах и степенях e , а не на степенях 2 и логарифмах по основанию 2 , которые дайте определение Шеннон . Эта единица также известна под своим символом, nat. Один nat — это информационное содержание события, когда вероятность того, что это событие произойдет, равна 1/ e .

Один нат равен1/пер. 2 шеннонс ≈ 1,44 Ш или, что то же самое,1/пер. 10 Хартли ≈ 0,434 Харт. [1]

История

Бултон и Уоллес использовали термин nit в сочетании с минимальной длиной сообщения [2] , который впоследствии был изменен сообществом минимальной длины описания на nat , чтобы избежать путаницы с nit , используемым в качестве единицы яркости . [3]

Алан Тьюринг использовал естественный запрет . [4]

Энтропия

Энтропия Шеннона (информационная энтропия), являясь ожидаемой величиной информации о событии, по своей сути является однотипной величиной и с единицей информации. Международная система единиц , присваивая одну и ту же единицу ( джоуль на кельвин ) как теплоемкости , так и термодинамической энтропии , неявно рассматривает информационную энтропию как величину единичного измерения , при этом 1 nat = 1 . [a] Системы натуральных единиц, которые нормализуют константу Больцмана до 1, эффективно измеряют термодинамическую энтропию с использованием nat в качестве единицы.

Когда энтропия Шеннона записана с использованием натурального логарифма,

Примечания

  1. ^ Это косвенно также делает nat связной единицей информации в SI.

Рекомендации

  1. ^ аб «МЭК 80000-13:2008». Международная электротехническая комиссия . Проверено 21 июля 2013 г.
  2. ^ Бултон, DM; Уоллес, CS (1970). «Программа числовой классификации». Компьютерный журнал . 13 (1): 63–69. дои : 10.1093/comjnl/13.1.63 .
  3. ^ Комли, Дж. В. и Доу, Д. Л. (2005). «Минимальная длина сообщения, MDL и обобщенные байесовские сети с асимметричными языками». В Грюнвальде П.; Мьюнг, Эй Джей и Питт, Массачусетс (ред.). Достижения в минимальной длине описания: теория и приложения. Кембридж: MIT Press. сек. 11.4.1, с.271. ISBN 0-262-07262-9.
  4. ^ Ходжес, Эндрю (1983). Алан Тьюринг: Загадка . Нью-Йорк : Саймон и Шустер . ISBN 0-671-49207-1. ОСЛК  10020685.

дальнейшее чтение