Теория информации

Вики

Клод Шеннон

/

Клод Шеннон Ранние годы и образование Клод Шеннон родился в 1916 году в семье инженера и учительницы.  В детстве проявлял […]

Вики

Расстояние уникальности

/

Расстояние уникальности Определение расстояния уникальности Расстояние уникальности — это длина зашифрованного текста, необходимая для однозначной расшифровки.  Клод Шеннон ввел понятие

Вики

Источник сообщения

/

Источник связи Определение источника и передатчика Источник — это объект, который кодирует данные и передает информацию.  Передатчик — это устройство

Вики

Релейный канал

/

Ретрансляционный канал Основы ретрансляционного канала Ретрансляционный канал — вероятностная модель связи с промежуточными узлами.  Канал без памяти с дискретным временем

Вики

Прагматическая теория информации

/

Прагматическая теория информации Основы прагматической теории информации Прагматическая теория информации основана на идеях Чарльза Сандерса Пирса.  Пирс исследовал «законы информации»

Вики

Информационный контент

/

Информационное наполнение Определение информации Информация — это уменьшение неопределенности.  Информация измеряется в битах.  Примеры информации Информация о том, что кубик

Вики

Канал связи

/

Канал связи Основы теории связи Теория связи изучает передачу информации через различные каналы.  Каналы связи могут быть физическими или виртуальными,

Вики

Количество информации

/

Огромное количество информации Основы теории информации Информация — это уменьшение неопределенности, связанное с уменьшением энтропии.  Энтропия — это мера неопределенности,

Вики

Избыточность (теория информации)

/

Избыточность (теория информации) Определение избыточности Избыточность измеряет разницу между энтропией и максимально возможным значением.  Избыточность описывает объем неиспользованного пространства для

Вики

Экспонента ошибки

/

Показатель погрешности Основы теории информации Теория информации изучает передачу информации через каналы связи.  Информация измеряется в битах, а канал связи

Вики

Гарри Найквист

/

Гарри Найквист Личная жизнь и образование Гарри Найквист родился в Швеции и эмигрировал в США в 1907 году.  Получил образование

Вики

Свойство асимптотического равнораспределения

/

Свойство асимптотического равномерного распределения Определение и свойства асимптотического равномерного распределения Асимптотическое равномерное распределение описывает сходимость энтропии к постоянной величине.  Энтропия

Вики

Предельная плотность дискретных точек

/

Предельная плотность дискретных точек Основы теории информации Энтропия: мера неопределенности распределения вероятностей.  Дифференциальная энтропия: формула Шеннона для непрерывного распределения.  Условная

Вики

Уровень энтропии

/

Коэффициент энтропии Основы энтропии Энтропия — это функция, которая измеряет сложность случайного процесса.  Условная энтропия стремится к скорости энтропии при

Вики

Условная взаимная информация

/

Conditional mutual information Определение и свойства взаимной информации Взаимная информация — это мера зависимости между двумя случайными переменными.  Она измеряется

Вики

Направленная информация

/

Направленная информация Определение и свойства направленной информации Направленная информация — это мера зависимости между двумя переменными, которая учитывает предыдущие значения. 

Прокрутить вверх