Реферат на тему Математическая теория коммуникации К.Шеннона

Содержание:

ВВЕДЕНИЕ 4

1       КЛАССИФИКАЦИЯ СИСТЕМ СВЯЗИ

1.1 Понятие системы связи7

     1.2 Виды каналов передачи информации8

2       ТЕОРЕМЫ ШЕННОНА

2.1 Формулы Шеннона10

     2.2 Основные теоремы11

3       МОДЕЛЬ ШЕННОНА-УИВЕРА

3.1 Основное понятие13

     3.2 Жизненная модель15

ЗАКЛЮЧЕНИЕ17

СПИСОК ИСПОЛЬЗУЕМЫХ ИСТОЧНИКОВ19

Введение:

В статье Иона Джеймса (журнал «Биографические воспоминания стипендиатов Королевского общества») Клод Э́лвуд Ше́ннон (англ. Claude Elwood Shannon; 30 апреля 1916, Петоски, Мичиган, США — 24 февраля 2001, Медфорд, Массачусетс, США) характеризуется как игривый гений, который изобрел бит, отделил носитель от сообщения и заложил основы для всех цифровых коммуникаций. Он в одиночку заложил общие правила современной теории информации, создав математические основы для технической революции. Без его ясной мысли и постоянной способности пробиваться через трудноразрешимые проблемы такие достижения, как электронная почта и Всемирная паутина, были бы невозможны.[1]

Уо́ррен Уи́вер (англ. Warren Weaver; 17 июля 1894, Ридсбург, Висконсин, США — 24 ноября 1978, Нью-Милфорд, Коннектикут, США) — американский математик, основоположник машинного перевода. Уивер является соавтором Шеннона, вместе они в 1949 году написали «Математическую теорию коммуникации», обосновывающую принципы передачи информации. В своей книге авторы фокусируются на решении проблем кодирования информации.

К. Шеннон был известным американским математиком, инженером и криптоаналитиком. На его теории информации основываются высокотехнологичные системы связи. Современные коммуникационные технологии используют фундаментальные понятия, математические идеи и формулировки, выдвинутые ученым в середине 20 века.

Фундаментальный труд «Математическая теория связи» Клода Шеннона был опубликован в 1948 году в реферативном журнале телефонной компании «Bell System». В статье ученый обобщил идеи Р. Хартли и Г. Найквиста, ввел термин единицы информации «бит», предложенный Джоном Тьюки.

В своей статье Шеннон определил понятие информационной энтропии (термин был предложен Джоном Фон Нейманом), как оценку среднего количества информации на символ источника при отсутствии информационных потерь. Это неопределенность некоторой системы в общем случае, и непредсказуемость появления какого-либо символа первичного алфавита, в частности.

Согласившись с Р. Харли, Клод Шеннон предложил описывать меру информации при помощи логарифмической функции: «Логарифмическая мера удобна по следующим причинам:

·                   Она удобна практически. Параметры, важные в инженерных приложениях, такие как время, пропускная способность, число переключателей и так далее обычно меняются линейно при логарифмическом изменении числа возможных вариантов. К примеру, добавление одного переключателя удваивает число возможных состояний их группы, увеличивая на единицу его логарифм по основанию 2. Увеличение в два раза времени приводит к квадратичному росту числа сообщений, или удвоению их логарифма, и так далее.

·                   Она близка к нашему интуитивному представлению о такой мере. Это тесно связано с предыдущим пунктом, так как мы интуитивно измеряем величины, линейно сравнивая их со стандартами. Так, нам кажется, что на двух перфокартах можно разместить в два раза больше информации, а по двум одинаковым каналам - передать ее в два раза больше.

·                   Она удобна математически. Многие предельные переходы просты в логарифмах, в то время как в терминах числа вариантов они достаточно нетривиальны».[2]

Заключение:

«Проблемы коммуникации, коммуникативного воздействия и взаимодействия волновали человечество, вероятно, с самого начала его существования. Особое внимание при этом уделялось вербальному общению. То, что люди издревле осознавали силу слова, подтверждают давно устоявшиеся в языке речевые тропы. «Магия слова» может и творить чудеса, и «ранить как меч»».[1]

Чтобы оценить сильные и слабые стороны математической теории коммуникации Шеннона-Уивера, ее графическое представление можно привести к модифицированному виду, представленному на рисунке 7.

Рисунок 7. – Модель коммуникации Шеннона-Уивера (модифицированное графическое представление)

Условные обозначения:

Е — энтропия, пространство информационных выборов; S — коммуникатор – субъект-источник информации; М1 — исходное сообщение источника; TR — передатчик; СD — кодирование; М2 — отправленный сигнал, закодированное сообщение на входе в канал; Ch — канал; М3 — сигнал на выходе из канала (принятый сигнал); R1 — приемник; DC — декодирование; M4 — декодированное (воспринятое реципиентом) сообщение; RC — реципиент – субъект-получатель информации; N1 — семантический шум источника; N2 — механический шум канала; N3 — семантический шум получателя.

По словам Шеннона-Уивера, существуют три степени проблем с коммуникацией. Это:

1.                Техническая проблема — проблема вызвана каналом.

2.                Семантическая проблема — значение сообщения неправильно понято получателем.

3.                Проблема эффективности — как эффективно сообщение вызывает реакцию у адресата.

Преимущества модели Шеннона-Уивера заключаются в следующем:

·                   Понятие шума помогает сделать общение эффективнее, убрав источник шума или техническую неисправность, вызывающую помехи.

·                   Модель включает и обратную связь, а значит, ее можно применить к любому виду переговоров или коммуникаций.

·                   Коммуникация имеет математическую оценку в модели Шеннона-Уивера.

«Сообщения (точнее, их коды) поступают из источника через канал связи (с возможными помехами) в приемник информации. Эти сообщения изменяют систему знаний (тезаурус) приемника, уменьшая уровень его неопределенности, измеряемый энтропией. Среднее количество информации определяется уменьшением энтропии приемника в результате изменения его представлений о распределении вероятных состояний источника», — писал Клод Элвуд Шеннон.

Фрагмент текста работы:

1                   КЛАССИФИКАЦИЯ СИСТЕМ СВЯЗИ

«В различных научных отраслях, под информацией понимается то сообщение, которое уменьшает или снимает неопределенность (Клод Шеннон). Неопределенность понимается Шенноном как затруднения в идентификации знечения сообщения, непонимание или невозможность идентифицировать сигнал».[1]

1.1 Понятие системы связи

Под системой связи Шеннон понимает изображенную на рисунке 1 систему, состоящую из 5 частей:

Рисунок 1. – Схематическое изображение общей системы связи

1.                Источник информации, выдающий одно или несколько сообщений, которые могут состоять из: последовательности букв (телеграфная система); некоторой функции времени (телефонная связь); функции времени и других переменных (телевидение); нескольких функций времени («трехмерный звук» или несколько сигналов одновременно); нескольких функций от нескольких переменных (передача цветного телевизионного сигнала).

2.                Передатчик, который преобразует сигнал до пригодного для передачи через линию связи. Например, в электрический сигнал при телефонии; кодировка сигнала в последовательность точек, тире и пробелов для телеграфной линии связи; РСМ-системы, вокодеры, телевидение и частотная модуляция, подвергающие сообщения более сложным преобразованиям, чтобы сформировать сигнал.

3.                Канал, то есть среда, в которой сигнал передается от передатчика к приемнику (например, световой луч, радиоволна, пара проводов или коаксильный кабель, состоящий из центрального проводника и экрана).

4.                Приемник, восстанавливающий сообщения из сигнала.

5.                Пункт назначения, которым является человек или устройство, для кого предназначено сообщение.