Системы счисления и количество информации

Степени чисел 2, 4, 8

Степени 2

Степени 4

Степени 8

2⁰ = 1;

2¹ = 2;

2² = 4;

2³ = 8;

2⁴ = 16;

2⁵ = 32;

2⁶ = 64;

2⁷ = 128;

2⁸ = 256;

2⁹ = 512;

2¹⁰ = 1024;

4⁰ = 1;

4¹ = 4;

4² = 16;

4³ = 64;

4⁴ = 256;

4⁵ = 1024;

8⁰ = 1;

8¹ = 8;

8² = 64;

8³ = 512;

8⁴ = 4096;

Системы счисления

Система счисления - это знаковая система, в которой приняты определенные правила записи чисел. Знаки, с помощью которых записываются числа, называются цифрами, а их совокупность - алфавитом системы.

Системы счисления делятся на позиционные и непозиционные. Система счисления называется непозиционной, если количественное значение цифры в числе не зависит от её положения в записи. Система счисления называется позиционной, если количественное значение цифры в числе зависит от её положения(позиции) в записи числа. Основание позиционной системы счисления равно количеству цифр, составляющих её алфавит.

Основанием позиционной системы счисления может быть любое натуральное число . Алфавитом системы счисления с произвольным основанием q служат числа 0, 1, …, q-1, каждое из которых может быть записано с помощью одного символа.

В позиционной системе счисления с основанием q любое число может быть представлено в виде:

A - число;

q - основание системы счисления;

a_i - цифры, принадлежащие алфавиту данной системы счисления;

n - количество целых разрядов в числе;

m - количество дробных разрядов в числе;

qⁱ - «вес» i-ого разряда.

2-ая система

4-ая система

8-ая система

Алфавит системы

{0,1}

{0,1,2,3}

{0,1,2,3,4,5,6,7}

Кодирование

Пример 1: Переведем число 43 в 2-ую систему

_-43 2

42 _-21 2

1 20 _-10 2

1 10 _-5 2

0 4 _-2 2

1 2 1

0

остатки записываются с конца, поэтому:

43₁₀ = 101011₂

Пример 2: Переведем число 43 в 4-ую систему

_-43 4

40 _-10 4

3 8 2

2

остатки записываются с конца, поэтому:

43₁₀ = 223₄

Пример 3: Переведем число 87 в 8-ую систему

_-87 8

80 _-10 8

7 8 1

2

остатки записываются с конца, поэтому:

87₁₀ = 127₈

Декодирование

Пример 4: Переведем число 1011101₂ в 10-ую систему счисления

3210

654 3210

1011101₂ =

Пример 5: Переведем число 2031₄ в 10-ую систему счисления

210

2031₄ =

Пример 6: Переведем число 275₈ в 10-ую систему счисления

275₈ =

Двоичная арифметика

В арифметике двоичной системы счисления действуют следующие правила:

1. 0 + 0 = 0; 2) 0 + 1 = 1 + 0 = 1; 3) 1 + 1 = 0 (1 переносится в следующий разряд);

4) 0 - 0 = 0; 5) 0 - 1 = 1 (взять 2 из большего разряда); 6) 1 - 0 = 1; 7) 1 - 1 = 0;

8) 0 * 0 = 0; 9) 0 * 1 = 1 * 0 = 0; 10) 1 * 1 = 1.

Пример 7: Вычислить сумму, разность и произведение чисел 110100₂ , 100₂.

₊110100 _{_}110100 _*110100

100 100 100

111000 110000 11110100

Ответ: 111000₂, 110000₂, 11110100₂.

Кодирование числовой информации в компьютере

Числа в компьютере представляются в виде двоичного кода. Существует два основных способа кодирования:

1. построение прямого кода;

2. построение дополнительного кода.

Будем рассматривать случай 8-битного кодирования (т.е. каждая цифра кодируется последовательностью из 8 нулей и единиц).

Знак числа

число

В полученном коде первый разряд отвечает за знак числа (0 ставится, когда число положительное, а 1 когда число отрицательное). В оставшиеся семь разрядов записывается код числа, который зависит от выбранного способа кодирования.

1. Построение прямого кода

Прямой код строится как для положительных, так и для отрицательных чисел. Для этого необходимо перевести число из 10-ой в 2-ую систему счисления, а также если останутся незаполненные разряды, то их надо заполнить нулями.

Пример 8: Постройте прямой код числа -54.

1. Построить двоичный код числа без знака

_-54 2

54 _-27 2

0 26 _-13 2

1 12 _-6 2

1 6 _-3 2

0 2 1

1

54₁₀ = 110110₂

2. Построим прямой код: 1 0 1 1 0 1 1 0

Ответ: 10110110.

2. Декодирование прямого кода

Для декодирования прямого кода необходимо сделать следующий набор действий:

1. Посмотреть на первый разряд и определить знак числа;

2. Оставшийся двоичный код (без первого разряда) декодировать из 2-ой системы в десятичную систему счисления.

Пример 9: Определите число, которое соответствует прямому коду 00110111.

54 3 210В первом разряде числа стоит 0, следовательно число положительное

1. 110111₂ =

Ответ: Прямому коду 00110111 соответствует число 55.

3. Построение дополнительного кода

Дополнительный код строится только для отрицательных чисел. Для построения дополнительного кода необходимо сделать следующий набор действий:

1. Построить прямой код для числа без знака;

2. Сделать инверсию (замена 0 на 1, 1 на 0);

3. Прибавить 1 к полученному двоичному числу.

Пример 10: Постройте дополнительный код числа -54.

1. Построить прямой код числа без знака

_-54 2

54 _-27 2

0 26 _-13 2

1 12 _-6 2

1 6 _-3 2

0 2 1

1

Построим прямой код: 0 0 1 1 0 1 1 0

2. Сделаем инверсию: 0 0 1 1 0 1 1 0 ⇔ 1 1 0 0 1 0 0 1

3. Прибавим 1:

₊11001001

1

11001010 Дополнительный код: 1 1 0 0 1 0 1 0

Ответ: 11001010.

4. Декодирование дополнительного кода

Для декодирования дополнительного кода необходимо сделать следующий набор действий:

1. Вычесть 1 от дополнительного кода;

2. Сделать инверсию (замена 0 на 1, 1 на 0);

3. Декодировать полученную двоичную последовательность в 10-ую систему счисления.

Пример 11: Определите число, которое соответствует дополнительному коду 10101001.

1. Вычтем 1:

_-10101001

1

10101000

654 3 210Сделаем инверсию: 1 0 1 0 1 0 0 0 ⇔ 0 1 0 1 0 1 1 1

2. 1010111₂ =

Ответ: Дополнительному коду 10101001 соответствует число -87.

Количество информации

1. Единицы измерения количества информации

В вычислительной технике используются две стандартные единицы измерения количества информации: бит и байт.

Бит - минимальная единица измерения количества информации, равная одному двоичному разряду.

Байт - минимальная единица измерения количества информации в памяти компьютера, равная 8 бит.

Для больших объемов информации используются производные единицы измерения:

1 б (байт) = 8 бит (8 двоичных разрядов);

1 Кб (килобайт) = 2¹⁰ б = 1024 б;

1 Мб (мегабайт) = 2²⁰ б = 1024 Кб;

1 Гб (гигабайт) = 2³⁰ б = 1024 Мб;

1 Тб (терабайт) = 2⁴⁰ б = 1024 Гб;

1 Пб (петабайт) = 2⁵⁰ б = 1024 Тб.

Существует несколько подходов к измерению количества информации. Рассмотрим два из них: алфавитный и вероятностный подходы.

2. Алфавитный (технический) подход

В технике информацией, как правило, считается любая последовательность знаков или символов. Для определения количества такой информации подсчитывают длину такой последовательности (сообщения), без учета её содержательной (смысловой) части.

Информационным объемом сообщения называется количество двоичных символов, которое используется для кодирования этого сообщения.

Пусть M - количество символов (мощность) алфавита, в котором записано сообщение, тогда информационный объем одного символа в алфавите кодирования (i) находится из формулы

1. M = 2ⁱ ,

а информационный объем сообщения, в записи которого содержатся N символов, находится по формуле

2. I = N.

В случае, когда число M не является степенью 2, вместо M берется ближайшее большее число, которое является степенью 2.

Информационный объём сообщения, выраженный в битах, и минимальное количество разрядов, необходимое для записи сообщения в двоичном алфавите, совпадают. С помощью n двоичных разрядов можно закодировать двоичным кодом все элементы множества мощностью 2ⁿ.

Пример 12. Определите информационный объём слова «разряд», учитывая, что алфавит состоит из 10 букв. Ответ запишите в байтах.

Решение: Длина слова равна 6 (длина считается без кавычек), мощность алфавита равна 10. Из формулы (1) находим информационный объем одного символа. Так как число 10 не является степенью 2, то заменяем его на ближайшую большую степень 2, то есть 16. Получим:

.

После нахождения информационного объема одного символа воспользуемся формулой (2) для нахождения информационного объема всего сообщения:

.

Ответ: 3 байта.

3. Вероятностный подход

Количество информации можно рассматривать ещё как и меру уменьшения неопределенности знания при получении информационных сообщений. Тогда за единицу количества информации принимается такое количество информации, которое содержится в информационном сообщении, уменьшающем неопределенность знания в два раза. Такая единица названа битом.

Вероятность - количественная оценка возможности наступления некоторого события. Пусть N - общее число возможных исходов какого-то процесса, и из них интересующее нас событие может произойти K раз. Тогда вероятность этого события равна K/N. Вероятность выражается в долях единицы.

1. Равновероятностные события

В случае равновероятностных событий для нахождения количества информации используется следующая формула:

Пример 13: В корзине лежат 8 мячей разного цвета (красный, синий, желтый, зелёный, оранжевый, фиолетовый, белый, коричневый). Какое количество информации несёт в себе сообщение о том, что из корзины будет вынут мяч красного цвета?

Решение. Так как возможности вынуть мяч каждого из данных цветов равновероятны, то для определения количества информации, содержащейся в сообщении о выпадении мяча красного цвета, воспользуемся формулой (3):

Ответ: 3 бита.

2. Разновероятностные события

Количество информации для событий с различными вероятностями определяется по формуле:

где I - количество информации, N - количество возможных событий, p_i - вероятность i-ого события.

Пример 14: В корзине лежат 16 мячей разного цвета: 4 красных, 8 синих, 4 желтых. Какое количество информации несёт в себе сообщение о том, что из корзины извлечен один мяч?

Решение. Так как количество мячей различных цветов неодинаково, то вероятности зрительных сообщений о цвете вытянутого мяча различны. Для определения этих вероятностей разделим количество мячей одного цвета на общее количество мячей. Получим:

p_к = 4/16 = 0,25 - вероятность вынуть мяч красного цвета;

p_с = 8/16 = 0,5 - вероятность вынуть мяч синего цвета;

p_ж = 4/16 = 0,25 - вероятность вынуть мяч желтого цвета.

Так как события разновероятностные, то для подсчета количества информации воспользуемся формулой (4):

Ответ: 1,5 бита.

7