Интерактивен учебник по информатика

Най-малкото нещо, което се учи от примери

В миналия урок казахме, че правилото се извлича от примери. Но какво точно е „правило, което може да се променя“? Трябва ни нещо, което има числа за въртене — като копчета, — и което дава различен отговор при различни положения на копчетата.

През 1943 г. двама изследователи описват опростен модел на мозъчна клетка: тя получава сигнали, претегля ги и се „възбужда“, ако сборът мине определена граница. През 1958 г. Франк Розенблат построява машина по този модел и я нарича перцептрон. Копчетата му се наричат тегла.

Изкуственият неврон: умножение, събиране и една проверка накрая.

Какво прави невронът

Всеки вход xᵢ се умножава по своето тегло wᵢ. Голямо тегло — входът е важен; отрицателно тегло — входът „дърпа“ към отговор 0.
Произведенията се събират и се добавя отместването b. Получава се претеглената сума z.
Сумата се сравнява с прага: ако z > 0, изходът е 1, иначе 0. Това се нарича стъпкова активация.

z = w₁·x₁ + w₂·x₂ + … + b
y = 1, ако z > 0
y = 0, ако z ≤ 0

Перцептрон

Неврон с числови входове, по едно тегло за всеки вход, отместване и стъпкова активация. Единствените неща, които могат да се променят, са теглата и отместването — те са „правилото“.

Пример: да взема ли чадър

Три входа, всеки 0 или 1: x₁ = облачно е, x₂ = прогнозата дава дъжд, x₃ = вече вали. Тегла w = (1, 2, 3), отместване b = −2.

Облачно и прогноза за дъжд, но още не вали: x = (1, 1, 0). Сумата е 1·1 + 2·1 + 3·0 − 2 = 1, а 1 > 0, значи изходът е 1 — вземете чадър. Само облачно: 1 − 2 = −1, изход 0. Отместването е „колко трябва да се съберат доводи, преди да кажа да“.

Невронът е линеен разделител

При два входа условието w₁x₁ + w₂x₂ + b > 0 описва половин равнина. Границата ѝ е права. Тоест перцептронът прекарва една права през координатната система и казва „от тази страна е 1, от другата — 0“.

Четирите възможни входа при два двоични входа. За И една права отделя (1,1) от останалите. За XOR единиците са по диагонал — никоя права не ги отделя от нулите.

И и ИЛИ като перцептрон

Логическото И дава 1 само при (1, 1). С тегла (1, 1) и отместване −1 сумата е над нула само когато и двата входа са 1: 1 + 1 − 1 = 1. За всяка друга двойка сумата е 0 или −1.

За ИЛИ трябва 1 при поне един вход 1. Стигат същите тегла (1, 1) и отместване 0. Едно число разделя И от ИЛИ — отместването казва колко „доводи“ трябват.

Задачата, която го поваля

Изключващото ИЛИ (XOR) дава 1, когато входовете са различни: (0, 1) и (1, 0) → 1, а (0, 0) и (1, 1) → 0. Единиците са по единия диагонал, нулите — по другия. Не съществува права, която да ги раздели. Колкото и да въртите теглата, поне един от четирите входа ще е грешен.

През 1969 г. Мински и Пейпърт публикуват точно това доказателство. Интересът към невроните спада за години — първата от зимите на изкуствения интелект, за които говорихме в урок 2.

Какво трябва да запомниш

Перцептронът умножава входовете по тегла, събира ги с отместването и сравнява сумата с прага: над нула → 1, иначе → 0.
Теглата и отместването са правилото; сменят ли се, сменя се и отговорът.
Геометрично невронът е права (при два входа), която дели равнината на „1“ и „0“ — линеен разделител.
И и ИЛИ се решават с един неврон; разликата между тях е само в отместването.
XOR не се решава с един неврон — единиците и нулите са по диагонали и права не ги отделя.