Вече сте го ползвали днес
Преди да влезете в час, най-вероятно сте отключили телефона с лице, получили сте препоръка за видео, а картата ви е казала колко минути е до училище при сегашния трафик. Три обучени модела преди първия час. Изкуственият интелект не е нещо, което „предстои“ — той е вграден в програмите, които ползвате, без да го забелязвате.
В урок 1 видяхте, че всяко такова приложение има вход, изход и модел по средата. Днес ще приложите тази схема към пет области от живота, а после — към едно конкретно приложение, което сами ще проучите и представите. Във всяка област ще питаме две неща: какво прави и къде спира.
Пет области
Бит
Отключване с лице, гласов асистент, търсене на „плаж“ в снимките, спам филтър, автоматично довършване при писане. Входът е снимка, звук или текст; изходът е етикет или следваща дума.
Къде спира: разпознаването на лице може да се подведе от близнак или от лошо осветление; гласовият асистент чува „запази бележка“ и записва „запази беле“. При грешка последицата е дребна — затова тези приложения са навсякъде.
Транспорт
Навигацията предвижда трафика по данни от милиони телефони; колите разпознават ленти и пешеходци и спират сами; напълно автономни автомобили се изпитват в ограничени зони на някои градове.
Къде спира: моделът е обучен върху ситуации, които е виждал. Сняг върху маркировката, необичаен камион или полицай, който регулира с ръка, са извън тези ситуации. Затова законът изисква човек зад волана почти навсякъде.
Медицина
Модели откриват съмнителни участъци на рентгенови снимки и изследвания на кожата; часовникът предупреждава за необичаен сърдечен ритъм. При някои тесни задачи точността е сравнима с тази на специалист.
Къде спира: моделът вижда само снимката, не и пациента — не знае какво е казал човекът и какви лекарства взема. Обучен върху снимки от една болница, може да греши върху апарат от друга. Решението и отговорността остават при лекаря.
Образование
Машинен превод, чат асистент, който обяснява задача, приложения, които подбират следващото упражнение според грешките ви, автоматична проверка на тестове.
Къде спира: чат асистентът произвежда убедителен текст, който може да е грешен — и не знае, че е грешен. Проверката е ваша. Урок 28 е точно за това.
Изкуство
Генериране на изображения по описание, музика по стил, текст по зададена тема; премахване на шум от стари записи; оцветяване на черно-бели филми.
Къде спира: моделът е обучен върху творби на реални хора, често без тяхно съгласие — кой е авторът на резултата, е открит спор. Генерираните ръце имат шест пръста, а текстът върху картината е безсмислен, защото моделът повтаря видяното, без да разбира какво рисува.
Къде спира — общите причини
Ограниченията в петте области се повтарят. Всяко от тях следва от начина, по който моделът е направен — от примери:
| Ограничение | Защо съществува | Пример |
|---|---|---|
| Работи само върху познатото | Моделът е обучен върху определени примери; извън тях гадае | Кола в сняг; снимка от друг апарат |
| Не разбира контекста | Вижда само входа — снимката, текста — а не ситуацията | Рентген без историята на пациента |
| Греши уверено | Изходът е винаги някакъв отговор, без знак, че е несигурен | Чат асистент измисля несъществуващ източник |
| Наследява пристрастия | Ако примерите са едностранчиви, моделът ги повтаря | Разпознаване на лица, което греши повече при някои групи |
| Не носи отговорност | Моделът не може да бъде питан „защо“ и не отговаря за грешката | Лекарят подписва, не програмата |
Как да прецените едно приложение
Когато четете за „AI, който прави Х“, задайте същите три въпроса от урок 2 плюс един нов:
- Каква точно задача решава — вход и изход. „AI в медицината“ не е задача; „по рентгенова снимка на гръден кош отбелязва участъци, подозрителни за пневмония“ — е.
- С какви данни е обучен — откъде са примерите и на какво приличат.
- Как е измерено, че се справя — с какво число и върху какви случаи.
- Кой носи отговорност при грешка — има ли човек, който проверява, и какво става, ако няма.
Какво трябва да запомниш
- AI е вграден в ежедневни програми: отключване, препоръки, навигация, превод, проверка на снимки.
- Във всяка област моделът решава тясна задача с вход и изход; извън примерите, по които е обучен, той гадае.
- Общите ограничения: работи само върху познатото, не разбира контекста, греши уверено, наследява пристрастия, не носи отговорност.
- Колкото по-скъпа е грешката (медицина, транспорт), толкова по-задължителен е човекът, който проверява.
- Проучването на приложение отговаря на четири въпроса: задача, данни, измерване, отговорност.