Въпросът, който Тюринг замени
В урок 2 хронологията започна от 1950 г. и статията на Алън Тюринг. Тя започва с изречението „Предлагам да разгледаме въпроса: могат ли машините да мислят?“. Веднага след това Тюринг се отказва от него — счита го за твърде неясен. Какво значи „мисли“? Няма как да се провери. Затова го заменя с друг въпрос, който може да се провери: може ли машина да води разговор така, че човек отсреща да не разбере, че говори с машина.
Тази замяна е важна и днес. Въпросът „мисли ли машината“ води до спорове без край. Въпросът „различава ли се поведението ѝ от човешкото“ има отговор, който може да се измери. В този урок ще видите какво точно измерва тестът, какво не измерва и защо това е важно, когато четете новини за AI.
Как протича тестът
Тест на Тюринг
Съдия разговаря писмено с двама скрити събеседници — човек и машина. Ако след разговора съдията не може да познае кой е машината по-добре, отколкото със случайно налучкване, машината е издържала теста.
- Съдията задава въпроси на А и Б — каквито поиска: за времето, за стихове, за детството, за аритметика.
- И двамата отговарят писмено. Човекът е инструктиран да бъде себе си; машината — да изглежда като човек.
- След определено време съдията казва кой е машината.
- Опитът се повтаря с много съдии. Ако машината е разпозната не по-често от случайно, тя минава.
Какво измерва тестът и какво не
- Измерва: дали поведението на машината в писмен разговор е неразличимо от човешкото. Това е проверимо, повторимо и не зависи от мнение.
- Не измерва: дали машината разбира какво казва, дали има съзнание или чувства. Тестът нарочно заобикаля тези въпроси.
- Не измерва: дали машината е полезна. Програма за шах, която побеждава световния шампион, се проваля на теста — не може да разговаря. Чатбот, който минава теста, може да не умее да събира дроби.
- Може да бъде излъган: машината минава, ако се преструва добре — прави правописни грешки, увърта, сменя темата. Това измерва умение за имитация, не интелигентност.
Слаб (тесен) и силен (общ) AI
Когато медиите пишат „AI“, обикновено смесват две много различни неща:
| Слаб (тесен) AI | Силен (общ) AI | |
|---|---|---|
| Какво умее | Една задача или тясна група задачи | Всяка умствена задача, която човек може |
| Пример | Шах, превод, разпознаване на лица, чатбот | Няма — не съществува |
| Пренася ли се умението | Не — програмата за шах не играе дама | Да — учи нова задача като човек |
| Разбира ли какво прави | Не — пресмята най-вероятния изход | Това е част от определението |
| Състояние | Навсякъде около вас | Цел на изследвания и тема на спорове |
Всичко, което сте проучвали в урок 3, е тесен AI (narrow AI): модел за една задача, който извън нея е безполезен. Навигацията не разпознава лица; моделът за рентгенови снимки не превежда. Дори чат асистентът, който изглежда универсален, е обучен за една задача — да продължи текста по най-вероятния начин — и всичко останало е следствие от нея.
Общ AI (artificial general intelligence, AGI) е система, която се справя с всяка умствена задача като човек, включително с нови, невиждани задачи. Такава система не съществува. Дали и кога ще бъде построена, е открит въпрос, по който сериозните учени не са съгласни помежду си — а това е сигурен знак, че всеки, който твърди, че знае отговора, продава нещо.
Митове и реалност
| Мит | Реалност |
|---|---|
| „Чатботът разбира какво му казвам.“ | Пресмята най-вероятното продължение на текста. Резултатът често е неразличим от разбиране — но греши по начини, по които разбиращ човек не би сгрешил. |
| „AI е обективен, защото е математика.“ | Моделът повтаря примерите си. Ако те са едностранчиви, изходът е едностранчив — с математическа точност. |
| „AI учи сам от всеки разговор.“ | Повечето модели са замразени след обучението. Разговорът с вас не ги променя; „учат“ само когато създателите ги обучат отново. |
| „Щом мина теста на Тюринг, значи мисли.“ | Тестът измерва поведение в разговор. Не казва нищо за разбиране или съзнание. |
| „AI скоро ще може всичко.“ | Всяка съществуваща система е тесен AI. Общият AI е хипотеза, не продукт. |
Какво трябва да запомниш
- Тюринг заменя неясния въпрос „мисли ли машината“ с проверим: различимо ли е поведението ѝ от човешкото в писмен разговор.
- Тестът измерва поведение. Не измерва разбиране, съзнание или полезност и може да бъде излъган с имитация.
- Днешните чатботове минават разговорния вариант; затова минаването му вече не значи много.
- Тесен (слаб) AI решава една задача и не пренася умението си; всичко съществуващо е тесен AI.
- Общ (силен) AI би решавал всяка умствена задача като човек; не съществува и е предмет на спорове.
- Проверка за новина: заменете „AI“ с „модел, обучен върху Х, който по вход Y дава изход Z“.