Същите инструменти, друга цел
В урок 27 генерирахте плакат за десет секунди. Същите модели генерират лице, което не съществува, глас, който звучи като на познат човек, и видео, в което някой казва нещо, което никога не е казвал. Технологията е една и съща; разликата е в намерението.
Синтетично съдържание
Изображение, звук или видео, създадено или променено от модел, а не заснето. Когато цели да представи реален човек в измислена ситуация, се нарича дълбок фалшификат (deepfake).
Как се правят, в общи линии
- Изображение от нулата — дифузия (урок 27): от шум към образ, по текстово описание. „Портрет на мъж на 40 години, сив костюм, пресконференция“ е достатъчно.
- Замяна на лице (face swap) — модел, обучен върху много снимки на човека, пренася лицето му кадър по кадър върху чуждо видео.
- Глас — клониране по няколко секунди запис, после моделът чете какъвто текст му подадете.
- Синхрон на устни — модел движи устните във видео така, че да съвпадат с нов звук.
Признаци на генерирано съдържание
| Вид | Къде да гледате | Какво издава |
|---|---|---|
| Изображение | ръце, текст, отражения, фон | грешен брой пръсти; нечетливи надписи; отражение, което не съвпада; повтарящи се или „разтопени“ шарки; асиметрични обици и очила |
| Видео | устни, мигане, ръбове на лицето, светлина | устните не съвпадат със звука; лицето „трепва“ при обръщане; сянката пада в друга посока от останалите |
| Звук | дишане, паузи, редки думи | равен тон без дишане; неестествени паузи; сгрешено произношение на имена и рядко срещани думи |
Защо признаците изчезват
Всеки признак от таблицата е слабост на конкретно поколение модели. Шестте пръста бяха вярни за 2022 г.; днес ръцете обикновено са наред. Всяко ново поколение поправя най-известните дефекти, защото точно тях всички забелязват и критикуват. Списъкът остарява за месеци.
Затова — проверка на източника
Ако не може да се вярва на пикселите, остава въпросът откъде идва материалът. Той не остарява: истинската снимка има история в мрежата, автор, дата и други хора, които са видели същото.
- Обратно търсене на изображение — Google Lens или TinEye: къде другаде се среща снимката и кога се е появила за първи път. Стара снимка с нов надпис е най-честият фалшификат — без никакъв AI.
- Дата — съвпада ли първата поява с твърдяното събитие?
- Кой го публикува — акаунт с история или създаден вчера? Медия с редакция или анонимен профил?
- Други източници — съобщава ли за същото поне един независим източник (агенция, институция, очевидци с различни снимки)?
- Оригиналът — има ли версия с по-високо качество? Изрязаният, размазан кадър е признак за скрит контекст.
Водни знаци и произход на съдържанието
Има и подход отгоре надолу: самите инструменти да отбелязват какво са създали.
- Воден знак — невидим за окото знак, вграден в пикселите или в звука от генератора. Част от услугите го слагат; губи се при изрязване, презаснемане на екрана или силна обработка.
- Стандарт за произход (C2PA, „Content Credentials“) — идеята е файлът да носи подписан етикет: кой го е създал, с какъв инструмент, какви редакции са направени. Като етикет на храна — за съдържанието. Работи само ако камерата, редакторът и сайтът го поддържат и ако никой не го е махнал по пътя.
И двете са полезни, но липсата им не доказва нищо, а наличието им зависи от добрата воля на всеки по веригата. Затова проверката на източника остава основната.
Защо дезинформацията работи
- Емоция — гняв или страх кара хората да споделят, преди да проверят.
- Бързина — фалшивото се разпространява за минути, опровержението — за дни.
- Правдоподобност — най-добрият фалшификат е този, който казва каквото вече вярвате.
- Обем — една реална снимка с грешен надпис е по-ефективна от сто генерирани.
Какво трябва да запомниш
- Синтетично съдържание се прави с дифузия, замяна на лице, клониране на глас и синхрон на устни — с обикновени инструменти.
- Признаците (ръце, текст, отражения, устни, дишане) са слабости на конкретно поколение и изчезват с времето.
- Детекторите грешат в двете посоки.
- Надеждната проверка е на източника: обратно търсене, дата, кой публикува, други източници.
- Водни знаци и стандарти за произход помагат, но липсата им не доказва нищо.
- Силната емоция е сигнал за проверка, не за споделяне.