Три различни въпроса
„Може ли така?“ има три отговора: технически (възможно ли е), правен (позволено ли е) и етичен (редно ли е). Те не съвпадат. Днес се занимаваме с последните два.
Лични данни
Лични данни
Всяка информация, по която едно лице може да бъде идентифицирано — пряко или косвено: име, снимка, глас, IP адрес, номер на ученик, комбинация от признаци.
- Обработват се само с основание — съгласие, закон, договор.
- Събира се само необходимото и се пази само толкова, колкото трябва.
- Човекът има право да знае какви данни се събират, да поиска копие и заличаване.
- Биометричните данни — лице, глас, пръстов отпечатък — са в специална, по-строго защитена категория.
Практическото правило за курса
Каквото напишете в промпт, отива на чужд сървър. Не поставяйте имена на съученици, оценки, здравна информация, адреси, снимки на хора. За проектите — измислени или обезличени данни.
Обезличаването не е магия
Махането на имената често не стига. „Ученик от 11.б, който свири на цигулка и живее във Ветрен“ е идентифицируем. При малки групи от хора анонимността се разпада бързо.
Авторско право
Върху обучаващите данни
Моделите са обучени върху текстове и изображения, повечето от които имат автори. Съдебните спорове по света са десетки и практиката още се оформя. Едно е ясно: наличието на нещо в интернет не значи, че е свободно за всякаква употреба.
Върху генерираното
В повечето правни системи авторско право възниква за човешко творчество. Изцяло генерирано изображение обикновено не получава закрила — тоест не е „ваше“ в правния смисъл, макар да сте написали промпта. Условията на конкретната услуга уреждат отделно какво можете да правите с изхода.
Пряко копиране
Понякога моделът възпроизвежда почти дословно текст или стил от обучението си. Ако публикувате такъв изход, отговорността е ваша, не на модела.
Европейският регламент за изкуствен интелект
Регламент (ЕС) 2024/1689 подрежда системите по риск от употребата им и въвежда задължения според нивото.
| Ниво | Примери | Какво изисква |
|---|---|---|
| Недопустим | социално оценяване от държава, разпознаване на емоции на работното място и в училище | забранено |
| Висок риск | подбор на кадри, кредитиране, достъп до образование, критична инфраструктура | оценка на риска, качество на данните, документация, човешки надзор |
| Ограничен риск | чатботове, генератори на съдържание | потребителят да знае, че говори с машина; генерираното да е обозначено |
| Минимален | филтър за спам, препоръки, игри | няма специални изисквания |
Защо това ви засяга
Разпознаването на емоции на ученици в клас е сред забранените употреби. Проект, който „познава дали учениците внимават“, не е технически въпрос — той е недопустим.
Отговорност и прозрачност
- Отговорността е на човека и на организацията, която използва системата — не на модела.
- Потребителят трябва да знае, че си взаимодейства с AI.
- При решения с последици за човек трябва да има обяснение и възможност за обжалване пред човек.
- В училищна работа употребата на AI помощник се обявява — какво е направено с него и какво от вас.