На 30 юли 2025 г. от медийни съобщения в Германия стана известно, че германският федерален министър на вътрешните работи Александър Добриндт (ХСС) проучва въвеждането и използването от полицията в различни провинции на софтуера Gotham ("Готъм" - измисленият град, в който живее Батман) за разкриване на престъпления на американската компания Palantir. Софтуерът Gotham се използва от полицията и разузнавателните служби за свързване и анализ на големи количества данни от различни източници. Това позволява например разпознаването на лица и разкриването на връзки между хора и събития. Той е предназначен за подпомагане на разследвания и предотвратяване на престъпления.
На 14 август 2025 г. анализа на Симон Дитхелм Майер*, озаглавен "Откриване на престъпници с изкуствен интелект: Palantir като ultima ratio?"** в който се обръща внимание на това, че използването на изкуствен интелект от САЩ при разследванията ще има успех, но наред с това представлява заплаха за основните права и застрашава дигиталния суверенитет на Германия, беше публикуван в Legal Tribune Online. Въпросът е изключително сериозен - къде е тънката граница между свободата и сигурността?
Новият Батман
СНИМКА: Getty Images
Зад компанията Palantir (както и зад PayPal) стои един от най-известните поддръжници на Доналд Тръмп - милиардерът Питър Тийл. Самата компания се появява след атентатите на 11 септември, 2001 година в САЩ, които сложиха началото на преобразяването на света в далеч по-мрачно място. Американската намеса в Афганистан и Ирак отприщи процеси, които доведоха до събития като войната в Украйна, геноцида в Газа и военния сблъсък между Израел и Иран.
Тийл е човекът, чийто най-ярък политически продукт обаче е американският вицепрезидент Джей Ди Ванс. А Ванс е лицето на Проект 2025 - платформа, която би трябвало да промени САЩ из основи. Името на Тийл също личи сред защитниците на платформата - Още: "Проект 2025": Радикалният план за промяна на Америка с почерка на Тръмп
Самият Тийл има далеч по-радикални виждания - той застъпва виждането, че капитализмът и демокрацията са несъвместими. Тийл е живял и в ЮАР и то по времената на апартейда - според него, светът трябва да се направлява от малък елит хора, които са показали и доказали, че са способни чрез постигнати професионални резултати да посочват пътя за развитие на човечеството. Всички останали следва да бъдат изключени от правото на избор и от правото на дума как да се развиват обществата ни. Тийл определя себе си като краен либертарианец, защитник на чистия капитализъм, прокламирайки, че монополизмът е най-добрият бизнес и икономически модел, а в тезите му личи яркото влияние на крайнодесни идеи като тези на Къртис Ярвин (Curtis Yarvin).
Още: По-скъпа от "Макдоналдс" и по-мощна от всякога: "Palantir Technologies" и опасният им съюз с Тръмп
Германия: Сигурност и свобода става сигурност или свобода
СНИМКА: Pixabay
Полицията в някои провинции на Германия използва софтуера на Palantir още от 2017 г. Според привържениците му той е необходим дигитален инструмент в борбата срещу организираната престъпност и тероризма. Първата федерална провинция, която въвежда софтуера на Palantir, е Хесен през 2017 г. Северен Рейн-Вестфалия следва примера ѝ през 2020 г. През 2022 г. Бавария подписа рамково споразумение с компанията. Останалите федерални провинции и федералното правителство могат да се присъединят по всяко време, без нова процедура за обществена поръчка. От 2024 г. Бавария също използва софтуера на Palantir на практика под името "VeRA"***. Съкращението означава "Платформа за междупроцедурно изследване и анализ". Хесенската полиция го използва под името "HessenData". Всъщност софтуерът на американската компания сякаш е засенчил всички други известни досега подобни платформи за анализ на данни.
Използването на изкуствен интелект от САЩ при разследванията ще има успех, но наред с това представлява заплаха за основните права и застрашава дигиталния суверенитет на Германия - това е заключението на анализа "Откриване на престъпници с изкуствен интелект: Palantir като ultima ratio?"
Проследяването на потенциални престъпници в рамките на секунди може да бъде извършено с помощта на изкуствен интелект чрез търсене и свързване на огромни количества данни от съдържание в социалните медии, изображения, сканирания от клетъчни кули, отчети и данни за дела. Като инструмент за разследване, изкуственият интелект е едновременно високоефективен и високорисков. Колкото по-ефективен е, толкова по-големи са опасностите и за злоупотреба.
Използването на Gotham в момента се обсъжда на федерално ниво и ниво "провинции" в Германия. Той се счита за водещия в света инструмент с изкуствен интелект за автоматизиран анализ на данни. Той е разработен от Palantir в тясно сътрудничество с ЦРУ и други американски агенции.
Още: ЕП откри шпионски софтуер в телефоните на членове на Комисията по отбрана
Palantir вече е в действие
Провинциите Хесен, Бавария и Северен Рейн-Вестфалия вече използват софтуера Palantir; внедряването е планирано в Баден-Вюртемберг. Други провинции, като Берлин, Бранденбург, Хамбург и Шлезвиг-Холщайн, досега умишлено се въздържат.
Новото германско правителство също така иска да даде възможност на службите за сигурност да използват изкуствен интелект. Според коалиционното споразумение трябва да се вземат предвид "конституционните изисквания" и "суверенитетът". Коалицията все още не е взела окончателно решение коя система с изкуствен интелект трябва да използват федералните служби. Федералният министър на вътрешните работи Александър Добриндт в момента проучва ползването на софтуера на Palantir, докато федералният министър на правосъдието Стефани Хубиг изрази скептицизъм.
В решението си от 16 февруари 2023 г. Федералният конституционен съд на Германияi за първи път установява специфични конституционни изисквания за използването на изкуствен интелект от полицията. Съответно, според решението използването на системи с изкуствен интелект за автоматизиран анализ на данни нарушава основното право на информационно самоопределение (чл. 2, ал. 1) във връзка с чл. 1, ал. 1 от германската конституция на всички, чиито данни се използват в този процес. Поради значителния обхват на събираните данни, които засягат и невинни лица, създаването на личностни профили, непрозрачността на софтуерния подход ("ефект на черната кутия") и рисковете от изкривяване и дискриминация, въздействието на анализа на данни, подкрепен от изкуствен интелект, надвишава това на конвенционалния анализ на данни. Следователно използването му е предмет на специфични конституционни изисквания. Ако автоматизираният анализ на данни позволява сериозна намеса в информационното самоопределение на засегнатите, той е оправдан само за защита на особено важни правни интереси срещу определени специфични заплахи.
Още: Разкриха нов израелски шпионски софтуер, отново с българска връзка
Спазва ли се дигиталният суверенитет на държавата?
СНИМКА: Getty Images
Дискусия около софтуера на Palantir се фокусира по-малко върху общите опасности от използването на изкуствен интелект, отколкото върху факта, че германските органи за сигурност използват софтуер от частна компания, базирана в страна извън ЕС. Това повдига въпроса дали използването на софтуера е съвместимо с изискванията за дигитален суверенитет. "Дигитален суверенитет" означава независимият контрол на държавата върху информационните технологични системи, които тя използва.
Някои експертите в областта изкуствен интелект и дигиталната сигурност на личните данните като проф. д-р Александър Роснагел, Улрих Келбер, Вячеслав Бортников и др., посочват, че изискването за дигитален суверенитет намира своята конституционна основа в принципа на върховенството на закона съгласно чл. 20, ал. 3 от германската конституция и в основното право на информационно самоопределение съгласно чл. 2, ал. 1 във връзка с чл. 1, ал. 1 от германската конституция. Принципът на върховенството на закона задължава държавата да предостави правдоподобни причини за намесата в основните права. Ако държавата внедри система с изкуствен интелект, разработена от трета страна, това прави контрола върху системата с изкуствен интелект по-труден. В резултат на това държавата не може да изключи манипулация или злоупотреба от неупълномощени лица. Федералният конституционен съд заявява: "Ако се използва софтуер от частни субекти или други държави, съществува [...] риск от незабелязана манипулация или незабелязан достъп до данни от трети страни".
От съдебната практика на Федералния конституционен съд досега не е ясно дали по-строги конституционни изисквания се прилагат за използването на системи с изкуствен интелект от държави извън ЕС. Поради повишените рискове за основните права е убедително използването на системи с изкуствен интелект, разработени от трети страни, да се разглежда като изключение, изискващо обосновка. Колкото по-релевантна е системата за основните права, толкова по-трудно е да се обоснове използването ѝ. За системи с изкуствен интелект, които са от значение за основните права, приоритет трябва да се даде на вътрешните разработки на такива продукти. Вътрешните разработки и компонентите трябва да се предпочитат пред продукти от частни доставчици от чужди държави. Европейските системи с изкуствен интелект имат приоритет пред системите с изкуствен интелект от държави извън ЕС, където се прилагат по-ниски стандарти за защита на данните. Това важи поне ако вътрешната разработка е еднакво подходяща. На практика това често липсва. Ако обаче в бъдеще се появи подходящ европейски софтуер, то той би бил за предпочитане пред софтуера на Palantir. Следователно принципът на дигиталния суверенитет съдържа и конституционен мандат за германските органи по сигурността да насърчават вътрешни разработки, за да се създадат алтернативи на софтуера на Palantir, които да зачитат основните права.
Сама по себе си ефективността не е аргумент
Самият факт, че софтуерът на Palantir е по-ефективен от съществуващия в Европа подобен софтуер, не може да оправдае използването му. Освен това, използването на софтуера на Palantir трябва да бъде пропорционално в тесен смисъл. Практиката на Федералния конституционен съд на Германия признава, че за използването на софтуер с изкуствен интелект за автоматизиран анализ на данни се прилагат строги изисквания за пропорционалност. Използването на софтуер е непропорционално, ако тежестта на намесата в основното право на информационно самоопределение надвишава потенциалната полза за органите за сигурност. Тъй като използването на софтуер с изкуствен интелект от страни извън ЕС е свързано с повишени рискове за основните права, то трябва да бъде предмет на особено строги изисквания за пропорционалност.
Поради значителния си обхват, използването на софтуера на Palantir за целите на автоматизиран анализ на данни е от голямо значение за основните права. Въпреки че понастоящем няма конкретни доказателства за манипулация или злоупотреба от трети страни, функционалността на софтуера на Palantir е само частично прозрачна за външни лица. Колкото по-непрозрачен е един софтуер, толкова по-трудно е да се обоснове защо конкретно лице е обект на полицейска мярка. В същото време, склонните към грешки или дискриминационни алгоритми са трудни за откриване. Тъй като в САЩ се отдава по-малко значение на защитата на данните, отколкото в ЕС, съществуват значителни съмнения дали европейските стандарти за защита на данните са били спазени по време на разработването на софтуера на Palantir.
В този контекст използването на софтуера на Palantir може да бъде конституционно оправдано само ако и до степента, в която то е абсолютно необходимо поради преобладаващи интереси за сигурност на федералното правителство или на дадена провинция. Дали съществува такава неотложна нужда от сигурност е доста съмнително. По-голямата част от провинциите досега се въздържат от използване на софтуера на Palantir, без това сериозно да вреди на сигурността им. По принцип Германия е смятана за безопасна държава. Обективно погледнато, няма постоянно ескалиращи ситуации, свързани със сигурността в държавата, които да налага използването на софтуера на Palantir.
Сигурност на всяка цена
Дори ако имаше неотложна нужда от сигурност, използването на софтуера на Palantir би било разрешено само за преходен период, докато не бъдат въведени сравнително ефективни европейски системи. Освен това, германските органи по сигурността трябва да тестват софтуера на Palantir преди внедряването му, за да открият склонни към грешки или дискриминационни алгоритми. И накрая, органите по сигурността трябва да следят отблизо използването на софтуера на Palantir и да го оценяват редовно. На практика е важно, за да се гарантира, че само обучен персонал работи със системата. Резултатите от софтуера не могат да бъдат приети за точни, а трябва да бъдат разглеждани критично! Изкуственият интелект е просто помощно средство в разследващата работа; самите органи по сигурността трябва да вземат и поемат отговорност за съответните решения. Този общ принцип важи още повече, когато се разчита на системи с изкуствен интелект от страни извън ЕС.
Дебатът около използването на софтуер на Palantir илюстрира дилемата на цялото конституционно законодателство в областта на сигурността: Конституцията упълномощава и задължава държавата да гарантира сигурността на своите граждани. Конституцията обаче не изисква сигурност на всяка цена. Държавата трябва да приема компромиси със сигурността, доколкото те са необходими в името на свободата. Тази максима важи още повече в ерата на изкуствения интелект: Органите по сигурността могат да използват изкуствен интелект при работата си по разследването, но те са подчинени на основните права и върховенството на закона.
Дали неотложната нужда от сигурност оправдава използването на софтуера на Palantir е силно съмнително. Следователно би било добре федералното правителство и провинциалните правителства да приоритизират и насърчават разработването на собствен софтуер.
Още: Израелска компания де факто призна, че режимът на Вучич е шпионирал журналисти и активисти
Превод и редакция: адв. д-р Сибила Игнатова
* Авторът е стажант-юрист в адвокатската кантора Brock Müller Ziegenbein Rechtsanwälte Partnerschaft в Кил. От името на парламентарната група "Алианс 90/Зелените" в парламента на провинция Хесен, кантората подава жалба срещу новите основни разпоредби на Закона за сигурност и ред на провинция Хесен пред Държавния съд на провинция Хесен - във връзка и с използването на софтуера на Palantir от органите за сигурност на провинция Хесен.
** Източникът в оригинал: ТУК!
*** Verfahrensübergreifende Recherche- und Analyseplattform
