На 30 юли 2025 г. от медийни съобщения в Германия стана известно, че германският федерален министър на вътрешните работи Александър Добриндт (ХСС) проучва въвеждането и използването от полицията в различни провинции на софтуера Gotham ("Готъм" - измисленият град, в който живее Батман) за разкриване на престъпления на американската компания Palantir. Софтуерът Gotham се използва от полицията и разузнавателните служби за свързване и анализ на големи количества данни от различни източници. Това позволява например разпознаването на лица и разкриването на връзки между хора и събития. Той е предназначен за подпомагане на разследвания и предотвратяване на престъпления.
На 14 август 2025 г. анализа на Симон Дитхелм Майер*, озаглавен "Откриване на престъпници с изкуствен интелект: Palantir като ultima ratio?"** в който се обръща внимание на това, че използването на изкуствен интелект от САЩ при разследванията ще има успех, но наред с това представлява заплаха за основните права и застрашава дигиталния суверенитет на Германия, беше публикуван в Legal Tribune Online. Въпросът е изключително сериозен - къде е тънката граница между свободата и сигурността?
Новият Батман
СНИМКА: Getty Images
Зад компанията Palantir (както и зад PayPal) стои един от най-известните поддръжници на Доналд Тръмп - милиардерът Питър Тийл. Самата компания се появява след атентатите на 11 септември, 2001 година в САЩ, които сложиха началото на преобразяването на света в далеч по-мрачно място. Американската намеса в Афганистан и Ирак отприщи процеси, които доведоха до събития като войната в Украйна, геноцида в Газа и военния сблъсък между Израел и Иран.
Тийл е човекът, чийто най-ярък политически продукт обаче е американският вицепрезидент Джей Ди Ванс. А Ванс е лицето на Проект 2025 - платформа, която би трябвало да промени САЩ из основи. Името на Тийл също личи сред защитниците на платформата - Още: "Проект 2025": Радикалният план за промяна на Америка с почерка на Тръмп
Самият Тийл има далеч по-радикални виждания - той застъпва виждането, че капитализмът и демокрацията са несъвместими. Тийл е живял и в ЮАР и то по времената на апартейда - според него, светът трябва да се направлява от малък елит хора, които са показали и доказали, че са способни чрез постигнати професионални резултати да посочват пътя за развитие на човечеството. Всички останали следва да бъдат изключени от правото на избор и от правото на дума как да се развиват обществата ни. Тийл определя себе си като краен либертарианец, защитник на чистия капитализъм, прокламирайки, че монополизмът е най-добрият бизнес и икономически модел, а в тезите му личи яркото влияние на крайнодесни идеи като тези на Къртис Ярвин (Curtis Yarvin).
Още: По-скъпа от "Макдоналдс" и по-мощна от всякога: "Palantir Technologies" и опасният им съюз с Тръмп
Германия: Сигурност и свобода става сигурност или свобода
СНИМКА: Pixabay
Полицията в някои провинции на Германия използва софтуера на Palantir още от 2017 г. Според привържениците му той е необходим дигитален инструмент в борбата срещу организираната престъпност и тероризма. Първата федерална провинция, която въвежда софтуера на Palantir, е Хесен през 2017 г. Северен Рейн-Вестфалия следва примера ѝ през 2020 г. През 2022 г. Бавария подписа рамково споразумение с компанията. Останалите федерални провинции и федералното правителство могат да се присъединят по всяко време, без нова процедура за обществена поръчка. От 2024 г. Бавария също използва софтуера на Palantir на практика под името "VeRA"***. Съкращението означава "Платформа за междупроцедурно изследване и анализ". Хесенската полиция го използва под името "HessenData". Всъщност софтуерът на американската компания сякаш е засенчил всички други известни досега подобни платформи за анализ на данни.
Използването на изкуствен интелект от САЩ при разследванията ще има успех, но наред с това представлява заплаха за основните права и застрашава дигиталния суверенитет на Германия - това е заключението на анализа "Откриване на престъпници с изкуствен интелект: Palantir като ultima ratio?"
Проследяването на потенциални престъпници в рамките на секунди може да бъде извършено с помощта на изкуствен интелект чрез търсене и свързване на огромни количества данни от съдържание в социалните медии, изображения, сканирания от клетъчни кули, отчети и данни за дела. Като инструмент за разследване, изкуственият интелект е едновременно високоефективен и високорисков. Колкото по-ефективен е, толкова по-големи са опасностите и за злоупотреба.
Използването на Gotham в момента се обсъжда на федерално ниво и ниво "провинции" в Германия. Той се счита за водещия в света инструмент с изкуствен интелект за автоматизиран анализ на данни. Той е разработен от Palantir в тясно сътрудничество с ЦРУ и други американски агенции.
Още: ЕП откри шпионски софтуер в телефоните на членове на Комисията по отбрана
Palantir вече е в действие
Провинциите Хесен, Бавария и Северен Рейн-Вестфалия вече използват софтуера Palantir; внедряването е планирано в Баден-Вюртемберг. Други провинции, като Берлин, Бранденбург, Хамбург и Шлезвиг-Холщайн, досега умишлено се въздържат.
Новото германско правителство също така иска да даде възможност на службите за сигурност да използват изкуствен интелект. Според коалиционното споразумение трябва да се вземат предвид "конституционните изисквания" и "суверенитетът". Коалицията все още не е взела окончателно решение коя система с изкуствен интелект трябва да използват федералните служби. Федералният министър на вътрешните работи Александър Добриндт в момента проучва ползването на софтуера на Palantir, докато федералният министър на правосъдието Стефани Хубиг изрази скептицизъм.
В решението си от 16 февруари 2023 г. Федералният конституционен съд на Германияi за първи път установява специфични конституционни изисквания за използването на изкуствен интелект от полицията. Съответно, според решението използването на системи с изкуствен интелект за автоматизиран анализ на данни нарушава основното право на информационно самоопределение (чл. 2, ал. 1) във връзка с чл. 1, ал. 1 от германската конституция на всички, чиито данни се използват в този процес. Поради значителния обхват на събираните данни, които засягат и невинни лица, създаването на личностни профили, непрозрачността на софтуерния подход ("ефект на черната кутия") и рисковете от изкривяване и дискриминация, въздействието на анализа на данни, подкрепен от изкуствен интелект, надвишава това на конвенционалния анализ на данни. Следователно използването му е предмет на специфични конституционни изисквания. Ако автоматизираният анализ на данни позволява сериозна намеса в информационното самоопределение на засегнатите, той е оправдан само за защита на особено важни правни интереси срещу определени специфични заплахи.
Още: Разкриха нов израелски шпионски софтуер, отново с българска връзка
Спазва ли се дигиталният суверенитет на държавата?
СНИМКА: Getty Images
Дискусия около софтуера на Palantir се фокусира по-малко върху общите опасности от използването на изкуствен интелект, отколкото върху факта, че германските органи за сигурност използват софтуер от частна компания, базирана в страна извън ЕС. Това повдига въпроса дали използването на софтуера е съвместимо с изискванията за дигитален суверенитет. "Дигитален суверенитет" означава независимият контрол на държавата върху информационните технологични системи, които тя използва.
Някои експертите в областта изкуствен интелект и дигиталната сигурност на личните данните като проф. д-р Александър Роснагел, Улрих Келбер, Вячеслав Бортников и др., посочват, че изискването за дигитален суверенитет намира своята конституционна основа в принципа на върховенството на закона съгласно чл. 20, ал. 3 от германската конституция и в основното право на информационно самоопределение съгласно чл. 2, ал. 1 във връзка с чл. 1, ал. 1 от германската конституция. Принципът на върховенството на закона задължава държавата да предостави правдоподобни причини за намесата в основните права. Ако държавата внедри система с изкуствен интелект, разработена от трета страна, това прави контрола върху системата с изкуствен интелект по-труден. В резултат на това държавата не може да изключи манипулация или злоупотреба от неупълномощени лица. Федералният конституционен съд заявява: "Ако се използва софтуер от частни субекти или други държави, съществува [...] риск от незабелязана манипулация или незабелязан достъп до данни от трети страни".
От съдебната практика на Федералния конституционен съд досега не е ясно дали по-строги конституционни изисквания се прилагат за използването на системи с изкуствен интелект от държави извън ЕС. Поради повишените рискове за основните права е убедително използването на системи с изкуствен интелект, разработени от трети страни, да се разглежда като изключение, изискващо обосновка. Колкото по-релевантна е системата за основните права, толкова по-трудно е да се обоснове използването ѝ. За системи с изкуствен интелект, които са от значение за основните права, приоритет трябва да се даде на вътрешните разработки на такива продукти. Вътрешните разработки и компонентите трябва да се предпочитат пред продукти от частни доставчици от чужди държави. Европейските системи с изкуствен интелект имат приоритет пред системите с изкуствен интелект от държави извън ЕС, където се прилагат по-ниски стандарти за защита на данните. Това важи поне ако вътрешната разработка е еднакво подходяща. На практика това често липсва. Ако обаче в бъдеще се появи подходящ европейски софтуер, то той би бил за предпочитане пред софтуера на Palantir. Следователно принципът на дигиталния суверенитет съдържа и конституционен мандат за германските органи по сигурността да насърчават вътрешни разработки, за да се създадат алтернативи на софтуера на Palantir, които да зачитат основните права.
Сама по себе си ефективността не е аргумент
Самият факт, че софтуерът на Palantir е по-ефективен от съществуващия в Европа подобен софтуер, не може да оправдае използването му. Освен това, използването на софтуера на Palantir трябва да бъде пропорционално в тесен смисъл. Практиката на Федералния конституционен съд на Германия признава, че за използването на софтуер с изкуствен интелект за автоматизиран анализ на данни се прилагат строги изисквания за пропорционалност. Използването на софтуер е непропорционално, ако тежестта на намесата в основното право на информационно самоопределение надвишава потенциалната полза за органите за сигурност. Тъй като използването на софтуер с изкуствен интелект от страни извън ЕС е свързано с повишени рискове за основните права, то трябва да бъде предмет на особено строги изисквания за пропорционалност.
Поради значителния си обхват, използването на софтуера на Palantir за целите на автоматизиран анализ на данни е от голямо значение за основните права. Въпреки че понастоящем няма конкретни доказателства за манипулация или злоупотреба от трети страни, функционалността на софтуера на Palantir е само частично прозрачна за външни лица. Колкото по-непрозрачен е един софтуер, толкова по-трудно е да се обоснове защо конкретно лице е обект на полицейска мярка. В същото време, склонните към грешки или дискриминационни алгоритми са трудни за откриване. Тъй като в САЩ се отдава по-малко значение на защитата на данните, отколкото в ЕС, съществуват значителни съмнения дали европейските стандарти за защита на данните са били спазени по време на разработването на софтуера на Palantir.
В този контекст използването на софтуера на Palantir може да бъде конституционно оправдано само ако и до степента, в която то е абсолютно необходимо поради преобладаващи интереси за сигурност на федералното правителство или на дадена провинция. Дали съществува такава неотложна нужда от сигурност е доста съмнително. По-голямата част от провинциите досега се въздържат от използване на софтуера на Palantir, без това сериозно да вреди на сигурността им. По принцип Германия е смятана за безопасна държава. Обективно погледнато, няма постоянно ескалиращи ситуации, свързани със сигурността в държавата, които да налага използването на софтуера на Palantir.
Сигурност на всяка цена
Дори ако имаше неотложна нужда от сигурност, използването на софтуера на Palantir би било разрешено само за преходен период, докато не бъдат въведени сравнително ефективни европейски системи. Освен това, германските органи по сигурността трябва да тестват софтуера на Palantir преди внедряването му, за да открият склонни към грешки или дискриминационни алгоритми. И накрая, органите по сигурността трябва да следят отблизо използването на софтуера на Palantir и да го оценяват редовно. На практика е важно, за да се гарантира, че само обучен персонал работи със системата. Резултатите от софтуера не могат да бъдат приети за точни, а трябва да бъдат разглеждани критично! Изкуственият интелект е просто помощно средство в разследващата работа; самите органи по сигурността трябва да вземат и поемат отговорност за съответните решения. Този общ принцип важи още повече, когато се разчита на системи с изкуствен интелект от страни извън ЕС.
Дебатът около използването на софтуер на Palantir илюстрира дилемата на цялото конституционно законодателство в областта на сигурността: Конституцията упълномощава и задължава държавата да гарантира сигурността на своите граждани. Конституцията обаче не изисква сигурност на всяка цена. Държавата трябва да приема компромиси със сигурността, доколкото те са необходими в името на свободата. Тази максима важи още повече в ерата на изкуствения интелект: Органите по сигурността могат да използват изкуствен интелект при работата си по разследването, но те са подчинени на основните права и върховенството на закона.
Дали неотложната нужда от сигурност оправдава използването на софтуера на Palantir е силно съмнително. Следователно би било добре федералното правителство и провинциалните правителства да приоритизират и насърчават разработването на собствен софтуер.
Още: Израелска компания де факто призна, че режимът на Вучич е шпионирал журналисти и активисти
Превод и редакция: адв. д-р Сибила Игнатова
* Авторът е стажант-юрист в адвокатската кантора Brock Müller Ziegenbein Rechtsanwälte Partnerschaft в Кил. От името на парламентарната група "Алианс 90/Зелените" в парламента на провинция Хесен, кантората подава жалба срещу новите основни разпоредби на Закона за сигурност и ред на провинция Хесен пред Държавния съд на провинция Хесен - във връзка и с използването на софтуера на Palantir от органите за сигурност на провинция Хесен.
** Източникът в оригинал: ТУК!
*** Verfahrensübergreifende Recherche- und Analyseplattform
Crime Detection with Palantir’s Artificial Intelligence by the Police in Germany
On 30 July 2025, German media reported that Federal Minister of the Interior Alexander Dobrindt (CSU) is examining the introduction and use by police forces in various federal states of the “Gotham” software, developed by the American company Palantir*, for crime detection. The “Gotham” software is used by police and intelligence services to link and analyse large volumes of data from different sources. This makes it possible, for example, to recognise faces and uncover connections between people and events. It is intended to support investigations and prevent crime.
Police in certain German federal states have been using Palantir’s software since 2017. According to its advocates, it is an essential digital tool in the fight against organised crime and terrorism. The first federal state to introduce Palantir’s software was Hesse in 2017. North Rhine-Westphalia followed suit in 2020. In 2022, Bavaria signed a framework agreement with the company. Other federal states and the federal government may join at any time without the need for a new public procurement procedure. Since 2024, Bavaria has also been using Palantir’s software in practice under the name “VeRA”** (an abbreviation of “Inter-procedural Research and Analysis Platform”). The police in Hesse use it under the name “HessenData”. In fact, the American company’s software appears to have overshadowed all other previously known data analysis platforms.
Following media reports about the use of Palantir’s software, critical voices emerged, warning of a threat to freedom and democracy due to concerns that the company could gain unlimited access to various data. Palantir immediately rejected these accusations. The transfer or leakage of data – for example to the United States – was technically impossible, a company spokesperson told DPA. In Bavaria, North Rhine-Westphalia and Hesse, where police are using Palantir programmes, the software is operated “exclusively” on police servers.
This article presents the analysis by Simon Dithelm Maier***, published in Legal Tribune Online on 14 August 2025, titled “Catching Criminals with Artificial Intelligence: Palantir as the ultima ratio?”****, which highlights the fact that while the use of artificial intelligence (AI) by the United States in investigations is likely to be successful, it simultaneously poses a threat to fundamental rights and endangers Germany’s digital sovereignty.
The tracking of potential criminals within seconds can be carried out using AI by searching and linking vast quantities of data from social media content, images, cell tower scans, reports, and case data. This promising approach for security agencies is offered by providers such as the US company Palantir Technologies. As an investigative tool, AI is both highly effective and high-risk. The more effective it is, the greater the dangers of misuse.
The use of the AI software “Gotham” by the American company Palantir is currently under discussion at both federal and state level in Germany. It is considered the world’s leading AI tool for automated data analysis. It was developed by Palantir in close cooperation with the CIA and other US agencies. Palantir’s main shareholder and co-founder, American billionaire Peter Thiel, is a supporter of US President Donald Trump.
Palantir is already in operation
The federal states of Hesse, Bavaria and North Rhine-Westphalia are already using Palantir’s software; implementation is planned in Baden-Württemberg. Other states, such as Berlin, Brandenburg, Hamburg and Schleswig-Holstein, have so far deliberately refrained from using it. While critics highlight the risks to the rule of law, supporters emphasise the system’s effectiveness.
The new German government also intends to enable security services to use artificial intelligence. According to the coalition agreement, “constitutional requirements” and “sovereignty” must be taken into account. The coalition has not yet made a final decision on which AI system the federal agencies should use. Federal Minister of the Interior Alexander Dobrindt is currently exploring the nationwide use of Palantir’s software, while Federal Minister of Justice Stefanie Hubig has expressed scepticism.
The informational self-determination of innocent people is also at risk
In its decision of 16 February 2023, the Federal Constitutional Court of Germany***** for the first time established specific constitutional requirements for the use of artificial intelligence by the police. Accordingly, the use of AI systems for automated data analysis infringes the fundamental right to informational self-determination (Article 2(1) in conjunction with Article 1(1) of the Basic Law) of all those whose data is used in the process. Due to the extensive volume of data collected – which also affects innocent individuals – the creation of personality profiles, the opacity of the software approach (the “black box” effect), and the risks of distortion and discrimination, the impact of AI-supported data analysis exceeds that of conventional data analysis. Its use is therefore subject to specific constitutional requirements. If automated data analysis allows for serious interference with the informational self-determination of those affected, it is only justified in order to protect particularly important legal interests against certain specific threats.
Is the State's Digital Sovereignty Being Respected?
The discussion surrounding Palantir’s software focuses less on the general dangers of using artificial intelligence and more on the fact that German security authorities are employing software from a private company based in a non-EU country. This raises the question of whether the use of Palantir's software is compatible with the requirements of digital sovereignty. "Digital sovereignty" refers to a state's control over the information technology systems it uses. Moreover, "digital sovereignty" has long been recognised as one of the key political objectives.
Some experts in the fields of artificial intelligence and digital data security, such as Prof. Dr Alexander Roßnagel, Ulrich Kelber, Vyacheslav Bortnikov and others, point out that the requirement for digital sovereignty has its constitutional foundation in the principle of the rule of law under Article 20(3) of the Basic Law of Germany and in the fundamental right to informational self-determination under Article 2(1) in conjunction with Article 1(1) of the Basic Law. The principle of the rule of law obliges the state to provide plausible justification for any interference with fundamental rights. If the state implements an AI system developed by a third party, it makes controlling the AI system more difficult. As a result, the state cannot rule out manipulation or misuse by unauthorised parties. The Federal Constitutional Court states: “If software from private entities or other states is used, there is [...] a risk of undetected manipulation or unnoticed access to data by third parties.”
From the existing case law of the Federal Constitutional Court, it is not yet clear whether stricter constitutional requirements apply to the use of AI systems originating from non-EU countries. However, due to the increased risks to fundamental rights, it is a compelling argument that the use of AI systems developed by third parties should be considered an exception requiring justification. The more relevant a system is to fundamental rights, the more difficult it becomes to justify its use. For AI systems that affect fundamental rights, priority should be given to domestic developments: in-house developments and components should be preferred over products from private foreign providers. European AI systems take precedence over those from non-EU countries, where lower data protection standards may apply. This holds true, at least, where domestic solutions are equally suitable. In practice, such alternatives are often lacking. However, if an appropriate European software solution becomes available in the future, it would be preferable to Palantir’s software. The principle of digital sovereignty therefore also contains a constitutional mandate for German security authorities to promote domestic development in order to create alternatives to Palantir’s software that respect fundamental rights.
Effectiveness Alone Is Not an Argument
The mere fact that Palantir’s software is more effective than comparable software currently available in Europe cannot, in itself, justify its use. Furthermore, the deployment of Palantir’s software must meet the strict test of proportionality. The case law of the Federal Constitutional Court of Germany recognizes that the use of AI-powered software for automated data analysis is subject to stringent proportionality requirements. The use of such software is disproportionate if the severity of the interference with the fundamental right to informational self-determination outweighs the potential benefits to security authorities. Since the use of AI software from non-EU countries entails increased risks to fundamental rights, it must be subject to particularly strict proportionality requirements.
Due to its extensive scope, the use of Palantir’s software for automated data analysis has significant implications for fundamental rights. Although there is currently no concrete evidence of manipulation or misuse by third parties, the functionality of Palantir’s software is only partially transparent to external observers. The less transparent a piece of software is, the harder it becomes to justify why a particular individual is the subject of a police measure. At the same time, error-prone or discriminatory algorithms are difficult to detect. Since data protection is given less emphasis in the US than in the EU, there are serious doubts as to whether European data protection standards were adhered to during the development of Palantir’s software.
In this context, the use of Palantir’s software can only be constitutionally justified if, and to the extent that, it is absolutely necessary due to overriding security interests of the federal government or a particular federal state. Whether such an urgent security need actually exists is highly questionable. The majority of federal states have so far refrained from using Palantir’s software without this having seriously compromised their security situations. As a general rule, Germany is considered a safe country. Objectively speaking, there are no continuously escalating security threats within the country that would necessitate the use of Palantir’s software.
Security at Any Cost?
Even if there were an urgent need for security, the use of Palantir’s software would only be permissible as a transitional measure until comparably effective European systems are introduced. Furthermore, German security authorities must test Palantir’s software prior to its deployment in order to identify algorithms prone to error or discrimination. Finally, security authorities must closely monitor and regularly evaluate the use of Palantir’s software. In practice, it is crucial to ensure that only trained personnel operate the software. The results generated by Palantir must not be accepted as accurate without question but should be critically assessed: Artificial intelligence is merely an auxiliary tool in investigative work; security authorities themselves must make and take responsibility for decisions. This general principle applies even more strongly when relying on AI systems from non-EU countries.
The debate surrounding the use of Palantir’s software illustrates the broader dilemma of constitutional law in the field of security: The Basic Law empowers and obliges the state to guarantee the safety of its citizens. However, the Basic Law does not require security at any price. The state must accept compromises on security where they are necessary in the name of freedom.
This maxim is especially relevant in the age of artificial intelligence: Security authorities may use AI in their investigative work, but they remain subject to fundamental rights and the rule of law. Whether an urgent need for security truly justifies the use of Palantir’s software is highly questionable. Therefore, it would be wise for the federal and state governments to prioritize and promote the development of domestic software solutions.
Translation and editing from German by Dr Sibila Ignatova, Attorney-at-Law
* 1. Palantir was founded in 2003 by Peter Thiel, a German-born American investor and one of the co-founders of PayPal. In 2004, Alexander Karp joined as CEO. The company is now publicly listed and valued at approximately $300 billion.
** 2. VeRA (Verfahrensübergreifende Recherche- und Analyseplattform) – Cross-procedure Research and Analysis Platform.
*** 3. The author is a legal trainee at the law firm Brock Müller Ziegenbein Rechtsanwälte Partnerschaft in Kiel. On behalf of the parliamentary group “Alliance 90/The Greens” in the state parliament of Hesse, the firm has filed a complaint before the State Constitutional Court of Hesse this year against the new key provisions of the Hesse Security and Public Order Act. This also relates to the use of Palantir’s software by security authorities in the state of Hesse.
**** 4. The article (in German) is available at: Mit Künstlicher Intelligenz Straftäter finden, Legal Tribune Online, 14.08.2025
***** 5. See the text of the Federal Constitutional Court decision of 16 February 2023
