Montpellier

Künstliche Intelligenz und der Algorithmus im Kontakt mit dem Verwaltungsrecht

Davide Ponte 

Vorwort

Es besteht eine sehr enge Beziehung zwischen Recht und Technologie, zwischen Recht und menschlichen Aktivitäten, die unter Ausnutzung der Errungenschaften der Wissenschaft neue Mittel oder Werkzeuge zur „Verbesserung“ der menschlichen Lebensbedingungen schaffen. Die künstliche Befruchtung und die Patentierung neuer Tierarten sind offensichtliche Fälle, aber auch die Computerrevolution ist eine Neuheit, die eine Anpassung des Rechts erfordert. Dies gilt für jede menschliche Entwicklung (auch Sprache und Schrift waren eine technische Entwicklung),

In der Computer- und Digitalrevolution hat das Thema der künstlichen Intelligenz eine grundlegende Bedeutung erlangt, da die technische Hilfe den Menschen vollständig ersetzen kann.

Die Grundidee der Künstlichen Intelligenz ist recht einfach: die Entwicklung von Maschinen mit autonomen Lern- und Anpassungsfähigkeiten, die sich an menschlichen Lernmodellen orientieren.

Die Grundlage der künstlichen Intelligenz sind Algorithmen, Rechentechniken und Lösungen, die somit in der Lage sind, menschliches Verhalten zu replizieren.

Dank des so genannten maschinellen Lernens beweist die künstliche Intelligenz eine weitere Fähigkeit zur Evolution und Anpassung. Dank der rasanten Entwicklung der Programme und der dazugehörigen Algorithmen können Programme wie der bekannteste Chat gpt so viel Material sammeln, dass sie es nicht nur zur Verfügung stellen, sondern sogar anstelle des Menschen verarbeiten (und leider noch besser), und das sogar mit der Gnade von Google (das, wenig überraschend, zittert). Natürlich ist der resultierende Text, wenn er geteilt wird, immer noch derjenige, der ihn unterschreibt und damit zu seinem eigenen macht… wird uns die Bedeutung von Unterschrift und Zurechnung retten?

Anders ist das Thema des Metaversums, wenn auch damit verbunden, wo die rechtlichen Fragen vielfältig sind und mit der Möglichkeit zusammenhängen, analoge rechtliche Reaktionsparameter auf die Realität anzuwenden!

Der Algorithmus in der Bürokratie

Die Rolle des Conseil d’État ist in Anbetracht der relativ jungen und auch deshalb so wandelbaren Natur des Verwaltungsrechts 1 sowie der sich entwickelnden Macht der Behörden in modernen Gesellschaften auch im Hinblick auf seine nachgewiesene Fähigkeit, mit den neuen Grenzen des Rechts Schritt zu halten, von grundlegender Bedeutung. Dies geschieht dadurch, dass die neuen Herausforderungen im Rahmen der Grundsätze der Rechtsordnung formuliert werden, während gleichzeitig ein Beitrag zur Entwicklung und zur vollen Vitalität der Rechtsordnung geleistet wird, und zwar sowohl in Bezug auf wirklich innovative Bereiche als auch in Bezug auf die Entwicklung von Bereichen, die bereits traditionell behandelt werden und die sich dennoch neuen Herausforderungen stellen müssen. Natürlich wird es immer schwieriger, aber, wie wir im Ratssaal oft wiederholen, keine Panik (und das Zitat wird später wieder auftauchen und verraten, woher es stammt, aber viele von Ihnen werden sich schon daran erinnert haben, da bin ich mir sicher).

Auf der ersten Seite steht die Rechtsprechung zur Nutzung von Algorithmen und allgemeiner von sogenannter künstlicher Intelligenz in der Verwaltungstätigkeit.

Die Digitalisierung des privaten wie auch des öffentlichen Lebens ist eine wohlbekannte Tatsache. Die Notwendigkeit, mit solchen disruptiven Neuerungen zu leben, veranlasst Juristen, nach den entsprechenden Rahmenbedingungen zu suchen. Schließlich ist das Recht die Regulierung menschlicher und sozialer Phänomene, die Computerisierung der Gesellschaft ist offensichtlich und schnell; daher kann das Recht nicht umhin, einzugreifen, insbesondere das Recht der Autorität.

Ein Algorithmus ist eine Strategie zur Lösung eines Problems und besteht aus einer endlichen Folge von Operationen (auch Anweisungen genannt) zur Lösung aller Fragen derselben Klasse. Er muss, um eine Parallelität mit der juristischen Welt zu erreichen

 – endlich sein, d. h. aus einer endlichen Anzahl von Anweisungen bestehen und ein Ende haben (rechtlich gesehen fällt der Prüfungsgegenstand mit den abgeleiteten Fragen zusammen);

– deterministisch, d.h. wenn ausgehend von denselben Eingabedaten dieselben Ergebnisse bei der Ausgabe erzielt werden (für uns Juristen gilt das Verbot des so genannten dritten Weges und die Beachtung der Entsprechung zwischen Gefordertem und Gesagtem);

– eindeutig, d.h. die Vorgänge müssen von jedem in gleicher Weise interpretiert werden können, auch wenn der Ausführende ein anderer ist (juristisch kann dies im Sinne der notwendigen Klarheit der Entscheidung interpretiert werden)

– allgemein, d.h. wenn die Lösung für alle Probleme der gleichen Klasse gleich ist (hier lässt sich dies leicht in Rechtssicherheit übersetzen, was manchmal wie eine veritable Suche nach dem Phönix erscheint).

Sicherlich ist das maschinelle Lernen in Bezug auf diese Anforderungen auch auf der mathematisch-technischen Seite problematisch, wenn man die nachgewiesene Geschwindigkeit der Erfassung und Anpassung bedenkt.

Der Begriff Algorithmus leitet sich bekanntlich von der lateinischen Transkription des Namens des persischen Mathematikers al-Khwarizmi ab, der im 9. Jahrhundert n. Chr. lebte und als einer der ersten Autoren gilt, der sich in seinem Buch Rules of Recovery and Reduction auf dieses Konzept bezog

Die grundlegende mathematische Analyse kennt verschiedene Kategorien von Algorithmen, die oft grundlegende Probleme unserer Tätigkeit zu reproduzieren scheinen: z.B. iterative, rekursive, sortierende, suchende, evolutionäre Algorithmen (hier schließen wir die sogenannten prädiktiven Algorithmen ein, die von den sogenannten „prädiktiven“ Algorithmen so gefürchtet werden). Vorhersagealgorithmen, die von Juristen so gefürchtet werden), Schwarmintelligenz, kombinatorische, selbstmodifizierende und sogar Kompressionsalgorithmen (wie ein bekannter Schriftsteller in dem Buch „Dear Baby Jesus“ die Geschichte vom Kamel erzählt, das durch ein Nadelöhr gehen muss).

Im „Bericht über die Hauptprobleme der staatlichen Verwaltung“, den der damalige Minister für den öffentlichen Dienst, Massimo Severo Giannini, 1979 vorlegte, wurde festgestellt, dass die Computer, die zunächst als „Geräte für die einfache Registrierung komplexer Daten verwendet wurden, dann zu Geräten für die Ermittlung und Überprüfung, für Berechnungen, für die Teilnahme an Verfahrensstufen der Voruntersuchung und schließlich für die Entscheidungsfindung“ wurden, so dass „die Computersysteme nicht mehr den Verwaltungen für interne Managementzwecke dienen, sondern gerade für die Verwaltung verwendet werden, d.h. sie werden zunehmend nach außen projiziert“.

Mit anderen Worten: Auch im Verwaltungsrecht haben sich die IT-Instrumente weiterentwickelt und durchgesetzt, die die öffentlichen Ämter nach und nach von Papier und Schreibmaschinen befreit haben und die in der Folge die Fähigkeit bewiesen haben, eigenständig Ermittlungsaufgaben zu übernehmen und den Inhalt von Verwaltungsmaßnahmen zu formulieren.

In Anlehnung an die vielen möglichen literarischen Zitate lässt sich sagen, dass sich die zweite industrielle Revolution nicht wie die erste mit überwältigenden Bildern wie Walzpressen oder Stahlgüssen präsentiert, sondern als die Bits eines Informationsflusses, der in Form von elektronischen Impulsen auf Schaltkreisen läuft. Die eisernen Maschinen sind immer da, aber sie gehorchen den schwerelosen Bits 2.

In der Lehre wird mit Blick auf den laufenden Evolutionsprozess von der „Verwaltung 4.0“ oder dem vierten Modell der Verwaltung gesprochen, wobei das erste Modell als das der vollständig papiergestützten Verwaltung des 19. und 20. Jahrhunderts zu verstehen ist; das zweite als das der durch Computer, Textverarbeitungsprogramme und frühe Formen der Telekommunikation (wie das Fax) unterstützten Verwaltung; das dritte Modell als das der ersten Digitalisierung und Entmaterialisierung von Daten, die durch die Nutzung des Internets in der normalen Verwaltungstätigkeit ermöglicht wird.

Die „vierte Generation“ der Verwaltung ist dagegen diejenige, die sich durch einen „hohen Automatisierungs- und Vernetzungsgrad“ auszeichnet, der durch die Einführung entmaterialisierter Informationsaustausch- und Speichertechniken, die exponentielle Zunahme der Rechenkapazität von Prozessoren und die Bereitstellung immer ausgefeilterer Computerprogramme ermöglicht wird. Mit anderen Worten, wir haben es mit der „algorithmischen Gesellschaft“ zu tun, in der die Verwendung von Software (oder „Programmen“) – die auf die so genannte „künstliche Intelligenz“ zurückgeht – zur Bestätigung automatisierter Betriebsmodule führt, die nicht nur in der Lage sind, komplexe Rechenoperationen in kurzer Zeit auszuführen, sondern auch mit der Fähigkeit ausgestattet sind, aus ihren Fehlern zu lernen und bis zu einem gewissen Grad die Funktionsweise des menschlichen Geistes nachzuahmen.

Dies ist offensichtlich, denn es gibt viele Bereiche des täglichen Lebens, in denen Algorithmen – die zugegebenermaßen nicht alle auf die fortgeschrittensten Formen der künstlichen Intelligenz zurückzuführen sind – dem Menschen zur Seite stehen und sein Leben vereinfachen. Man denke nur an die Sprach- oder Bilderkennungssoftware und an die Programme, die das Fahren von Kraftfahrzeugen, wenn nicht gar das autonome Fahren, unterstützen, bis hin zu Programmen, die ganze Dokumente erstellen. 

Dann gibt es die „prädiktiven“ Programme, die auf der Grundlage bestimmter verfügbarer Daten (den so genannten Inputs) eine Lösung für ein bestimmtes Szenario liefern, sei es die Wettervorhersage oder die Erstellung eines Anlageplans für den Kontoinhaber eines Kreditinstituts oder einer Unfallpolice für den Kunden einer Versicherungsgesellschaft. Dies nimmt in dem Moment, in dem der Algorithmus in der Lage ist, nicht nur die zur Verfügung gestellten Daten zu verarbeiten, sondern auch neue, dem menschlichen Bediener nicht direkt bekannte (oder sofort erkennbare) Daten zu gewinnen, indem er im Netz Aktualisierungen über die Entwicklung des Kreditmarktes oder des Straßenverkehrs abruft, einen ausgeprägten Charakter der „Entmündigung“ des Menschen an.

Ihre Ausdehnung und ihr unbestrittener Nutzen haben selbst langsame öffentliche Verwaltungen dazu veranlasst, sie zu nutzen, vor allem in Anbetracht ihrer verschiedenen Möglichkeiten, auch aufgrund der offensichtlichen Bequemlichkeit, die sich aus der so genannten Wahlneutralität ergibt (was als Traum eines jeden Beamten definiert wurde, der heute stets von den „Risiken der Unterschrift“ erschreckt wird).

Während man in diesem Rahmen die Entwicklung nur zur Kenntnis nehmen kann, muss man auf der anderen Seite im rechtlichen Bereich dazu übergehen, die gleiche Entwicklung im Rahmen von Grundsätzen zu gestalten.

Der pandemische Notstand hat die Bemühungen in diese Richtung noch verstärkt. Aus dieser Perspektive hat der Notfall selbst die maximale Nutzung der technologischen Innovation erzwungen; dies ist eine Gelegenheit, die ergriffen werden muss, aber nicht, um sie zu erzwingen, sondern vielmehr, um weiteres Innovationspotenzial zu testen und zu überprüfen.

Als Juristen fühlt man sich immer unvorbereitet auf beide Seiten des Problems: der Notfall deutet auf etwas hin, wo gewöhnliche Regeln nicht ausreichen; Innovation gilt notorisch als Oxymoron in Bezug auf das Bild von uns „Bürokraten“ 3.

Wir sind also mit einer doppelten Herausforderung konfrontiert.

Aber wie The Hitchhiker’s Guide to the Galaxy, die bekannte Saga, in der die Beziehung zwischen dem Menschen und der technologischen Entwicklung Gegenstand einer vorausgehenden Vision ist, lehrte, „keine Panik“: Computer sind unglaublich schnell, genau und dumm; Menschen sind unglaublich langsam, ungenau und intelligent; beide zusammen bilden eine unberechenbare Kraft. Und zur Untermauerung haben wir den Trost von Albert Einstein.

In diesem Zusammenhang hat die verfahrenstechnische Seite durch das so genannte PAT (das seit einiger Zeit in Kraft ist) es der Verwaltungsgerichtsbarkeit ermöglicht, auch in Zeiten des Stillstands weiterhin fast alle ihre Funktionen und Möglichkeiten zu erfüllen. 

Auf der prozessualen Seite stößt man immer häufiger auf wiederkehrende Titel und Begriffe wie „Verfahren und Entscheidungsbefugnis“. Es ist noch ein weiter Weg, aber immerhin ist das Verwaltungsrecht – wie gesagt, ein junges Recht – und die Tätigkeit von uns allen, die wir in ihm arbeiten, täglich mit dem ständigen Abwägen von gegenläufigen Interessen und Grundsätzen konfrontiert; vielleicht sind wir deshalb auf bestimmte Herausforderungen nicht ganz unvorbereitet.

Es ist auch wahr, dass wir selbst in diesen Bereichen oft subtile Diskussionen führen, wie z. B. über die Frage, ob der Algorithmus für bestimmte Zwecke als Verwaltungsakt definiert werden kann oder nicht; tatsächlich ist der Algorithmus, sobald er Teil des Verfahrensablaufs wird, ein anerkennungsfähiges Element im Sinne der von der Rechtsordnung vorgegebenen allgemeinen Begriffe.

In der Lehre wurde die Wahl der Argumentation in Bezug auf den Algorithmus im Verfahren auf der Grundlage eines „Grundsatzes der Erkennbarkeit“, der sich mit dem der „Verständlichkeit“ ergänzt und verbindet, als angemessen erachtet. Die reine und einfache Darstellung des Programmierstrings und der Akte, in denen er formalisiert ist, sollte mit aussagekräftigen Informationen über die verwendete Logik einhergehen, die so dargestellt werden, dass sie für den Bürger und die Verwaltung selbst leicht verständlich sind, was bei Fragen zu den Eigenschaften der zu erörternden Software manchmal nicht gelingt. Zugegeben, die Entwicklung des maschinellen Lernens untergräbt jede Hoffnung auf eine wirksame Erkennbarkeit und Verständlichkeit, vor allem, wenn keine erheblichen Investitionen getätigt werden; aber vielleicht müssen wir gerade hier Wege finden, um die Überprüfung, Kontrolle und schließlich die Überprüfbarkeit der Ergebnisse zu gewährleisten.

Im Laufe der Jahre haben die Schwierigkeiten, die Gründe für die auf der Grundlage von selbstlernenden Algorithmen getroffenen Entscheidungen zu klären und zu rechtfertigen, einige Gerichte dazu veranlasst, die Möglichkeiten ihres Einsatzes bei der Wahrnehmung von Beweisfunktionen erheblich einzuschränken. Sowohl der französische Conseil Constitutionnel als auch der niederländische Staatsrat haben diese Auffassung vertreten. So hat z.B. das Bezirksgericht Den Haag in einer Entscheidung vom 2. Februar 2020 die Verwendung eines Steuerhinterziehungsprogramms (SyRI) für unzulässig erklärt, dessen Funktionsweise nicht transparent war, da sie von den Parteien, die es verwendeten, nicht genau erklärt werden konnte.

Unter den verschiedenen Fragen ist diejenige nach dem Eigentum an der Software nur scheinbar zweitrangig. Die Kenntnis des Quellcodes (und die daraus folgende Offensichtlichkeit) ist zwar notwendig, um eine angemessene Transparenz zu gewährleisten, aber nur möglich, wenn die Verwaltung selbst bereits im Besitz dieses Codes ist: Dies ist jedoch nicht immer der Fall, und jedes Mal, wenn dies nicht der Fall ist, besteht die Gefahr, dass ein möglicher Antrag auf Kenntnisnahme durch Privatpersonen, die die Funktionsweise des Programms überprüfen wollen, konkret vereitelt wird. Folglich wird der Grundsatz der Nachvollziehbarkeit der getroffenen Entscheidung beeinträchtigt. Die problematische Überschneidung von Grundsätzen wird somit in einer Frage verwirklicht, die, wie gesagt, nur scheinbar zweitrangig ist. Auch wenn aus technischer Sicht Zweifel an der tatsächlichen Notwendigkeit bestehen, den Quellcode zu kennen: Was ich verstehen muss, sind die angewandten Kriterien, wenn sie mit der Regel der Leistungszurechnung übereinstimmen, nicht, wie das Auto funktioniert; ich muss verstehen, wie das Auto zu fahren ist, nicht, wie der Verteiler funktioniert…ich wüsste ohnehin nicht, wie man es repariert.

Die elektronische Entscheidung wird, wenn auch in vereinfachter Form, in mechanistischer Weise getroffen, indem die Regeln, die von der Person, die die Software erstellt, angegeben werden (oder von dem Programm, das autonom erworben wird, wenn selbstlernende Systeme verwendet werden), mit den Daten, die anschließend in den Computer eingespeist werden, „abgeglichen“ werden.

Die Rolle des Eigentümers der Einrichtung, die die Funktionen ausübt, ist daher eher zweitrangig und tritt nur gelegentlich in den Vordergrund, wenn es notwendig wird (durch spontanes Eingreifen oder auf Drängen der Bürger), für die Korrektur möglicher Fehler im Computer zu sorgen. Im Hintergrund steht immer die bereits erwähnte Schwierigkeit des Eingreifens, wenn es kein Eigentum an der Software gibt, deren Verwaltung daher für den Eigentümer der zuständigen Stelle äußerst komplex, wenn nicht gar unmöglich sein kann.

Und hier kommt das grundlegende Problem der Aufrechterhaltung der Zurechenbarkeit der Wahl ins Spiel. Hier können uns vielleicht – und Sie werden mir verzeihen, wenn ich trivialisiere, aber manchmal scheinen Prinzipien so zu sein, oder vielleicht bin ich noch zu sehr dem berühmten Kreuzverhör im Film Philadelphia verhaftet – die drei Regeln der Robotik 5 helfen: „1. ein Roboter darf weder einen Menschen verletzen, noch darf er zulassen, dass ein Mensch durch seine Untätigkeit verletzt wird; 2. Ein Roboter muss den Befehlen des Menschen gehorchen, sofern diese Befehle nicht gegen das erste Gesetz verstoßen; 3. ein Roboter muss seine eigene Existenz schützen, sofern sein Schutz nicht gegen das erste oder zweite Gesetz verstößt“.

In Bezug auf die komplexe Beziehung zwischen Algorithmen und Grundrechten ist hervorzuheben, dass die europäische Verordnung eine Reihe von kognitiven Garantien zusammen mit einem Verbot automatisierter Entscheidungsprozesse vorsieht, auf die der Staatsrat in den bekannten Urteilen von 2019 Bezug genommen hat, indem er auf die Artikel 13, 14, 15 und 22 der Verordnung selbst verwies. 

Gerade um die Auslegung dieser Vorschriften gibt es in der Lehre eine ausführliche Debatte darüber, ob es ein echtes Recht auf Erklärung in der DSGVO gibt oder nicht, auf die wir wegen der Tiefe und relativen Fülle der Argumente verweisen.

Man muss jedoch versuchen, die Algorithmen und die Vorstellungen derer, die sie ausarbeiten, tiefer zu durchdringen. Nun, es ist nicht leicht, sie zu verstehen, so dass die Frage der Wissbarkeit mit der Realität kollidieren könnte, oder vielleicht ist sie auch fehl am Platze. Die Erkennbarkeit betrifft die eingegebenen Bewertungskriterien, das vollständige technische Verständnis des Algorithmus ist eine andere Sache. Dies ist die komplexeste Frage, die vielleicht unsere eigenen kognitiven Fähigkeiten übersteigt. Sie kann jedoch nicht als „Verdienst“ im absoluten Sinne betrachtet werden, der nicht in Frage gestellt werden kann: Es handelt sich einfach um die Funktionsweise eines Hilfsmittels, das von der Behörde bei der Festlegung der Wahl gewählt wurde. 

Auch hier stellt sich die grundsätzliche Frage nach der Voraussetzung für den Einsatz des Algorithmus: Muss ein Gesetz erlassen werden, genügt eine Verordnung oder reicht Artikel 97 der Verfassung als allgemeine Regelung aus, da es sich um einen reinen Organisationsbaustein handelt?

In der Rechtsprechung konsolidiert sich im Vergleich zur anfänglichen Zurückhaltung eine Position größerer Offenheit, in der solche Instrumente als organisatorische Module verstanden werden, die im Rahmen der gewöhnlichen Verfahrensgarantien zu verwenden sind, ohne die Notwendigkeit einer Verdoppelung (wie das zitierte Urteil Nr. 8472 von 2019 in Bezug auf das Gesetz 241 von 1990 klarstellt) oder einer Ausweitung des Legalitätsprinzips: Das Legalitätsprinzip betrifft die ausgeübte Befugnis, nicht das organisatorische Modul.

Dies führt zu einer Ausweitung des relativen Einsatzes von Algorithmen auch bei Ermessensentscheidungen, wodurch eine mehrfache Nutzung gewährleistet wird, die eine große Hilfe für das Verwaltungshandeln darstellt, wie z. B. bei der Bewertung von technischen Angeboten oder der Festlegung von Kriterien für die Ausstellung von Umweltverträglichkeitsprüfungen.

Eine solche Ausweitung kann jedoch die Anwendungsschwierigkeiten, insbesondere im Bereich des technischen Ermessens, nur vergrößern und damit die Probleme der Überschaubarkeit und Nachvollziehbarkeit ausweiten. Und dies nicht nur im Hinblick auf das bereits erwähnte Betriebsgeheimnis des Eigentümers der Algorithmen, sondern auch, um zu vermeiden, dass die Digitalisierung eine neue Quelle von Ungleichheiten darstellt, sowohl in technischer Hinsicht (je umfassender der Rückgriff auf Technik und Technologie ist, desto mehr besondere und daher begrenzte technische Fähigkeiten sind erforderlich) als auch in wirtschaftlicher Hinsicht (in Bezug auf die Kosten der immer ausgefeilteren Werkzeuge). 

Die Digitalisierung hat den Vorteil, dass sie abstrakt den vollständigen Zugang zu einer Vielzahl von Informationen erleichtert, auch mit privaten Instrumenten oder in jedem Fall in Verbindung mit der Öffentlichkeit und somit mit wirtschaftlichem Nutzen; allerdings geht diese Erleichterung nicht immer mit Klarheit einher, so dass die Gefahr von Unsicherheit und Verwirrung steigt 6. Es bleibt jedoch auch für das „Behördenrecht“ 7 der unbestrittene Nutzen der digitalen Revolution: Ein höherer Digitalisierungsgrad der öffentlichen Verwaltung ist unerlässlich, um die Qualität der den Bürgern und Nutzern erbrachten Dienstleistungen zu verbessern.

Denn, um noch einmal die Worte der Romanciers zu missbrauchen, ein Teil der Unmenschlichkeit des Computers liegt darin, dass er sich, einmal programmiert und in Betrieb genommen, vollkommen ehrlich verhält. Und ein Computer ist keine intelligente Maschine, die dummen Menschen hilft, sondern im Gegenteil eine dumme Maschine, die nur in den Händen intelligenter Menschen funktioniert.

Die Entwicklung des maschinellen Lernens droht sogar die Grundsätze zu untergraben; aber eine unersetzliche Tatsache bleibt: die Unterschrift, die Person, die einen von einem Computer und einer Software verarbeiteten Text zu ihrem eigenen macht und dafür verantwortlich ist. Eine weitere Gefahr besteht natürlich darin, dass man sich mehr und mehr auf die Ex-post-Kontrolle oder die Syndizierung verlegt.

Ansätze der Rechtsprechung zum Thema Algorithmus und Verwaltungsverfahren.

Der Staatsrat 8 hat den Rückgriff auf den Algorithmus im Verwaltungsverfahren endgültig rekonstruiert, indem er ihn als ein organisatorisches Modul, als ein Verfahrens- und Ermittlungsinstrument, das den für jedes Verwaltungsverfahren typischen Überprüfungen unterliegt, die auf der Grundlage der Rechtsvorschriften, die die Befugnis verleihen, und der Zwecke, die sie der öffentlichen Einrichtung, dem Inhaber der Befugnis, zuweisen, durchzuführen sind.

Ein kurzer Verweis auf die wichtigsten Passagen der zitierten Rechtsprechung verdeutlicht die vorgenannte Rolle.

Generell ist darauf hinzuweisen, dass die öffentliche Verwaltung auch in der Lage sein muss, das bedeutende Potenzial der so genannten digitalen Revolution zu nutzen. In diesem Zusammenhang beruht der Rückgriff auf Computeralgorithmen für Entscheidungen, die den öffentlichen und privaten Bereich betreffen, auf den befürchteten Gewinnen an Effizienz und Neutralität. In vielen Bereichen versprechen Algorithmen das Werkzeug zu werden, mit dem die Verzerrungen und Unvollkommenheiten korrigiert werden können, die typischerweise die kognitiven Prozesse und die von Menschen getroffenen Entscheidungen kennzeichnen, was insbesondere in den letzten Jahren durch eine beeindruckende Literatur über Verhaltensökonomie und kognitive Psychologie hervorgehoben wurde. In diesem Zusammenhang wird den Entscheidungen des Algorithmus eine Aura der Neutralität verliehen, sie sind das Ergebnis aseptischer, rationaler Berechnungen auf der Grundlage von Daten. Aus dieser Perspektive ergibt sich jedoch auch eine kritische Lesart des Phänomens, da der Einsatz solcher Instrumente tatsächlich eine Reihe von Entscheidungen und Annahmen mit sich bringt, die alles andere als neutral sind: Die Annahme von Prognosemodellen und Kriterien, auf deren Grundlage Daten gesammelt, ausgewählt, systematisiert, geordnet und zusammengestellt werden, ihre Interpretation und die daraus resultierende Formulierung von Urteilen sind allesamt Vorgänge, die das Ergebnis bestimmter bewusster oder unbewusster Entscheidungen und Wertvorstellungen sind; daraus folgt, dass diese Instrumente eine Reihe von Entscheidungen treffen müssen, die weitgehend von den verwendeten Kriterien und den verwendeten Referenzdaten abhängen, bei denen es sich oft als schwierig erwiesen hat, die notwendige Transparenz zu erhalten. 

Außerdem geht es bei der Verwendung des Algorithmus nicht darum, mit verschiedenen Formen der Externalisierung des Verwaltungswillens zu experimentieren, wie im Fall des computergestützten Verwaltungsakts, oder neue Methoden der Kommunikation zwischen der Verwaltung und Privatpersonen zu finden, wie im Fall der Beteiligung der Bürger an Verwaltungsentscheidungen über soziale Netzwerke oder digitale Plattformen, oder über die Art und Weise des Datenaustauschs zwischen öffentlichen Verwaltungen nachzudenken.

Im Falle der Nutzung solcher digitaler Werkzeuge haben wir es mit einer Situation zu tun, die in der Lehre mit dem Begriff „Revolution 4.0“ bezeichnet wird, der in Bezug auf die öffentliche Verwaltung und ihre Tätigkeit die Möglichkeit beschreibt, dass der administrative Entscheidungsprozess einer Software anvertraut wird, in die eine Reihe von Daten eingegeben wird, um durch die Automatisierung des Verfahrens zur endgültigen Entscheidung zu gelangen.

Die Zweckmäßigkeit einer solchen Funktionsweise der Verwaltung des öffentlichen Interesses zeigt sich insbesondere bei Verfahren wie dem im vorliegenden Rechtsstreit in Rede stehenden, die seriell oder standardisiert sind, die die Bearbeitung großer Mengen von Anträgen mit sich bringen und die durch die Erfassung bestimmter und objektiv überprüfbarer Daten und das Fehlen jeglicher Ermessenserwägungen gekennzeichnet sind. 

Die uneingeschränkte Zulässigkeit dieser Rechtsakte entspricht den Grundsätzen der Effizienz und der Kostenwirksamkeit des Verwaltungshandelns (Artikel 1 des Gesetzes 241/90), die gemäß dem verfassungsrechtlichen Grundsatz der Leistungsfähigkeit des Verwaltungshandelns (Artikel 97 der Verfassung) von der Verwaltung verlangen, dass sie ihre Ziele mit dem geringsten Aufwand an Mitteln und Ressourcen und durch die Straffung und Beschleunigung des Verfahrensablaufs erreicht.

In den angesprochenen Streitfällen, die sich auf Verfahren zur Vergabe von Sitzen auf der Grundlage objektiver Kriterien beziehen, sollte der Einsatz eines computergestützten Verfahrens, das direkt zur endgültigen Entscheidung führt, nicht stigmatisiert, sondern grundsätzlich gefördert werden: Er bringt nämlich zahlreiche Vorteile mit sich, wie z. B. die beträchtliche Verkürzung der Verfahrensdauer bei rein repetitiven Vorgängen ohne Ermessensspielraum, den Ausschluss von Eingriffen aufgrund von Fahrlässigkeit (oder schlimmer noch: Böswilligkeit) des Beamten (Menschen) und die daraus resultierende größere Garantie der Unparteilichkeit der automatisierten Entscheidung.

Darüber hinaus kann der Einsatz computergestützter Verfahren kein Grund dafür sein, die Grundsätze zu umgehen, die unser Rechtssystem prägen und das Verhalten der Verwaltungstätigkeit regeln. In diesem Zusammenhang ist der Rückgriff auf den Algorithmus korrekt als ein organisatorisches Modul, ein Verfahrens- und Ermittlungsinstrument zu verstehen, das den für jedes Verwaltungsverfahren typischen Überprüfungen unterliegt, das der Modus Operandi der behördlichen Entscheidung bleibt, die auf der Grundlage der Rechtsvorschriften, die der öffentlichen Einrichtung, die Inhaberin der Befugnis ist, die Befugnisse und die von ihr verfolgten Zwecke zuweisen, durchgeführt wird.

Es gibt auch keine prinzipiellen oder konkreten Gründe dafür, seine Anwendung auf die verbindliche Verwaltungstätigkeit und nicht auf die Ermessensausübung zu beschränken, die beide Ausdruck einer im öffentlichen Interesse ausgeübten hoheitlichen Tätigkeit sind.

Abgesehen von der Tragfähigkeit einer solchen Unterscheidung im Vorfeld und in Anbetracht der Tatsache, dass jede behördliche Tätigkeit eine Phase der Feststellung und zumindest der Überprüfung der Wahl der vom Gesetz vorgegebenen Zwecke beinhaltet, spricht nichts dagegen, dass die genannten Zwecke, die mit dem Einsatz von Computeralgorithmen verfolgt werden, auch im Rahmen von Tätigkeiten verfolgt werden, die durch Ermessensspielräume gekennzeichnet sind, auch wenn der Rückgriff auf Computerwerkzeuge im Zusammenhang mit der so genannten verbindlichen Tätigkeit einfacher zu sein scheint. 

Vielmehr kann, wenn im Falle einer gebundenen Tätigkeit der Rückgriff auf Instrumente zur Automatisierung der Datenerfassung und -auswertung sowohl in quantitativer als auch in qualitativer Hinsicht viel relevanter sein mag, auch die Ausübung von Ermessensaktivitäten, insbesondere technischer Art, abstrakt gesehen von den Effizienzgewinnen und ganz allgemein von den Vorteilen profitieren, die solche Instrumente bieten. 

In diesem Zusammenhang und in Anbetracht der allgemeinen Zulässigkeit solcher Instrumente sind zwei herausragende Aspekte von grundlegender Bedeutung, auch im Hinblick auf die supranationale Disziplin, als Mindestgarantien für jede Hypothese der Verwendung von Algorithmen in der öffentlichen Entscheidungsfindung: a) die vollständige Kenntnis des verwendeten Moduls und der angewandten Kriterien; b) die Zurechenbarkeit der Entscheidung an das Organ, das die Befugnis hat, das in der Lage sein muss, die notwendige Überprüfung der Logik und der Legitimität der Wahl und der dem Algorithmus anvertrauten Ergebnisse vorzunehmen.

Auf der Seite der vollständigen Erkennbarkeit wird dem Grundsatz der Transparenz eine herausragende Bedeutung beigemessen, die sowohl für die Behörde selbst, die Inhaberin der Befugnis, für deren Ausübung der Rückgriff auf das Instrument des Algorithmus vorgesehen ist, als auch für die von der Befugnis selbst betroffenen und beteiligten Subjekte gelten soll. Der Mechanismus, durch den die robotergestützte Entscheidung (d. h. der Algorithmus) Gestalt annimmt, muss gemäß einer verstärkten Deklination des Transparenzprinzips „bekannt“ sein, was auch die vollständige Bekanntheit einer in einer anderen als der Rechtssprache ausgedrückten Regel impliziert. Diese Erkennbarkeit des Algorithmus muss in allen Aspekten gewährleistet sein: von den Verfassern über das für seine Ausarbeitung verwendete Verfahren bis hin zum Entscheidungsmechanismus, einschließlich der im Bewertungs- und Entscheidungsverfahren zugewiesenen Prioritäten und der als relevant ausgewählten Daten. Dies ist notwendig, um überprüfen zu können, ob die Kriterien, Annahmen und Ergebnisse des robotisierten Verfahrens mit den Vorschriften und Zielen übereinstimmen, die vom Gesetz oder von der Verwaltung selbst im Vorfeld dieses Verfahrens festgelegt wurden, und damit die Modalitäten und Regeln, auf deren Grundlage das Verfahren eingerichtet wurde, klar sind – und folglich überprüft werden können.

In Bezug auf die betroffenen Personen stellt sich auch ein Problem hinsichtlich der Verwaltung der entsprechenden Daten. Bislang lassen sich bei der Verarbeitung personenbezogener Daten zwei verschiedene Arten von automatisierten Entscheidungsprozessen unterscheiden: solche, bei denen ein Mensch beteiligt ist, und solche, die den gesamten Prozess allein dem Algorithmus überlassen. 

Die jüngste europäische Verordnung zu diesem Thema (2016/679), die sich auf diese Datenverarbeitungsmethoden konzentriert, integriert die bereits in der Richtlinie 95/46/EG enthaltene Disziplin mit der Absicht, das Risiko einer diskriminierenden Verarbeitung für den Einzelnen einzudämmen, die ihren Ursprung im blinden Vertrauen in die Verwendung von Algorithmen hat. Insbesondere legen die Artikel 13 und 14 der Verordnung in einer für die Vergangenheit innovativen Weise fest, dass die betroffene Person in der Mitteilung über die mögliche Durchführung einer automatisierten Entscheidungsfindung informiert werden muss, unabhängig davon, ob die Daten direkt oder indirekt bei der betroffenen Person erhoben werden. Eine besonders wichtige Garantie wird anerkannt, wenn der Prozess vollständig automatisiert ist, da zumindest in solchen Fällen verlangt wird, dass der für die Verarbeitung Verantwortliche „aussagekräftige Informationen über die verwendete Logik sowie die Bedeutung und die voraussichtlichen Folgen einer solchen Verarbeitung für die betroffene Person“ bereitstellen muss. In diesem Sinne wurde in der Lehre darauf hingewiesen, dass der europäische Gesetzgeber den Grundsatz der Transparenz, der im Mittelpunkt der Verordnung steht, stärken wollte. 

Die Argumentation der Rechtsprechung setzt sich mit einer detaillierten Untersuchung der Vorschriften europäischen Ursprungs fort.

Was die Überprüfung der Ergebnisse und ihre Zurechenbarkeit betrifft, so muss die nachgelagerte Überprüfung im Hinblick auf die Logik und die Korrektheit der Ergebnisse gewährleistet sein. Auf diese Weise soll die Zurechenbarkeit der Entscheidung zum Inhaber der Entscheidungsbefugnis, der auf der Grundlage des Legalitätsprinzips identifiziert wird, sowie die Überprüfung der daraus folgenden Identifizierung der verantwortlichen Person sowohl im Interesse der öffentlichen Verwaltung selbst als auch im Interesse der von der dem Algorithmus anvertrauten Verwaltungshandlung betroffenen und beteiligten Personen gewährleistet werden. In diesem Zusammenhang sieht die genannte Verordnung selbst neben den kognitiven Garantien, die durch die Offenlegung und das Auskunftsrecht gewährleistet werden, eine ausdrückliche Beschränkung der Durchführung vollautomatisierter Entscheidungsprozesse vor. In Artikel 22 Absatz 1 wird das Recht des Einzelnen anerkannt, keinen automatisierten Entscheidungen unterworfen zu werden, die ohne menschliche Mitwirkung getroffen werden und die gleichzeitig rechtliche Wirkungen entfalten oder den Einzelnen in ähnlicher Weise beeinträchtigen. Daher ist es immer notwendig, ein Zentrum der Zurechnung und der Verantwortung zu bestimmen, das in der Lage ist, die Legitimität und Logik der vom Algorithmus diktierten Entscheidung zu überprüfen.

In Bezug auf die Zurechenbarkeit verweist diese Rechtsprechung auf die Charta der Robotik, die im Februar 2017 vom Europäischen Parlament angenommen wurde, als relevantes Rahmenelement des Themas. Darin heißt es: „Die Autonomie eines Roboters kann als die Fähigkeit definiert werden, unabhängig von externer Kontrolle oder Einflussnahme Entscheidungen zu treffen und diese in der Außenwelt umzusetzen; (…) diese Autonomie ist rein technologischer Natur und ihr Grad hängt vom Grad der Komplexität ab, mit der die Interaktion eines Roboters mit der Umwelt gestaltet ist; (… ) für den Fall, dass ein Roboter autonome Entscheidungen treffen kann, reichen die herkömmlichen Vorschriften nicht aus, um die Haftung für von einem Roboter verursachte Schäden auszulösen, da sie es weder ermöglichen würden, den Ersatzpflichtigen zu bestimmen, noch zu verlangen, dass dieser den verursachten Schaden ersetzt“. Daher muss auch bei Anwendung der allgemeinen und traditionellen Vorschriften über die Zurechenbarkeit und Haftung sichergestellt werden, dass die endgültige Entscheidung der zuständigen Behörde und Einrichtung nach dem Recht, das die Befugnis zuweist, zugewiesen werden kann.

Zur Bestätigung des vorgeschlagenen Rahmens wird auf das supranationale Recht verwiesen, aus dem sich drei Grundsätze ergeben, die bei der Prüfung und Nutzung von IT-Instrumenten gebührend berücksichtigt werden müssen.

Erstens der Grundsatz der Kenntnisnahme, der besagt, dass jede Person das Recht hat, zu wissen, dass automatisierte Entscheidungsprozesse, die sie betreffen, existieren, und in diesem Fall aussagekräftige Informationen über die verwendete Logik zu erhalten. Der betreffende Grundsatz ist allgemein formuliert und gilt daher sowohl für Entscheidungen privater als auch öffentlicher Stellen, wenngleich in dem Fall, dass die Entscheidung von einer Behörde getroffen wird, Die Vorschrift der Verordnung stellt eine unmittelbare und spezifische Anwendung von Artikel 42 der Europäischen Grundrechtecharta („Recht auf eine gute Verwaltung“) dar, in dem es heißt, dass die öffentliche Verwaltung, wenn sie eine Entscheidung zu treffen beabsichtigt, die nachteilige Auswirkungen auf eine Person haben kann, verpflichtet ist, diese Person zu hören, bevor sie handelt, und ihr Zugang zu ihren Archiven und Dokumenten zu gewähren, und dass sie schließlich verpflichtet ist, „ihre Entscheidung zu begründen“. Dieses Recht auf Kenntnis der Existenz von Entscheidungen, die uns betreffen und die von Algorithmen getroffen werden, und dementsprechend die Pflicht derjenigen, die Daten auf automatisierte Weise verarbeiten, die betroffene Person davon in Kenntnis zu setzen, muss mit Mechanismen einhergehen, die in der Lage sind, ihre Logik zu entschlüsseln. Unter diesem Gesichtspunkt wird der Grundsatz der Kenntnisnahme durch den Grundsatz der Verständlichkeit ergänzt, d.h. die Möglichkeit, um den Ausdruck der Verordnung zu verwenden, „sinnvolle Informationen über die verwendete Logik“ zu erhalten.

Zweitens kann der andere Grundsatz des europäischen Rechts, der für diese Angelegenheit relevant ist (aber auch von globaler Bedeutung, da er beispielsweise in der bekannten Entscheidung Loomis vs. Wisconsin verwendet wurde), als Grundsatz der Nichtausschließlichkeit der algorithmischen Entscheidung definiert werden. Wenn eine automatisierte Entscheidung „Rechtswirkungen erzeugt, die eine Person betreffen oder erheblich beeinträchtigen“, hat diese Person ein Recht darauf, dass diese Entscheidung nicht ausschließlich auf diesem automatisierten Verfahren beruht (Art. 22 Reg.). In diesem Zusammenhang muss auf jeden Fall ein Mensch in den Entscheidungsprozess einbezogen werden, der in der Lage ist, die automatisierte Entscheidung zu überprüfen, zu bestätigen oder zu widerlegen. In den Mathematik- und Informationswissenschaften wird dieses Modell als HITL (Human in the Loop) bezeichnet, bei dem die Maschine mit dem Menschen interagieren muss, um ihr Ergebnis zu erzielen.

Drittens, aus Erwägungsgrund Nr. 71 der Verordnung (EU) Nr. 679/2016 ein weiteres grundlegendes Prinzip, nämlich das der algorithmischen Nichtdiskriminierung, aus dem hervorgeht, dass der für die Verarbeitung Verantwortliche geeignete mathematische oder statistische Verfahren für die Profilerstellung verwenden und geeignete technische und organisatorische Maßnahmen ergreifen sollte, um insbesondere sicherzustellen, dass Faktoren, die zu Ungenauigkeiten in den Daten führen, berichtigt werden und das Fehlerrisiko minimiert wird, sowie um die Sicherheit der personenbezogenen Daten zu gewährleisten, in einer Weise, die den potenziellen Risiken für die Interessen und Rechte der betroffenen Person Rechnung trägt und die unter anderem verhindert, dass natürliche Personen aus Gründen der Rasse oder der ethnischen Herkunft, der politischen Meinung, der Religion oder der Weltanschauung, der Gewerkschaftszugehörigkeit, des genetischen Status, der Gesundheit oder der sexuellen Ausrichtung diskriminiert werden oder dass Maßnahmen mit solchen Auswirkungen ergriffen werden. In diesem Zusammenhang darf ein Algorithmus, auch wenn er bekannt und nachvollziehbar ist und nicht der einzige Grund für die Entscheidung ist, keinen diskriminierenden Charakter annehmen. In solchen Fällen, so der Erwägungsgrund, müssten die „Eingabedaten“ berichtigt werden, um diskriminierende Auswirkungen in der Entscheidungsausgabe zu vermeiden; ein Vorgang, der offensichtlich die notwendige Mitarbeit derjenigen erfordert, die die Maschinen anweisen, die solche Entscheidungen produzieren.

Schließlich wird darauf hingewiesen, dass die Frage der mit dem Instrument verbundenen Gefahren nicht durch die starre und mechanische Anwendung aller winzigen Verfahrensvorschriften des Gesetzes Nr. 241 von 1990 (wie z. B.. die Mitteilung der Verfahrenseröffnung, auf der ein großer Teil des Rechtsbehelfs beruht, oder die Person des Verfahrensleiters, die mangels ausdrücklicher Bestimmungen keine Maschine sein kann), sondern dass das grundsätzliche Schutzbedürfnis, das sich aus dem Einsatz des so genannten algorithmischen Computerwerkzeugs ergibt, die Transparenz in den oben hervorgehobenen Begriffen ist, die sich auf den Grundsatz der Begründung und/oder Rechtfertigung der Entscheidung zurückführen lassen.

Algorithmus und Grundrechte.

In Bezug auf die komplexe Beziehung zwischen Algorithmen und Grundrechten ist hervorzuheben, dass die europäische Verordnung eine Reihe von kognitiven Garantien zusammen mit einem Verbot automatisierter Entscheidungsprozesse vorsieht, auf die der Staatsrat in der Urteilsbegründung des Urteils Nr. 8472/2019 Bezug genommen hat, indem er auf die Artikel 13, 14, 15 und 22 der Verordnung selbst verwies. Gerade um die Auslegung dieser Vorschriften gibt es in der Lehre eine breite Debatte darüber, ob es ein echtes Recht auf Erklärung in der DSGVO gibt oder nicht.

In diesem Zusammenhang hat die Lehre darauf hingewiesen, dass der Begriff der Erklärung, der in vielerlei Hinsicht dem der „Wissbarkeit“ im Sinne, der vom Staatsrat gebilligten „Verständlichkeit“ ähnelt, in Unterkategorien unterteilt werden muss, je nach dem Gegenstand, auf den er sich bezieht, und dem Zeitpunkt, zu dem die Erklärung gegeben wird.

Hinsichtlich des Gegenstands ist zu unterscheiden zwischen der Erklärung, die sich auf die Funktionsweise des Systems bezieht, d. h. auf das Funktionieren der Entscheidungsstruktur als Ganzes, und der Erklärung, die sich auf konkrete Entscheidungen bezieht, d. h. auf die Gründe und Umstände, die zu der einzelnen Entscheidung geführt haben; hinsichtlich des zeitlichen Kriteriums hingegen wird zwischen der Erklärung ex ante und der Erklärung ex post unterschieden. Während sich ersteres nur auf das Funktionieren des Systems insgesamt beziehen kann, kann sich das Recht auf Erklärung ex post sowohl auf die gesamte Entscheidungsstruktur als auch auf bestimmte Einzelentscheidungen und deren Gründe beziehen. Und genau diese besondere Art der Erklärung ist in der Verordnung nicht zu finden. Aber hier kommt die Begründungspflicht ins Spiel, ein Grundsatz, der uns wohlbekannt und für uns bzw. für das Rechtssystem und seine Grundlagen unverzichtbar ist (auf die Gefahr hin, in politische Entscheidungen umgewandelt zu werden, d. h. rechtlich unmotiviert).

Das Verhältnis zur Privatsphäre scheint äußerst heikel zu sein. In dieser Hinsicht ist es gut, neben dem formalen Datum der Rechtfertigung daran zu denken, dass die „Erklärbarkeit“ und die daraus folgende „Verständlichkeit“ notwendige Elemente sind, angesichts der Entwicklung, die das Recht auf Privatsphäre gemäß den vier von Stefano Rodotà aufgezeigten Tendenzen durchgemacht hat: „1) vom Recht, in Ruhe gelassen zu werden, zum Recht, die Kontrolle über die mich betreffenden Informationen zu behalten; 2) von der Privatsphäre zum Recht auf informationelle Selbstbestimmung; 3) von der Privatsphäre zur Nichtdiskriminierung; 4) von der Geheimhaltung zur Kontrolle“. Der springende Punkt ist eben die Abfolge „Person-Information-Umlauf-Kontrolle“, die im digitalen Zeitalter quantitativ sehr viel breiter geworden ist als das klassische Paradigma „Person-Information-Geheimnis“, das die wirksame Garantie der Würde der Person auch in der heutigen digitalen Gesellschaft beinhaltet. Diese Garantie kann jedoch nicht ohne eine korrekte Information der betroffenen Person über die Datenverarbeitung verwirklicht werden.

Wie erwartet, hat der Staatsrat die Informationspflichten aus den Artikeln 13 und 14 der Datenschutz-Grundverordnung angeführt, die vorsehen, dass die betroffene Person darüber informiert werden muss, dass die Datenverarbeitung automatisiert erfolgt, wobei der für die Verarbeitung Verantwortliche im Falle einer vollautomatisierten Verarbeitung „aussagekräftige Informationen über die verwendete Logik sowie die Bedeutung und die voraussichtlichen Folgen einer solchen Verarbeitung für die betroffene Person“ bereitstellen muss. Dies ist der bekannte Datenschutzhinweis, und die öffentlichen Verwaltungen sollten – außer in den Fällen, in denen eine „Registrierung und Mitteilung“ gesetzlich vorgeschrieben ist oder in anderen Fällen, die in den Vorschriften ausdrücklich vorgesehen sind – auch darauf achten, diese Informationen bereitzustellen, wenn sie Entscheidungen treffen, die auf einer automatisierten Verarbeitung der Daten der Bürger beruhen.

Der Schlüssel zur korrekten Auslegung der Artikel 13 und 14 liegt in den Erwägungsgründen 60, 61 und 62, die von einem Geist der Fairness und Transparenz geprägt sind, um die betroffene Person so weit wie möglich über die Verarbeitung aufzuklären.

Künstliche Intelligenz, Algorithmen und alternative Streitbeilegung.

In der digitalen Sphäre werden alternative Streitbeilegungssysteme, bekannt als ADR, zu ODR, der Online-Streitbeilegung.

Aus heutiger Sicht verschärft die Dauer der Rechtsstreitigkeiten das Problem auch in Bezug auf die Kosten, die oft höher sind als der Wert der Streitigkeiten selbst. 

Generell wirft der Rückgriff auf ADR – zu dem die Lehre zahlreiche eingehende Studien zur Vorbereitung einer notwendigen breiten Einführung in das Rechtssystem durchgeführt hat – traditionelle Probleme auf, sowohl in Bezug auf das Ritual (Status eines Dritten, Schutz des kontradiktorischen Verfahrens, Recht auf Verteidigung usw.) als auch in Bezug auf den Inhalt (z. B. die Frage, wie die Regeln für die Urteilsfindung zu bestimmen sind).

In der bekannten Empfehlung der Europäischen Kommission vom 4. April 2001 werden Begriffe genannt, die uns Juristen heilig sind: Unparteilichkeit, Transparenz, Effizienz des Zugangs, Fairness.

Diese Grundsätze der Empfehlung werden in zahlreichen europäischen Verordnungen umgesetzt und angewandt, angefangen bei der Grundverordnung 2013/524 über die OS. 

Selbst in diesem Bereich wird versucht, ein reales Verfahren in einer kleinen, embryonalen und vereinfachten Form zu reproduzieren.