In viele unserer Lebensbereiche hat Künstliche Intelligenz (KI) bereits Einzug gehalten. Gleiches gilt für unseren Arbeitsalltag und die Nutzung der digitalen Technologie in Unternehmen. Damit werden auch zahlreiche rechtliche Fragestellungen aufgeworfen, die es zu beantworten gilt. Von Christoph Berger
Im Januar 2019 nahm die Manchot Forschungsgruppe „Entscheidungsfindung mit Hilfe von Methoden der Künstlichen Intelligenz“ an der Heinrich-Heine-Universität Düsseldorf (HHU) ihre wissenschaftlichen Arbeiten auf. Zunächst für drei Jahre. Doch bereits seit Juli 2021 ist klar, dass die Jürgen Manchot Stiftung die interdisziplinäre Forschungsgruppe auch ab Januar 2022 für weitere drei Jahre fördern wird. Ziel dabei ist es, die Künstliche Intelligenz (KI)-Forschung an der HHU zu vernetzen und ihre Anwendung in allen Fakultäten der Universität voranzutreiben.
Gestartet wurde 2019 mit drei Use Cases, wobei es in einem gemeinsamen Projekt der Betriebswirtschaftslehre und der Rechtswissenschaften um „Good Governance und Compliance“ geht: Wie kann gute Unternehmensführung durch KI unterstützt werden – fordern Gesellschaft und Staat von Unternehmen doch genau beides ein? Dies betreffe interne Abläufe im Unternehmen, wo Gesetze und gesellschaftliche Normen einzuhalten seien, aber auch das Verhältnis von Unternehmen und Staat, etwa die Besteuerung, heißt es in der Projektbeschreibung. Dabei sei der wachsende Einsatz von KI bei immer vielfältigeren Funktionen im Unternehmen im Hinblick auf diese Kriterien sowohl Chance – zum Beispiel bei der Erkennung von Normverstößen – als auch Aufgabe, etwa bei der Verhinderung von Diskriminierung durch Algorithmen. In dem Projekt wolle man analysieren und insbesondere beantworten, ob und unter welchen Bedingungen KI die Einhaltung gesellschaftlicher Normen unterstützt, Verstöße gegen geltende Regeln aufdeckt oder vorhersagt und wie makroökonomische Effekte des zunehmenden Einsatzes von KI zu behandeln sind.
KI: Abwägen von Chancen und Risiken
Das Projekt zeigt neben der fachlichen Beantwortung der aufgezählten Fragen vor allem eines: Bei KI geht es immer auch und vor allem um das Abwägen von Chancen und Risiken. Dies wird ebenso bei einem Blick in das von der Europäischen Kommission im Februar 2020 veröffentlichten Weißbuch „Zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen“ deutlich. Darin heißt es unter anderem: „Angesichts der erheblichen Auswirkungen, die KI auf unsere Gesellschaft und die notwendige Vertrauensbildung haben kann, ist es von entscheidender Bedeutung, dass die europäische KI auf unseren Werten und Grundrechten wie Menschenwürde und Schutz der Privatsphäre fußt. Zudem sollten die Auswirkungen von KI-Systemen nicht nur aus dem Blickwinkel des Einzelnen betrachtet werden, sondern auch aus der Perspektive der gesamten Gesellschaft.“ Der Deutsche Anwaltverein (DAV), der neben anderen Institutionen um eine Stellungnahme zu dem Weißbuch gebeten worden war, empfiehlt bei der Ausarbeitung eines neuen Rahmenwerks zur künstlichen Intelligenz folgende Erkenntnisse in Bezug auf das Recht zu berücksichtigen:
- Die Einführung von KI-Systemen im Bereich der Justiz ist mit besonders hohen Grundrechtsrisiken verbunden und sollte daher strengen Anforderungen unterworfen werden.
- Gerichtliche und ähnlich eingriffsintensive verbindliche Entscheidungen staatlicher Instanzen dürfen niemals vollständig automatisiert werden.
- In jedem Fall müssen umfassende und sinnvolle Transparenzpflichten eingehalten werden.
- Darüber hinaus müssen die Haftungsregeln auf EU-Ebene in Bezug auf KI erweitert werden. Ebenso müssen wirksame Rechtsbehelfs- und Kontrollmechanismen für den Einsatz von KI im Bereich der Justiz und der öffentlichen Verwaltung geschaffen werden.
- Um den von der EU verfolgten menschenzentrierten Ansatz zu gewährleisten, müssen die EU und ihre Mitgliedstaaten, dafür sorgen, dass die zunehmende Automatisierung von Dienstleistungen nicht zu einem Abbau von Arbeitsplätzen im Justizsektor führt, sondern zusätzliche Ausbildungsangebote und einen verstärkten Wissensaustausch für Angehörige von Rechtsberufen im Bereich KI schaffen.
KI bringt Vorteile
Prinzipiell gelte: „Wenn wir eine humane Gesellschaft erhalten wollen, in welcher der Mensch weiterhin die endgültigen Entscheidungen trifft, müssen wir jedoch sicherstellen, dass der Mensch die Kontrolle behält. Diese Überlegungen gelten insbesondere für die Bereiche Justiz, Strafverfolgung und öffentliche Verwaltung. Auch in diesen Bereichen, die für das Funktionieren jeder demokratischen Gesellschaft von zentraler Bedeutung sind, schreitet die Digitalisierung – wenn derzeit auch noch in einem frühen Stadium – voran.“ Dabei bedeute die Betonung der menschlichen Gesellschaft nicht, die Vorteile von Innovation und Fortschritt zu verkennen. So könne Technologie – einschließlich KI-basierter Instrumente – beispielsweise den Zugang zum Rechtssystem erweitern oder intelligente Systeme könnten eingesetzt werden, um die Einreichung von Schriftsätzen und die Ausfertigung von Gerichtsbeschlüssen in Zivilverfahren weitgehend zu automatisieren. Doch: „Sobald jedoch KI-basierte Technologie im Gerichtssaal oder in Entscheidungsprozessen angewandt wird, könnten Grundrechte ernsthaft beeinträchtigt werden.“
Wenn wir eine humane Gesellschaft erhalten wollen, in welcher der Mensch weiterhin die endgültigen Entscheidungen trifft, müssen wir jedoch sicherstellen, dass der Mensch die Kontrolle behält.
An einem geeigneten rechtlichen Rahmen für den KI-Einsatz arbeitet auch die Forschungsgruppe „Regulierung der digitalen Wirtschaft“ des Max-Planck-Instituts für Innovation und Wettbewerb. Identifiziert wurden von der juristischen Abteilung des Instituts mögliche Fragestellungen, die sich an der Schnittstelle zwischen Künstlicher Intelligenz und IP-Rechten, also dem gewerblichen Rechtsschutz, ergeben können. Und es werden verschiedene Richtungen aufgezeigt, wie Antworten gefunden werden könnten. Denn: Bislang fokussiere sich die politische und rechtliche Diskussion primär auf den Output, also das, was durch den Einsatz Künstlicher Intelligenz oder zumindest unterstützt durch sie generiert werde.
Um beurteilen zu können, inwieweit das bestehende IP-System seine Funktion unter den Rahmenbedingungen dieser rasant voranschreitenden Technologie noch erfüllen könne, sei jedoch eine umfassendere Sichtweise notwendig, heißt es. Zu berücksichtigen seien insbesondere die einzelnen Schritte eines KI-getriebenen Innovationszyklus, in denen IP-Rechte eine Rolle spielen können. Die Untersuchung konzentriert sich dabei auf das materielle europäische Immaterialgüterrecht, insbesondere auf das Urheber-, Patent- und Geschmacksmusterrecht sowie den sui-generis-Schutz für Datenbanken, also das Datenbankherstellerrecht, und den Schutz von Geschäftsgeheimnissen. Es gibt also noch vieles zu regeln und zu gestalten, wenn es um den Einsatz Künstlicher Intelligenz im Recht geht.
Weiterführende Informationen zum Thema:
Europäische Kommission: Künstliche Intelligenz – Exzellenz und Vertrauen
Stellungnahme des DAV zum Weißbuch der EU-Kommission zu Künstlicher Intelligenz
Max-Planck-Analyse „Artificial Intelligence and Intellectual Property Law“ (PDF)Weiterbildung
„KI & Recht kompakt“
Matthias Hartmann (Hrsg.): KI & recht kompakt. Springer Vieweg 2020, 20 Euro
