Schritt für Schritt zu einem KI-Rechtsrahmen im Boardroom

Generative KI wird die Art und Weise wie wir arbeiten nachhaltig verändern. Unternehmen, die sich nicht damit auseinandersetzen, werden auf Dauer Wettbewerbsnachteile erleiden. Wie aber könnten erste Schritte in Richtung eines gesellschaftsrechtskonformen Rahmens zur sicheren Anwendung von KI im Boardroom aussehen? Dies diskutierten Experten im Rahmen eines Panels bei der Konferenz „Corporate Governance & Gesellschaftsrecht“, die wir gemeinsam mit dem Arbeitskreis deutscher Aufsichtsrat e.V. im März organisiert haben.

Die Panel-Teilnehmer Prof. Dr. Johannes Adolff, Partner bei Hengeler Mueller, Kai Jacob, Partner bei KPMG Law, Dr. Katharina Reus, General Counsel bei Mundipharma und Hendrik Schmidt, Assistant VP & Corporate Governance Experte bei der DWS waren sich über die grundsätzliche Bedeutung von KI im Boardroom einig.   

In vielen Unternehmen nutzen Mitarbeiterinnen und Mitarbeiter generative KI-Modelle, um etwa E-Mails oder Texte zu formulieren. KI kann aber deutlich mehr: In der Pharma-Branche zum Beispiel werden mit Hilfe von KI enorme Datenmengen innerhalb kürzester Zeit ausgewertet, um neue Wirkstoffklassen zu finden. Die Suche nach neuen Antibiotika-Wirkstoffen ist für Menschen eine aufwändige, oft mehrjährige Tätigkeit. KI kann dagegen nach wenigen Tagen Datenauswertung rund 50 passende Kandidaten präsentieren. Diese würden anschließend von Menschen weiter untersucht und selektiert.  

Prognose aus der Blackbox

Können auch Vorstand und Aufsichtsrat KI nutzen, um sich auf ähnliche Weise passende Datengrundlagen für strategische Entscheidungen zu Geschäftsmodell, M&A-Transaktionen oder auch Finanzierungsfragen erstellen zu lassen? Ein fiktives Beispiel zeigt, wie das aussehen könnte: Ein Unternehmen, das an die Börse gehen will, versucht mit Hilfe von KI den Wert der Erstnotiz des Wertpapiers an der Börse zu prognostizieren. Bislang wurde dieser näherungsweise „von Hand“ mit Daten über Unternehmen der Peer Group und Daten zur Ertragskraft des eigenen Unternehmens erstellt. Eine KI kann solche Prognosen auf Basis von multiplen Näherungen erstellen und somit eine Vielfalt von Szenarien für die Entscheidung bieten. Dabei gewichtet der Algorithmus im Rahmen seines Lernvorgangs den Input immer wieder neu.

Das erlaubt treffendere Prognosen, weil sie auf einer viel größeren Datengrundlage aufbauen. Auch gewähren sie Einblicke, die Menschen niemals in dieser kurzen Zeit hätten erschließen können. Allerdings ist der Lern- und Gewichtungsvorgang des Algorithmus je nach KI-Modell eine Blackbox. Es ist nicht immer nachvollziehbar, wie die Daten verarbeitet werden und wie die KI ihre Schlüsse zieht.

KI wie einen Expertenrat behandeln

Im Rahmen des sogenannten Sandboxing kann die KI zu Lernzwecken in Pilotprojekten in einem regulatorischen Rahmen innerhalb des Unternehmens genutzt werden. Sollen die Prognosen der KI als Entscheidungsgrundlage genutzt werden, ist einiges zu beachten, was aus Recht und Rechtsprechung bekannt ist.

Man kann die erstellten KI-Szenarien so behandeln, als würde man einen externen Expertenrat hinzuziehen. Für das Einbeziehen eines externen Expertenrats gelten rechtlich die sogenannten ISION-Grundsätze, nach denen der Rat fachkundig, neutral und plausibel sein muss. Auch hier müssen Vorstand und Aufsichtsrat eine eigene Entscheidung treffen. Entscheiden sich Vorstand und Aufsichtsrat für ein bestimmtes KI-Szenario und liegen damit falsch, stellt sich die Frage, ob hier die Business Judgement Rule greift. Diese erlaubt Unternehmensorganen ein freies, nicht haftungsbedrohtes Ermessen, wenn bestimmte Kriterien erfüllt sind, darunter angemessene Information als Grundlage. Wie das im Rahmen der Business Judgement Rule für KI-Szenarien zu beurteilen ist, ist noch unklar.

Trial and Error auf dem Weg zum rechtlichen Rahmen

Die Kernelemente einer Governance, wie man KI bei der Entscheidungsfindung im Boardroom einbinden kann, könnten sich auch im Rahmen einer richterlichen Rechtsfortbildung herauskristallisieren. Dies beschreibt das Schließen einer Rechtslücke durch einen Richterspruch im konkreten Einzelfall. Wichtig ist auf jeden Fall, dass Aufsichtsrat und Vorstand die Prinzipien des Trainings-Datensatzes kennen und wissen, was ein KI-unterstütztes Prognose-Modell leisten kann. Auch müssen sie sich ein Urteil bilden und begründen, welches Gewicht sie dem KI-Output im Verhältnis zu ihren anderen Informationsgrundlagen beimessen.

Auch wenn noch viele rechtliche Fragen offen sind, gab es beim Gespräch der Experten spannende erste Impulse. Die Diskussion ist jedenfalls noch lange nicht am Ende und wir führen sie in Zukunft gerne fort.