Hendrik Schulte, Rechtsanwalt der AWADO Rechtsanwaltsgesellschaft mbH
Künstliche Intelligenz vereinfacht Arbeitsabläufe, birgt jedoch auch Risiken. Da Kreditinstitute bereits heute in einigen Bereichen KI nutzen und die Einsatzmöglichkeiten von KI weiter zunehmen, sollten sich Vorstand und Aufsichtsrat sowohl über die konkrete Funktionsweise der eingesetzten KI als auch über die rechtlichen Vorgaben der kommenden KI-Verordnung der Europäischen Union informieren. Zur Vermeidung von Haftungsfolgen sollten Vorstand und Aufsichtsrat sicherstellen, dass künstliche Intelligenz rechtssicher und insbesondere diskriminierungsfrei eingesetzt wird.
Ausgangslage
Nachdem die Mitgliedsländer der Europäischen Union am 21. Mai 2024 dem Entwurf einer Verordnung über künstliche Intelligenz zugestimmt haben, steht das Inkrafttreten dieser Verordnung unmittelbar bevor. Der Verordnung zu eigen ist ein risikobasierter Ansatz in der Reglementierung künstlicher Intelligenz, welcher den Einsatz besonders riskanter künstlicher Intelligenz nicht nur an hohe Voraussetzungen knüpft, sondern, im Falle eines unannehmbaren Risikos, z. B. bei KI mit dem Zwecke des so genannten Social Scorings, auch verbietet.
Die Europäische Union hat damit weltweit eine Vorreiterrolle bei der rechtlichen und ethischen Einordnung künstlicher Intelligenz eingenommen und zeigt, dass Chancen und Risiken von KI stets gegeneinander abgewogen werden müssen. Hierbei kommt auf Entscheidungsträger in Unternehmen eine besondere Herausforderung zu, denn Sie müssen die Hoffnung auf Fortschritt mit berechtigten Bedenken abwägen und letztlich einem technischen System vertrauen, welches ihre zuvor menschlichen, und damit auch bis zu einem gewissen Grad emotionsgesteuerten Entscheidungen auf der Basis von reiner Logik und selbstlernenden Algorithmen trifft.
Hiervon angesprochen sind insbesondere Geschäftsleiter und auch die Personen, deren gesetzliche oder satzungsmäßige Aufgabe es ist, die Geschäftsleitung zu überwachen: Vorstand und Aufsichtsrat.
Aufgabe des Vorstands ist nach § 76 Abs. 1 AktG die eigenverantwortliche Leitung der Gesellschaft, wobei er sie nach § 78 Abs. 1 AktG gerichtlich und außergerichtlich vertritt und nach § 93 AktG die Sorgfalt eines ordentlichen und gewissenhaften Geschäftsleiters anzuwenden hat.
Der Aufsichtsrat hat hingegen nach § 111 AktG die Geschäftsführung zu überwachen und dabei ein Einsichts- und Prüfungsrecht in die Buchführung. Darüber hinaus ist es Aufgabe des Aufsichtsrats, den Vorstand im Rahmen dieser Überwachungsfunktion auch zu beraten. Der Sorgfaltsmaßstab des Aufsichtsrats ergibt sich durch den Verweis des § 116 S. 1 AktG auf § 93 AktG.
Diese Aufgabenverteilung findet sich auch im Genossenschaftsgesetz entsprechend wieder, so dass für den Einsatz von künstlicher Intelligenz in der Genossenschaftsleitung keine wesentlichen Abweichungen zu erwarten sind.
Für die Beurteilung, ob künstliche Intelligenz bei der Geschäftsleitung eingesetzt werden kann, sollte oder muss, ist stets die Frage wesentlich, ob sich das Leitungsorgan oder ein Organmitglied durch den Einsatz oder dessen Unterlassen pflichtwidrig verhalten würde, also nicht so handeln würde, wie es von einem ordentlichen und gewissenhaften Geschäftsleiter zu erwarten wäre. Durch die Business Judgement Rule, als solche in § 93 Abs. 1 S. 2 AktG kodifiziert, wird der Unternehmensführung hier allerdings ein weiter Ermessensspielraum zuerkannt, der einer gerichtlichen Überprüfung nicht unterliegt und dadurch begrenzt ist, dass die entscheidende Person vernünftigerweise annehmen durfte, auf Basis angemessener Informationen zum Wohle der Gesellschaft zu handeln. Für den Einsatz von KI dürfte dies bedeuten, dass der Einsatz nur dann der Business Judgement Rule unterliegt, wenn nachgewiesen werden kann, wie die KI eingesetzt wurde, welchen Regeln sie unterliegt und dass das Ergebnis der Entscheidung auf einer Einhaltung dieser Regeln beruht.
Vorstandsarbeit und künstliche Intelligenz
Soweit KI für Vorstandsentscheidungen eingesetzt werden soll, muss zunächst festgehalten werden, dass eine künstliche Intelligenz nach geltendem Recht nicht als selbständiges Vorstandsmitglied eingesetzt werden kann. Dies ist nach § 76 Abs. 3 S.1 AktG natürlichen Personen vorbehalten. KI kann demnach für die Vorstandsarbeit nur zur Entscheidungsvorbereitung oder Entscheidungsumsetzung angewandt werden. Die KI kann hier zwar einen menschlichen Mitarbeiter nahezu vollständig ersetzen, allerdings nicht das Vorstandsmitglied, denn die eigentliche Leitungsentscheidung muss bei dem Vorstand und damit bei natürlichen Personen verbleiben. Damit wird es erforderlich sein, dass der Einsatz der KI durch vordefinierte Prozesse gesteuert wird und die künstliche Intelligenz mit Regeln „angefüttert“ wird, die sich analog zu Arbeitsanweisungen verhalten, welche an Mitarbeiter herausgegeben werden. Da KI in erster Linie logischen Algorithmen unterliegt, könnte hier sogar eine erhöhte Compliance und eine geringere Fehleranfälligkeit zu erwarten sein.
Darüber hinaus wird ein Vorstand als ordentlicher und gewissenhafter Geschäftsleiter jedenfalls die Pflicht haben, zu überprüfen, welche Tätigkeiten durch künstliche Intelligenz besser als durch natürliche Personen ausgeführt werden können. Dies kann dann der Fall sein, wenn die Tätigkeit durch KI effizienter, bei Risikogeneigtheit fehlerfreier oder bei der Gefahr von Interessenkonflikten neutraler ausgeübt werden kann. Festzuhalten ist, dass gerade unter Aspekten der bankrechtlichen Compliance der Einsatz von künstlicher Intelligenz Vorteile bringen kann. Die im Tagesgeschäft immer wieder relevante und auch zu Mangelfeststellungen führende Prävention von Geldwäsche ist hier nur einer von vielen möglichen Aspekten. So fern, wie es zu erwarten ist, künstliche Intelligenz weiter ausreift, kann die Begründung des Vorstands für eine Entscheidung gegen KI auch im Rahmen der Business Judgement Rule jedenfalls schwierig bis unmöglich werden.
Überwachung und Beratung durch den Aufsichtsrat
Der Aufsichtsrat bleibt indes verpflichtet, die Entscheidungen des Vorstands zu überwachen, unabhängig davon, ob diese mit Hilfe von künstlicher Intelligenz herbeigeführt wurden. Eine herausfordernde Frage wird dabei insbesondere sein, wie der Vorstand seiner Berichtspflicht gegenüber dem Aufsichtsrat nachkommen kann, wenn die KI auf Basis ihrer selbstlernenden und sich weiterentwickelnden Algorithmen Entscheidungen trifft, deren Herleitung weder für den Vorstand noch für den Aufsichtsrat nachvollziehbar sind.
Zu erwarten sein wird in diesem Fall, dass sowohl Aufsichtsrat als auch Vorstand die Entscheidungen der künstlichen Intelligent einer Plausibilitätskontrolle unterziehen und im Einzelfall erklären können. Der Vorstand sollte im Rahmen seiner Berichterstattung jedenfalls Auskunft über Logik, Tragweite und Auswirkungen des KI-Einsatzes geben können (Art. 13 Abs. 2 lit. F DSGVO) und bestenfalls auch darlegen können, wie das System künstlicher Intelligenz angelernt wurde. Hierbei dürfte ein zukünftiger Fokus der Kontrolle durch den Aufsichtsrat auch darauf liegen, dass das KI-System kein Bias erwirbt und auf Grund angefütterter Erfahrungswerte diskriminierende Algorithmen entwickelt.
Im Rahmen der Beratungsfunktion des Aufsichtsrats wird dieser gemeinsam mit dem Vorstand zu erörtern haben, wie durch künstliche Intelligenz im Unternehmen kurz- mittel und langfristig Effizienz unter der Beibehaltung von Rechtssicherheit und ethischer Vertretbarkeit geschaffen werden kann. Es wird eine besondere Rolle dabei spielen, wie sich kurzfristig hohe Investitionen langfristig, z. B. durch die Vermeidung von fehlerhafter Arbeit und Compliance-Verstößen, amortisieren können. Einbezogen werden kann auch die damit verbundene mögliche Steigerung der Unternehmensreputation. Nicht zuletzt dürfte aber auch zu erwarten sein, dass sich die Wirtschaftlichkeit an sich durch den Einsatz künstlicher Intelligenz erhöht und so mittel- bis langfristig ein rein betriebswirtschaftlicher Break-Even mit einer vergleichsweise hohen Anfangsinvestition zu erwarten ist.
Zuletzt bleibt festzuhalten, dass sich auch der Aufsichtsrat bei seiner Arbeit künstlicher Intelligenz bedienen kann und sollte. Die Wertungen zur Vorstandsarbeit mit künstlicher Intelligenz sind hier weitgehend übertragbar, mit dem Ergebnis, dass eine Befugnis zur Nutzung künstlicher Intelligenz bereits jetzt besteht, solange der Aufsichtsrat seine originäre Aufgabe nicht vollständig an die künstliche Intelligenz delegiert. Gerade bei der Beurteilung und dem Vergleich von Dokumenten und Auswertungen kann künstliche Intelligenz einen wesentlichen Beitrag leisten und dabei unter Umständen Aspekte und Zusammenhänge hervorheben, die ein Mensch übersehen hätte.
Fazit
Wesentliche Herausforderung für Vorstand und Aufsichtsrat wird es sein, das zur Vermeidung von Haftungsfolgen wichtige Ziel einer rechtssicheren Vorstands- und Aufsichtsratsarbeit zu erreichen, ohne den Anschluss an die technische Weiterentwicklung zu verlieren. Dies gilt insbesondere für die Vermeidung diskriminierender Entscheidungen, welche beispielsweise im Bereich HR, eine mögliche Haftung nach § 15 AGG auf Schadensersatz und Entschädigung zur Folge haben könnten.
PRAXISTIPPS
Dabei ist Vorstand und Aufsichtsrat zu empfehlen:
- Den Trend hin zu künstlicher Intelligenz ernst zu nehmen, sich auf den inflationären Einsatz künstlicher Intelligenz vorzubereiten und sich über die rechtlichen Limitationen, welche u. a. die KI-Verordnung vorgibt, zu informieren.
- Experten verschiedener rechtlicher Disziplinen, z. B. im Arbeitsrecht aber auch im Bereich Compliance oder Kapitalmarktrecht einzubeziehen.
- Sich auf dem Gebiet der künstlichen Intelligenz weiterzubilden und sich Fortbildungsmaßnahmen durch interne und externe Wissensträger zu unterziehen.
- Gegebenenfalls einen fachlichen Hintergrund auf dem Gebiet der künstlichen Intelligenz zukünftig zu den notwendigen Voraussetzungen mindestens eines Organmitglieds machen.
- Einsatzfelder für den aktuellen und zukünftigen Einsatz künstlicher Intelligenz abstecken und eine Risikoklassifizierung nach den Risikoklassen der KI-Verordnung vornehmen.
- Gemeinsam eine Ethikrichtlinie für den Einsatz künstlicher Intelligenz auszuarbeiten.
- Zu planen, wie künstliche Intelligenz z. B. in der „Anfütterungsphase“ aber auch im Rahmen des Selbstlernprozesses diskriminierungsfrei bleibt.
Beitragsnummer: 22646