Die Dinge richtig tun
KI-Ethik und Governance
Der wesentliche Unterschied zwischen traditioneller Informationstechnologie und KI ist, dass man bei ersterer in der Regel Entscheidungen nachvollziehen kann. Mit IF, THEN und ELSE sind die meisten Handlungen (und Fehler) reproduzierbar. Im Gegensatz dazu beruht künstliche Intelligenz auf dem Versprechen, dass das Ergebnis eines Prozesses nicht vollständig vorhersehbar ist.
Zusammen mit den außerordentlichen Fähigkeiten der KI führt das zu erheblichen Risiken. Es gibt Experten, die in der künstlichen Intelligenz das Potenzial sehen, die Menschheit auszulöschen. Wir würden eher sagen, dass Menschen die KI unangemessen nutzen könnten, und damit enormen Schaden anrichten. Die Verantwortung liegt letzten Endes bei uns.
Herr, die Not ist groß!
Die ich rief, die Geister,
werd' ich nun nicht los.
Der Zauberlehrling, Johann Wolfgang von Goethe (1797/98)
KI macht Fehler, und zwar solche, die oft schwer zu erkennen sind weil die meisten Modelle die Logik ihrer Prozesse nicht umfassend offenlegen. Wenn das zu Fehlern im Handeln von Mitarbeitenden führt, zu schlechten Kundenerlebnissen, oder zu verpassten Chancen, dann hat das negative Auswirkungen auf das Geschäftsergebnis.
Gerade weil KI so einfach und schnell einzurichten und zu nutzen ist, braucht sie im Vergleich zu konventioneller IT umso mehr Aufwand für die Überprüfung und Überwachung. Wir sehen das regelmäßig bei der Durchführung unserer Chatbot Audits, wo eine Mehrzahl von Bots erhebliche Probleme zeigt, die einfach vermeidbar wären.
Ethische Themen spielen ebenfalls eine wichtige Rolle. Es geht darum, wie künstliche Intelligenz Entscheidungen trifft. Verfügt sie über verzerrte Inputs oder produziert sie verzerrte Entscheidungen? Wie handhabt sie Stress beim Benutzer? Was, wenn sie in einer kritischen Situation die falschen Ratschläge erteilt, zum Beispiel bei medizinischen Notfällen oder im Kontakt mit Personen in einer psychischen Krise? Die Beantwortung dieser Fragen ist bei der Einführung von KI sehr wichtig.
Der KI-Einsatz wirft also deutlich größere ethische und rechtliche Fragen auf. Wenn man künstliche Intelligenz nutzt, muss man zusätzliche datenschutzrechtliche und KI-Regulierungen beachten (z.B. den EU AI Act). Die Tatsache, dass viele KI-Modelle Daten in die Cloud transferieren, hat zusätzliche Konsequenzen für den Datenschutz. Deshalb braucht es beim Einsatz von KI klare Governance- und Ethikrichtlinien. Mit unserer Erfahrung können wir dabei helfen, dass KI nicht zum unkalkulierbaren Risiko wird.
Darüber hinaus sind KI-Systeme auch potentielle Eintrittspforten für Internetkriminalität mit hohem Risiko. Wenn sie nicht spezifisch geschützt werden, sind zum Beispiel Sprachmodelle nur zu gerne bereit, Interna auszuplaudern und einem gewieften Fragesteller zu erklären, wie sie funktionieren.
Wenn KI Fehler macht
Während wir menschliche Fehler als Teil des Risikos hinnehmen, ist die Gesellschaft nicht so tolerant, wenn es um technisches Versagen geht. Dies ist vor allem so, wenn Menschenleben gefährdet werden. Hersteller von selbstfahrenden Autos haben das Problem aus erster Hand erfahren. Während menschliches Autofahren ein dynamischer Prozess ist, bei dem wir ein gewisses Risiko als gegeben akzeptieren, ist das bei autonomen Fahrzeugen weniger der Fall. Deshalb bremsen selbstfahrende Autos auch manchmal in Situationen, in denen wir Menschen nicht mit der Wimper zucken und weiterfahren. Das hat dazu geführt, dass Aufprallunfälle mit selbstfahrenden Autos häufiger sind als im Durchschnitt, weil die überraschten Hintermänner eine übervorsichtige Bremsung nicht erwartet hätten.
Wenn wir KI-Lösungen entwickeln, muss dieser gesellschaftliche Kontext unbedingt berücksichtigt werden, vor allem wenn durch Handeln oder Nichthandeln der KI Schäden entstehen können.
Kernthemen KI-Governance und Ethik
Die folgenden wichtigen Punkte sind bei der KI-Nutzung unbedingt zu berücksichtigen. Dies soll nicht bedeuten, dass man auf die Nutzung der Technologie verzichten sollte, denn die Vorteile überwiegen in den meisten Fällen. Nicht genügend in die Problemvermeidung zu stecken, kann allerdings sehr teuer werden.
Datenschutz
1
Durch künstliche Intelligenz entstehen ganz neue Datenschutzrisiken. Viele Prozesse, gerade im Bereich LLMs, beruhen auf Cloud-Daten und finden ebenso wieder in der Cloud statt, und folgen im Gegensatz zu normaler Verarbeitung oft keinen nachvollziehbaren Algorithmen. Wenn kritische Kunden- oder Mitarbeiterdaten auf diese Art verarbeitet werden, benötigt es in vielen Fällen die spezifische Zustimmung der Betroffenen. Hinzu kommt, dass KI-Entscheidungen nicht immer vollständig nachvollziehbar und reproduzierbar sind. Die Datenverarbeitungs- und Datenschutzrichtlinien bedürfen deshalb oft der Anpassung.
Governance (und der EU AI Act)
So wie wir Regeln für menschliches Verhalten festlegen, müssen wir dies auch für KI-Systeme tun. Daher sind solide Governance-Regeln und Kontrollmechanismen erforderlich, zumal einige Aspekte unter verbindliche rechtliche Rahmenbedingungen fallen. Dazu gehören Datenschutzvorschriften, aber ebenso spezifischere KI-bezogene Regelungen wie beispielsweise das EU-KI-Gesetz.
2
Haftungsrisiken
3
Handlungen der künstlichen Intelligenz mit negativen Auswirkungen auf Dritte werden zu einem Haftungsproblem für ein Unternehmen wie andere Fehlhandlungen auch, es gibt kein "Die KI war's" als Ausrede. Ganz im Gegenteil: weil unsere Gesellschaft Fehler autonomer Maschinen schwerer gewichtet als menschliches Versagen, dürften Gerichtsurteile zu KI-Fehlern deutlich strenger ausfallen. Eine sorgfältige Risikoabwägung und weitreichende Sicherheitsvorkehrungen sind deshalb immer da unabdingbar, wo wir künstlicher Intelligenz zum Beispiel die Kontrolle über Maschinen geben. Dies sollte uns nicht an der Nutzung von KI hindern, weil diese - sinnvoll eingesetzt - durchaus Gefahren frühzeitig erkennen und abwenden kann, aber dennoch müssen diese Risiken bedacht werden.
Reputationsrisiken
Eines der Schlüsselrisiken der KI-Nutzung ist, dass eine "Black Box" Dinge tut oder kommuniziert, die man nicht möchte, und die außerhalb definierter Geschäftsprozesse ablaufen. Dies kann entweder dadurch geschehen, dass ungenügend getestete KI-Systeme schlechte Entscheidungen treffen oder gar zu autonom von öffentlich oder intern akzeptierten Normen abweichenden Schlüssen kommen.
4