Die Dinge richtig tun
KI-Ethik und Governance
Der wesentliche Unterschied zwischen traditioneller Informationstechnologie und KI ist, dass man bei ersterer in der Regel Entscheidungen nachvollziehen kann. Mit IF, THEN und ELSE sind die meisten Handlungen (und Fehler) reproduzierbar. Im Gegensatz dazu beruht künstliche Intelligenz auf dem Versprechen, dass das Ergebnis eines Prozesses nicht vollständig vorhersehbar ist.
Zusammen mit den außerordentlichen Fähigkeiten der KI führt das zu erheblichen Risiken. Es gibt Experten, die in der künstlichen Intelligenz das Potenzial sehen, die Menschheit auszulöschen. Wir würden eher sagen, dass Menschen die KI unangemessen nutzen könnten, und damit enormen Schaden anrichten. Die Verantwortung liegt letzten Endes bei uns.
The 9senses Chatbot Audit evaluates the performance of your chatbot from a user perspective.
When we are using generative AI, to create new output we are exploiting knowledge previously generated by humans. But who is rebuilding knowledge for the next generation?
9senses-Analyse: Nur 16 von 129 untersuchten Herstellern und großen Händlern in der DACH-Region setzen auf KI-Chatbots im Kundenservice – mit großer Qualitätsstreuung
Large Language Models judge your work differently every time you ask. That is not just a quirk of the technology - it is a fundamental challenge to how we create,…
AI hallucinations aren't random - they cluster, systematically and predictably, in the topics you cannot independently verify.
Im Bereich der dialogorientierten KI dominiert die englische Sprache, was für andere Sprachen schwerwiegende strukturelle Folgen hat, die nur mit erheblichem Aufwand behoben werden können.
Renowned AI experts see a significant chance that AI could lead to the end of humanity. Is that a realistic prediction or doomsday talk? Short answer: it's not AI that's…Herr, die Not ist groß!
Spirits that I’ve cited
my commands ignore.”
The Sorcerer’s Apprentice, Johann Wolfgang von Goethe (1797/98)
KI macht Fehler, und zwar solche, die oft schwer zu erkennen sind weil die meisten Modelle die Logik ihrer Prozesse nicht umfassend offenlegen. Wenn das zu Fehlern im Handeln von Mitarbeitenden führt, zu schlechten Kundenerlebnissen, oder zu verpassten Chancen, dann hat das negative Auswirkungen auf das Geschäftsergebnis.
Gerade weil KI so einfach und schnell einzurichten und zu nutzen ist, braucht sie im Vergleich zu konventioneller IT umso mehr Aufwand für die Überprüfung und Überwachung. Wir sehen das regelmäßig bei der Durchführung unserer Chatbot Audits, wo eine Mehrzahl von Bots erhebliche Probleme zeigt, die einfach vermeidbar wären.
Ethische Themen spielen ebenfalls eine wichtige Rolle. Es geht darum, wie künstliche Intelligenz Entscheidungen trifft. Verfügt sie über verzerrte Inputs oder produziert sie verzerrte Entscheidungen? Wie handhabt sie Stress beim Benutzer? Was, wenn sie in einer kritischen Situation die falschen Ratschläge erteilt, zum Beispiel bei medizinischen Notfällen oder im Kontakt mit Personen in einer psychischen Krise? Die Beantwortung dieser Fragen ist bei der Einführung von KI sehr wichtig.
Der KI-Einsatz wirft also deutlich größere ethische und rechtliche Fragen auf. Wenn man künstliche Intelligenz nutzt, muss man zusätzliche datenschutzrechtliche und KI-Regulierungen beachten (z.B. den EU AI Act). Die Tatsache, dass viele KI-Modelle Daten in die Cloud transferieren, hat zusätzliche Konsequenzen für den Datenschutz. Deshalb braucht es beim Einsatz von KI klare Governance- und Ethikrichtlinien. Mit unserer Erfahrung können wir dabei helfen, dass KI nicht zum unkalkulierbaren Risiko wird.
Darüber hinaus sind KI-Systeme auch potentielle Eintrittspforten für Internetkriminalität mit hohem Risiko. Wenn sie nicht spezifisch geschützt werden, sind zum Beispiel Sprachmodelle nur zu gerne bereit, Interna auszuplaudern und einem gewieften Fragesteller zu erklären, wie sie funktionieren.
Wenn KI Fehler macht
While we typically tolerate human error, society is far less ready to accept technology failure, particularly when it endangers lives or creates unfair outcomes. Self-driving vehicle manufacturers have experienced that problem first-hand: while human driving is typically a dynamic process where we inherently accept risk, we don’t accept the same error rate from fully automated vehicles. When in doubt, self-driving cars are thus more prone to hitting the brakes where humans wouldn’t blink an eye. This has led to rear-end collisions by surprised drivers becoming the predominant cause of accidents involving self-driving vehicles, just because they exert so much caution.
Wenn wir KI-Lösungen entwickeln, muss dieser gesellschaftliche Kontext unbedingt berücksichtigt werden, vor allem wenn durch Handeln oder Nichthandeln der KI Schäden entstehen können.
Kernthemen KI-Governance und Ethik
Die folgenden wichtigen Punkte sind bei der KI-Nutzung unbedingt zu berücksichtigen. Dies soll nicht bedeuten, dass man auf die Nutzung der Technologie verzichten sollte, denn die Vorteile überwiegen in den meisten Fällen. Nicht genügend in die Problemvermeidung zu stecken, kann allerdings sehr teuer werden.
Datenschutz
AI poses entirely new risks for data protection. Many processes, for example the use of large language models, takes place in the cloud, and contrary to normal processing, the way data is handled is much less clear. If sensitive customer or employee data is processed that way, many jurisdictions require explicit consent. Additionally, further risk emerges from the fact that AI processes are not necessarily fully traceable and reproducible. Evaluating the risks and possible scenarios and covering them in the data management and protection policies is thus essential.
Haftungsrisiken
Decisions made by AI that create negative outcomes for others will become a liability for organizations like any other act, there will be no hiding behind “the AI did it”. Quite the contrary, as society is far less ready to accept machine failures compared to human error, court decisions might be harsher in case AI-driven systems are responsible for bad outcomes. Therefore, a careful risk evaluation and extensive safety precautions are even more essential as soon as we, for example, control machines using Artificial Intelligence. This should not stop us from using AI, as AI can actually become helpful in preventing harm, but using it wisely is essential.
Governance (und der EU AI Act)
So wie wir Regeln für menschliches Verhalten festlegen, müssen wir dies auch für KI-Systeme tun. Daher sind solide Governance-Regeln und Kontrollmechanismen erforderlich, zumal einige Aspekte unter verbindliche rechtliche Rahmenbedingungen fallen. Dazu gehören Datenschutzvorschriften, aber ebenso spezifischere KI-bezogene Regelungen wie beispielsweise das EU-KI-Gesetz.
Reputationsrisiken
This is one of the key risks of using Artificial Intelligence without proper review of its possible impacts. By inviting a “black box” into the company’s decision-making, those risks increase manifold compared to well defined business-processes. Key risks can either come by poorly set up processes producing unsatisfactory results, or by overly autonomous AI systems making decisions that deviate from publicly or internally defined standard behaviors.
