{"id":778,"date":"2025-02-19T15:20:29","date_gmt":"2025-02-19T15:20:29","guid":{"rendered":"https:\/\/www.9senses.ai\/?page_id=778"},"modified":"2026-03-18T10:03:48","modified_gmt":"2026-03-18T10:03:48","slug":"ai-ethics-and-governance","status":"publish","type":"page","link":"https:\/\/www.9senses.ai\/de\/ai-ethics-and-governance\/","title":{"rendered":"KI-Ethik und Governance"},"content":{"rendered":"
\n
\n
\n

Die Dinge richtig tun<\/h4>\n<\/div><\/div>\n<\/div>\n<\/div>\n\n
\n
\n

KI-Ethik und Governance<\/h1><\/div><\/div>\n\n

Der wesentliche Unterschied zwischen traditioneller Informationstechnologie und KI ist, dass man bei ersterer in der Regel Entscheidungen nachvollziehen kann. Mit IF, THEN und ELSE sind die meisten Handlungen (und Fehler) reproduzierbar. Im Gegensatz dazu beruht k\u00fcnstliche Intelligenz auf dem Versprechen, dass das Ergebnis eines Prozesses nicht vollst\u00e4ndig vorhersehbar ist.<\/p>\n

Zusammen mit den au\u00dferordentlichen F\u00e4hgigkeiten der KI f\u00fchrt das zu erheblichen Risiken. Es gibt Experten, die in der k\u00fcnstlichen Intelligenz das Potenzial sehen, die Menschheit auszul\u00f6schen. Wir w\u00fcrde eher sagen, dass Menschen die KI unangemessen nutzen k\u00f6nnten, und damit enormen Schaden anrichten. Die Verantwortung liegt letzten Endes bei uns.<\/span><\/p>\n<\/div><\/div>\n<\/div>\n\n

\n
<\/span><\/div>\n<\/div>\n<\/div>\n\n
\n
\n

Herr, die Not ist gro\u00df!
Die ich rief die Geister,
Werd ich nun nicht los.<\/h3>\n<\/div><\/div>\n\n

Der Zauberlehrling, Johann Wolfgang von Goethe (1797\/98)<\/span><\/p>\n<\/div><\/div>\n\n

<\/div>\n<\/div>\n<\/div>\n\n
\n
\n

KI macht Fehler, und zwar solche, die oft schwer zu erkennen sind. weil die meisten Modelle die Logik ihrer Handlungen nicht umfassend offenlegen. Wenn das zu Fehlern im Handeln von Mitarbeitenden f\u00fchrt, zu schlechten Kundenerlebnissen, oder zu verpassten Chancen, dann hat das negative Auswirkungen auf das Gesch\u00e4ftsergebnis.<\/p>\n

Because it is used and set up so quickly and easily, it, in turn, requires more time for testing and governance than conventional solutions. We regularly encounter this when conducting Chatbot Audits<\/a>, wo eine Mehrzahl von Bots erhebliche Probleme zeigt, die einfach vermeidbar w\u00e4ren.<\/p>\n

Ethische Themen spielen ebenfalls eine wichtige Rolle. Es geht darum, wie k\u00fcnstliche Intelligenz Entscheidungen trifft. Verf\u00fcgt sie \u00fcber verzerrte Inputs oder produziert sie verzerrte Entscheidungen? Wie handhabt sie Stress beim Benutzer? Was, wenn sie in einer kritischen Situation die falschen Ratschl\u00e4ge erteilt, zum Beispiel bei medizinischen Notf\u00e4llen oder im Kontakt mit Personen in einer psychischen Krise? Die Beantwortung dieser Frage ist bei der Einf\u00fchrung von KI sehr wichtig.<\/span><\/p>\n

Der KI-Einsatz wirft also deutlich gr\u00f6\u00dfere ethische und rechtliche Fragen auf. Wenn man k\u00fcnstliche Intelligenz nutzt, muss man zus\u00e4tzliche datenschutzrechtliche und KI-Regulierungen beachten (z.B. den EU AI Act). Die Tatsache, dass viele KI-Modelle Daten in die Cloud transferieren, hat zus\u00e4tzliche Konsequenzen f\u00fcr den Datenschutz. Deshalb braucht es beim Einstaz von KI klare Governance- und Ethikrichtlinien. Mit unserer Erfahrung k\u00f6nnen wir dabei helfen, dass KI nicht zum unkalkulierbaren Risiko wird.<\/p>\n

Dar\u00fcber hinaus sind KI-Systeme auch potentielle Eintrittspforten f\u00fcr Internetkriminalit\u00e4t mit hohem Risiko. Wenn sie nicht spezifisch gesch\u00fctzt werden, sind zum Beispiel Sprachmodelle nur zu gerne bereit, Interna auszuplaudern und einem gewieften Fragesteller zu erkl\u00e4ren, wie sie funktionieren.<\/p>\n<\/div><\/div>\n<\/div>\n\n

\n
Chatbot Audit buchen<\/a><\/div>\n<\/div>\n<\/div>\n<\/div>\n\n\n\n
\n
\n
\n

Wenn KI Fehler macht<\/h2>\n<\/div><\/div>\n<\/div>\n<\/div>\n\n
\n
\n

\"\"W\u00e4hrend wir normalerweise menschliche Fehler als normal hinnehmen, ist die Gesellschaft nicht so tolerant, wenn es um technisches Versagen geht. Dies ist vor allem so, wenn Menschneleben gef\u00e4hrdet werden. Hersteller von selbstfahrenden Autos haben das Problem aus erster Hand erfahren. W\u00e4hrend menschliches Autofahren ein dynamischer Prozess ist, bei dem wir ein gewisses Risiko als gegeben akzeptieren, ist das bei autonomen Fahrezugen weniger der Fall. Deshalb bremsen selbstfahrende Autos auch manchmal in Situationen, in denen wir Menschen nicht mit der Wimper zucken und weiterfahren. Das hat dazu gef\u00fchrt, dass Aufprallunf\u00e4lle mit selbstfahrenden Autos h\u00e4ufiger sind als im Durchschnitt, weil die \u00fcberraschten Hinterm\u00e4nner eine \u00fcbervorsichtige Bremsung nicht erwartet h\u00e4tten.<\/p>\n

Wenn wir KI-L\u00f6sungen entwickeln, muss dieser gesellschaftliche Kontext unbedingt ber\u00fccksichtigt werden, vor allem wenn durch Handeln oder Nichthandeln der KI Sch\u00e4den entstehen k\u00f6nnen.<\/p>\n

\n<\/div><\/div>\n<\/div>\n<\/div>\n<\/div>\n\n

\n
\n
\n

Kernthemen KI-Governance und Ethik<\/h2>\n<\/div><\/div>\n<\/div>\n<\/div>\n\n
\n
\n

Die folgenden wichtigen Punkte sind bei der KI-Nutzung unbedingt zu ber\u00fccksichtigen. Dies soll nicht bedeuten, dass man auf die Nutzung der Technologie verzichten sollte, denn die Vorteile \u00fcberwiegen in den meisten F\u00e4llen. Nicht gen\u00fcgend in die Problemvermeidung zu stecken, kann allerdings sehr teuer werden.<\/p>\n<\/div><\/div>\n\n

Datenschutz<\/h3>\n<\/div><\/div>\n<\/div>\n<\/div>\n\n
\n
\n

1<\/p>\n<\/div><\/div>\n<\/div>\n\n

\n

Durch k\u00fcnstliche Intelligenz entstehen ganz neue Datenschutzrisiken. Viele Prozesse, gerade im Bereich LLMs, beruhen auf Cloud-Daten und finden ebenso wieder in der Cloud statt, und folgen im Gegensatz zu normaler Verarbeitung oft keinen nachvollziehbaren Algorithmen. Wenn kritische Kunden- oder Mitarbeiterdaten auf diese Art verarbeitet werden, ben\u00f6tigt es in vielen F\u00e4llen die spezifische Zustimmung der Betroffenen. Hinzu kommt, dass KI-Entscheidungen nicht immer vollst\u00e4ndig nachvollziehbar und reproduzierbar sind. Die Datenverarbeitungs- und Datenschutzrichtlinien bed\u00fcrfen deshalb oft der Anpassung.<\/p>\n<\/div><\/div>\n<\/div>\n<\/div>\n\n

\n
\n

Governance (und der EU AI Act)<\/h3>\n

 <\/p>\n<\/div><\/div>\n<\/div>\n<\/div>\n\n

\n
\n
\"Image<\/span><\/div>\n<\/div>\n\n
\n

As much as we set rules for human behavior, we have to establish the same for AI systems. Solid governance rules and controls are thus required, particularly as some aspects also fall under binding regulatory frameworks. Among them are data protection regulations, but equally more specific AI-related rules, such as the EU AI Act.<\/p>\n<\/div><\/div>\n<\/div>\n\n

\n

2<\/p>\n<\/div><\/div>\n<\/div>\n<\/div>\n\n

\n
\n

Haftungsrisiken<\/h3>\n<\/div><\/div>\n<\/div>\n<\/div>\n\n
\n
\n

3<\/p>\n<\/div><\/div>\n<\/div>\n\n

\n

Handlungen der k\u00fcnstlichen Intelligenz mit negativen Auswirkungen auf Dritte werden zu einem Haftungsproblem f\u00fcr ein Unternehmen wie andere Fehlhandlungen auch, es gibt kein \"Die KI war's\" als Ausrede. Ganz im Gegenteil: weil unsere Gesellschaft Fehler autonomer Maschinen h\u00f6her gewichtet als menschliches Versagen, d\u00fcrften Gerichtsurteile zu KI-Fehlern deutlich ausfallen. Eine sorgf\u00e4ltige Risikoabw\u00e4gung und weitreichende Sicherheitsvorkehrungen sind deshalb immer da unabdingbar, wo wir k\u00fcnstlicher Intelligenz zum Beispiel die Kontrolle \u00fcber Maschinen geben. Dies sollte uns nicht an der Nutzung von KI hindern, weil diese - sinnvoll eingesetzt - durchaus Gefahren fr\u00fchzeitig erkennen und abwenden kann, aber dennoch m\u00fcssen diese Risiken bedacht werden.<\/p>\n<\/div><\/div>\n<\/div>\n<\/div>\n\n

\n
\n

Reputationsrisiken<\/h3>\n

 <\/p>\n<\/div><\/div>\n<\/div>\n<\/div>\n\n

\n
\n
\"Image<\/span><\/div>\n<\/div>\n\n
\n

Eines der Schl\u00fcsselrisiken der KI-Nutzung ist, dass eine \"Black Box\" Dinge tut oder kommuniziert, die man nicht m\u00f6chte, und die au\u00dferhalb definierter Gesch\u00e4ftsprozesse ablaufen. Dies kann entweder dadurch geschehen, dass ungen\u00fcgend getestete KI-Systeme schlechte Entscheidungen treffen oder gar zu autonom von \u00f6ffentlich oder intern akzeptierten Normen abweichenden Schl\u00fcssen kommen.<\/p>\n<\/div><\/div>\n<\/div>\n\n

\n

4<\/p>\n<\/div><\/div>\n<\/div>\n<\/div>\n<\/div>","protected":false},"excerpt":{"rendered":"

The convincing power of Artificial Intelligence, combined with its black-box design, creates enormous opportunities and enormous risks. Properly governing AI thus becomes of utmost importance.<\/p>","protected":false},"author":1,"featured_media":0,"parent":0,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"_acf_changed":false,"footnotes":""},"class_list":["post-778","page","type-page","status-publish","hentry"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.9senses.ai\/de\/wp-json\/wp\/v2\/pages\/778","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.9senses.ai\/de\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/www.9senses.ai\/de\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/www.9senses.ai\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.9senses.ai\/de\/wp-json\/wp\/v2\/comments?post=778"}],"version-history":[{"count":0,"href":"https:\/\/www.9senses.ai\/de\/wp-json\/wp\/v2\/pages\/778\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.9senses.ai\/de\/wp-json\/wp\/v2\/media?parent=778"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}