Die Integration von Künstlicher Intelligenz (KI) in Unternehmen bringt nicht nur technologische Herausforderungen mit sich, sondern wirft auch wichtige Fragen in Bezug auf Ethik und Governance auf. In der Unternehmensberatung, wo KI häufig für die Analyse großer Datenmengen, die Optimierung von Geschäftsprozessen und die Bereitstellung datengestützter Empfehlungen eingesetzt wird, ist es entscheidend, Ethikrichtlinien für den Einsatz von KI festzulegen und Transparenz gegenüber Klienten zu wahren.
In diesem Artikel werden die verschiedenen Aspekte von KI-Ethik und Governance beleuchtet, basierend auf den Erkenntnissen und Empfehlungen führender Organisationen und Expert:innen. Außerdem wird der AI Act, der erste Vorschlag für ein Europäisches KI Gesetz, vorgestellt.
Ein zentrales ethisches Thema ist der Datenschutz. Unternehmen müssen sicherstellen, dass die von KI-Systemen gesammelten Daten ethischen Grundsätzen folgen und die Privatsphäre schützen. Beispielsweise muss ein Einzelhandelsunternehmen, das KI nutzt, um Kundenverhalten zu analysieren, sicherstellen, dass die gesammelten Daten anonymisiert sind und nicht für unangemessene Zwecke verwendet oder gar verkauft werden. In der Unternehmensberatung ist dies besonders relevant, da in der Beratung oft mit sensiblen Informationen gearbeitet wird.
Ein weiterer wichtiger Aspekt ist die Transparenz und Erklärbarkeit von KI-Entscheidungen. KIs treffen Entscheidungen auf Basis vieler Daten. Oft werden Wahrscheinlichkeiten mit einbezogen, die zwar auf viele Menschen, aber eben nicht auf alle zutreffen. Kund:innen und Nutzer:innen sollten verstehen können, wie und warum eine KI zu einer bestimmten Entscheidung gekommen ist, das heißt, welche Aspekte genau einbezogen wurden.
Zum Beispiel sollte eine Bank, die KI für Kreditentscheidungen verwendet, erklären können, auf welcher Basis die KI ihre Kreditwürdigkeit bewertet. Hinter manchen Entscheidungen von Kund*innen stehen gegebenenfalls persönliche Gründe, die die KI zu einer falschen Annahme bringen.
Bias und Fairness sind ebenfalls kritische Punkte. KI-Systeme sollten frei von Vorurteilen sein und alle Nutzer:innen entsprechend fair und gleichbehandeln. Ein Personalvermittlungsunternehmen, das KI für die Vorauswahl im Bewerbungsprozess nutzt, muss sicherstellen, dass die KI keine diskriminierenden Muster lernt und anwendet. Das bedeutet, dass die Auswahl an Daten, die der KI zur Verfügung gestellt werden, bereits auf Bias überprüft werden muss. Da im Internet selbst viele diskriminierende Inhalte verfügbar sind, ist es daher absolut entscheidend, dass der KI dies bewusst gemacht wird. In der Unternehmensberatung ist es zudem wichtig, Bias in Analysen zu vermeiden und sicherzustellen, dass Empfehlungen fair und unvoreingenommen sind.
Die Verantwortlichkeit bei Fehlern oder Schäden durch KI-Entscheidungen ist ein weiterer wichtiger Aspekt. Unternehmen müssen klare Verantwortlichkeiten sowohl in Bezug auf die Entwicklung als auch auf den Einsatz von KI-Systemen zuweisen. Ein autonomes Fahrzeugunternehmen beispielsweise muss Verantwortung für die Entscheidungen seiner Fahrzeuge übernehmen. Dafür sollte das Fahrzeug so programmiert sein, dass seine Entscheidungen für viele Menschen als moralisch vertretbar gelten. Ansonsten besteht die Gefahr, dass die Technologie als gefährlich oder unberechenbar angesehen wird.
Das weltweit angelegte Projekt moral machine vom renommierten Massachusetts Institute of Technology zeigt Menschen Dilemma Situationen auf, die durch Entscheidungen einer KI in selbstfahrenden Autos erzeugt werden. Auf der Seite moralmachine.org kann jede Person selbst überlegen, wie sie zu diesen Entscheidungen steht. Am Ende gibt es eine Auswertung des eigenen moralischen Kompasses und ein Vergleich mit anderen Nutzer:innen weltweit. Es zeigen sich kulturelle Unterschiede im Verantwortungsgefühl der Menschen.
Es gibt Bedenken hinsichtlich der Auswirkungen von KI auf die Beschäftigung, insbesondere in Bezug auf die Automatisierung von Arbeitsplätzen. Durch den Einsatz von KI können und werden sich viele Bereiche in der Arbeitswelt verändern. Manche Arbeitsplätze fallen weg, dafür werden neue Arbeitsplätze geschaffen, zum Beispiel managen und überwachen IT-Ingenieur:innen in großen Firmen den Einsatz von KI. Schließlich sind die Sicherheit und die Robustheit von KI-Systemen von großer Bedeutung und sie sollten gegen Manipulationen geschützt sein. Ein IT-Sicherheitsunternehmen, das KI zur Erkennung von Cyberbedrohungen verwendet, muss beispielsweise sicherstellen, dass seine Systeme nicht manipuliert werden können, was sich wieder auf den Aspekt des Datenschutzes auswirkt.
Der "AI Act" bezieht sich auf einen Gesetzesvorschlag der Europäischen Union, der darauf abzielt, die Verwendung und Regulierung von Künstlicher Intelligenz (KI) innerhalb der EU zu steuern. Dieser Vorschlag, der Teil eines breiteren Frameworks zur Förderung und Regulierung digitaler Technologien in Europa ist, wurde im April 2021 vorgestellt. Ziel des AI Act ist es, ein Gleichgewicht zwischen der Förderung der Innovation und der Gewährleistung des Schutzes der Grundrechte und Sicherheit der Bürger:innen zu schaffen. Hier sind einige Schlüsselelemente des AI Act.
Risikobasierte Kategorisierung
KI-Systeme werden basierend auf dem Risiko, das sie darstellen, in verschiedene Kategorien eingeteilt. Diese reichen von „unbedenklich“ bis zu „hohem Risiko“.
Systeme mit hohem Risiko unterliegen strengeren Anforderungen, da sie ein größeres Potenzial haben, die Sicherheit und Grundrechte der Menschen zu beeinträchtigen.
Dazu gehören Transparenz, Rückverfolgbarkeit, Zuverlässigkeit, Überwachung nach der Markteinführung und die Einhaltung strenger Datenschutzstandards.
Diese Systeme müssen vor ihrer Markteinführung einer Konformitätsbewertung unterzogen werden.
Bestimmte KI-Praktiken werden als unzulässig angesehen, insbesondere solche, die eine klare Bedrohung für die Sicherheit, Lebensgrundlagen und Rechte der Menschen darstellen.
Dazu gehören manipulative oder ausbeuterische KI-Anwendungen, die das Verhalten von Personen auf eine Weise beeinflussen können, die ihnen schadet.
Der AI Act legt strenge Anforderungen an die Qualität der verwendeten Daten fest, um Bias und Diskriminierung zu vermeiden.
Es wird erwartet, dass KI-Systeme mit hochwertigen Daten trainiert werden, die repräsentativ, fehlerfrei und aktuell sind.
Nutzende müssen klar darüber informiert werden, wenn sie mit einer KI interagieren, insbesondere in Fällen, in denen dies nicht offensichtlich ist.
Dies gilt besonders für KI-Systeme, die menschliche Emotionen oder biometrische Daten erkennen oder interpretieren.
Die EU-Mitgliedstaaten werden verpflichtet, Aufsichtsbehörden zu benennen, um die Einhaltung des AI Act zu überwachen.
Es werden auch Maßnahmen zur Durchsetzung und Sanktionen für Verstöße festgelegt.
Bisher ist der AI Act noch ein Vorschlag und hat noch nicht den vollständigen Gesetzgebungsprozess der EU durchlaufen.
Der verantwortungsvolle Einsatz von KI in Unternehmen erfordert einen umfassenden Ansatz, der sowohl technologische als auch ethische Aspekte berücksichtigt. Unternehmen müssen einen ethischen Rahmen und effektive Governance-Strukturen schaffen, die sicherstellen, dass KI-Technologien zum Wohl aller Stakeholder:innen eingesetzt werden. Durch die Förderung von Transparenz, Fairness, Datenschutz und Verantwortlichkeit können Unternehmen das volle Potenzial der KI ausschöpfen, während sie gleichzeitig das Vertrauen ihrer Kundschaft und der Gesellschaft wahren. Die aktuellen Entwicklungen und Regelungen auf EU-Ebene sowie die Empfehlungen von Expert:innen bieten einen wichtigen Leitfaden für Unternehmen, um diesen Herausforderungen gerecht zu werden.
