Responsible AI: Der Weg zu einer verantwortungsvollen Nutzung von KI
Wie einst die Dampfmaschine revolutioniert Künstliche Intelligenz (KI) zunehmend den Alltag in Unternehmen. Die Technologie automatisiert Prozesse und schafft Raum für Innovationen. Doch mit den neuen Möglichkeiten kommt auch große Verantwortung. „Responsible AI“ stellt als Konzept sicher, dass KI-Systeme verantwortungsvoll und zum Wohle der Gesellschaft eingesetzt werden.
Bei „Responsible AI“ oder „Verantwortungsvolle KI“ geht es darum, die Technologie in Einklang mit Ethik, sozialer Verantwortung und Regulatorik zu bringen. Der Ansatz beschränkt sich jedoch nicht nur darauf, negative Folgen von KI-Systemen zu begrenzen. Die Technologie soll auch so eingesetzt werden, dass ein sichtbarer Mehrwert entsteht, der bei Nutzenden und Betroffenen ankommt. Denn wird KI zum falschen Zweck eingesetzt, schadet dies den Betroffenen und kann außerdem die Technologie diskreditieren. Die Folge: Die Menschen verlieren das Vertrauen in KI und lehnen sie ab.
Wesentliche Komponenten von verantwortungsvoller KI sind:
- Sicherstellung der Nachvollziehbarkeit von KI-Entscheidungen
- Transparenz
- Vermeidung von Bias
- Datenschutz
- Kontinuierliche Überwachung der KI-Systeme
Um den Responsible-AI-Ansatz im Alltag zu berücksichtigen, stehen Unternehmen mehrere Ansatzpunkte zur Verfügung. Der erste ist Verständlichkeit. Jedes Unternehmen sollte nachvollziehen können, welchen konkreten Zweck das verwendete KI-System erfüllen kann. Eng damit verknüpft ist Transparenz: Hier geht darum zu verstehen, wie die KI-Systeme Entscheidungen treffen. Dazu zählt das Wissen, was das betreffende System kann und wo seine Grenzen liegen. Denn wird es für etwas genutzt, wofür es nicht geeignet oder gedacht ist, können fehlerhafte Ergebnisse entstehen. Aufschluss zu den Möglichkeiten und Grenzen eines Systems liefern Transparency Notes und Dokumentationen der KI-Hersteller. Der EU AI Act [1] [2] verpflichtet die Hersteller, umfangreiche Assessments durchzuführen und technische Dokumentationen zu veröffentlichen. Zu beachten ist, dass auch Unternehmen, die lediglich bestehende KI-Systeme einsetzen, ebenfalls Assessments und Dokumentationen gemäß dem AI Act durchführen müssen.
Bias vorbeugen, Fairness sicherstellen
Bias (Vorurteil) kann zu diskriminierenden Entscheidungen gegenüber Personen aus bestimmten Gruppen führen. Daher ist es wichtig, dass Unternehmen die Daten für KI sorgfältig auswählen und überprüfen. Sie sollten darauf achten, dass die Daten repräsentativ und ausgewogen sind. Unternehmensinterne Richtlinien und Prozesse können das sicherstellen. Dazu gehören belastbare Nachweise, die der AI Act vorschreibt.
In der Praxis ergeben sich allerdings Unterschiede im Vorgehen: Entwickelt ein Unternehmen KI-Systeme selbst, so kann sie von vornherein den Responsible-AI-Ansatz implementieren. Wer hingegen auf bereits bestehende Lösungen zurückgreift, hat zwar keinen Einfluss auf deren Entwicklung. Aber verantwortungsvolle KI kann ein Kriterium bei der Auswahl des Anbieters und des KI-Systems werden. Die vom AI Act vorgeschriebenen Dokumentationspflichten für Hersteller von KI-Anwendungen ermöglichen es, verschiedene Anbieter miteinander zu vergleichen. Zudem können gerade größere Unternehmen versuchen, bestimmte Vorgaben vertraglich zu vereinbaren.
Doch was ist, wenn dies nicht gelingt und keines der auf dem Markt existierenden Systeme den eigenen Ansprüchen genügt? Dann sollten Unternehmen nicht resigniert aufgeben, sondern darüber nachdenken, sich eine KI-Lösung nach den eigenen Vorstellungen aufsetzen zu lassen. So sind sie auf der sicheren Seite.
Ein weiterer Ansatzpunkt für den verantwortungsvollen Umgang mit KI ist, Algorithmen auf ihre Fairness zu überprüfen und bei Bedarf anzupassen. Möglich ist dies mithilfe spezieller Tools, die mit statistischen Methoden das KI-System evaluieren. Mit diesen Ergebnissen lassen sich dann KI-Systeme miteinander vergleichen und dasjenige Tool identifizieren, das für den jeweiligen Einsatzzweck am besten geeignet ist.
Daten schützen und sicher verwalten
Fester Bestandteil von verantwortungsvoller KI-Nutzung ist das Thema Datenschutz. KI-Systeme müssen so konzipiert sein, dass die Privatsphäre der Nutzer:innen geschützt und die Daten sicher verwaltet werden. Dazu gehören die Einhaltung gesetzlicher Vorschriften wie etwa die DSGVO und die Umsetzung von Sicherheitsmaßnahmen, um Datenlecks und unbefugten Zugriff zu verhindern.
Ein weiterer Aspekt: Durch die Nutzung von KI-Systemen im Unternehmen entstehen neue personenbezogene Daten. Denn jeder Prompt erzeugt sogenannte Logs, die Ereignisse und Vorgänge in den IT-Systemen protokollieren. Geraten diese Daten in die falschen Hände, lassen sich Rückschlüsse auf Personen ziehen. Organisationen sollten sich daher bewusst sein: Der Einsatz von KI führt dazu, dass sensible personenbezogene Daten nicht mehr nur in Personal- oder Fachabteilungen liegen, sondern künftig auch in der IT. Um einem Missbrauch vorzubeugen, sollten Unternehmen Vorkehrungen treffen. Denkbar wären unter anderem:
- Gezielte Schulungen, um zu sensibilisieren und verantwortungsbewussten Umgang zu trainieren
- Neue Arbeitsanweisungen formulieren oder bestehende anpassen
- Ergänzungen zu den Arbeitsverträgen abschließen
- Technische Maßnahmen, wie die Trennung von Lese- und Schreibzugriffen
- Monitoring-Systeme, welche die Datennutzung durch die Mitarbeitenden überwachen und Missbrauch transparent machen
Fazit
Damit Unternehmen KI verantwortungsvoll nutzen können, haben sie zahlreiche Stellschrauben. Die Umsetzung von Responsible AI erfordert eine enge Kooperation verschiedener Abteilungen und Stakeholder: Ethikexpertinnen, Datenwissenschaftler, Ingenieurinnen und Führungskräfte stellen gemeinsam sicher, dass die KI-Strategie des Unternehmens verantwortungsvoll und nachhaltig ist. Gerade mittelständische Betriebe geraten hier unter Umständen an personelle und fachliche Grenzen. Verantwortungsvolle KI ist jedoch keine Option, sondern eine Notwendigkeit, um rechtlichen Anforderungen zu genügen sowie den Nutzen von und das Vertrauen in KI zu stärken. Betriebe sollten daher die Chancen und Herausforderungen von Responsible AI ernst nehmen. Für weiterführende Fragen und Unterstützung stehen unsere Experten gerne zur Verfügung.
Responsible AI ist eine der tragenden Säulen des „House of AI Transformation“. Mehr dazu lesen Sie hier.
Wie KI-reif ist Ihr Unternehmen? Unser Online-Test liefert Ihnen in wenigen Minuten das Ergebnis. Jetzt teilnehmen.
