Der Einsatz von KI bringt nicht nur Vorteile, sondern auch Risiken. Unternehmen stehen vor der Herausforderung, sicherzustellen, dass KI-Tools verantwortungsvoll genutzt werden und nicht zu rechtlichen oder ethischen Problemen führen. Eine gut durchdachte KI-Richtlinie hilft dabei, Risiken zu minimieren, Vertrauen bei Kundinnen und Kunden aufzubauen und die Chancen der neuen Technologien voll auszuschöpfen.
Künstliche Intelligenz (KI) entwickelt sich rasant und findet zunehmend Einzug in den Arbeitsalltag. KI-Tools versprechen enorme Effizienzgewinne und können Aufgaben automatisieren, die zuvor viel Zeit und Ressourcen erforderten. Doch mit den Vorteilen kommen auch Herausforderungen – von ethischen Fragestellungen über Datenschutz bis hin zu rechtlichen Risiken. Genau hier setzt eine klare KI-Richtlinie an.
1. Einleitung
Für die Erstellung und Nutzung von KI-Tools innerhalb Jutta Büttner Coaching gelten spezifische Vorgaben, um die Sicherheit und den Datenschutz zu gewährleisten. Diese Richtlinie regelt die Anforderungen und Richtlinien für den Einsatz von KI-Tools und -Diensten im Unternehmen. KI-Tools (Systeme mit künstlicher Intelligenz) sind Systeme, die zur Lösung von Aufgaben menschliche Intelligenz simulieren, wie zum Beispiel maschinelles Lernen oder Sprachverarbeitung.
Diese Richtlinie soll sicherstellen, dass Transparenz, Fairness und ethisches Handeln im Umgang mit KI-Systemen sichergestellt und die Integrität, Verfügbarkeit sowie Vertraulichkeit von Unternehmensdaten und personenbezogenen Informationen gewahrt bleiben.
Alle Mitarbeitenden Jutta Büttner Coaching sind verpflichtet, diese Richtlinie einzuhalten. Verstöße können arbeitsrechtliche Konsequenzen nach sich ziehen und entsprechend sanktioniert werden.
2. Anwendungsbereich
Diese Richtlinie gilt für alle Abteilungen und Mitarbeitenden von Jutta Büttner Coaching, die in irgendeiner Form mit KI-Systemen arbeiten oder deren Ergebnisse nutzen. Sie umfasst alle Phasen des KI-Lebenszyklus (von der Planung über die Entwicklung und den Einsatz bis hin zur Deaktivierung), von der Planung und Entwicklung bis hin zum Einsatz und der Wartung.
3. Verantwortlichkeiten
Die Verantwortung und Zuständigkeiten im Zusammenhang mit dem Einsatz von KI werden im Folgenden beschrieben: Unternehmensleitung: Stellt sicher, dass der Einsatz von KI den Unternehmenszielen und rechtlichen Anforderungen entspricht.
KI-Verantwortliche/r: Ist verantwortlich für die Implementierung und Überwachung der KI-Systeme, die Risikobewertung und die Einhaltung dieser Richtlinie. Sofern ein KI-Verantwortlicher benannt wurde, arbeitet dieser im bereits bestehenden Datenschutz-Team mit (bestehend z.B. aus Datenschutzbeauftragten und Informationssicherheitsbeauftragten).
Mitarbeitende: Alle Mitarbeitenden sind verpflichtet, die Vorgaben dieser Richtlinie einzuhalten und bei potenziellen Problemen den KI-Verantwortlichen zu informieren.
4. Grundsätze des Einsatzes von KI-Systemen
In Jutta Büttner Coaching gelten wesentlichen Grundsätze, die beim Einsatz von KI-Systemen beachtet werden müssen, um eine ethische, transparente und verantwortungsvolle Nutzung zu gewährleisten:
Transparenz
Der Einsatz von KI muss nachvollziehbar sein. Alle eingesetzten Systeme müssen dokumentiert und die Entscheidungsprozesse nachvollziehbar gestaltet werden, um ein hohes Maß an Transparenz zu gewährleisten. Entscheidungen, die von KI-Systemen getroffen werden, sollen, soweit möglich, erklärbar sein, damit sowohl technische Experten als auch nicht-technische Stakeholder die Gründe für bestimmte Ergebnisse nachvollziehen können. Dies trägt nicht nur zur Akzeptanz der Technologie bei, sondern minimiert auch das Risiko von Fehlentscheidungen und erhöht das Vertrauen der Mitarbeitenden, Kunden und Partner in den Einsatz von KI.
Verantwortung
Die Verantwortung für den Einsatz von KI liegt beim Menschen. Es muss, insbesondere bei wichtigen Entscheidungen, die potenziell tiefgreifende Auswirkungen haben könnten, eine menschliche Kontrolle jederzeit gewährleistet sein. Entscheidungen, die wesentliche Auswirkungen auf Mitarbeitende, Kunden oder Partner haben, dürfen nicht ausschließlich von KI-Systemen getroffen werden, sondern müssen immer durch einen Menschen überprüft und bestätigt werden. Dies stellt sicher, dass ethische Aspekte und potenzielle Risiken umfassend bewertet werden und dass die finale Entscheidung den Unternehmenswerten entspricht. Es muss immer gewährleistet sein, dass die Verantwortlichen eingreifen können, wenn Zweifel an der Angemessenheit der KI-Entscheidung bestehen.
Datenschutz und Sicherheit
Alle KI-Systeme müssen den geltenden Datenschutzbestimmungen, wie der Datenschutz-Grundverordnung (DSGVO), entsprechen. Die Datensicherheit ist während des gesamten Lebenszyklus der KI zu gewährleisten. Dies umfasst Maßnahmen wie die Verschlüsselung von Daten, die Implementierung von Zugriffskontrollen, regelmäßige Sicherheitsüberprüfungen, die Minimierung von Datenzugriffen auf ein notwendiges Maß sowie die Durchführung von Penetrationstests zur Identifizierung und Behebung von Schwachstellen. Die Menge an Daten, die an KI-Systeme übermittelt wird, ist auf das notwendige Minimum zu reduzieren. Wo möglich, sind Daten zu anonymisieren. Vor der Verarbeitung personenbezogener Daten durch KI-Systeme sind betroffene Personen über die Verwendung ihrer Daten für KI-Systeme zu informieren.
Nichtdiskriminierung
KI-Systeme dürfen nicht zur Diskriminierung von Personen führen. Eingesetzte Algorithmen und Datensätze müssen fair und ausgewogen sind, um eine gleichberechtigte Behandlung aller Personengruppen zu gewährleisten. Datensätze müssen auf Verzerrungen (“Bias”) überprüft und gegebenenfalls bereinigt werden, um faire Ergebnisse sicherzustellen. Dies erfordert regelmäßige Tests, Analysen und Anpassungen, um sicherzustellen, dass keine unbewussten Vorurteile die Ergebnisse der KI beeinflussen. Zudem sollten bei der Entwicklung und Implementierung von KI-Systemen Mechanismen integriert werden, die automatisch auf mögliche Diskriminierung hinweisen und Maßnahmen zur Korrektur vorschlagen.
5. Risikobewertung
Vor der Einführung eines KI-Systems muss eine umfassende Risikobewertung durchgeführt werden, um mögliche negative Auswirkungen auf unser Unternehmen, Mitarbeitende und Kunden zu identifizieren und zu minimieren. Diese Risikobewertung sollte alle relevanten Faktoren berücksichtigen, einschließlich der potenziellen rechtlichen, ethischen und sicherheitstechnischen Risiken. Dazu gehört auch die Analyse von Datenschutzrisiken, die Bewertung möglicher Verzerrungen in den Daten sowie die Überprüfung der Robustheit und Zuverlässigkeit des Systems. Alle relevanten Stakeholder, wie etwa die Geschäftsleitung, der KI-Verantwortliche, Datenschutzbeauftragte und Fachexperten, sind in den Risikobewertungsprozess hinzubeziehen, um eine ganzheitliche Betrachtung der potenziellen Risiken sicherzustellen. Zudem sollten geeignete Maßnahmen zur Risikominderung entwickelt und implementiert werden, um den sicheren und verantwortungsvollen Einsatz des KI-Systems zu gewährleisten.
6. Nutzung genehmigter Dienste und Unternehmensaccounts
Unautorisierte Tools können Sicherheitsrisiken bergen und Compliance-Probleme verursachen. Sofern nicht anders geregelt, dürfen nur KI-Tools und Dienste genutzt werden, die von Jutta Büttner Coaching freigegeben wurden. Es sind ausschließlich die von Jutta Büttner Coaching zur Verfügung gestellten Accounts zu nutzen. Bei privaten Accounts können eigene Daten zu Trainingszwecken verwendet werden, was ein Sicherheitsrisiko darstellen kann.
7. Übermittlung sensibler Daten
Geschäftsdaten (Geschäftsgeheimnisse) oder personenbezogene Daten dürfen nur dann an KI-Tools übermittelt werden, wenn dies durch das Unternehmen ausdrücklich erlaubt wurde und (im Fall von personenbezogenen Daten) eine Rechtsgrundlage vorliegt. Vertrauliche Informationen sollten möglichst nicht an externe Systeme weitergegeben werden. Dies gilt ebenso für Daten, die dem Urheberrecht unterliegen.
8. Kritische Prüfung der Ergebnisse
Die Antworten und Ergebnisse von KI-Systemen sind stets kritisch zu prüfen, da sie auf Wahrscheinlichkeiten basieren und Fehler machen können. Insbesondere können KI-Systeme zu sogenannten Halluzinationen neigen, bei denen frei erfundene Inhalte erzeugt werden. Insbesondere wenn die Ergebnisse rechtliche Auswirkungen haben könnten, wie Vertragsänderungen, Haftungsfragen oder die Verarbeitung personenbezogener Daten, müssen diese von fachlich qualifizierten Mitarbeitenden überprüft werden.
9. Teilnahme an Schulungen und Sensibilisierungen
Alle Mitarbeitenden, die mit KI-Systemen arbeiten, müssen an einer entsprechenden Schulung teilnehmen, um ein grundlegendes Verständnis der Technologie, ihrer Funktionsweise, ihrer Möglichkeiten sowie der damit verbundenen Risiken zu haben. Diese Schulung deckt verschiedene Aspekte der KI ab, einschließlich der technischen Grundlagen, der ethischen Fragestellungen und der potenziellen Auswirkungen auf die Arbeitsprozesse.