NEWS

KI in Unternehmenssoftware: Chancen und Risiken

Künstliche Intelligenz ist inzwischen fester Bestandteil moderner Unternehmenssoftware. In ERP-Systemen, CRM-Lösungen, HR-Tools oder Sicherheitsanwendungen werden KI-Funktionen zunehmend automatisch integriert. Sie verändern Arbeitsprozesse spürbar und ermöglichen erhebliche Effizienzgewinne. Gleichzeitig steigen jedoch auch die Anforderungen an Datenschutz, Compliance und Risikomanagement. Unternehmen benötigen daher eine klare Strategie, um KI verantwortungsvoll und rechtssicher einzusetzen.

KI ist überall und oft unbemerkt aktiv

Viele Softwareanbieter integrieren KI-Module standardmäßig, ohne dass dies den Unternehmen bewusst ist. Funktionen wie automatische Textzusammenfassungen oder intelligente Suchvorschläge laufen im Hintergrund und verarbeiten dabei häufig personenbezogene Daten. Um hier die Kontrolle zu behalten, empfiehlt es sich, eine Übersicht aller KI-Anwendungen im Unternehmen zu führen. Nur wenn bekannt ist, welche Systeme KI einsetzen, lässt sich beurteilen, ob zusätzliche Pflichten bestehen.

Auch die Prüfung bestehender Auftragsverarbeitungsverträge mit Softwareanbietern ist dabei essenziell. Unternehmen sollten sicherstellen, dass ihre Eingaben nicht als Trainingsdaten genutzt werden und dass die Anbieter klare Zusagen zur Datenverarbeitung machen.

Besonders aufmerksam sollten Unternehmen werden, wenn KI-Anwendungen in Softwarelösungen nicht nur unterstützend eingesetzt werden, sondern die KI echte Entscheidungsbefugnisse erhält, beispielsweise im Bewerbungsverfahren oder bei der Bewertung von Mitarbeitenden. Hier entstehen schnell hohe Risiken für die Rechte der Betroffenen.

KI in risikobehafteten Bereichen

Die KI-Verordnung (KI-VO) unterscheidet zwischen zulässigen KI-Systemen, unzulässigen KI-Praktiken und Hochrisiko-KI. Während viele KI-Funktionen nach der KI-VO als unkritisch einzustufen sind, unterliegen Hochrisikosysteme strengen regulatorischen Anforderungen. Ihr Einsatz ist zwar grundsätzlich zulässig, setzt jedoch umfangreiche technische und organisatorische Maßnahmen voraus. Hierzu zählen
insbesondere eine nachvollziehbare Dokumentation, Transparenzpflichten, menschliche Aufsicht sowie die Einhaltung definierter Qualitäts- und Sicherheitsstandards.

Besondere Vorsicht ist im HR-Bereich geboten, da hier regelmäßig sensible personenbezogene Daten verarbeitet werden und KI-gestützte Entscheidungen unmittelbare Auswirkungen auf Bewerbende oder Mitarbeitende haben können. In diesem Umfeld entstehen schnell erhebliche Risiken für die Rechte und Freiheiten der betroffenen Personen, was wiederum eine Datenschutzfolgeabschätzung (DSFA) erforderlich macht.

Wann eine Datenschutzfolgeabschätzung notwendig ist

Eine Datenschutzfolgeabschätzung (DSFA) ist immer dann notwendig, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen darstellt. Dies betrifft insbesondere KI-Systeme, die Personen bewerten oder klassifizieren, sensible Daten verarbeiten oder Entscheidungen mit erheblichen Auswirkungen treffen. Beispiele hierfür sind die KI-gestützte Bewerberauswahl, automatisierte Risikoanalysen oder Systeme zur Leistungsbewertung von Mitarbeitenden.

Die DSFA dient dazu, Risiken zu identifizieren, zu bewerten und geeignete Maßnahmen festzulegen, um diese zu minimieren. Sie ist damit ein zentrales Instrument, um KI rechtskonform und verantwortungsvoll einzusetzen, und in vielen Fällen unverzichtbar.

Die richtige Herangehensweise

Der Einsatz von KI sollte nicht aus Neugier oder Bequemlichkeit erfolgen, sondern auf Basis eines klar definierten Bedarfs. Zunächst müssen Unternehmen prüfen, welche Prozesse tatsächlich verbessert werden sollen und welche Daten dafür erforderlich sind. Anschließend folgt eine strukturierte Risikobewertung, die mögliche Auswirkungen auf Mitarbeitende, Kunden oder Lieferanten berücksichtigt. Transparenz gegenüber den Betroffenen ist dabei essenziell. Sie müssen nachvollziehen können, wo und wie KI eingesetzt wird.

Ebenso wichtig ist die Möglichkeit, KI-Funktionen bei Bedarf deaktivieren zu können. Entscheidungen mit wesentlichen Auswirkungen dürfen nicht vollständig automatisiert erfolgen, sondern müssen einer menschlichen Kontrolle unterliegen.

Fazit

KI kann Unternehmensprozesse erheblich verbessern, Kosten senken und Entscheidungen unterstützen. Gleichzeitig steigt jedoch auch die Verantwortung, denn fehlerhafte oder intransparente KI-Systeme können rechtliche, organisatorische und ethische Risiken verursachen.

Unternehmen, die KI erfolgreich und DSGVO-konform einsetzen wollen, benötigen daher ein strukturiertes Vorgehen, klare Verantwortlichkeiten und eine transparente Kommunikation gegenüber Mitarbeitenden und Kunden. Wer diese Grundlagen schafft, kann die Vorteile der KI sicher und verantwortungsvoll nutzen.

Bei Bedarf oder Fragen unterstützen wir Sie sehr gerne!