Vorsicht bei KI-Tools

Ein Arbeitszeugnis, die schnelle Antwort auf Fragen zur Urlaubsregelung oder aber eine individuelle Fortbildungsplanung – künftig werden viele Aufgaben der Personalabteilung mit Hilfe von KI (Künstliche Intelligenz) erledigt. Das Interesse daran ist gross, wie eine Befragung von 852 Unternehmen in Deutschland im Auftrag des Digitalverbands Bitkom zeigt. Demnach werden bereits in 14 Prozent der Unternehmen Arbeitszeugnisse mit KI-Unterstützung verfasst;
45 Prozent können sich das für die Zukunft vorstellen. Zwölf Prozent nutzen KI für die individuelle Weiterbildung; 60 Prozent sind dafür künftig offen. «KI-Tools können Personalabteilungen von vielen Aufgaben entlasten, davon können grosse wie kleine Unternehmen gleichermassen profitieren», beschreibt Bitkom-Hauptgeschäftsführer Dr. Bernhard Rohleder das Potenzial.

 

Bitkom weist aber auch darauf hin, dass die europäische KI-Verordnung (KI-VO) KI-Systeme im Bereich «Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit» grundsätzlich als Hochrisiko-KI-Systeme einstuft und strenge Anforderungen für die Anbieter und Betreiber vorschreibt. Um Unternehmen hier zu unterstützen, hat der Verband den Praxisleitfaden «Künstliche Intelligenz im Personalwesen» veröffentlicht. Dafür besonders relevant ist Art. 5 Abs. 1 der KI-VO. Er untersagt den Einsatz von KI zur Ableitung von Emotionen, etwa auf Basis biometrischer Analysen, am Arbeitsplatz. Ausnahmen sind Sicherheitstools wie Übermüdungserkennung bei Kraftfahrern.

 

Entscheidend für die Risikoklassifizierung ist nicht das Potenzial einer KI, sondern wofür und in welchem Kontext sie eingesetzt wird. Im Personalbereich sind Hochrisiko-KI-Systeme solche, die Karriereaussichten, Lebensgrundlagen und Arbeitnehmerrechte der betroffenen Personen erheblich beeinflussen und historische Diskriminierungsmuster beispielsweise gegenüber Frauen oder bestimmten Altersgruppen fortsetzen können. Unter bestimmten Voraussetzungen dürfen solche Systeme dennoch genutzt werden. Ganz wichtig ist, dass sie nicht das Ergebnis der (menschlichen) Entscheidungsfindung wesentlich beeinflussen. Zugelassen ist die Nutzung auch, wenn das KI-System dazu bestimmt ist, eine eng gefasste Verfahrensaufgabe durchzuführen, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern oder eine vorbereitende Aufgabe für eine Bewertung durchzuführen. In der Praxis könnten dies die automatisierte Terminübermittlung für eine Einladung oder KI-basierte sprachliche Verbesserungsvorschläge für bereits von Personalverantwortlichen erstellte Stellenausschreibungen oder Arbeitszeugnisse sein.

 

Die Betreiber von Hochrisiko-KI-Systemen müssen die Pflichten in Art. 26 KI-VO erfüllen. Unter anderem sind sie verpflichtet, mit technischen und organisatorischen Massnahmen sicherzustellen, dass sie die Systeme gemäss der Gebrauchsanweisung nutzen, die vom Anbieter bereitzustellen ist. Ferner müssen die Betreiber eine ausreichend qualifizierte menschliche Aufsicht über das Hochrisiko-KI-System ermöglichen. Dessen Funktionsweise ist fortlaufend zu überwachen, und die automatisch erzeugten Protokolle sind mindestens sechs Monate aufzubewahren.

 

Darüber hinaus gibt es viele KI-Systeme für das Personalwesen, die nur ein minimales Risiko darstellen. Beispiele hierfür sind KI-gestützte Spamfilter oder auch intelligente Chatbots, die die Mitarbeiter im Personalbüro bei Anfragen unterstützen. Auch im Bereich  Personalentwicklung gibt es risikoarme Systeme, die dabei helfen, Qualifizierungsmassnahmen datenbasiert und strategisch anzugehen, Weiterbildungsangebote zu personalisieren und Potenzialträger gezielt zu fördern. «KI kann sehr individuelle Bedürfnisse von Beschäftigten ermitteln und zum Beispiel auf den Einzelnen zugeschnittene Weiterbildungen anbieten», kommentiert Dr. Rohleder diesen Einsatzbereich.