Rising EMEA 2023: Wie Workday gegen KI-Missbrauch kämpft

Und direkt das Barcelona. Wie viele andere Verlage – zuletzt Appian – setzt Workday eifrig auf KI. Nachdem das Unternehmen anlässlich der Rising 2023-Konferenz in Barcelona (November) vor einem Publikum europäischer Kunden und Partner einen Überblick über die Funktionen gegeben hat, die es in vollem Umfang nutzen werden (Stellenbeschreibung, Talenterkennung, Verwaltung von Spesenabrechnungen usw.), 14-16) hatten wir die Gelegenheit, mehr über die Umsetzung und die damit verbundenen Auswirkungen zu erfahren. Und vor allem auch, um die Temperatur bei seiner Einführung zu messen, insbesondere in Frankreich. „Der Reifegrad der Kunden in Frankreich ist unterschiedlich“, erklärt Hubert Cotté, General Manager von Workday France. Zu den Unternehmen, die ins kalte Wasser springen, gehören Sanofi und Michelin, die durch die Aktivierung dieses Dienstes KI in die Kompetenzmanagementlösung ihrer Verlage integrieren. Denn Sie sollten wissen, dass alle von Workday angekündigten neuesten KI-Funktionen von März 2024 bis Ende nächsten Jahres allen Kunden zur Verfügung stehen werden.

„Für den gesamten Teil, in dem KI durch generative KI kontextualisierte Informationen an einen Benutzer weiterleitet, sollte es keine Bedenken hinsichtlich der Akzeptanz geben“, fährt Hubert Cotté fort. „Wir können nicht sagen, dass der französische Markt nicht ausgereift genug ist, um KI-Benutzerfälle in Workday zu verarbeiten, einige sind es aber.“ Nachdem der Spezialist für Verteidigungssysteme bereits mit HR-Vertretern von Thales und Air Liquide sprechen konnte, zeigte er zwar Interesse, blieb aber hinsichtlich einer möglichen Entscheidung für eine Markteinführung zurückhaltend, doch beim industriellen Schwergewicht der Energie ist es nun an der Zeit für Konsolidierung und Änderungsmanagement Im Zusammenhang mit der Migration von SAP zu Workday stehen Bedenken im Zusammenhang mit KI – jedenfalls im HR-Bereich – wirklich nicht auf der Scope-Do-Liste. „Bei anderen Kunden, die große Prozessänderungen haben, können kulturelle Aspekte eine Rolle spielen, aber es gibt echte Supportprobleme, um dorthin zu gelangen“, gibt Hubert Cotté zu. Für den Manager ist die Implementierung von KI tatsächlich „in den Köpfen von 100 % der Kunden, mit denen wir sprechen“. Accenture gehört zu den am weitesten fortgeschrittenen Unternehmen auf diesem Gebiet und steht vor großen Herausforderungen bei der Monetarisierung seiner Dienste.

KI-bezogene Risikoprüfung gut angenommen bei französischen Kunden

Um seine Kunden bei der Einführung von KI zu unterstützen, mobilisiert Workday spezifische Fähigkeiten. „Wir haben Architekturexperten, die die Datenverarbeitung erklären, Rechtsteams zu Fragen des Schutzes personenbezogener Daten usw. », deutet Hubert Cotté an. Aber im Vergleich zu anderen Regionen – teilweise Asien und in geringerem Maße den Vereinigten Staaten – geht Europa dieses Thema nicht auf die gleiche Weise an. „In Europa wird die Einführung von KI eher durch Risiken als durch Geschäftschancen vorangetrieben“, sagt Pierre Gousset, Vice President EMEA Pre-Sales bei Workday. Kunden des Anbieters, die von den ab kommendem März allgemein verfügbaren Funktionen (mit Workday vR1) kostenlos profitieren möchten, müssen sich daher durch die Unterzeichnung eines Innovations-Service-Vertrags formal mit der Freischaltung einverstanden erklären. Beachten Sie, dass es sich hier nicht um eine globale Vereinbarung handelt, sondern vielmehr um eine sehr detaillierte Vereinbarung, Funktion für Funktion, Lösung für Lösung. „Wir wählen den Dienst aus, den wir aktivieren möchten, den Umfang der Daten, die wir als Teil einer ML-Inferenz verwenden möchten, und den Datenumfang, der zur Erstellung einer Empfehlung verwendet wird“, fährt Pierre Gousset fort. „Wir informieren den Kunden über den Umfang und die Datenquellen, die das Modell zur Bereitstellung der erbrachten Dienstleistung verwendet, was eine Empfehlung für die Aufgabenautomatisierung sein kann.“ Im Rahmen dieser Vereinbarung wird auch ein zusätzliches Dokument bereitgestellt, um herauszufinden, wie mit potenziellen Vorurteilen umgegangen wird. „Es werden niemals Daten verwendet, beispielsweise zur ethnischen Zugehörigkeit in Europa, da dies zu Verzerrungen führen würde, die nicht durch Stichproben- oder Überstichprobentechnologien kontrolliert werden können“, erklärt Pierre Dousset.

Anders als man vielleicht denkt, ist die Aktivierung der neuesten KI-Dienste von Workday nicht mit einem einfachen Klick erledigt. Im Gegenteil, denn es muss, es sei denn, der Kunde hat es eilig und möchte schnell gehen,
Vorab erfolgt eine Analyse und Prüfung von Risiko, Sicherheit und damit verbundenen rechtlichen Fragen. In diesem Punkt beruhigt der Lieferant jedoch: „Wir arbeiten seit 2019 mit der Europäischen Kommission zusammen, um über KI nachzudenken, und haben auf der Grundlage der Risiken aus dem Jahr 2019 ein eigenes Rahmenwerk entwickelt, um für die damit verbundenen KI-Risiken und ihren Einsatz in Europa gerüstet zu sein.“ Anwendungsfälle, mit der Verpflichtung zur Transparenz“, betont Pierre Dousset. Ziel des Herausgebers: Unternehmen, die seine KI-Dienste aktivieren, zu versichern, dass sie wissen, um welche Daten es sich handelt, wie das Modell funktioniert, für welche Zwecke, für welche Datenverarbeitung und wie es funktionieren wird. „Um Halluzinationen zu behandeln, haben wir in unserem LLM einen Ansatz, der auf unserer eigenen Struktur, unseren Vermögenswerten und einer Reihe kontrollierter Daten basiert“, sagt Pierre Dousset. „Anstatt über Transparenz zu sprechen, versuchen wir zu zeigen, dass es sich um erklärbare KI handelt (…) die Schlussfolgerung wird von der Plattform verarbeitet und unsere Kunden wissen genau, wann die Schlussfolgerung generiert wird und wie lange die Daten in den Daten verfügbar sein werden Plattform, wenn sie gelöscht wird, den Fortschritt und die Zeit der im laufenden Betrieb in einem ATV erstellten Schlussfolgerungen, die sich auf Daten beziehen, die sich bei AWS in Frankfurt befinden und auf die kein Workday-Mitarbeiter zugreifen kann.

Modelle sind weniger fehleranfällig

Workday entwickelt seit vielen Jahren KI-Funktionen und setzt dabei auf zwei Teams mit 250 Mitarbeitern. „Sie sind einerseits Experten für maschinelles Lernen, die die wichtigsten Sprachmodelle verstehen, und andererseits Experten für Geschäftsanwendungen“, erklärte uns Sayan Chakraborty, Co-Präsident von Workday. Im Laufe der Jahre hat der Verlag seine KI-Technologien weiterentwickelt, um sich ab 2012 auf neuronale Netze zu konzentrieren, die zur Lösung großer Probleme eingesetzt werden können und die auch für die sprachliche Übersetzung wirksam sein können. Doch erst von 2017 bis 2018 nutzte Worday es in wichtigen Sprachmodellen. „Wir haben die neuronalen Netze parallelisiert, um sie auf eine Größe zu skalieren, die noch nie zuvor möglich war“, fährt Sayan Chakraborty fort. Um seinen KI-Anforderungen gerecht zu werden, hat der Anbieter eine proprietäre ML-Pipeline-Infrastruktur aufgebaut, auf der Daten von Kunden laufen, die sich bereit erklärt haben, ihre Daten sicher zu teilen. „Heute erstellen wir anonymisierte und synthetisierte Datensätze, damit die Vertraulichkeit gewahrt bleibt und geistiges Eigentum geschützt wird“, versichert der Co-Präsident von Workday. Diese Datensätze werden zum Trainieren aktueller Modelle und zum Trainieren von LLMs wie GPT oder Open Source wie Falcon oder Llama verwendet. „Wir nutzen unsere eigenen Modelle, haben aber auch Vereinbarungen mit Google oder Amazon getroffen. „Wir nutzen alle verschiedenen Optionen, die intern oder über Dritte entwickelt wurden“, sagt Sayan Chakraborty.

Sind diese großen Modelle begünstigend für die berühmten Halluzinationen? Um sie zu vermeiden, hat Workday eine Lösung: „Unser Ansatz besteht im Allgemeinen darin, kleinere Modelle zu verwenden, die auf hochwertigen Daten trainiert wurden, um weitere Probleme zu vermeiden“, sagt der Co-CEO. „Diese Probleme sieht man bei Modellen, die im Internet in sehr großen Maßstäben trainiert wurden, aber nicht über eigene Daten verfügen und dieses Ergebnis liefern.“ Damit stellt Workday sicher, dass seine Modelle in vielen Dimensionen besser sind und bessere Ergebnisse liefern. „Unsere Modelle sind mit 300 oder 400 Milliarden Parametern deutlich kleiner als andere, weil sie auf sehr gezielten Daten basieren. Wir schulen einen LLM-Experten, indem wir ermitteln, welches Modell möglicherweise besser zur Beantwortung dieser oder jener Frage für diesen oder jenen Zweck geeignet ist“, sagt Sayan Chakraborty.

Eine Task Force für ethische KI bei Workday

Im Rahmen seiner Arbeit zur Transparenz der Datennutzung hat Workday außerdem ein ethisches KI-Team aus fünf Personen zusammengestellt, das eng mit den technischen und geschäftlichen Experten des Verlags zusammenarbeitet. „Viele Menschen wundern sich über die Risiken und Halluzinationen von KI“, sagte uns Kelly Trindel, Leiterin des Ethical AI-Teams bei Workday. „Wir überwachen die Qualität der Daten verschiedener Bevölkerungsgruppen genau und analysieren Geschlechtervergleiche und Präzisionsmetriken, um zu sehen, was passiert, und um Tests durchzuführen. „Dafür sind Menschen erforderlich, und Datenwissenschaftler und Dateningenieure arbeiten daran, die Produktentwicklung und das Benutzererlebnis zu verbessern.“

Kelly Trindel ist Workdays ethische KI-Leiterin. (Quelle: DF)