Warum Sie SAP Business AI nicht einfach durch reines ChatGPT ersetzen können

Sparen Sie bei SAP Business AI und erstellen Sie Ihre eigene KI für SuccessFactors mit ChatGPT!

Die SAP bietet ein breites Spektrum an KI-Lösungen, angefangen bei Joule, aber weit darüber hinaus: von eingebetteter KI in jeder Lösung über die Unterstützung von Entwicklern bis hin zur Erstellung eigener Apps auf BTP unter Nutzung von SAP Business AI. SAP SuccessFactors HCM ist eine der Lösungen, die besonders von diesen KI-Fähigkeiten profitiert.

SAP Business AI Services auf der BTP

Aber natürlich ist das nicht kostenlos. Einige kluge Köpfe glauben daher, dass sie viel Geld sparen können, indem sie mit Hilfe eines beliebigen Large Language Models (LLM) ihre eigenen KI-Funktionen entwickeln und diese dann einfach über eine API in ihre SAP-Lösungen wie SuccessFactors integrieren.

Warum ist das meistens eine schlechte Idee?

Die 4 Reiter der AI-pokalypse

Die Gründe sind:

• Unzuverlässigkeit
• Verantwortungslosigkeit
• Irrelevanz
• „Shitification“

Oder eben: Die 4 Reiter der AI-poklalypse.

LLMs neigen dazu, Dinge zu erfinden und noch ab und zu gegen ethnische Grundsätze verstößt. Außerdem liefern sie oft viele irrelevante Informationen oder oberflächliche Slogans. Es gibt zahlreiche Studien zu diesem Thema, daher werden wir in dem Artikel nicht weiter drauf eingehen. Nur so viel: Sie müssen sehr viel Aufwand betreiben, um diese Probleme selbst zu bekämpfen. Insbesondere innerhalb Ihrer SAP-Prozesslandschaft erfordert „Relevanz“ nicht nur, dass die KI das richtige Thema trifft. Sie muss auch die maßgeschneiderten Prozesse und Datenstrukturen in Ihren Systemen verstehen und Zugriff darauf haben. Gleichzeitig müssen Sie sicherstellen, dass sensible Daten geschützt bleiben: sie dürfen als nicht

• direkt weitergegeben werden,
• dem Training der KI dienen oder
• in Lokationen gehalten werden – egal wie kurzfristig – die nicht der gültigen Regulierung entsprechen (insbes. DSGVO/GDPR)

Ich anerkenne sofort, dass LLMs leistungsstarke Werkzeuge und wichtige Bestandteile Ihrer KI-Anwendungen sind. Sie bieten „Allgemeinwissen” und Natural Language Processing (NLP) auf einem Niveau, das vor fünf Jahren noch unvorstellbar war. Aber ich zweifle momentan daran, dass sie ohne einen massiven Technologiewechsel (der irgendwann kommen wird) inhaltlich noch viel besser werden.

Was ist „Shitification“ der Internets?

Ein Grund dafür ist, dass sie sich hauptsächlich aus Quellen aus dem freien World Wide Web speisen. Aber meiner Meinung nach verschlechtert sich diese Quelle gerade deutlich – und zwar durch die LLMs. Ich sehe dafür drei Gründe:

• LLMs haben bereits den größten Teil der relevanten Inhalte im WWW konsumiert. Der Löwenanteil der neuen Inhalte wird von LLMs generiert und oft nicht oder nur unzureichend überwacht. LLMs konsumieren also zunehmend ihre eigenen Exkremente. Koprophagie ist bei vielen Tieren bekannt – sie tun dies, um mehr Nährstoffe aus ihrer Nahrung zu gewinnen. Aber es macht nie den Großteil ihrer Nahrungsaufnahme aus, da der Nährwert mit der Zeit gegen 0 gehen würde. LLMs erhöhen ständig den Anteil ihrer eigenen „Exkremente” an ihrer „Nahrungsaufnahme“.
• Kostenlose Qualitätsinhalte stammen oft von Einzelpersonen und Unternehmen, die über Suchmaschinen neue Besucher auf ihre Website locken wollen.
  Das Problem: Immer weniger Menschen besuchen tatsächlich Websites, weil sie die von einer KI bereitgestellten aggregierten Antworten nutzen. Wenn sich dieser Trend fortsetzt, werden viel weniger professionelle Inhalte kostenlos geteilt, weil es sich nicht lohnt. Diese Inhalte werden dann z.B hinter Bezahlschranken versteckt.
• Der Mangel an „Futter“ führt dazu, dass immer schlechtere Quellen angezapft werden. Dazu gehören insbesondere Social Media. Die Daten aus Facebook oder TikTok mögen aus Sicht des Konsumentenverhaltens wertvoll sein, aber wenn LLMs diese Inhalte in großem Stil in fachlichen Antworten verarbeiten, weil nicht genügend hochwertige Quellen wie Wikipedia zur Verfügung stehen, dann mögen uns die Internet-Götter gnädig sein!

Diese beiden Trends zusammen wurden kürzlich oft als „Shitification” des Internets bezeichnet. Das ist vielleicht kein besonders eleganter Begriff, aber er trifft den Nagel auf den Kopf. Mir ist bewusst, dass meine Vorhersagen in diesem volatilen Kontext viel Spekulation enthalten und dass ich mich ggf. sehr bald korrigieren muss. Derzeit sehe ich aber ein hohes Risiko, dass LLMs ähnlich begrenzt bleiben wie bisher, weil sie ihre eigenen Nahrungsquellen zerstören (und wieder stellen wir fest: Sie scheinen den Menschen ähnlicher zu sein, als uns lieb ist). Ob LLM-Anbieter dies durch den Einkauf hochwertiger Inhaltsquellen in ausreichendem Maß bekämpfen können, bleibt abzuwarten.

(Bild von KI generiert: LLM auf der Toilette speist seine Exkrement ins WWW ein)

SAP Business AI ist Ihre beste Wahl in einer SAP-Landschaft

SAP Business AI ist viel mehr als nur die Integration eines LLM in einen Chatbot. Tatsächlich haben LLMs zwar einen großen Schub für sprachbasierte KI gegeben, aber sie werden zunehmend zur Massenware. Denken Sie an Benzin im Vergleich zu einem alten Auto mit Verbrennungsmotor. Benzin ist zwar unverzichtbar, aber es spielt keine Rolle, woher man es bezieht, solange man genug davon hat. Allein ist es jedoch wertlos. Wenn man ein brennendes Streichholz in einen Benzintank wirft, wird zwar viel Energie freigesetzt, aber man kommt damit nicht sicher ans Ziel.

Der wahre Mehrwert liegt darin, die Leistungsfähigkeit von LLMs für sinnvolle Zwecke einzusetzen, bei denen Zuverlässigkeit, Verantwortung und Relevanz gefragt sind. Das bietet SAP Business AI – sie nutzt ebenfalls gängige mehrere LLMs als Basis, aber fügt einiges hinzu wie zum Beispiel:

• Datenschutz
• ethische Leitplanken
• intelligente Nutzung der Daten in Ihrer SAP-Landschaft
• intelligente Integration in die Prozesse, die in Ihrer SAP-Landschaft laufen.

Auch hier gehe ich nicht auf technische Details ein, da es Leute gibt, die sich damit viel besser auskennen als ich (siehe zum Beispiel hier: KI mit Kontext: SAP HANA Cloud Vector Engine). Aber um nur einige der relevanten Konzepte zu nennen, schauen Sie sich diese Punkte einmal an:

• SAP HANA Cloud Vector Engine
• Kombination mehrerer LLMs zur Auswahl
• Multimodale KI
• Kontextuelle Verarbeitung
• RAG (Retrieval Augmented Generation)
• Dokumentengrundlage

Theoretisch könnten Sie immer noch Ihre eigenen KI-Funktionen erstellen, indem Sie einfach ein zufälliges LLM verwenden, die gesamte Grundlage und die Sicherheitsvorkehrungen selbst erstellen und über APIs auf Daten aus Ihrer SAP-Landschaft zugreifen. Da KI jedoch in allen Prozessen immer wichtiger wird, würden Sie am Ende die Hälfte Ihrer SAP-Lösungen neu entwickeln. Das läuft der grundsätzlichen Idee von SaaS entgegen und so ein Kartenhaus kann schnell in sich zusammenfallen.

Wie setzen wir also KI in unserer SAP-Landschaft ein?

Meiner Meinung nach gibt es 4 Elemente für den Einsatz vom KI im SAP Kontext (insbesondere im mir vertrauten Kontext von SAP SuccessFactors HCM):

• Nutzen Sie die zunehmende Anzahl von KI-Funktionen, die SAP bereitstellt, wie z. B. das Verfassen von Zielen in SuccessFactors Goals Management, Urlaubsanträge in Joule oder Anleitungen in WalkMe.
• Ergänzen Sie diese bei Bedarf durch benutzerdefinierte Apps, die SAP Business AI integrieren.
• Verwenden Sie direkte Eingaben aus LLMs nur in sehr engen, kontrollierten Anwendungsfällen nach sorgfältiger Abwägung.
• Nutzen Sie KI-Unterstützung für Entwickler in all Ihren benutzerdefinierten Entwicklungen.

Es wird immer spezielle Situationen geben, wo es Sinn macht, eine externe KI im SAP Kontext einzusetzen – insbesondere dann, wenn ihr Unternehmen keine umfassende SAP Strategie fährt, sondern SAP Lösungen nur für einzelne Prozesse wie z.B. HR eingesetzt werden. Dann fallen die Synergien weg die der Einsatz der SAP KI über eine Vielzahl von SAP Lösungen hinweg bringt.

Auch deshalb ist dieser Artikel nicht als eng gefasste Vorgabe zu sehen, sonder soll in erster Linie ein Bewusstsein dafür schaffen, dass DIY für KI in einer komplexen, anspruchsvollen Umgebung nicht immer so einfach ist wie es auf den ersten Blick scheint. Und wenn der Artikel ein wenig provoziert: das ist volle Absicht – ich mag den englischen Ausdruck „thought provoking“. Zum (Selbst-)Denken zu provozieren ist im Zeitalter des „Denken Lassens“ wichtiger denn je.

Urlaubsantrag mit Joule in SuccessFactors

Weiterer Artikel zu diesem Thema: Wie SAP ChatGPT zähmt und was das für KI in SAP SuccessFactors HCM heißt –