Bei einem Mittelstandskunden in Süddeutschland sollte Einstein im Recruiting eingesetzt werden. Lebenslauf rein, Score raus, Reihenfolge der Kandidatengespräche fertig. Drei Wochen vor Go-Live haben wir die Reißleine gezogen. In dieser Konstellation wäre der Use Case unter den EU AI Act als Hochrisiko-Anwendung gefallen, mit allen Pflichten zu Risikomanagement, Dokumentation und Konformitätsbewertung. Wir haben das Setup angepasst, sodass die finale Personalentscheidung nachweisbar beim Recruiter blieb. Drei kleine technische Änderungen, eine handhabbare Compliance-Lage.
Genau das ist 2026 die Lage in jeder Salesforce-Org mit Einstein, Agentforce oder selbstgebauter Automatisierung. Der EU AI Act greift seit Februar 2025 schrittweise. 2026 ist das Jahr, in dem Aufsichtsbehörden in der DACH-Region anfangen, genauer hinzuschauen. Gleichzeitig läuft die DSGVO unverändert weiter. Beide Regelwerke greifen ineinander, beide haben spürbare Bußgelder. Dieser Artikel ist die Praxis-Sicht eines Beraters, keine Rechtsberatung. Er sagt Ihnen, was Sie in Ihrer Org technisch und organisatorisch jetzt geklärt haben sollten.
Der EU AI Act in 90 Sekunden
Der AI Act unterscheidet vier Risikostufen. Verbotene Systeme (z.B. Social Scoring durch Behörden), Hochrisiko-KI, KI mit Transparenzpflicht und KI mit minimalem Risiko. Die spannende Stufe für Salesforce-Orgs ist Hochrisiko. Sie ist es, die teuer wird, wenn man sie übersieht.
Hochrisiko-KI im Salesforce-Kontext betrifft typischerweise drei Felder. Erstens Recruiting und HR-Entscheidungen, also alles was Bewerbungen filtert, Mitarbeiter bewertet oder Beförderungen vorschlägt. Zweitens Bonitätsprüfung und Kreditentscheidungen für natürliche Personen. Drittens jede KI, die Zugang zu wesentlichen Dienstleistungen vergibt, etwa Versicherungen oder bestimmte Verträge. Wer Einstein Lead Scoring nur für Marketing-Priorisierung nutzt, ist in der Regel kein Hochrisikofall. Wer Einstein zur automatisierten Vorauswahl von Bewerbern einsetzt, schon.
Pflicht für jeden Anbieter und Betreiber von KI-Systemen, unabhängig von der Risikostufe, ist seit Februar 2025 die KI-Kompetenz nach Artikel 4 AI Act. Das heißt: Mitarbeiter, die KI-gestützte Systeme bedienen, müssen ein angemessenes Verständnis dafür haben. Salesforce-Admins, die Einstein-Modelle aktivieren, gehören dazu. Das ist nichts, was Sie technisch konfigurieren, aber es gehört in Ihre Onboarding-Unterlagen und in eine kurze Schulungspflicht.
Die DSGVO-Basis steht oder fällt mit dem AVV
Bevor Sie sich mit dem AI Act beschäftigen, prüfen Sie die DSGVO-Grundlagen. Der wichtigste Vertrag ist der Auftragsverarbeitungs-Vertrag (AVV) mit Salesforce. Salesforce stellt den als „Data Processing Addendum" online bereit. In den meisten Mittelstandsverträgen ist er bereits Bestandteil. Prüfen Sie aber konkret: Welche Subprozessoren listet Salesforce aktuell? Sind die für Sie alle akzeptabel? Bei Auftragsverarbeitung in einem regulierten Sektor (Finanzdienstleister, Gesundheitswesen) reicht der Standard-AVV oft nicht.
Zweite Grundfrage: Wo liegen die Daten? Hier kommt Hyperforce ins Spiel. Hyperforce ist die neue Salesforce-Architektur auf Public Cloud (AWS in der EU-Region Frankfurt). Wenn Ihre Org auf Hyperforce in der EU läuft, vermeiden Sie viele DSGVO-Diskussionen rund um Drittstaatenübermittlung in die USA. Wenn Ihre Org noch auf der alten Salesforce-Infrastruktur sitzt, sollten Sie die Migration in den nächsten 12 Monaten einplanen. Gleichzeitig ändert das nichts daran, dass Salesforce ein US-Konzern ist und Subprozessoren weltweit aktiv sind. Das ist ein Risiko, das Sie kennen und im Risikoregister dokumentieren müssen.
Die technischen Details zu Hyperforce und EU-Datenresidenz habe ich im Artikel Salesforce Hyperforce aufgeschrieben. Wer dort noch Fragezeichen hat, sollte zuerst dort weitermachen.
Hochrisiko erkennen: drei Tests für Ihre Org
Damit Sie nicht jeden Flow im Zweifelsfall als Hochrisiko einstufen, hilft eine knappe Checkliste. Wenn auch nur eine der folgenden Fragen mit „ja" beantwortet wird, sollten Sie genauer hinsehen.
- Trifft die KI eine Entscheidung über eine natürliche Person, die diese Person spürbar betrifft (Job, Kredit, Vertrag, Versicherungspolice)?
- Wird die Entscheidung der KI ohne menschliche Prüfung umgesetzt oder ist die menschliche Prüfung nur formal?
- Wird die Entscheidung in einem Bereich aus Anhang III des AI Act getroffen (Recruiting, Bildung, kritische Infrastruktur, Strafverfolgung u.a.)?
Im Recruiting-Beispiel vom Anfang waren alle drei Fragen mit „ja" beantwortet. Wir haben das Setup in drei Punkten geändert. Erstens: Einstein liefert nur eine Empfehlung, keine Sortierung. Zweitens: Der Recruiter muss aktiv klicken, um die Empfehlung zu sehen. Drittens: Die Begründung der Empfehlung ist sichtbar, der Recruiter dokumentiert seine Entscheidung als Notiz auf dem Candidate-Record. Damit ist die Entscheidung nachweislich beim Menschen, die KI ist Decision Support, kein Hochrisikosystem.
Hochrisiko entsteht oft nicht durch das Modell, sondern durch das UI-Design. Wer Vorhersagen ohne Reibung in Workflows kippt, verschiebt die Entscheidung weg vom Menschen.
Einstein Trust Layer: was er kann, was er nicht kann
Salesforce bewirbt den Einstein Trust Layer als Compliance-Schutzschild. Der Trust Layer leistet drei Dinge: Er maskiert vor dem Senden an LLM-Provider personenbezogene Daten, er sorgt für Zero-Retention bei Drittanbietern und er prüft Outputs auf Toxizität. Das ist sinnvoll, aber es macht Sie nicht automatisch DSGVO- oder AI-Act-konform.
Was der Trust Layer nicht leistet: Er ersetzt weder Ihre Verarbeitungstätigkeit noch Ihre Rechtsgrundlage. Er prüft nicht, ob ein Use Case Hochrisiko ist. Er stellt keinen AVV mit OpenAI oder Anthropic her, das tut Salesforce. Er macht aus einem schlecht konzipierten Workflow keinen guten. Sehen Sie ihn als technisches Sicherheitsnetz, nicht als rechtliche Lösung.
Praktisch wichtig: Aktivieren Sie das Audit-Logging im Trust Layer. Sie wollen für jede LLM-Anfrage nachvollziehen können, welche Daten gesendet wurden, welcher Prompt verwendet wurde und welche Antwort kam. Bei einer Datenschutz-Anfrage oder einer behördlichen Prüfung ist das Ihre Beweislast.
Was Sie in der Org konkret konfigurieren müssen
Der Compliance-Quick-Check, den ich bei Kunden mache, prüft sechs Bereiche in der Org. Die hier sind nicht optional, sie sind die technische Basis für DSGVO und AI Act gleichermaßen.
| Bereich | Was zu prüfen ist | Tool in Salesforce |
|---|---|---|
| Field-Level Security | Wer sieht welches personenbezogene Feld? Standardlevel zu offen. | Permission Sets, Profile |
| Data Classification | Welche Felder sind „Sensitive"? Klassifizierung pflegen. | Data Classification Setup |
| Verschlüsselung at rest | Sensitive Felder mit Plattformverschlüsselung schützen. | Salesforce Shield |
| Audit-Logs | Wer hat wann was geändert? 180 Tage reichen oft nicht. | Field Audit Trail (Shield) |
| Login-Sicherheit | MFA für alle Nutzer, Session-Timeouts realistisch setzen. | Session Settings, MFA |
| Data Retention | Löschkonzept für Personendaten, automatisch oder per Job. | Data Mask, Custom Apex |
Verschlüsselung und Audit Trail laufen über Shield. Wer den Lizenz-Schritt scheut, kann mit Classic Encryption und Standard Audit-Feldern starten, sollte aber wissen, was die Lücken sind. Tiefer im Shield-Setup gehe ich im Artikel Salesforce Shield durch.
Agentforce: zusätzliche Pflichten beachten
Agentforce ist Salesforces Antwort auf den Trend zu autonomen KI-Agenten. Statt einer einzelnen Empfehlung führt ein Agent einen mehrstufigen Workflow aus, ruft Daten ab, löst Aktionen aus. Aus AI-Act-Sicht macht das einen Unterschied. Je autonomer das System, desto wichtiger werden Transparenz und menschliche Aufsicht.
Konkret bedeutet das: Jeder Agentforce-Agent braucht eine klare Beschreibung, was er darf und was nicht. Welche Aktionen darf er auslösen, welche braucht eine menschliche Freigabe? Welche Datenquellen darf er nutzen? Was ist der Eskalationspfad bei unsicherer Antwort? Diese Konfiguration ist nicht nur Best Practice, sie ist im Zweifel Ihre Compliance-Dokumentation.
Wenn Sie noch unsicher sind, was Agentforce überhaupt ist und wie es sich von klassischen Bots unterscheidet, lesen Sie zuerst Agentforce: KI-Agenten für Salesforce erklärt. Dort steht, wie die Plattform aufgebaut ist und an welchen Stellen Sie hebeln können.
CRM-Checkliste für den Mittelstand Kostenlos
7 Punkte, die Sie vor jeder CRM-Entscheidung prüfen sollten. Kompakt, praxisnah, sofort anwendbar.
Dokumentation: was wirklich vorliegen muss
Die Dokumentationspflicht ist der Punkt, an dem die meisten Organisationen straucheln. Drei Dokumente sind das Minimum für jede Org, in der KI-gestützte Salesforce-Funktionen produktiv laufen.
- Verzeichnis von Verarbeitungstätigkeiten nach Artikel 30 DSGVO mit dem KI-Use-Case als eigener Eintrag.
- Use-Case-Steckbrief je KI-Anwendung (Zweck, Daten, Modell, Ausgabe, menschliche Kontrolle, Risikoklasse).
- Risikoregister mit erkannten Restrisiken und ergriffenen Maßnahmen.
Bei Hochrisiko-KI kommt eine technische Dokumentation nach Anhang IV des AI Act dazu, plus eine Konformitätsbewertung vor Inbetriebnahme. Das ist Aufwand, aber kein Hexenwerk. Im Mittelstand bauen wir das in der Regel als drei Word-Dokumente plus eine Excel-Liste auf, gepflegt vom Datenschutzbeauftragten zusammen mit dem Salesforce-Owner. Wer es ernst meint, packt es in ein Confluence oder eine Airtable-Base und macht es prüfbar.
Drei Dinge, die Sie bis Ende 2026 erledigen sollten
Wenn Sie diesen Artikel zu Ende lesen und drei Dinge mitnehmen wollen, sind es diese.
- Inventar aller KI-Funktionen in Ihrer Org: Einstein, Agentforce, Predictions, jede Custom-LLM-Integration. Pro Eintrag eine kurze Risikoklassifizierung.
- AVV mit Salesforce checken, Hyperforce-Migration einplanen, Trust-Layer-Logging aktivieren. Das ist die DSGVO-Basis.
- Schulungspflicht nach Artikel 4 AI Act erfüllen. Eine kurze Pflicht-Schulung für alle, die KI-gestützte Salesforce-Funktionen nutzen.
Wer das hat, ist nicht fertig, aber er ist verteidigungsfähig. Aufsichtsbehörden wollen Belegbarkeit sehen. Ein gepflegtes Inventar plus drei einfache Dokumente bringen Sie über die meisten Hürden.
Häufige Fragen
Brauche ich für Einstein Lead Scoring eine Konformitätsbewertung?
In aller Regel nein. Lead Scoring für Marketing-Priorisierung fällt nicht unter Hochrisiko, solange keine wesentliche Vertragsentscheidung daran hängt. Verarbeitungstätigkeit nach Artikel 30 DSGVO und Trust-Layer-Logging sind aber Pflicht.
Was passiert, wenn ich den AI Act ignoriere?
Bußgelder bei Hochrisiko-Verstößen können bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes betragen. Wichtiger im Alltag: Aufsichtsbehörden können den Betrieb des KI-Systems untersagen, was Salesforce-Workflows direkt blockiert.
Reicht der Einstein Trust Layer als Compliance-Lösung?
Nein. Der Trust Layer ist ein technisches Sicherheitsnetz, kein rechtlicher Stempel. Er ersetzt weder Ihre Risikobewertung noch Ihre Dokumentation. Aktivieren Sie ihn, aber bauen Sie Ihre Compliance darauf auf, nicht alleine.
Muss meine Org auf Hyperforce in Frankfurt laufen?
Pflicht ist es nicht, aber sehr empfehlenswert. Hyperforce mit EU-Region vereinfacht die DSGVO-Argumentation rund um Drittstaatenübermittlung deutlich. Falls Sie noch auf der alten Infrastruktur sind, planen Sie die Migration in den nächsten 12 Monaten ein.
Wer ist intern verantwortlich, der Datenschutzbeauftragte oder der Salesforce-Admin?
Beide. Der Datenschutzbeauftragte verantwortet die DSGVO-Sicht, der Salesforce-Owner die technische Umsetzung. Im AI-Act-Kontext kommt oft eine Compliance- oder Risikofunktion dazu. Klären Sie die Rollen schriftlich, sonst bleibt es im Ernstfall liegen.
Wenn Sie Ihre Salesforce-Org auf DSGVO und EU AI Act prüfen lassen wollen: Ich biete einen Compliance-Quick-Check an. Wir schauen Ihre KI-Use-Cases an, klassifizieren das Risiko, prüfen Setup und Dokumentation und liefern Ihnen eine priorisierte Maßnahmenliste. Eine Woche, klare Sprache, keine 80-Seiten-Reports.
Hinweis: Dieser Artikel ist keine Rechtsberatung. Für die rechtliche Bewertung Ihres konkreten Setups erwägen Sie die Zusammenarbeit mit Datenschutz- und IT-Anwälten.
