Die DSGVO und das kommende KI-Gesetz der EU zielen auf den Schutz der Privatsphäre ab, Kritiker argumentieren jedoch, dass sie Innovationen behindern. Konflikte entstehen hinsichtlich Transparenz, Datenminimierung und Rechenschaftspflicht. Um das KI-Wachstum mit starkem Datenschutz in Einklang zu bringen, sind ein datenschutzorientiertes Design, Compliance-Überwachung und ethische Praktiken erforderlich, um Innovationen voranzutreiben, ohne Grundrechte zu opfern.
Die weltweit größten digitalen Plattformen wie Meta und Google behaupten, dass EU-Vorschriften der Einführung ihrer KI-Tools auf dem europäischen Markt im Wege stehen – und damit auch Innovationen für Unternehmen aller Branchen behindern. Die im Digital Services Act (DSA), im AI Act und in der Datenschutz-Grundverordnung (DSGVO) festgelegten Anforderungen schaffen laut diesen Tech-Giganten Barrieren. Zivilgesellschaftliche Gruppen, die sich für den Datenschutz von Verbrauchern einsetzen, argumentieren, dass Unternehmen strengere Rechenschaftspflichten hinsichtlich der Datennutzung einhalten müssen, bevor sie von der Regulierungslast befreit werden.
Während TikToks und Metas dieser Welt behaupten, dass Verbraucherinnen und Verbraucher etwas verpassen, solange ihre KI-Lösungen dem EU-Markt vorenthalten bleiben, betonen zivilgesellschaftliche Gruppen die Bedeutung von Verbraucherrechten und -sicherheit. Wenn das Recht auf Datenschutz in der DSGVO grundsätzlich verankert und geschützt ist, müssen diese Vorschriften im Mittelpunkt der Regulierung, der Entwicklung und des Einsatzes von KI-Tools stehen. Heute scheint diese Kontrolle zu fehlen.
KI aus der Perspektive des Datenschutzes zu betrachten, ist mehr als nur bürokratischer Aufwand. Gleichzeitig warnen Stimmen in der Europäischen Union, dass völlige Untätigkeit im Bereich KI Innovationen behindern und Investitionen entmutigen wird. Es muss ein Gleichgewicht gefunden werden.
Was ist der EU-KI-Gesetzentwurf? Der KI-Gesetzentwurf ist ein umfassender Ansatz zur Steuerung und Regulierung von KI in Europa und deckt Risiken, Verpflichtungen, Nutzer und allgemeine KI ab. Sein angeblicher Zweck ist es, KI-Innovationen zu fördern, indem Unternehmen die Entwicklung und Erprobung allgemeiner KI-Modelle ermöglicht wird. Doch ganz so einfach ist es nicht.
Kritiker der Verordnung befürchten, dass sie die KI-Entwicklung und allgemeine Innovation aufgrund regulatorischer Beschränkungen bremst. Der KI-Gesetzentwurf wird als Teil der europäischen Regulierungsüberschreitung angesehen, einschließlich der oft zitierten DSGVO, die digitalen Schutz und Datenschutz auf Kosten der wirtschaftlichen Entwicklung und Führung im KI-Bereich priorisiert.
Viele sehen in der Entscheidung der USA, ein zehnjähriges Moratorium für die KI-Regulierung zu verhängen, ein konkretes Zeichen für die Förderung freier Innovationen. Befürworter des US-Gesetzes behaupten, durch die Konzentration auf ein Bundesgesetz ließe sich ein kompliziertes Flickwerk bundesstaatlicher KI-Gesetze (die den Datenschutz bereits belasten) vermeiden. Gegner hingegen behaupten, das Moratorium sei lediglich ein Zugeständnis an die großen Technologieunternehmen, das in wettbewerbsfreundliche Worte gekleidet sei.
Wie stehen KI-Gesetz und DSGVO im Konflikt und warum ist das wichtig?
Seit 2018 schützt die DSGVO den Datenschutz für Einwohner der Europäischen Union und stellt sicher, dass personenbezogene Daten transparent und rechtmäßig verarbeitet werden. Das KI-Gesetz (KI-Gesetz, AIA), das 2026 in Kraft tritt, soll klare Anforderungen an KI-Systeme zur Wahrung der Grundrechte, einschließlich der Privatsphäre, festlegen. Allerdings ergeben sich Herausforderungen dort, wo KI-Gesetz und DSGVO aufeinandertreffen, da sich ihre Anwendungsbereiche und Ziele von vornherein erheblich unterscheiden.
Wie können diese koexistieren und sowohl das Wachstum und die Entwicklung von KI-Systemen als auch das individuelle Recht auf Datenschutz ermöglichen?
KI-Systeme stellen datenschutzfreundliche Voreinstellungen vor mehrere Herausforderungen, darunter die folgenden, nicht abschließenden Beispiele:
KI-Systeme müssen bereits in der frühen Entwicklungsphase einen klar definierten und legitimen Zweck verfolgen. Dies steht im Widerspruch zu den Vorschriften für allgemeine KI-Lösungen. Die entsprechende Rechtsgrundlage für die Datenverarbeitung entspricht nicht standardmäßig den Grundsätzen der DSGVO.
Transparenz ist ein zentraler Grundsatz der DSGVO und dient dem Schutz und der Wahrung des Datenschutzes. Standardmäßig sind KI-Systeme wie Blackboxen, deren Funktionsweise keinen Einblick bietet.
Da KI-Systeme für ihr Training möglichst viele Daten benötigen, ist der DSGVO-Grundsatz der Datenminimierung und der Zweck-/Umfangsbeschränkung hinfällig.
Die DSGVO schreibt Datengenauigkeit und strenge Regeln für die Datenspeicherung vor, die KI-Systeme nicht einhalten können.
Die DSGVO garantiert dem Einzelnen das Recht, automatisierte Entscheidungen abzulehnen. Dies widerspricht jedoch vielen Versprechen der KI, die eine menschliche Überwachung parallel zum Betrieb des KI-Systems erfordern.
KI kann aus vorhandenen Daten Rückschlüsse ziehen, was neue Datenschutzbedenken aufwerfen kann. KI-Systeme können aus vorhandenen Daten identifizierende Erkenntnisse gewinnen, was nicht in den aktuellen Anwendungsbereich der DSGVO fällt.
DSGVO und AIA weisen Rollen und Verantwortlichkeiten unterschiedlich zu, was zu Governance-Unterschieden bei der Risikobewertung und Rechenschaftspflicht führen kann. Wer ist für was verantwortlich?
Wie können diese Herausforderungen ausgeglichen und bewältigt werden, um sicherzustellen, dass sowohl der Datenschutz als auch KI-Innovationen gewahrt bleiben? Unternehmen, die für beide Seiten das Richtige tun möchten, müssen:
Definieren Sie detailliert, welche Aufgaben Sie von der KI erwarten: Definieren Sie das Problem, das die KI lösen soll, identifizieren Sie die für Training und Tests verwendeten Daten, bestimmen Sie die erwarteten Ergebnisse und bewerten Sie, wie diese Ergebnisse verwendet werden. Wenden Sie die Grundsätze der DSGVO zur Datenminimierung von Anfang an an.
Design mit Blick auf den Datenschutz: Nachdem Sie die Anforderungen der DSGVO und des AIA geprüft haben, berücksichtigen Sie bei der Entwicklung den Datenschutz, um die größten Fallstricke der Blackbox-Tendenzen von KI zu vermeiden.
Überwachen Sie die Einhaltung der Vorschriften: Führen Sie regelmäßige Audits durch und bleiben Sie über die sich entwickelnden Vorschriften auf dem Laufenden, um sicherzustellen, dass das KI-System die Vorgaben der DSGVO und des AIA einhält.
Denken Sie immer wieder an den Datenschutz: Lassen Sie sich im Zweifelsfall von der DSGVO leiten, denn der Datenschutz steht über allem, und die DSGVO bietet den größten Schutz. Das bedeutet, dass Sie den Datenschutz und die Einwilligung Ihrer Nutzer stets im Auge behalten müssen.
Beachten Sie, dass aktuelle Forschungsergebnisse belegen, dass große Sprachmodelle (LLMs) gemäß DSGVO als personenbezogene Daten gelten, was bedeutet, dass die Einhaltung der Datenschutzanforderungen während des gesamten Entwicklungszyklus gelten würde. Dies ist zwar keine allgemein akzeptierte Interpretation von LLM-Daten, aber es ist ratsam, beim Datenschutz vorsichtig zu sein. Die vermeintliche Blackbox der KI kann, wenn sie geöffnet wird, eher einer Büchse der Pandora ähneln und offenbaren, dass Open-Source-KI-Trainingssets mit personenbezogenen Daten übersät sein können. Aktuelle Forschungsergebnisse haben in DataComp CommonPool, einem der großen KI-Trainingssets zur Bildgenerierung, Millionen von Bildern von Reisepässen, Kreditkarten, Geburtsurkunden und anderen Dokumenten mit personenbezogenen Daten gefunden.
Erkenntnisse der Unternehmensberatung EY machen dies deutlich: „Das Risiko des Datenmissbrauchs und der Verletzung der Privatsphäre durch KI darf nicht unterschätzt werden, insbesondere angesichts des derzeitigen Mangels an umfassendem Verständnis der langfristigen Auswirkungen. So wie Bremsen sicheres Fahren bei hohen Geschwindigkeiten ermöglichen, ermöglichen robuste regulatorische Rahmenbedingungen Unternehmen, in der sich schnell entwickelnden KI-Landschaft sicher und selbstbewusst zu agieren. Diese Rahmenbedingungen ermöglichen die Entwicklung von KI-Technologien und schützen gleichzeitig die Privatsphäre und die Menschenrechte.“
©2025 CookieHub ehf.
