Die transformativen Potentiale der Digitalisierung sind in weiten Bereichen unserer modernen Gesellschaften bereits spürbar: Bereits an der stetigen Verbreitung und intensivierenden Nutzung von Chatbots ist die zunehmende Relevanz von digitalen Technologien im menschlichen Alltag zu erahnen. Das Phänomen der Digitalisierung ist dabei nicht nur vergleichsweise neuen Ursprungs, sondern befindet sich zudem selbst in einem steten Wandlungsprozess. Die Veränderungen betreffen neben unserem Kommunikations- und Konsumverhalten auch andere Bereiche wie unsere Rechtsordnungen.
Die Digitalisierung schafft neue Realitäten, nicht nur für Individuen, sondern auch für Unternehmen und viele weitere Bereiche des Sozialen. Neben den kreativen und progressiven Impulsen, die von den digitalen Technologien ausgehen, bedarf es im selben Schritt normativer, politischer und nicht zuletzt rechtlicher Rahmen und Schranken, um negativen Effekten und Gefahren entgegenzuwirken. Bei diesen Folgen handelt es sich allerdings um keinen einheitlichen Typus, vielmehr umfasst ihre Bandbreite unter anderem Diebstähle von Daten und die Verbreitung von Produktfälschungen, aber auch anonyme Beleidigungen und Bedrohungen sowie Formen von Suchtverhalten und Depressionen bis hin zu Szenarien vom Ende der Demokratie[1].
Mit dem Recht im digitalen Raum und speziell im Zuschnitt der Künstlichen Intelligenz befasst sich Professor Karsten Löw, der seit dem letztem Jahr den Lehrstuhl „Wirtschaftsrecht, insbesondere das Recht der Digitalisierung sowie Handels- und Gesellschaftsrecht“ an der Hochschule Schmalkalden innehat. Wenn wir auf die eingangs erwähnten Chatbots zurückkommen, stellt sich in diesem Kontext zum Beispiel die Frage, wer bei Fehlinformationen einer solchen Applikation für Schäden haften muss: Der Nutzende, der Anbieter, die Entwickler, die Bereitsteller der Trainingsdaten usw.? Eine offene Frage, die so virulent wie komplex ist.
Die Digitalisierung der Gesellschaft
Jede Beschäftigung mit den mannigfaltigen digitalen Transformationsprozessen steht vor der nicht unbeachtlichen Herausforderung permanenter Veränderung, wodurch sich der Halt im Begreifen notwendig lockert. Allein die jüngsten Nachrichten zu Anthropic, angefangen beim Mythos-Modell und der Gefahr einer automatisierten Auffindung von Sicherheitslücken, über die Einschränkungen durch die US-amerikanische Administration und deren Aufhebung, geben einen Eindruck von der Schnelllebigkeit.
Von bleibender Aktualität ist eine ungewöhnliche Warnung eben jenes Unternehmens: Es bestünde die Gefahr einer Verselbstständigung der Künstlichen Intelligenz, wenn deren Erforschung weiter so energisch und unreguliert voranschreite. Diese Mahnung gipfelte im Plädoyer, die Entwicklung zu pausieren und einen globalen Kodex zu entwickeln, was den Gesellschaften auch die Möglichkeit gäbe, sich an die neuen Technologien zu gewöhnen und einen kritischen Umgang zu entwickeln. Neben dem gewiss bestehenden Risiko einer Marketingkampagne lässt sich festhalten, dass die notwendige Bedingung, dass zumindest alle großen KI-Tech-Unternehmen kooperieren müssten, kaum zu erfüllen ist. Ähnliches gilt für die jüngsten Berichte über unerwünschte Übergriffe der KI´s zweier Unternehmen: Die mögliche Verselbstständigung der Künstlichen Intelligenz markiert ein Gefährdungspotenzial in unserer digitalen Moderne, auf das es noch Antworten auf vielen Felder und Ebenen zu finden gilt.
Das Recht im digitalen Raum
Mit dem rasanten technologischen Fortschritt gehen also immer Risiken einher: Wie der Fall um Collien Fernandez deutlich machte, stellte die Schnelligkeit technologischer Entwicklung Rechtssysteme vor Probleme. Den konkreten Fall beiseite gelassen wurden hier Lücken in der Rechtsanwendung deutlich, und mithin die mitunter diffizile Regulation des digitalen Raums durch das Recht sowie die Rückbindung in die analoge Wirklichkeit. Die grundlegende Frage, die sich in diesem Zusammenhang eröffnet, geht über die rechtliche Ahndung von Vergehen im Cyberspace hinaus und verweist auf die Notwendigkeit einer prinzipiellen Ordnung des digitalen Raums, was neben politischen und rechtlichen auch normative Horizonte impliziert. Bereits die fehlende Dinglichkeit des Digitalen verlangt eine Rejustierung des Rechts in Hinsicht dieser Anwendungsbereiche wie unter anderem dem Vertrags- und Eigentumsrecht, die im digitalen Raum neu bzw. adaptiert interpretiert werden müssen. Das Forschungsgebiet von Karsten Löw hat also eigene Herausforderungen, die in der Singularität, der Aktualität sowie der Transformabilität des Gegenstandes begründet liegen, und die durch die wechselseitigen Bezüge zu anderen Rechtsfeldern, in denen die Digitalisierung an Einfluss gewinnt, noch verstärkt werden.
Das Verhältnis von Recht und digitalem Raum, welches in dieser Disziplin im Fokus steht, ist komplex, fragmentiert und noch allzu vage. Auf der einen Seite steht das Recht mit seinen differenzierten, kodifizierten Rechtskorpora. Über Gesetze, Vorschriften und andere Regelungen schafft das Recht einen verlässlichen, nachvollziehbaren und sanktionsbewehrten Rahmen, der menschliches Zusammenleben in verschiedenen Bereichen zu ordnen hilft. Auf der anderen Seite steht die digitale Welt, die bisweilen genuin anderen Imperativen zu unterliegen scheint. Das Internet hat auch in unserer Gegenwart kaum etwas von seinem anarchischem Grundcharakter der frühen neunziger und nuller Jahre verloren. Der schieren Fülle von Angeboten und Möglichkeiten steht eine breite Sphäre der Illegalität und Halblegalität einer Art „Wilden Westens“ gegenüber. Die hohe Veränderungsgeschwindigkeit und Innovativität des Digitalen macht es der Rechtsordnung nicht eben leicht, passende und anwendbare Regulationen bereitzustellen. Als weitere Komplexitätssteigerung kommt hinzu, dass das Internet sui generis ein weltweites Netzwerk ist, und die Grenzen nationaler Gesetzgebung der Tendenz nach überschreitet. Regelungen sind deswegen nicht obsolet, sie müssen diese Konditionen aber beachten.
Daten im Zivilrecht
Ein großer juristischer Bereich neben dem Strafrecht ist das Privatrecht, auch Zivilrecht genannt, das vereinfacht gesagt die rechtlichen Beziehungen zwischen natürlichen und juristischen Personen, also Unternehmen, regelt und das Rechtsgebiete wie das Erbrecht,Handelsrecht, Familienrecht, Arbeitsrecht oder auch das Sachenrecht umfasst. Die Digitalisierung schafft selbstredend auch hier neue Regelungsbedarfe. Eine offene Frage ist, was der Status von Daten im Zivilrecht ist und wie sich ihre rechtliche Regelung ausgestaltet.
Ohne einen dezidierten Ort im Zivilrecht zu haben, sind Daten Gegenstand zivilrechtlicher Fragestellungen, wobei ihre Bedeutung im Zuge der digitalen Transformation absehbar noch zunehmen wird. Daten sind in Gegensatz zu anderen Gütern nicht rival, dass heißt, sie lassen sich problemlos durch mehrere Personen nutzen. Daten lassen sich kopieren, verbreiten und zur Verfügung stellen, was sie von den meisten anderen Gütern unterscheidet. Zugleich haben Daten keinen festen Ort: Zwar können sie als kodierte Informationen auf Datenträgern vorliegen, dennoch fallen beide Instanzen nicht zusammen und lassen sich trennen (also die Daten kopieren etc.). Letztlich gibt es gegenwärtig kein Eigentumsrecht an Daten.
Daten können aber durchaus als Gegenstand von Verträgen geregelt werden, also zum Beispiel Trainingsdaten, die über Cloud Dienste erworben werden. Auch ohne Dinghaftigkeit von Daten oder ihren Trägern greifen hier Vorschriften über den Sachkauf. Auch die Frage der Haftung bei mangelhaften Apps sowie die Aufkündbarkeit von Nutzungsverträgen werden hier geregelt. Eine – mittlerweile geklärte – Frage in diesem Kontext ist, ob das Leistungsstörungsrecht greift, wenn die Vergütung in Form personenbezogener Daten geleistet wird. Eine neuartige Regelung eröffnet der Data Act, der es dem Nutzer:innenn von Produkten wie PKWs erlaubt, die vom Fahrzeug gesammelten Daten des Fahrverhaltens selbst zu verwenden, mit Dritten (wie Werkstätten) zu teilen und der Nutzung zustimmen zu müssen.
Anhand dieser Beispiele lässt sich die bereits gegebene Rolle von Daten im Zivilrecht ablesen. Wie abzusehen ist, muss diese Rechtsposition infolge der zunehmenden Relevanz von Daten weiter konkretisiert werden. Auf politischer Ebene ist die Einsicht und der Wille erkennbar, diesen Bereich durch ein „Daten-Gesetzbuch“ neu aufzustellen. Um der Fragmentierung des rechtlichen Umgangs mit Daten in verschiedenen Regelungszusammenhängen wirksam zu begegnen, wäre dies ein erster Schritt. Wie ein anderes Themenfeld zeigt, ist die Kohärenz der politischen Vorgaben aber ein entscheidender Aspekt.[2]
Gut gemeint und gut gemacht…
Der Grundgedanke scheint so klar wie unterstützenswert: Software und Applikationen, die auf Modellen Künstlicher Intelligenz beruhen, und die sich den Prinzipen des Open Source, also Transparenz, freier Zugang und Quelloffenheit, unterwerfen, sollen durch rechtliche Regelungen unterstützt werden. Diese Privilegierung meint hier konkret Bereichsausnahmen, also dass diese Software aus dem Anwendungsbereich von Gesetzen und Regeln ausgenommen wird.[3] Kurzum unterliegen sie folglich weniger strengen Vorgaben als ihre kommerzielle Konkurrenz, was diese Angebote und ihre innovativen Impulse fördern soll. Das Problem ist allerdings nach Karsten Löw, dass die Rahmengesetzgebung ein inadäquates Verständnis von Open Source nutzt, wodurch die Maßnahmen nicht greifen und die politischen Impulse konterkariert werden.
Zunächst lassen sich im Hinblick auf die Offenheit drei KI-Modelle unterscheiden: Auf der einen Seite stehen geschlossene Varianten, die keine Codes, Gewichte oder Daten veröffentlichen. Auf der anderen Seite stehen vollständig offene und reproduzierbare Modelle, die neben den Gewichten und den Trainingsdaten mitunter auch den Trainingsprozess öffentlich machen (Open Weights). Die dritte Variante liegt dazwischen: Es handelt sich um Modelle, die zumindest einen Teil, zumeist die trainierten Modellparameter, öffentlich zugänglich machen. Der eigentliche Trainingscode und die Parameter der Datenverarbeitung bleiben indes verschlossen. Die für eine Reproduzierbarkeit notwendige Transparenz erreicht mithin nur die zweite Variante.[4]
Ein grundlegendes Problem ist nach Karsten Löw, dass Open Source mit einer ausbleibenden Monetarisierung enggeführt wird. Es geht mithin nicht um die Verfügbarkeit und Transparenz, sondern um eine Distanz zur kommerziellen Verwertung. Einerseits ist hieran problematisch, dass diese nicht-kommerziellen Varianten schon per se aus den Reglungszusammenhängen fallen, da diese an eine wirtschaftliche Tätigkeit oder eine Gegenleistung gebunden sind. Andererseits verkenne dieser Ansatz die ökonomische Logik moderner Plattformstrategien: Große Anbieter erlauben zwar die nicht-kommerzielle Verbreitung bestimmter Angebote, diese sind Teil eines umfassenden Ökosystems, in welches so Nutzer:innen gelockt werden sollen. Start-Ups hingegen, die im eigentlichen Fokus der Förderung stehen, können sich diesen Verzicht auf eine Monetarisierung nicht leisten. Auch wenn diese ansonsten alle Maßstäbe der Open Source wie Transparenz, freie Zugänglichkeit und Reproduzierbarkeit erfüllen, reicht dies nicht hin.
Karsten Löw plädiert in der Schlussfolgerung dafür, die einseitige Bindung an die Nicht-Monetarisierung als Maßgabe für eine rechtliche Privilegierung fallenzulassen, und eher den Blick ungeachtet der etwaigen Existenz von Geschäftsmodellen auf die tatsächliche Zugänglichkeit, Überprüfbarkeit und Entwickelbarkeit der KI-Modelle zu legen. Dies wäre der Weg, dem Sinn der Ausnahmen zu genügen, der Open Source Software fördern will und so auch einen Beitrag zur Europäischen digitalen Souveränität leisten kann
Das Verhältnis von Fortschritt und Kontrolle
Um ein letztes Schlaglicht auf einen weiteren Bereich zu werfen, soll es nun um zwei Aspekte der Governance, also der politischen Steuerung und Kontrolle von mitunter hochriskanten KI-Systemen gehen. Dies meint KI-Modelle, von denen im Missbrauchsfall ein enormes Gefährdungspotential ausgeht. Auf der einen Seite stehen Unternehmen der Hochtechnologie, die sich der Aufsicht und Kontrolle entziehen, und auf der anderen Seite ein Aufsichtsgremium, das institutionelle Defizite aufweist. Beide Befunde zusammen ergeben das Bild von Versäumnissen in der KI-Governance, die mittel- und langfristig schwerwiegende Folgewirkungen zeitigen könnten.
Wir hatten das Mythos-Modell von Anthropic bereits erwähnt, allerdings nicht, dass das Unternehmen die Technologie nur an ausgewählte staatliche Stellen und Unternehmen weitergegeben hat. Die Begründung erfüllt den Tatbestand einer zum Sprichwort geronnenen Aussage des ehemaligem Bundesinnenministers Thomas de Maizière, wonach Teile der Antwort die Bevölkerung verunsichern könnten: Es bestünde ein erhebliches Sicherheitsrisiko durch das Programm, könne es doch automatisiert Sicherheitslücken ausmachen. Das Gefährdungspotential auch für den Bereich kritischer Infrastruktur ist offenkundig, und wird durch die zunehmende Digitalisierung nur noch massiver. Aus Sicht der Governance ergibt sich das Problem, dass sich diese Technologie in Händen eines Unternehmens befindet und dieses über die Verbreitung entscheidet.
Auf europäischer Ebene wird diesem Versuch, sich der Kontrolle zu entziehen, nur unzureichend begegnet, was Löw als strukturelle Blindheit bezeichnet, die zudem selbstverordnet ist. Kurzum erstreckt sich der Anwendungsbereich der KI-Verordnung (AI Act) der EU nur auf jene KI-Systeme, die im europäischen Binnenmarkt in den Verkehr gebracht wurden. Am Beispiel Mythos zeigt sich, dass einerseits ein KI-System relevante Auswirkungen auf die EU-Staaten hat, andererseits aber die Regulation nicht greift, wurde die Technologie schlicht nie auf den europäischen Markt gebracht. Die Notwendigkeit, auf internationaler Ebene verbindliche Regeln zu definieren und Mechanismen ihrer Einhaltung zu etablieren, erscheint somit so rational wie dringlich geboten.
Aber nicht nur der Kontrolle auf europäischer Ebene können Defizite attestiert werden, auch die Aufsichtsbehörden der Bundesrepublik stehen in der Kritik. Im Rahmen des AI-Acts wurden die Staaten verpflichtet, Aufsichtsstrukturen für KI-Technologien zu schaffen. In der Bundesrepublik ist die Bundesnetzagentur damit beauftragt, das Marktüberwachungs- und Innovationsförderungsgesetz umzusetzen. Ein Teil dessen ist die Schaffung einer unabhängigen KI-Marktüberwachungskammer, deren Zuständigkeit besonders sensible Bereiche wie Strafverfolgung, Grenzmanagement und die Justiz umfasst. Wie der bereits gestartete Einsatz der Palantir-Software in Hessen und Bayern zeigt, ist die Einrichtung solcher unabhängiger Aufsichtsgremien dringend geboten. Diese Unabhängigkeit kann aber bezweifelt werden, ist die Kammer doch organisatorisch und institutionell Teil der Bundesnetzagentur. Diese Mängel wiegen umso schwerer, als dass sie im Zweifel grundrechtssensible Bereiche tangieren.
Es lässt sich am Ende dieses kurzen Einblicks in den Forschungsbereich von Karsten Löw festhalten, dass sich mit diesem hochdynamischen Feld einige Herausforderungen verbinden, aber diese Arbeit zugleich mit einem Höchstmaß an gesellschaftlicher Relevanz verknüpft ist. Die Potentiale der Digitalisierung sind ebenso groß wie die Risiken, die von ihrem Missbrauch ausgehen.
[1] https://www.deutschlandfunk.de/trailer-tech-bro-topia-102.html
[2] Für interessierte Leser:innen gibt es hier mehr: Karsten Löw, Daten im Zivilrecht, Juristische Arbeitsblätter (JA) 2026, 177 ff.
[3] Selbstredend gelten diese Ausnahmen nicht für Software in sensiblen Bereichen ungeachtet ihrer eventuellen Open Source Affiliation.
[4] Erwähnenswert ist in diesem Zusammenhang, dass die offenen Modelle zwar in der technologischen Entwicklung im Vergleich zu den geschlossenen Modellen zurückliegen, der Abstand gemäß einem Vergleich der Chatbot Arena allerdings überraschend gering ausfällt.