23. Bayerischer IT-Rechtstag 2024 – „KI & Rechtspraxis”

Am 14.10.2024 war es endlich wieder soweit: der 23. Bayerische IT-Rechtstag im hbw Conference Center in München, veranstaltet vom Bayerischen Anwaltverband e.V. in Kooperation mit der Arbeitsgemeinschaft IT-Recht im Deutschen Anwaltverein und der Universität Passau, Institut für das Recht der digitalen Gesellschaft.

Herr RA Michael Dudek, Präsident des Bayerischen Anwaltverbandes e.V., München begrüßte die 120 Teilnehmenden im Saal sowie über 100 Online-Teilnehmerinnen und Teilnehmer zum diesjährigen Klassentreffen im IT-Recht unter dem Titel „KI & Rechtspraxis”. Er dankte insbesondere Frau Prinz von der BAV Geschäftsstelle sowie Frau Baral, der Geschäftsführerin der MAV GmbH für die Durchführung der repräsentativen Studie „KI-Nutzung in der bayerischen Anwaltschaft“ (s.u.) im Vorfeld der Tagung. Den zweiten Teil der Begrüßung übernahm Herr RA Karsten U. Bartels LL.M., Vorsitzender des GfA davit, Berlin. Er äußerte die Hoffnung, mit den  Kolleginnen und Kollegen ins Gespräch zu kommen, wie KI in die Vergütungsvereinbarungen der Zukunft gelangen könne  („Technologiepauschale oder andere Stundensätze?“).

Die Eröffnungsrede zu „KI in der Justiz“ hielt Herr Ministerialdirigent Heinz-Peter Mair, Abteilungsleiter „Digitalisierung und Innovation“, Bayerisches Staatsministerium der Justiz, München. Es seien inzwischen einige Strukturen zum Verständnis von KI im Justizministerium geschaffen worden, bspw. die Denkfabrik Legal Tech mit über 600 interdisziplinären Mitgliedern. Beim Überblick über Pilot- und Forschungsprojekte in der bayerischen Justiz betonte er die Relevanz von anonymisierten Gerichtsentscheidungen als Grundlage für Generative Sprachmodelle der Justiz (GSJ). Hier arbeite Bayern insbesondere mit der FAU Erlangen-Nürnberg zusammen, um bis zum Jahr 2027 rund 50.000 Gerichtsentscheidungen auch aus den unteren Instanzen zu veröffentlichen. Das eingesetzte „Tool“ erreiche bereits 96% Genauigkeit.

Ein von Prof. Bräutigam erfragtes Länderübergreifendes System mitsamt Schnittstellen werde die Justiz jedoch absehbar noch nicht bereitstellen können.

Die Keynote-Speech „Fluch oder Segen? Implikationen aus der Fehleranfälligkeit von KI-Modellen“ hielt Herr Prof. Dr. Steffen Herbold, Lehrstuhl für AI Engineering, Universität Passau. Dieser nahm seine Antwort vorweg: Weder noch! Wichtig sei, sich bewusst zu machen, dass generative KI derzeit weder Fakten lerne noch ein richtig oder falsch kenne. Es ginge lediglich um Wahrscheinlichkeiten. Das GPT denke auch nicht logisch. Wenn überhaupt werde Logik imitiert. Dies gelte letztlich auch für das neue o1 von OpenAI. Die Ergebnisse variierten, je nachdem wie viele Trainingsdaten die KI gesehen habe. Folglich gäbe es auch nicht „eine Wissenbasis“, sondern je nach Sprache verschiedene Ergebnis-Qualitäten. Anhand von Beispiel-Prompts veranschaulichte er, wie ChatGPT mit Zusatzinformationen bessere Antworten liefern könne. Wie bei allen Assistenz-Systemen plädiere er für „Effizienz durch Assistenz“. Dazu müssten die (noch) unzuverlässigen Programme bei ihrem Einsatz überwacht und bspw. durch „Chain of thought-prompting“ oder „Retrieval-Augmented Generation“ verbessert werden.

Nach einer Kaffeepause widmeten sich Herr Prof. Dr. Bräutigam und Herr Alexander Laprell, Operational Director, Legal Tech Colab, München den Umfrageergebnissen 2024 zur „KI-Nutzung in der bayerischen Anwaltschaft“.

Am markantesten waren die Unterschiede innerhalb der Anwaltschaft in Bezug auf „Offenheit für Technologien“, insbesondere von b2b-Kanzleien im Vergleich zu gemischten Kanzleien. Zudem gelte: Je größer die Kanzlei, desto höher die Mitarbeiter-Begeisterung für KI (DeepL und ChatGPT als Favoriten). Besonders erfreulich: 84% der davit Anwältinnen und Anwälte verwenden bereits KI und 71% von ihnen hätten bereits zu KI beraten. Man sehe aber auch Handlungsbedarf für den Anwaltverband: Denn 37% der bayerischen Anwaltschaft wollten auch in Zukunft keine KI verwenden.

Es folgte das Panel I „KI und Rechtsdurchsetzung“, moderiert von Frau Dr. Sarah Rachut, Lehrstuhl für Recht und Sicherheit der Digitalisierung an der TU München, Forschungsinstitut TUM Center for Digital Public Services, München.

Panel I, v. links n. rechts: Moderatorin Dr. Sarah Rachut, RAin Dr. Antonia v. Appen,
Präsident des BAV RA Michael Dudek, Dr. Sebastian Dötterl, RAin Dr. Jessica Flint

Herr RA Dudek prognostizierte, dass KI einige Trends in der Rechtsberatung verschärfen werde: Schon jetzt ziehe es den juristischen Nachwuchs immer mehr in größere Kanzleien. Manche Rechtsbereiche könnten sich zukünftig mangels Skalierbarkeit nicht mehr lohnen. Der Rechtsstaat solle sich daher auf das wirkliche Wesentliche konzentrieren („Müssen Fluggastrechte wirklich zur Justiz?“). Herr Dr. Sebastian Dötterl, Referatsleiter Bayerisches Staatsministerium der Justiz, München entgegnete, automatisierte Entscheidungen des Richters seien nun einmal nicht denkbar. Die richterliche Unabhängigkeit stehe zudem einem vorgegebenen KI-Unterstützungssystem entgegen. Auch weiterhin müsse jeder Fall einzeln zählen. Dennoch gestand er zu, dass man sich überlegen müsse, ab wann ein „Kipp-Punkt erreicht ist, der den Staat zwingt, Technologien einzusetzen, um nicht Vertrauen zu verlieren“. Frau RAin Dr. Antonia von Appen, Noerr Partnerschaftsgesellschaft mbB, München unterstrich, dass sie es aus Mandatensicht verstehen könne, wenn man sich eine erste Einschätzung von ChatGPT einhole. Dies müsse man in die Ausbildung des Nachwuchses integrieren. Doch auch für diesen gelte: dem Ergebnis nur trauen, wenn Du es nachvollziehen kannst und nie als Ersatz, sondern nur als Arbeitszeit-Verkürzung! Die Relevanz von KI für die Nachwuchsgewinnung unterstrich auch Frau RAin Dr. Jessica Flint LL.M., Jun Rechtsanwälte, Würzburg. Ihre Kanzlei wolle technologieoffene Menschen erreichen. Zentral sei die Differenzierung: Was muss ich noch zwingend manuell selbst können und was kann die KI mit Überwachung bereits schneller?

Nach der Mittagspause sprach Herr RA Dr. Dr. Oliver Hofmann LL.M. (Stellenbosch), Leiter Legal Tech, Verlag C.H.Beck oHG, München zu „KI im juristischen Fachverlag“. Er stellte u.a. die prominenteste Neu-Entwicklung des Verlags: „Frag den Grüneberg“ vor. Indem man den Inhalt des Grüneberg mit großen Sprachmodellen verbunden habe, könne man nun mit diesem chatten, in ihm suchen und Fragen stellen. Man leite dann auf die Hauptquellen weiter. Der Grüneberg lerne dazu, jedoch ohne seinen Inhalt zu verändern.

Eine aktive Rechtsberatung werde es nicht geben. Man sehe sich weiterhin als Anbieter für die Anwaltschaft und gebe nur Antworten auf abstrakte Rechtsfragen.

Es folgte der spannende Vortrag von Frau RAin Dr. Antonia von Appen zu „KI-Sourcing: Das Verhandeln von Lizenzverträgen zur KI-Nutzung“. Sie beleuchtete zunächst verschiedene Lizenzmodelle und deren vertragliche Ausgestaltung, insbesondere die Unterschiede zwischen vortrainierten und benutzerbasierten Modellen. Es sei zentral, den Leistungsgegenstand detailliert zu beschreiben, die Verantwortungsbereiche (Stichwort Kompatibilität) klar abzugrenzen und sich im Lichte der neuen KI-VO, der Unterscheidung von KI-Modell und KI-System bewusst zu sein („wie Motor und Auto“). Anschließend wurden u.a. Datenschutz, Vertraulichkeit sowie die  ewährleistung und Haftung (für In- und Output) beim Einsatz von KI-Anwendungen anhand einzelner Anbieter-Klauseln beleuchtet.  Organisatorisch empfahl sie eine interne AI-Guideline. Ansonsten bestehe die sehr reale Gefahr der sog. Schatten-KI, also der Nutzung von KI-Tools durch die Arbeitnehmer ohne weitere Aufklärung/ Wissen des Arbeitgebers.

Am Nachmittag gab Frau RAin Michaela Witzel, Partnerin der Kanzlei Witzel, Erb, Backu & Partner, München einen umfangreichen Überblick zu „Anforderungen an die Vertragsbedingungen der Provider für KI-Systeme vor dem Hintergrund der KI-Verordnung“. Bei der Vertragsgestaltung hinsichtlich KI-as-a-Service plädierte sie ebenfalls für eine genaue Leistungsbeschreibung. Hier könnten die Definitionen des BSI weiterhelfen. Vertragstypologisch käme ein typengemischter Vertrag mit miet- und werkvertraglichen Elementen in
Betracht. Bei der Vertragsgestaltung empfahl sie, besonders auf drei Punkte zu achten: die Rechtseinräumung an den Softwarebestandteilen des KI-Systems, hinreichende Regelungen zum Umgang mit Ergebnissen (Output) sowie Regelungen zur Absicherung der Auswirkungen rechtswidrigen Inputs. Hinsichtlich weiterer Vertragsinhalte lohne ein (vergleichender!) Blick in die Mindestkataloge bei Art. 30 Abs. 2 und 3 der neuen DORA.

Der Tag schloss mit dem Panel II: „KI & Urheberrecht – Herausforderungen und Lösungen in der Praxis“, moderiert von Frau Dr. Lucie Antoine, Lehrstuhl für Bürgerliches Recht und Recht des Geistigen Eigentums mit Informationsrecht und IT-Recht (GRUR-Lehrstuhl), LMU, München.

Panel II, v. links: n. rechts RAin Alexandra Stojek LL.M., RAin Dr. Susanne Stollhoff,
Moderatorin Dr. Lucie Antoine, RAin Christiane Stützle

Frau RAin Dr. Susanne Stollhoff, Leiterin der Rechtsabteilung Axel Springer National Media & Tech GmbH & Co. KG, Berlin berichtete zunächst, man wolle durch die proaktive Partnerschaft mit OpenAI etablieren, dass für Inhalte gezahlt werde müsse. Mit Leistungsschutzrechten habe man eher „ups- and downs erlebt“. Daher nun der Versuch einer Partnerschaft. Zudem wolle man bei den Prompt-Ergebnissen „stattfinden“. Frau RAin Christiane Stuetzle, Partnerin and Co-Chair der Global Film & Entertainment Praxis der Kanzlei Morrison Foerster LLP, Berlin berichtete u.a., dass in der Filmbranche – neben Ängsten – auch große Chancen bestünden: so habe die Produktion eines Pixar-Films/Minute bislang knapp 1 Mio. USD gekostet. Dies sinke dank KI auf 5-15k. Sie rate Ihren Mandanten, sich zur Klärung von Unsicherheiten in den stakeholder-Prozess der EU-Kommission einzubringen. Bspw. sei die Vorgehensweise beim Product-Placement im Fernsehen inzwischen geklärt, was iRd Kennzeichnungspflicht für KI erscheinen müsse, jedoch noch nicht. In der Diskussion des Urteils vom LG Hamburg zu KI-Trainingsdaten gab Frau RAin Alexandra Stojek LL.M., General Counsel bei dem Startup Alasco GmbH, München zu Bedenken, dass man eine gute Balance zwischen den Interessen der Urheber und der gesellschaftlichen Erkenntnis finden müsse, dass das KI-Training auch in Europa stattfinden müsse. Ein maschinenlesbares Opt-out beim Text and Data-Mining sei zwar eine Umkehrung der sonst üblichen urheberrechtlichen Erlaubnis, aber zur Schaffung eines level playing field nötig. Auf leidenschaftliche Nachfragen aus dem Publikum gab sie den hoffnungsvollen Ausblick, der Urheber werde sicherlich dennoch nicht verschwinden.

Na, dann blicken wir doch, trotz aller politischen Ungewissheit, genauso hoffungsvoll auf den nächsten Bayerischen IT-Rechtstag am 13.10.2025!

Simon Tannen
LL.M. candidate @CGSL Lissabon | Wissenschaftlicher Mitarbeiter
am IP-Center der Bucerius Law School Hamburg