Markierte Einträge ‘Künstliche Intelligenz’

Recht muss anthropozentrisch bleiben – oder soll es Menschen künstlicher Intelligenz ausliefern?

Lange drehte sich die Diskussion konventionell um »Chancen und Gefahren« künstlicher Intelligenz. Jetzt nimmt sie eine neue Richtung. Befürchtungen ziehen auf, dass künstliche Intelligenz in die Rolle des Zauberlehrlings wächst oder vielmehr längst gewachsen ist, der sich nicht mehr zurückrufen lässt.

Im Zuge der Industrialisierung haben sich Maschinen in vielen Hinsichten als weitaus leistungsfähiger erwiesen als Muskelarbeit. Das gilt heute als Errungenschaft. Im Zuge der Digitalisierung haben sich Computer menschlichen Fähigkeiten zur Aufnahme von Außenweltreizen, zu Erinnerung, Datenanalyse und Kommunikation als weit überlegen gezeigt. Wir bewundern diese Fähigkeiten als Produkt menschlicher Intelligenz und nehmen sie gerne in Dienst.

Die Verbindung von Maschine und Computer im Automaten oder Roboter hat bisher die Grenze zum Menschen nicht berührt. Es ist anscheinend gar nicht so einfach, den perfekten, menschenähnlichen Roboter zu bauen. Honda hat die Weiterentwicklung seines Roboters Asimo eingestellt. Immerhin, die Roboter haben eine ganze Menge gelernt. Sie können gehen und Treppen steigen. Sie verfügen über Sensoren, die alle menschlichen Sinne imitieren. Sie können zu allerhand Aufgaben abgerichtet werden. Man arbeitet daran, ihnen eine Mimik beizubringen und ihre Kommunikationsfähigkeiten zu verbessern. Auch die neuesten Haus- und Pflegeroboter, wie sie auf der CES 2017 vorgestellt wurden, wirken aber noch harmlos. Auch fahrerlose Autos bleiben Maschinen. Wie sie in Kollisionsfällen »entscheiden«, die der Konstellation des übergesetzlichen Notstands analog sind, ob sie insbesondere dem Schutz der Insassen Vorrang vor dem Schutz anderer Verkehrseilnehmer geben, wird von Menschen programmiert. So lässt sich jedes einzelne Phänomen der Computerisierung bisher als Maschine einordnen. Doch jetzt scheint vieles zusammenzuwachsen und damit neue Qualitäten zu erreichen.

Es schmerzt, das 2016 erschienene Buch von Jay Tuck über künstliche Intelligenz[1] zu lesen, weil es in grauslichem Journalistenjargon geschrieben ist. Aber das Buch hat ein Thema: »Evolution ohne uns.« Künstliche Intelligenz hat nicht nur vielen Hinsichten die menschliche längst übertroffen. Wichtiger noch: Sie entwickelt sich letztlich ungesteuert in einer Weise, die an die Evolution organischen Lebens erinnert. Zunehmend wird künstliche Intelligenz mit den Attributen autonom und selbstlernend verbunden. Es bleibt offen, ob Autonomie oder besser Autopoiese von maschinenähnlichen Einheiten mit materiellem Substrat (autonome Fahrzeuge, Drohnen, Waffen usw.) oder von elektronischen Netzen zu erwarten ist. Noch fehlen Selbstbewusstsein, Subjektivität und schließlich Leben als Auszeichnungen. [2] Doch die Erosion der Menschlichkeit durch künstliche Intelligenz rückt in den Bereich des Möglichen ein.

Soweit bisher schon Stimmen laut wurden, die Computern oder Automaten Rechtspersönlichkeit beilegen wollten[3], ging es nur darum, Haftungsfragen in den Griff zu bekommen. Die Frage nach der Rechtspersönlichkeit von Automaten könnte man als rechtstechnisches Problem abtun, das nach utilitaristischen Gesichtspunkten zu lösen wäre.[4] So wie es zweckmäßig war und ist, bestimmten Organisationen oder Vermögensmassen die Qualität juristischer Personen beizulegen, könnte man auch mit der Automatenfrage umgehen. Aber die Diskussion um Tierrechte und Rechte der Natur zeigt, dass es eben doch nicht nur um ein rechtstechnisches Problem geht, sondern dass naturrechtliche Gedanken Auferstehung feiern. Längst zeigt auch die Auseinandersetzung über den Umgang mit Automaten posthumanistische Töne, etwa in der von Bruno Latour ausgelösten Diskussion[5] um die Handlungsfähigkeit von Sachen. Für Computer hat noch niemand Menschenrechte reklamiert. Doch wenn künstliche Intelligenz sie über die Schwelle zur Autopoiese hebt, werden sie uns selbst mit dieser Forderung konfrontieren.

Viele Wissenschaftler setzen ihren Ehrgeiz darein, Traditionen und Selbstverständlichkeiten als kontingent zu entlarven, und damit tun sie ein gutes Werk der Aufklärung. Eine bekannte Gruppe französischer Philosophen nimmt für sich in Anspruch, all die klassischen »Dichotomien von Geist und Körper, Tier und Mensch, Organismus und Maschine, öffentlich und privat, Natur und Kultur, Männer und Frauen, primitiv und zivilisiert«[6] dekonstruiert zu haben. Doch nichts hindert uns, diese Dichotomien, wenn sie denn brüchig wären, im wahren Sinne des Wortes zu rekonstruieren und sie dadurch vielleicht sogar zu stabilisieren. Wenn es keine Grenze zwischen Mensch und Maschine gibt, muss sie gezogen werden.

Was wir wirklich zu erwarten haben, kann niemand vorhersagen. Aber wenn die Entwicklung auf künstliches Leben zuläuft – das dann nicht mehr »künstlich« wäre –, und wenn wir das nicht wollen, ist Anthropozentrismus unerlässlich, und er muss auch im Recht seinen Niederschlag finden. Das kann geschehen, indem wir den Umgang mit künstlicher Intelligenz als eine Aufgabe der Regulierung begreifen. Regulierung wird von Menschen für Menschen gemacht.[7]

Regulierung betrifft Tätigkeiten, die grundsätzlich erwünscht sind, aber unerwünschte Nebenwirkungen haben.[8] Thema der Regulierung war zunächst die Öffnung der durch netzförmige Infrastruktur entstandenen Monopole und die Erhaltung des Wettbewerbs nach der Privatisierung ehemals öffentlicher Dienstleistungen. Alsbald wurde der Begriff auch für die Regulierung zivilisatorischer Risiken übernommen. »Reguliert« werden die Atomindustrie ebenso wie das Gesundheitswesen oder die Lebensmittelproduktion. Die Regulierung der Digitalisierung konzentriert sich bisher auf die Daten- und Persönlichkeitsschutz einerseits und Netzinfrastruktur andererseits. Begreift man den Umgang des Rechts mit künstlicher Intelligenz als Regulierungsaufgabe, dann ist klar, dass es hier ein technisch-zivilisatorisches Risiko im Interesse der Menschen einzudämmen ist.

Die Regulierung künstlicher Intelligenz ist eine schwierige und herausfordernde Aufgabe.[9] Sie für unmöglich zu halten, wäre eine self-fullfilling prohecy. Das gilt hoffentlich auch umgekehrt.

_______________________________

[1] Jay Tuck, Evolution ohne uns. Wird künstliche Intelligenz uns töten?, 2016.

[2] Literaturhinweise bei Horst Eidenmüller, The Rise of Robots and the Law of Humans, 2017, ssrn.com/abstract=2941001.

[3] Andreas Matthias, Automaten als Träger von Rechten, 2010; Jan-Erik Schirmer, Rechtsfähige Roboter?, JZ 2016, 660-666.

[4] Horst Eidenmüller, The Rise of Robots and the Law of Humans, 2017, ssrn.com/abstract=2941001.

[5] Und ihre Rezeption durch Gunther Teubner, Elektronische Agenten und große Menschenaffen: Zur Ausweitung des Akteursstatus in Recht und Politik, ZfRSoz 27, 2006, 5-30.

[6] Aufzählung nach Donna Haraway, Ein Manifest für Cyborgs [1985], S. 8.

[7] So in diesem Zusammenhang Eidenmüller a. a. O. S. 1. Wiewohl bekennender Utilitarist, zitiert Eidenmüller am Ende Goethe: »Nur allein der Mensch vermag das Unmögliche: er unterscheidet, wählet und richtet … «.

[8] Marian Döhler/Kai Wegrich, Regulierung als Konzept und Instrument moderner Staatstätigkeit, Der moderne Staat: Zeitschrift für Public Policy, Recht und Management 3, 2010, 31-52.

[9] Eidenmüller ebd.

Related Posts:

Tags: ,

Digitalisierung der Rechtskommunikation – der Fortschritt ist eine Schnecke

Schon für die kommende Woche ist in Ulm eine Konferenz zu dem Thema Urteilsfindung per Computer? Experten diskutieren Digitalisierung des Rechts aus europäischer Sicht angekündigt. Es ist zwanzig Jahre her, dass ich einmal einen Vortrag über Über den Einfluß der elektronischen Medien auf das Recht und das juristische Denken gehalten habe. Seither hat sich vieles geändert. Aber eine Revolution hat es nicht gegeben.

In den 1990er Jahren spielte die GMD – die Gesellschaft für Mathematik und Datenverarbeitung in St. Augustin – eine führende Rolle bei der vom BMJ veranstalteten Strukturanalyse der Rechtpflege. Ich kann mich noch gut daran erinnern, wie uns auf einer der zahlreichen Sitzungen versichert wurde, dass eine Datenverarbeitung nach dem Vorbild neuronaler Netzwerke vieles ändern werde. Bisher hat sich noch nicht einmal die elektronische Akte durchgesetzt. Nun sind die neuronalen Netzwerke wieder Hoffnungsträger. Thema ist auch die Visualisierung von Rechtsinhalten. Damit habe ich mich unter dem Motto Recht anschaulich lange genug beschäftigt und mich am Ende eher enttäuscht abgewendet. Ein neues Thema (das es aber auch schon zu Wikipedia-Ehren gebracht hat) sind smart contracts in Verbindung mit der Blockchain-Technologie, wie sie von Bitcoins und Ethereum bekannt ist. In Ulm ist als Referent auch Stefan Breidenbach dabei. Die ursprünglich von ihm entwickelten Knowledge Tools haben sich anscheinend von einem Werkzeug für die juristische Ausbildung zu einem Instrument insbesondere für das Vertragsmanagement gewandelt und das Stadium des Startups wohl hinter sich.

Die fühlbarste Änderung betrifft die Arbeitsweise der Juristen. Sie brauchen kaum noch Bücher und Papier zur Hand zu nehmen, sondern können sind im Internet und vielen Datenbanken bedienen. Ob die leichtere Verfügbarkeit zur Folge hat, dass mehr gelesen und verarbeitet wird, wage ich zu bezweifeln. Ich vermute, dass eine Konzentration auf die leicht verfügbaren Quellen stattfindet und dass sich ein Selbstverstärkungseffekt einstellt derart, dass häufig angeführte Gerichtsurteile, Argumente und Meinungen sich durchsetzen.

Die folgenreichste Änderung betrifft die strukturelle Differenz zwischen Individuum und Organisation. Organisationen – Banken, Versicherungen, Anbieter von Waren und Dienstleistungen aller Art gestalten einseitig den Rechtsverkehr mit ihren Kunden und profitieren von dessen Passivität. Meine Kreditkartenabrechnungen kommen nicht mehr mit der Post, sondern ich muss sie mir holen und mich dazu einloggen, um sie zu prüfen – usw. usw.

Eine erwartete Änderung ging dahin, dass juristische Expertise durch intelligente Datenbanken ersetzt werden könnte. Meine damaligen Mitarbeiter Michael Hartmann und Martina Wegge hatten 1993 den Einfluss juristischer Datenbanken auf die Tätigkeit von Versicherungsangestellten mit und ohne juristische Ausbildung erkundet.[1] Sie wagten die Prognose, dass Juristen weithin durch Sachbearbeiter ersetzt werden könnten.

Die wirksamste Änderung betrifft das Alltags- und Jedermann-Recht. Ein gewisses Hemmnis für internetgestützte Laienjurisprudenz besteht darin, dass Open Access bei Juristen verpönt ist. Ihre Veröffentlichungen sind in der Regel nur über teure Datenbanken zugänglich. Etwas besser sieht es mit Gerichtsurteilen aus. Hier kommt hinzu, dass deren Inhalt urheberrechtlich nicht geschützt ist, so dass er beliebig gepatcht werden kann. Aber Formulare für Gebrauchtwagenkaufverträge, Testamente und Patientenverfügungen gibt es en masse. Auch Rechtsrat für Streitfälle kann sich jedermann im Internet holen. Für Routinestreitigkeiten um Fluggastrechte bei Verspätung oder Flugausfall und um die Abrechnung von Mietnebenkosten und andere mehr werden im Internet Rechtsdienstleistungen angeboten.

Die sichtbarste Änderung vollzieht sich in der Anwaltschaft. Sie sieht ihre Felle wegschwimmen. Die Anwälte  haben die Kontrolle über den Markt der Rechtsdienstleistungen verloren. Das war die breit ausgeführte These von Richard Susskinds The End of Lawyers.[2] Die Legal Tribune Online hält natürlich dagegen und meint, ersetzt werde nur, wofür man sowieso keine Anwälte brauche. Tatsächlich wird aber wohl das Massengeschäft, von dem auch die Anwälte leben, nach und nach von der Digitalisierung erobert. Von Anbeginn waren Anwaltskanzleien bei der Selbstrepräsentation durch Webseiten und Blogs führend. Nun haben sie auf dem Feld von Legal Tech eine Führungsrolle übernommen, sichtbar etwa im Legal Tech Blog und in verschiedenen Legal-Tech-Startups.

»Die Geschäftsideen der deutschen Legaltech-Branche lassen sich in drei Kategorien einteilen: Die einen versuchen die Rechtsarbeit von Unternehmen zu vereinfachen, die anderen kämpfen um die Rechte von Verbrauchern, etwa bei Flugentschädigungen. Die dritte Gruppe entwickelt Marktplätze für Anwaltsleistungen.«[3]

Bisher verlief die Digitalisierung der Rechtskommunikation eher im Schneckentempo. Aber nicht wenige Innovationen verbreiten sich erst im zweiten oder dritten Anlauf,  wenn sie marktgängig werden. Das Thema jedenfalls ist »in«.[4] Für theoretische Reflexion über die Digitalisierung des Rechts war bisher das regelmäßig in Salzburg stattfindende IRIS (Internationales Rechtsinformatik Symposion) führend.[5] Auf den ersten Blick gibt es da keine Verbindung nach Ulm. Umso mehr bin ich gespannt, ob es von der Ulmer Konferenz bald Näheres zu hören gibt. Die Konferenzhomepage ist sehr sparsam mit Informationen.

Nachtrag vom 10. 11. 2016: Weil die Legal-Tech-Diskussion ganz auf Startups ausgerichtet ist, habe ich versäumt, auf das in Deutschland vermutlich wirkmächtigste Legal Tech hinzuweisen, auf das Elster-Programm der Finanzverwaltung. Ich erinnere mich an ein lange zurckliegendes Pausengespräch mit dem Rechtshistoriker Hans Hattenhauer, der mir damals riet: Vor dem Steuerformular müssen Sie keine Angst haben. Wenn Sie das sorgfältig ausfüllen, werden Sie feststellen, das ist programmierter Unterricht im Steuerrecht. Ich bin seinem Rat gefolgt und habe damit nicht nur viel Steuern gespart, sondern auch zu bewundern gelernt, was gute Formulare leisten, dass sie nämlich nicht nur den Anwender führen, sondern als data preprocessing die automatische Verarbeitung erst ermöglichen. Kurzum: Alles was sich mit Formularen abfragen lässt, lässt sich auch automatisieren.

Vgl. auch Christian Veith u. a. , How Legal Technology Will Change the Business of Law, Boston Consulting Group und Bucerius Law School, Janaur 2016. Von dieser Studie heißt es:

Es wurden 50 Interviews mit Partnern von Großkanzleien geführt, darunter die neun größten Kanzleien Deutschlands nach Umsatz, die etwa 13 Prozent des gesamten Umsatzes von Rechtsanwaltskanzleien ausmachen. Zusätzlich wurden Besitzer und Vertreter von Legal-Tech-Unternehmen über die Auswirkungen von Legal Technology auf die Geschäftsmodelle von Kanzleien befragt.

Wie Legal Tech funktioniert und wie sich die Arbeit der Juristen konkret verändert, erfährt man aus dieser Marketing-Studie nicht.

Nachtrag vom 22. 4. 2017: Neuere Literaturhinweise bei Horst Eidenmüller, The Rise of Robots and the Law of Humans, 2017, ssrn.com/abstract=2941001. Ferner der Eintrag über six great books you should consult to decode what is coming on right now auf Legal-Tech-Blog.

_________________________________

[1]Michael Hartmann/Martina Wegge, Rechtsprechungsdatenbank und professionelle Zuständigkeit, Der Einfluss juristischer Datenbanken auf die Tätigkeit von Versicherungsangestellten mit und ohne juristische Ausbildung, Bochum 1993.

[2] Richard E. Susskind, The End of Lawyers?, Rethinking the Nature of Legal Services, 2. Aufl., Oxford, New York, 2008, 2. Aufl 2010.

[3] 15 Legaltech-Startups, die den Markt aufmischen. Vgl. auch die Liste in dem Posting »LegalTech erobert die Startup-Welt« auf Companisto Blog vom 2. 6. 2016.

[4] Vgl. Katja Scherer, Automatisch recht bekommen, Zeit-online vom 9. 10. 2016; Ulla Fölsing, Mineko bringt Licht in die Mietnebenkosten, FAZ vom 1. 11. 2016.

[5] Den Schneckenpfad der Rechtsinformatik kann man an Hand folgender Literatur verfolgen: Wilhelm Steinmüller (Hg.), EDV und Recht. Einführung in die Rechtsinformatik und das Recht der Informationsverarbeitung,Juristische Arbeitsblätter Sonderheft 6, 2. Aufl., 1976 (1. Aufl. 1970); Gerhard Wolf, Lösung von Rechtsfälen mit Hilfe von Computern? Bisher ungenutzte Chancen der Rechtsinformatik, in: Eva Graul/Gerhard Wolf (Hg.), Gedächtnisschrift für Dieter Meurer, 2002, 665-684; Svenja Lena Gräwe, Die Entstehung der Rechtsinformatik. Wissenschaftsgeschichtliche und -theoretische Analyse einer Querschnittsdisziplin, 2011; Podiumsdiskussion zur Geschichte der Rechtsinformatik, in: Jörn von Lucke (Hg.), Impulse für den Weg zu einer offenen, smarten und vernetzten Verwaltungskultur, 2014, 55-81.

Related Posts:

Tags: , , ,

Neueste Beiträge

Zurück zur Homepage von Prof. Röhl