Wer haftet eigentlich, wenn eine KI Unsinn ausgibt — das Unternehmen, das sie einsetzt, oder niemand? Diese Frage klingt akademisch, bis ein Gericht sie beantwortet. Genau das ist gerade in Deutschland passiert, und Simon Willison hat den dazu passenden Kommentar von Bruce Schneier aufgegriffen.
Worum es geht
Ein deutsches Urteil hat entschieden, dass Googles AI Overviews — diese KI-generierten Zusammenfassungen oben in den Suchergebnissen — als Googles eigene Aussagen gelten. Die Folge: Google haftet für Fehler in diesen Antworten. Kein «das war nur die KI», kein Verstecken hinter dem Algorithmus. Was oben steht, ist Googles Wort.
Bruce Schneier formuliert das Prinzip dahinter glasklar: Ein KI-Agent handelt für die Person oder Organisation, die ihn einsetzt — und sollte rechtlich auch so behandelt werden. Würde ein Unternehmen menschliche Autoren für seine Zusammenfassungen anheuern, wäre es für deren Fehler verantwortlich. Warum sollte das anders sein, nur weil die Zusammenfassung von einer Maschine kommt?
Die Logik dahinter
Schneiers Argument hat einen ökonomischen Kern, der mir einleuchtet. Würde man Unternehmen erlauben, sich hinter «fehlerhafter KI» zu verstecken, wäre das ein gewaltiges Geschenk — und ein verheerender Anreiz. Warum noch menschliche Autoren, Anwälte oder Ärzte bezahlen, wenn KI nicht nur billiger ist, sondern den Arbeitgeber auch noch von jeder Verantwortung freispricht? Die Haftung verschwindet ja nicht, nur weil eine Maschine den Text geschrieben hat. Sie muss bei dem bleiben, der die Maschine in die Welt schickt.
Das ist mehr als eine Suchmaschinen-Fußnote. Wir bauen gerade alle Agenten, die eigenständig E-Mails schreiben, Code ausliefern, Entscheidungen vorbereiten. Wenn die Verantwortung dafür sauber beim Betreiber bleibt, ändert das, wie sorgfältig diese Systeme gebaut und eingesetzt werden.
Meine Einordnung
Ich finde diese Klarheit gesund. Nicht, weil ich KI ausbremsen will — im Gegenteil. Sondern weil Verantwortung und Vertrauen zusammengehören. Ein Werkzeug, für dessen Ausgaben niemand geradesteht, ist auf Dauer kein Werkzeug, dem man trauen kann. Dass ein Gericht hier eine simple, alte Regel anwendet — du bist verantwortlich für das, was du veröffentlichst — beruhigt mich eher, als dass es mich nervös macht. Wer KI ernsthaft einsetzt, sollte ohnehin dahinterstehen, was dabei herauskommt.
Quellen: Simon Willison: AI and Liability, Bruce Schneier: AI and Liability