Fehlanreize

Manchmal will man nur das Beste und macht dann trotzdem alles schlechter. Oder vielmehr gerade deshalb. Dass die Suchmaschinenoptimierung (SEO) von Websites oft dazu gehört, ahnte ich schon länger, aber erst kürzlich habe ich entdeckt, dass bereits vor einem halben Jahrhundert zwei Wissenschaftler den Grund dafür formuliert hatten.

Haben Sie schon mal von Goodhart’s Law gehört? Oder von Campbell’s Law? Ich bisher nicht, was vielleicht daran liegt, dass Charles Goodhart Wirtschaftswissenschaftler und Donald T. Campbell ein Sozialwissenschaftler ist beziehungsweise war, und keines der beiden Fachgebiete ist meines. Die von Goodhart 1975 und von Campbell 1976 erstmals formulierten Gesetze besagen weitgehend dasselbe: Wenn ein Maßstab zu einem Ziel wird, ist er kein guter Maßstab mehr. So hat sie Prof. Sascha Friesike übersetzt, der Direktor des Weizenbaum-Instituts für die vernetzte Gesellschaft.

Der Kontext, den Goodhart und Campbell im Sinn hatten, waren vor allem staatliche Eingriffe, etwa in der Geldmarkt- oder der Schulpolitik, aber der Anwendungsbereich dieser Regeln („Gesetze“ ist etwas hochgegriffen) ist viel breiter. Der Ausgangspunkt ist, dass man eine bestimmte Entwicklung befördern möchte, und eine Messgröße als geeigneten Maßstab dafür identifiziert, dass diese Entwicklung tatsächlich eintritt.

Im allgemeinen Fall kann so etwas gut funktionieren. Nehmen wir als einfaches Beispiel einen Heizkörperthermostaten, mit dem wir die Raumtemperatur regeln: Der Thermostat, der den Zufluss heißen Wassers in einen Heizkörper über ein Ventil beeinflussen kann, misst seine Umgebungstemperatur, vergleicht sie mit dem von uns vorgegebenen Sollwert, und öffnet oder schließt das Ventil, je nachdem ob die Lufttemperatur am Thermostaten unter oder über dem Soll liegt. Das funktioniert, weil sich Luft- wie Wassermoleküle immer gleich verhalten, egal ob Thermostaten und von ihnen geregelte Heizkörper im Spiel sind oder nicht. Die Moleküle wissen nicht, was passiert, und es wäre ihnen auch egal. Anders sieht es jedoch aus, wenn man das Verhalten von Menschen steuern will.

Wenn wir wissen – weil man es uns gesagt hat oder weil wir es selbst herausgefunden haben –, dass wir für die Steigerung einer als Maßstab dienenden Messgröße belohnt werden, verhalten wir uns so, wie es jedes rational denkende Wesen täte: Wir tun alles, um diese Messgröße in die Höhe zu treiben. Aber ist das nicht der Zweck der Maßnahme? Nicht so ganz. Schüler beispielsweise, die für gute Noten belohnt werden, entscheiden sich bei der Wahl zwischen zwei Fächern für dasjenige, in dem sie leichter gute Noten erzielen können, auch wenn vertiefte Kenntnisse im anderen Fach vielleicht nützlicher wären. Wenn sie ahnen, dass ein bestimmtes Wissen nur einmal abgefragt und in der weiteren Schulkarriere keine Rolle mehr spielen wird, gewöhnen sie sich das Bulimie-Lernen an: Sie lernen auswendig, was sie in der nächste Klassenarbeit reproduzieren müssen, und vergessen es danach sofort wieder. Und wenn eine generative KI absehbar eine bessere Hausarbeit schreiben wird, schreiben sie diese natürlich nicht selbst. Es geht ihnen also nur noch um die gute Note; ob sie wirklich etwas lernen und ob das später nützlich sein wird, spielt keine Rolle. Mit der Konzentration auf gute Noten werden als falsche Anreize gesetzt, und am Ende verlieren Noten so ihre Aussagekraft für den Lernerfolg. (Auch Schulen werden ja danach beurteilt, wie groß der mit guten Noten unter Beweis gestellte Lernerfolg ihrer Schüler ist, und so gibt es einen Anreiz, die Anforderungen zu senken, um im Ranking der Schulen besser abzuschneiden.)

Das ist kein Zufall und es liegt auch nicht daran, dass man hier nur den falschen Maßstab gewählt hätte. Mit jedem anderen Maßstab wäre es ganz ähnlich gelaufen. In jedem Fall werden Menschen das tun, was der Engländer gaming the system nennt: Sie nutzen die ihnen bekannten Regeln des Systems aus, um selbst den größten (zumindest kurzfristigen) Nutzen daraus zu ziehen. Was denn auch sonst?

Sascha Friesike nennt ein noch krasseres Beispiel: Nachdem Health-Apps und Fitness-Tracker Messwerte wie gelaufene Kilometer sammelten und man mit hohen Laufwerten angeben und so seinen sozialen Status heben konnte, gingen manche dazu über, ihre Smartwatches anderen zu leihen, die ohnehin viel liefen. Damit wurden ihnen deren Kilometer gutgeschrieben, während sie selbst auf dem Sofa liegen und Chips futtern konnten. Dabei erschien der Maßstab nicht schlecht gewählt, denn wer viel läuft, tut ja wirklich etwas für seine Gesundheit. Nur dass der Aspekt, seine Gesundheit zu verbessern, aus dem Blick gerät, sobald man nur noch auf gelaufene Kilometer schaut.

Im Zusammenspiel von Websites und Suchmaschinen ist etwas Ähnliches passiert. Die Idee hinter Suchmaschinen wie Google war, dass sie ihren Nutzern die für ihre Anfrage relevantesten Seiten im Web zeigen sollten. Wessen Seiten in diesem Ranking weit oben standen, konnte mit mehr Besuchern, mehr Aufmerksamkeit oder, bei kommerziellen Websites, besseren Geschäften rechnen. So entstand die Geheimwissenschaft der Search Engine Optimization (SEO), die lehrte, wie sich das Ranking der eigenen Seiten verbessern ließ. Im Ergebnis drängelten sich daraufhin alle nach den aktuell gehandelten SEO-Regeln optimierten Seiten weiter nach oben, aber da sich eben fast alle darum bemühten, blieb jeder Erfolg in diesem Wettkampf flüchtig – zumal die Suchmaschinenbetreiber ihre Metriken immer wieder änderten und einst erfolgversprechende Tricks ihre Wirkung verloren.

Das Schlimmste an dieser Entwicklung war, dass die Inhalte im Web dadurch nicht besser und relevanter wurden, obwohl sie sich im Ranking verbesserten. Bisweilen wurden sie schlechter, weil allein von einer Suchmaschinenoptimierung motivierte Änderungen sachfremd waren. Wenn es uns darum geht, die Qualität und Relevanz unserer Web-Inhalte zu verbessern, sollten wir uns um genau das und nichts anderes bemühen – also keine Gedanken an Suchmaschinen und deren Ranking verschwenden. Dass qualitativ hochwertige und für eine Anfrage relevante Seiten auch als solche erkannt werden, dafür müssen die Suchmaschinenbetreiber sorgen; es ist deren Job, nicht unserer. (Mal ganz davon abgesehen, dass viele Google-Nutzer heutzutage mit der Antwort von Googles KI vorlieb nehmen und gar nicht erst bis zu den Suchergebnissen vordringen. Obwohl man der KI nicht trauen kann und für den nötigen Faktencheck dann doch wieder auf eine konventionelle Recherche zurückgeworfen wird.)