Ein moderner Advocatus diaboli: Die KI sollte nicht helfen, sie sollte widersprechen.
Am 25. April 1983 hält ein Reporter in Hamburg zwei schwarze Kladden in die Kameras, und der halbe Weltjournalismus hält die Luft an. Die „Hitler-Tagebücher“ sind da, 62 Bände, beschafft von Gerd Heidemann, bezahlt vom Stern mit rund 9,3 Millionen Mark. Elf Tage später erklärt das Bundesarchiv den Fund für plumpe Fälschung: falsches Papier, moderne Aufheller, Kunststoffetiketten. Der Fälscher Konrad Kujau hatte nicht einmal besonders sorgfältig gearbeitet.
Die eigentliche Frage ist bis heute nicht, wie ein Schwindler so gut sein konnte. Sie lautet, warum ein Haus voller Berufsskeptiker ihn nicht enttarnte. Die Antwort ist unangenehm banal: Der Kreis derer, die die Kladden vor dem Druck ansehen durften, blieb winzig, die Geheimhaltung galt als Schutz vor der Konkurrenz, und je größer die Sensation wurde, desto teurer wurde der Zweifel. Wer widersprach, widersprach nicht einem Dokument, sondern einem Jahrhundertfund, einem Millionenvorschuss und der eigenen Chefredaktion. Der Betrug funktionierte nicht trotz der professionellen Prüfmechanismen. Er funktionierte, weil sie nie eingeschaltet wurden.
Ein Amt für das Nein
Die katholische Kirche hatte für dieses Problem eine erstaunlich moderne Lösung. Ab dem späten 16. Jahrhundert gab es im Heiligsprechungsverfahren den Promotor Fidei, den das Volk treffender Advocatus Diaboli nannte: einen Kleriker, dessen gesamte Aufgabe darin bestand, gegen den Kandidaten zu argumentieren. Er suchte die dunklen Stellen der Vita, zerpflückte die Wunderberichte, stellte die unhöflichen Fragen. Bezahlt, geschützt, erwartet. Sein Nein war keine Illoyalität, es war seine Stellenbeschreibung.
1983 wurde die Rolle im Zuge einer Verfahrensreform stark zurückgestuft. Johannes Paul II. sprach danach an die 500 Menschen heilig, mehr als seine Vorgänger in mehreren Jahrhunderten zusammen. Man kann das fromm deuten. Man kann daraus aber auch ablesen, wie zuverlässig ein Verfahren beschleunigt, sobald der bezahlte Zweifler fehlt.
Und hier wird die Sache für die Gegenwart interessant. Über KI wird derzeit fast ausschließlich als Zuarbeiterin gesprochen: Sie fasst zusammen, entwirft, recherchiert, beschleunigt. Ein hilfsbereiter Praktikant mit Weltwissen. Aber der Praktikant ist die langweiligste Rolle, die man ihr geben kann. Die spannendere Stelle ist unbesetzt, seit 1983 zumal: die des Advocatus Diaboli.
Der Vorteil des Unbeteiligten
Der Neinsager im Vatikan war nicht klüger als der Rest der Kongregation. Sein Vorteil war struktureller Natur: Er hatte nichts zu verlieren, wenn die Heiligsprechung platzte. Genau diesen Vorteil bringt eine Maschine mit. Sie hat keine Beförderung im Blick, keinen Vorschuss abgeschrieben, keine Kränkung zu verdauen und muss anschließend mit niemandem im Aufzug stehen.
Man denke an den Fall Claas Relotius. Als der Spiegel im Dezember 2018 einräumte, sein preisgekrönter Reporter habe in mindestens 14 Texten Szenen, Personen und Zitate erfunden, war der entscheidende Punkt nicht, dass niemand Verdacht geschöpft hatte. Sein Kollege Juan Moreno hatte ihn. Er brachte ihn vor. Und musste anschließend auf eigene Faust und gegen erheblichen Widerstand Belege zusammentragen, weil ein Zweifel gegen den Liebling des Hauses zunächst wie ein Charakterfehler des Zweiflers aussah. Der Widerspruch war da. Was fehlte, war ein Ort, an dem er nichts kostet.
Ein Sprachmodell, das jede eingereichte Reportage stumpf gegenprüft, hätte diese soziale Rechnung nicht aufzumachen. Es fragt, ob die Wetterlage zum beschriebenen Schneetreiben passt, ob es die genannte Straße gibt, ob dieselbe Randfigur schon einmal in einem anderen Text desselben Autors so hübsch zugespitzt gesprochen hat. Keine Intuition, keine Zivilcourage, nur Beharrlichkeit. Für ein Amt, das seine Wirkung aus Unbeirrbarkeit zieht und nicht aus Genie, ist das keine schlechte Ausstattung.
Der Schmeichler im Anwaltsrobe
Nur hat der Kandidat einen Charakterfehler, der ihn für die Rolle zunächst disqualifiziert: Er will gefallen. Sprachmodelle werden darauf trainiert, dass Menschen ihre Antworten gut finden, und Untersuchungen der Hersteller selbst zeigen, wie stark sie deshalb zur Schmeichelei neigen. Sie geben nach, wenn man widerspricht, und bestätigen, was in der Frage schon mitschwang. Ein Advocatus Diaboli, der einlenkt, sobald der Kardinal die Stirn runzelt, ist Dekoration.
Der Ausweg liegt weniger in besserer Technik als in besserer Geschäftsordnung. Der vatikanische Zweifler war nicht wirksam, weil er überzeugend argumentierte, sondern weil das Verfahren ohne ihn nicht weiterlief. Übersetzt heißt das: Die Maschine muss ausdrücklich gegen die Hausmeinung angesetzt werden, bevor jemand sie gesehen hat, mit Fragen, die niemand gern stellt. Welche Annahme müsste falsch sein, damit dieses Projekt scheitert? Welche Quelle stützt sich nur auf sich selbst? Welche Zahl verteidigen wir, weil bereits zu viel Geld und Stolz daran hängen? Und ihr Einspruch muss protokolliert werden, auch und gerade dann, wenn man ihn verwirft.
Denn andernfalls droht die schlechtere Variante desselben Films. Quibi, der Kurzvideodienst von Jeffrey Katzenberg und Meg Whitman, sammelte 1,75 Milliarden Dollar ein und war nach gut einem halben Jahr wieder vom Markt. An Marktforschung dürfte es dort nicht gemangelt haben. Eine KI hätte in diesem Haus vermutlich noch schönere Prognosen geliefert, noch überzeugendere Zielgruppenmodelle, noch mehr Präsentationsseiten voller Zuversicht. Ein Werkzeug, das nur schneller produziert, was ohnehin geglaubt wird, macht den Irrtum nicht kleiner. Es macht ihn hochauflösend.
Darin liegt die eigentliche Weggabelung. Setzt man diese Systeme als Verstärker ein, bekommt man professioneller verpackte Selbstgewissheit und obendrein ein bequemes Alibi: Das Modell hat es doch auch so gesehen. Setzt man sie als Widerpart ein, bekommt man etwas, das Redaktionen, Vorstände und Verlage seit jeher am dringendsten brauchen und am zuverlässigsten wegorganisieren.
Ob es dazu kommt, ist offen, und die Vorgeschichte stimmt nicht eben zuversichtlich. Der Anwalt des Teufels wurde schließlich nicht abgeschafft, weil er sich geirrt hätte. Er wurde abgeschafft, weil er im Weg stand.
Anzeige
Medienkompetenz
in Zeiten von KI
Bilder beweisen nichts mehr. Generative KI hat die Grenze zwischen echter und simulierter Wirklichkeit nahezu unsichtbar gemacht. In „Synthetische Wahrheit“ liefert DOCMA-Herausgeber Christoph Künne eine fundierte und nüchterne Bestandsaufnahme dieses historischen Epochenbruchs. Fernab von Technik-Euphorie und apokalyptischen Untergangsszenarien.
