Fehlleistungen der KI: Degenerative Systeme

Aktuelle KI-Systeme sind so leistungsfähig, dass manche denken, eine allgemeine, dem Menschen überlegene maschinelle Intelligenz stünde vor der Tür. Andererseits beweisen seltsame Fehlleistungen, wie viel die KI noch zu lernen hat. Michael J. Hußmann erklärt, woran das liegt. Bilder: Stable Diffusion Dass einer künstlichen Intelligenz trotz all ihrer Fähigkeiten auch Fehler unterlaufen, ist an sich nicht überraschend. Auffälligerweise sind es oft dieselben Motive, die den unabhängig voneinander trainierten Systemen verschiedener Hersteller Schwierigkeiten bereiten. Das klassische Beispiel sind Hände, die zu viele oder zu wenige Finger haben, grotesk verformt oder zumindest falsch proportioniert sind, und bisweilen mit anderen Gliedmaßen (auch anderer Personen) verschmelzen. Aber nicht nur Hände als solche bereiten Probleme, denn die KI weiß auch nicht immer, wie man Gegenstände greifen soll – Essstäbchen beispielsweise, deren Verwendungszweck sich offenbar nicht aus dem Trainingsmaterial erschließt. Die von einer KI generierten Gäste asiatischer Restaurants halten die Stäbchen nicht selten verkehrt herum und stechen sich damit ins Gesicht. Bei der stimmigen Darstellung eines Schachspiels versagt eine KI ebenfalls oft. Die Bretter weisen zwar meist das erwartete Schachbrettmuster auf, aber die Felder sind manchmal Rhomben statt Quadrate und ihre Anzahl stimmt selten. Ein Problemfeld eigener Art bildet Text in Bildern: Text-zu-Bild-Systeme sind Analphabeten und schaffen es kaum einmal, vorgegebene Wörter richtig zu schreiben (www.docma.info/22773). Offenbar gibt es Motive, an denen eine KI regelmäßig scheitert, während sie andere überzeugend meistert. Die kritischen Bereiche scheinen sich bei den Systemen verschiedener Hersteller zu gleichen. Anscheinend steckt noch mehr dahinter als nur ein unzureichendes Training oder ungünstig zusammengestelltes Bildmaterial. Warum die KI bei Händen scheitert Zugegeben: Hände sind schwierig, und sie realistisch zu zeichnen, erfordert Übung. Nicht umsonst haben Künstler wie Leonardo da Vinci oder Albrecht Dürer viele detaillierte Studien unterschiedlicher Handhaltungen gezeichnet (1). Aber auch ein künstlerisch gänzlich Unbegabter würde keine so groben anatomischen Schnitzer machen, wie sie den generativen KI-Systemen manchmal unterlaufen. Allerdings sind wir gegenüber der KI ja auch im Vorteil: Wir haben selber Hände, wissen daher, wie sie geformt sind, und sind mit ihren Bewegungsmöglichkeiten vertraut. Leonardo da Vinci konnte sich in seiner Kunst (wie in der Studie für ein Gemälde, 1) auf umfangreiche Kenntnisse der menschlichen Anatomie stützen (2). Bilder: Leonardo da Vinci Mit vier Fingern und einem Daumen, alle mit mehreren Gelenken, sind die Hände unsere beweglichsten Körperteile. Von der flachen Hand über Zeige- und Griffgesten bis zur geballten Faust können sie die verschiedensten Formen annehmen, wobei sich die Teile der Hand oft gegenseitig verdecken. Allein aus Bildern zu lernen, welche dreidimensionale Gestalt Hände haben, wird schon dadurch erschwert, dass sie im verfügbaren Trainingsmaterial gar nicht so oft vorkommen. Bei Personen in einem Bild ist zumeist deren Kopf zu sehen, aber ihre Hände sind es längst nicht immer. Einem neuronalen Netz gelingt es daher im Training nicht, aus den verschiedenen 2D-Ansichten ein anatomisches 3D-Modell abzuleiten, wie es Softwares wie set.a.light oder Poser verwenden, und daher keine vergleichbaren Fehler machen. Hinzu kommt, dass die Text-zu-Bild-Systeme die Beziehung zwischen den Trainingsbildern und dem sie begleitenden Text erlernen sollen, und die im Internet so vorgefundenen Texte nicht immer auf die Hände eingehen, wenn diese für die Aussage des Bildes keine Rolle spielen. Für die KI sind Hände zunächst noch keine klar definierte Kategorie, denn es ist nicht offensichtlich, wo der Arm endet und die Hand beginnt. Auch ist nicht von vornherein klar, ob es überhaupt auf die präzise Zahl der Finger ankommt, oder sie – wie beispielsweise die Zahl der Beine von Tausendfüßlern – variabel ist. Das neuronale Netz soll aus den Beispielbildern verallgemeinern, weiß aber nicht, worauf es ankommt, vermag also nicht Wichtiges von Unwichtigem und essentielle Eigenschaften von zufälligen Details zu unterscheiden. Anfängerfehler beim Essen mit Stäbchen, generiert von Stable Diffusion (3) und mit der Betaversion von Firefly (4). Damit sind auch einige andere typische KI-Fehler erklärt. Ein neuronales Netz hat im Training genug Essstäbchen gesehen, um sie wiedererkennbar zu reproduzieren, aber worauf es eigentlich ankommt, nämlich welchem Zweck sie dienen und wie man sie gebraucht, hat die KI nicht erfasst. Daher hantieren dann auch die von ihr generierten Restaurantgäste so, als hätten sie zum ersten Mal Stäbchen in der Hand und wüssten nicht, wie und wozu man sie benutzt (3, 4). Ebenso konnte die KI nicht die Grundlagen des Schachspiels erfassen – oder auch nur die korrekte Form eines Schachbretts, so einfach diese auch sein mag (5). Schräg von der Seite gesehen mögen die Felder wie Rhomben aussehen, weshalb eine KI sie gelegentlich so anlegt. Dass die Kanten der Felder aber parallel zu den Kanten des Bretts ausgerichtet sein müssen, ist ihr entgangen (6). Schachspiele, wie sie die Firefly-Betaversion 5 und Stable Diffusion 6 generieren. Von grob zu fein Während die generierten Bilder im Detail noch Fehler zeigen, ist ihr Grundaufbau durchweg stimmig: Der Himmel ist oben und der Erdboden unten, weiter entfernte Objektive erscheinen kleiner als solche im Vordergrund, es steht meist nur eine Sonne am Himmel und die Schlagschatten verlaufen ungefähr in der richtigen Richtung 7, 9. Dass sich Fehler erst bei genauerem Hinschauen zeigen, hat seinen Grund darin, dass die Bilder top-down entstehen, also gewissermaßen aus einer groben Skizze, die dann weiter verfeinert wird. So entsteht zwar ein zunächst konsistenter Bildaufbau, aber die Arbeit an den Details erfolgt jeweils unabhängig voneinander – so als würden mehrere Künstler an den einzelnen Teilen des Bildes arbeiten, die sich untereinander nicht absprechen. Da alle Teile des Bildes parallel generiert werden, kann es auch keine zentrale Instanz geben, die beispielsweise Finger und andere Gliedmaßen zählt und bei Erreichen der vorgegebenen Anzahl keine weiteren mehr wachsen lässt. So ist es auch zu erklären, dass die rechten und linken Arme einer Personen manchmal nicht zusammen zu passen scheinen, die Proportionen unstimmig sind, Gliedmaßen verschiedener Person miteinander verwachsen oder Armen und Beinen der dazugehörige Körper fehlt. Von der KI – hier Stable Diffusion – erzeugte Schlagschatten verlaufen wenigstens ungefähr in der richtigen Richtung, wenngleich sich im Detail Fehler zeigen: Einige der Stämme werfen zwei Schatten. Mit der Perspektive haben generative KI-Systeme wie Stable Diffusion durchweg keine Probleme. Das Fehlen einer zentralen Überwachungsinstanz im Generierungsprozess zeigt sich auch bei der Umsetzung der Prompts. Im Diffusionsprozess, in dem die KI vom Text zum Bild gelangt (siehe DOCMA 104 ab Seite 70), sammeln und verfeinern sich Bildbestandteile, die zu den Wörtern des Prompts passen, aber dabei kann es geschehen, dass sich zu einem Wort kein im Kontext passendes Bildelement findet oder umgekehrt ein Wort mehrfach visualisiert wird 8. Die KI arbeitet aber keine Checkliste ab, um sicherzustellen, dass alle Teile des Prompt genau einmal (oder so oft wie vorgegeben) im generierten Bild umgesetzt werden. Schon aufgrund der Architektur der generativen Systeme neigen diese dazu, Probleme, die sich erst in einer Gesamtschau zeigen, über die Beschäftigung mit den Details aus dem Blick zu verlieren. Neben der im Prompt geforderten Steampunk-Katze hat StableDiffusion als Zugabe noch einen Menschen mit Katzenkopf erzeugt. KI – gelehrig und doch unbelehrbar Im Zusammenhang mit der KI ist immer auch vom maschinellen Lernen die Rede, aber welche Rolle Lernprozesse dabei tatsächlich spielen, wird oft missverstanden. Im Gegensatz zu einer herkömmlichen Software, deren Funktion auf ihrem Programmcode beruht, sind für die Leistung von KI-Systemen Milliarden von Variablen verantwortlich, die Verbindungen zwischen den simulierten Neuronen in einem neuronalen Netz beschreiben. Die optimalen Werte dieser Variablen müssen durch Verfahren des maschinellen Lernens ermittelt werden, denn kein Softwareentwickler könnte sie selbst festlegen. Die KI-Systeme sind dafür zu komplex und die Wechselwirkungen zwischen den Variablen zu wenig durchschaubar. Das Training einer KI benötigt eine extrem hohe Rechenleistung und findet daher ausschließlich beim Entwickler statt. Im Einsatz beim Kunden lernt die KI nichts mehr hinzu, so dass Leistungsverbesserungen, ebenso wie bei einer konventionellen Software, nur durch Updates zu erwarten sind. Anders als den Text-zu-Bild-Systemen kann man KI-Chatbots immerhin im Dialog neue Informationen geben und falsche Antworten korrigieren, was sie innerhalb eines Chats auch berücksichtigen. Sie lernen dennoch nichts dauerhaft hinzu, haben die Korrekturen beim nächsten Chat wieder vergessen und können sich daher auch nicht auf den Benutzer einstellen. Der falsche Eindruck eines lernenden Systems entsteht, weil der Chatverlauf wieder als Input eingespeist wird, aber an den Variablen des neuronalen Netzes und damit an seinem Langzeitgedächtnis ändert sich nichts. Nachsitzen Wohlgemerkt: Viele der Aufgaben, an denen generative KI-Systeme heute noch scheitern, wären durchaus zu bewältigen. Dazu sind nicht einmal neue Technologien oder leistungsfähigere Computer nötig. Man könnte ein neuronales Netz so lange mit möglichst unterschiedlichen Fotos von Händen trainieren, bis es ein dreidimensionales anatomisches Modell entwickelt hätte, mit dem dann nur noch stimmige Bilder generiert würden. Eine KI könnte mit überschaubarem Aufwand die Gestalt von Schachbrettern und -figuren lernen; nur plausible Stellungen der Figuren auf dem Brett blieben eine Herausforderung, aber daran würden die meisten Menschen ebenso scheitern. Auch das Lesen und Schreiben ließe sich einem neuronalen Netz beibringen, sogar in verschiedenen Sprachen und Schriftsystemen. Das setzte allerdings voraus, eine KI gezielt auf solche eng begrenzten Aufgaben zu trainieren, und das ist nicht die Vorgehensweise, mit der die aktuellen generativen Systeme ihre Fähigkeiten erwerben. Man verlangt ihnen bisher ab, alles auf einmal zu lernen, statt ihre Fähigkeiten schrittweise auszubauen. Die jüngsten Ansätze, typische Fehlleistungen einer KI zu vermeiden und beispielsweise die Darstellung von Händen zu verbessern, beruhen auf einer Endkontrolle durch den Menschen. Allerdings kann man nicht einfach das rein maschinelle Training neuronaler Netzwerke durch menschliche Lehrer ergänzen, denn dazu wären diese viel zu langsam. Stattdessen legt man Menschen eine repräsentative Auswahl KI-generierter Bilder vor und lässt sie diese bewerten, indem sie etwa aus zwei Alternativen die bessere auswählen, und trainiert mit den Ergebnissen wiederum eine KI darauf, im gleichen Sinne zu urteilen. Die Kritiker-KI kann dann als Stellvertreter des Menschen die Ergebnisse der generativen KI auf Stimmigkeit kontrollieren und bewerten. Eine solche Erweiterung des Lernverfahrens ist allerdings für jeden einzelnen Problembereich nötig und daher aufwendig. Maschinelles vs. menschliches Lernen Im Vergleich zum maschinellen Lernen erscheint die Art und Weise, wie wir als Kinder lernen, systematischer und organischer. Das menschliche Lernen kommt weitgehend ohne nachträgliche Reparaturen von Fehlern aus, wie sie sich beim maschinellen Lernen trotz des bereits sehr hohen Rechenaufwands immer noch einschleichen. Im Training mit Milliarden von Bildern aus fast allen denkbaren Gegenstandsbereichen soll die KI aus einem Zustand völliger Unwissenheit heraus am Ende fähig sein, jede als Prompt beschreibbare Szene zu illustrieren. Übertragen auf den Menschen wäre das so, als würden wir schon Kleinkinder in die Schule schicken, wo sie das gesamte Wissen und die Fertigkeiten der Erwachsenen erwerben müssten. Das Ergebnis könnte nur ein „so tun als ob“ ohne tieferes Verständnis sein. Tatsächlich eignen sich Kleinkinder erst einmal die Grundlagen der physischen Welt wie auch ihres eigenen Körpers an; was Hände tun können, ergibt sich dabei. Alles weitere baut auf dem bereits Gelernten auf. Kinder müssen auch nicht immer aus Versuch und Irrtum lernen; sie brauchen keine Instanz, die sie korrigiert, denn sie ahmen einfach nach, was die Erwachsenen oder andere Kinder tun. Ein erfolgreicher Spracherwerb hängt deshalb kaum davon ab, ob jemand eine falsche Grammatik korrigiert, denn so lange die Kinder vor allem korrekt gebildete Sätze hören, verschwinden die Fehler am Ende von alleine. Die Sprachfähigkeit schafft schließlich neue Möglichkeiten, etwas zu lernen, indem man es erklärt bekommt. Im Gegensatz zu den maschinellen Lernverfahren, mit denen neuronale Netze trainiert werden, brauchen wir keine Millionen von Fällen zu analysieren. Oft genügt schon ein einziges Beispiel, um daraus eine allgemeine Gesetzmäßigkeit abzuleiten: Wenn wir mit etwas Unerwartetem konfrontiert werden, entwickeln wir auf der Basis unseres sicheren Grundwissens eine Theorie, die es erklären könnte, und wenn sich diese später in weiteren Situationen bestätigt, ist der Lerneffekt bereits erreicht. In allen ähnlich gelagerten Fällen wissen wir dann, wie sie zu interpretieren und was zu tun ist. Dagegen sind die üblichen Lernverfahren der künstlichen Intelligenz nicht darauf ausgelegt, mit einfachen und grundlegenden Inhalten anzufangen, um erst auf Basis dieser soliden Grundlage zu immer komplexeren Aufgaben überzugehen. Sie sind auch nicht so konzipiert, dass sie das bereits Gelernte nutzen würden, um weitere Inhalte mit geringerem Aufwand zu vermitteln. Die bislang verfolgten Ansätze wollen mit dem Kopf durch die Wand, und sie versuchen das lediglich mit immer mehr Schwung, also einer noch höheren Rechenleistung. Das hat zwar bislang Erfolge gebracht, aber es ist wenig effektiv und nutzt die Computer nicht optimal aus – und es hinterlässt, wie wir gesehen haben, an vielen Stellen auffällige Wissenslücken, die im krassen Gegensatz zu den beeindruckenden Leistungen der KI in anderen Bereichen stehen.

Als Abonnent einloggen

DOCMA 2GO abonnieren

Schreibe einen Kommentar Antwort abbrechen