Fehlleistungen der KI: Degenerative Systeme

Aktuelle KI-Systeme sind so leistungsfähig, dass manche denken, eine allgemeine, dem Menschen überlegene maschinelle Intelligenz stünde vor der Tür. Andererseits beweisen seltsame Fehlleistungen, wie viel die KI noch zu lernen hat. Michael J. Hußmann erklärt, woran das liegt.

Dass einer künstlichen Intelligenz trotz all ihrer Fähig­keiten auch Fehler unterlaufen, ist an sich nicht überraschend. Auffälligerweise sind es oft dieselben Motive, die den unabhängig voneinander trainierten Systemen verschiedener Hersteller Schwierigkeiten bereiten. Das klassische Beispiel sind Hände, die zu viele oder zu wenige Finger haben, grotesk verformt oder zumindest falsch proportioniert sind, und bisweilen mit anderen Gliedmaßen (auch anderer Personen) verschmelzen. Aber nicht nur Hände als solche bereiten Probleme, denn die KI weiß auch nicht immer, wie man Gegenstände greifen soll – Essstäbchen beispielsweise, deren Verwendungszweck sich offenbar nicht aus dem Trainingsmaterial erschließt. Die von einer KI generierten Gäste asiatischer Restaurants halten die Stäbchen nicht selten verkehrt herum und …