Schnittstellen zur KI

Alle Bilder: Michael J. Hußmann mit Stable Diffusion XL Generative KIs wie Stable Diffusion und Midjourney erweisen sich im Umgang als ungewöhnlich sperrig, da ihnen eine grafische Benutzerschnittstelle fehlt. Um eine Verbindung mit ihnen aufzubauen, ist ein Kommandozeileninterpreter beziehungsweise der Messaging-Dienst Discord nötig. Michael J. Hußmann fragt sich, ob das so umständlich sein muss. Bis vor 40 Jahren waren es Computer-Anwender noch gewohnt, vor einem mit Ausnahme der Eingabeaufforderung leeren Bildschirm zu sitzen, den sie erst mit einer korrekt formulierten Befehlszeile zum Leben erwecken mussten. Kryptische Befehle mit obskuren Parametern, bei deren Eingabe man sich nicht den kleinsten Fehler erlauben durfte, waren die gängige Methode, mit dem Computer zu kommunizieren. Kein Wunder, dass das damals nur wenige taten – und nicht ganz zu Unrecht als Nerds galten. Dank grafischer Bedienoberflächen wie Windows und macOS ist die Arbeit mit einem Computer heute viel weniger mühsam, aber unter der grafischen Hülle schlummern noch immer die Befehlszeileninterpreter aus der Computer-Steinzeit, und bisweilen bleibt man auch heute auf sie angewiesen. Als ich damit begann, Erfahrungen mit Stable Diffusion XL 1.0 zu sammeln, dem neuesten, erheblich verbesserten generativen KI-Modell von Stability AI, musste ich mich auch wieder mit dem Terminal beschäftigen, dem Kommandozeileninterpreter von macOS (Abb. 1). Unter Windows haben die Eingabeaufforderung (cmd.exe) und die PowerShell dieselbe Funktion. Wer eine Software ohne grafische Benutzerschnittstelle nutzen will, muss schon bei deren Installation umdenken. Es genügt nicht, ein Installationsprogramm zu starten oder – was unter macOS meist ausreicht – eine Anwendung in den Programmordner zu kopieren. Stattdessen ist schon hierfür die Eingabe eines Installationsbefehls im Kommandozeilenfenster nötig – und das misslingt dann meist im ersten Versuch. Programme für die Kommandozeile sind nämlich selten kompakte, in sich vollständige Anwendungen, sondern sie greifen ihrerseits auf weitere Kommandozeilenprogramme zurück, die vorher installiert werden müssen. Das erfährt man aber oft erst aus der Fehlermeldung, mit der der Installationsversuch abgebrochen wird. Manchmal muss auch zunächst die Programmiersprache installiert werden, in der die Programme geschrieben sind. So wird schon die Installation zum Geduldspiel. Er sieht nach Computer-Steinzeit aus, ist aber noch immer nützlich: ein Kommandozeileninterpreter, hier das Terminal von macOS Daher fragt man sich, warum noch immer solche Programme für die Kommandozeile geschrieben werden – ist das nicht völlig aus der Zeit gefallen? Zur Softwareentwicklung gehört heute nicht nur, Algorithmen für die auszuführenden Berechnungen zu implementieren – das Design einer komfortabel zu bedienenden grafischen Benutzerschnittstelle ist ein ebenso wichtiger Punkt im Pflichtenheft der Entwickler. Hobbyprogrammierer sehen das oft anders, insbesondere, wenn sie kein Talent zur Schnittstellengestaltung verspüren. Auch im akademischen Umfeld sind Kommandozeilenprogramme nicht unüblich: Für eine Abschlussarbeit in Informatik muss man zwar zeigen, dass sich die darin beschriebenen Ideen auch implementieren lassen, aber dazu ist keine Benutzerschnittstelle nötig – sofern das Thema nicht das Interfacedesign selbst ist. Solche Angewohnheiten werden oft beibehalten, auch nachdem man die Uni längst verlassen hat. Das Web-Interface von Automatic1111, das aus dem Terminal heraus oder über die URL http://127.0.0.1:7860 aufgerufen wird Automatic1111 Um Stable Diffusion auf dem eigenen Computer zu installieren, nutzen viele Automatic1111 mit seiner Browser-basierten Schnittstelle, das man kostenlos von Microsofts Entwickler-Plattform GitHub herunterladen kann . Falls Sie es früher schon einmal installiert hatten und nun Stable Diffusion XL nutzen wollen, brauchen Sie eine neue Version – ein weiterer Nachteil der Kommandozeilenprogramme ist, dass man nicht automatisch auf die Verfügbarkeit von Updates hingewiesen wird. Wie Sie Automatic1111 unter Windows und macOS installieren, habe ich in den Arbeitsmaterialien unter www.docma.info/22924 beschrieben. Außerdem brauchen Sie die Modelldatei für Stable Diffusion XL, die sich unter www.docma.info/22925 herunterladen lässt. Ihre Größe liegt bei knapp 7 Gigabyte, so dass der Download einige Zeit in Anspruch nehmen kann. Wenn Sie Automatic1111 im Kommandozeileninterpreter starten, öffnet sich eine Seite in Ihrem Internet-Browser, und diese ist dann die eigentliche Schnittstelle zu Stable Diffusion (Abb. 2). Nachdem ich darin Stable Diffusion XL 1.0 als Modell ausgewählt hatte, wollte ich erste Bilder erzeugen, aber die Generierung brach stets auf halber Strecke ab. Den Grund dafür verriet erst ein Blick ins Terminal-Fenster: Mein iMac mit M1-Prozessor hat nicht genug Hauptspeicher. Da er mit 16 Gigabyte RAM aber bereits den maximalen Ausbauzustand erreicht hat, musste ich an dieser Stelle aufgeben. Mit 32 Gigabyte hätte es vermutlich funktioniert. Eine Bildgenerierung mit Stable Diffusion XL auf Googles Colab-Servern erfordert nur zwei Klicks bei (a) und (b). Die Aktivierung desRefiners (c), für die Sie den Parameter ENABLERefiner auf „true“ setzen, vergrößert den Speicherbedarf erheblich. Google Colab Allerdings muss man die KI-Modelle nicht unbedingt auf dem eigenen Rechner ausführen. Im Internet gibt es leistungsfähige Server, die solche Aufgaben sogar noch deutlich scheller als übliche PCs oder Macs erledigen können. Diese Rechenleistung in der Cloud muss man zwar bezahlen, aber die Kosten bleiben überschaubar. Google Colab, das ich bereits in DOCMA 107 ab Seite 56 empfohlen hatte, um damit eigene Modelle zu trainieren, bietet sich auch für diese Aufgabe an. Die Colab-Webseiten enthalten jeweils den für eine Aufgabe nötigen Programmcode, aufgeteilt in einzelne Häppchen, die Sie nur noch mit einem Mausklick auszuführen brauchen. Ein tieferes Verständnis des Codes ist dazu nicht nötig; Sie müssen allenfalls Parameter im Programmtext anpassen. Auf www.docma.info/22926 finden Sie den Code für die Anwendung von Stable Diffusion XL. Die Anwendung erfordert in diesem Fall lediglich zwei Klicks (Abb. 3); die Details verrate ich in den Arbeitsmaterialien unter www.docma.info/22924. Danach können Sie eine weitere Webseite mit dem Interface zur Bildgenerierung aufrufen. Für eine größere Hauptspeicherzuteilung zur Berechnung des KI-Modells müssen Sie den Laufzeittyp ändern (a) und die Option„Erweiterter RAM“ wählen (b). An dieser Stelle stehen auch verschiedene CPUs und GPUs als Prozessoren zur Wahl (c). Von dem erwähnten Projekt zum Training eines eigenen Modells hatte ich noch Rechenzeit übrig, die ich nun verbrauchen wollte, aber erneut scheiterte ich an den Speicheranforderungen – diesmal mangelte es nicht meinem eigenen Computer an Hauptspeicher, sondern der in Googles Cloud gebuchte Server hatte nicht genug RAM zugeteilt bekommen. Um die Zuteilung zu vergrößern, musste ich ein monatlich kündbares Colab-Pro-Abo für 11,01 Euro pro Monat abschließen. Aber auch mit dem zusätzlich gebuchten Speicher (Abb. 4) kam ich mit der Bildgenerierung nicht viel weiter – jedenfalls nicht, so lange ich bei der Generierung den sogenannten „Refiner“ zur Verringerung des Rauschens nutzte, was den Speicherbedarf weiter in die Höhe trieb. DreamStudio nutzt die Server von Stability AI, dem Entwickler von Stable Diffusion XL, und arbeitet daher sehr schnell. Für jedes Bild werden umgerechnet 2 US Cent abgerechnet DreamStudio Stability AI bietet mit DreamStudio (https://dreamstudio.ai) ein Web-Interface für Stable Diffusion XL an, das auf eigene Server zurückgreift (Abb. 5). Für deren Nutzung muss man zunächst sogenannte Credits erwerben, wobei 1000 Credits 10 USD kosten. Für die Generierung eines Bildes mit 1024×1024 Pixeln werden zwei Credits abgebucht; der Preis für ein Hochskalieren auf 2048×2048 Pixel ist mit 0,2 Credits vernachlässigbar, zumal man nur die besten Bildergebnisse hochrechnen wird. In DreamStudio können Sie positive und negative Prompts eingeben und das Seitenverhältnis der Bilder wählen. Die Generierung lässt sich auch durch ein Referenzbild beeinflussen, das Sie entweder aus bereits generierten Bildern wählen, um Varianten davon zu erzeugen, oder aus Ihrem eigenen Bestand hochladen. Dafür reicht eine geringe Auflösung von 1024 Pixeln an der längeren Seite aus. Im Gegensatz zu vielen anderen generativen KIs sieht Stable Diffusion keine Zensur von Nacktheit vor. Stable Diffusion XL bevorzugt dennoch oft bekleidete Personen, auch wenn ein Prompt (hier mit „bare breasts“) ein Aktbild vorgibt. DreamStudio arbeitet gut, schnell und zuverlässig, hat aber eine Beschränkung: Während es in Stable Diffusion XL eigentlich keine Zensur gibt, die wie beispielsweise in Adobes Firefly jedes Übermaß an nackter Haut (6) zu unterdrücken versucht (7), enthält DreamStudio einen eigenen Filter. Manche generierten Bilder bekommt man gar nicht erst zu sehen, weil sie gegen die vom Hersteller gesetzten Regeln verstoßen. Der einzige Trost ist, dass für diese verbotenen Bilder keine Credits abgerechnet werden. Da die Bilder nicht angezeigt werden, bleibt allerdings unklar, was an ihnen anstößig sein könnte. Wenn Sie erst einmal ausprobieren wollen, was mit Stable Diffusion XL möglich ist, ohne Ihren eigenen Rechner zu belasten, können Sie es auf www.docma.info/22927 kostenlos testen – allerdings mit reduzierter Geschwindigkeit, da diese Aufträge eine geringere Priorität bei der Zuteilung von Computer-Ressourcen haben. Sogni kann auch auf einem mäßig ausgestatteten iMac Bilder mit 2048 × 2048 Pixeln erzeugen, braucht dafür aber ein paar Minuten. Sogni Schließlich fand ich eine Anwendung mit einer grafischen Benutzeroberfläche, die Stable Diffusion XL sogar auf meinem iMac ausführen konnte: Sogni (https://sogni.pro), das auch in Versionen für iOS und iPadOS verfügbar ist, aber leider nicht für Windows. Die Entwickler von Sogni nutzen den begrenzten Hauptspeicher effizienter, als es Automatic1111 tut, denn mit Sogni lief die KI inklusive Refiner auch auf meinem Computer und produzierte Bilder mit 2048 × 2048 Pixeln; andere Seitenverhältnisse sind nicht wählbar. Das Programm kann zur Beschleunigung seiner Berechnungen wahlweise den Grafikchip, Apples KI-Koprozessor Neural Engine oder beide gemeinsam einsetzen, aber zusammen mit Stable Diffusion XL unterstützt es leider nur die GPU. Die Berechnung eines Bildes dauert auf meinem iMac der neuesten Generation mehrere Minuten, benötigt also deutlich mehr Zeit als die Server in der Cloud. Dafür fallen über den Kaufpreis von 6 USD hinaus keine weiteren Kosten an. Nachteilig ist, dass Sogni immer nur ein Bild auf einmal produziert, aber da ja schon die Berechnung eines Bildes auf dem eigenen Computer recht lange braucht, kann man das akzeptieren. Weitere Infos unter: www.docma.info/22924