ChatGPT - der neue Star unter den KI-Chatbots

Dem ohnehin schon fulminanten Jahr 2022 wurde in Sachen KI-(R)Evolution mit dem Release des mächtigen Chatbots ChatGPT Ende November noch ein Sahnehäubchen hinzugefügt, an das man sich wohl noch lange erinnern wird – und das nach den beeindruckenden Bild-Generatoren wie DALL-E 2, Midjourney und Stable Diffusion oder dem Programmierautomaten GitHub Copilot.

Rekordverdächtig schnell verbreiteten sich weltweit Berichte von KI-Expert:innen und Laien gleichermaßen über die authentische und überzeugende sprachliche Qualität von ChatGPT. Auch das Userwachstum hat bereits mehrere bisherige Rekorde von Instagram, TikTok und Co im Nu eingestellt: nur fünf Tage für die ersten Millionen, knapp zwei Monate für 100 Millionen aktive User! Der Hype hält unentwegt an, denn tagtäglich werden neue Anwendungsmöglichkeiten „entdeckt“, der Wettbewerb unter den Big Playern ist voll entfacht – und es äußern sich (zurecht) auch skeptische Stimmen.

Keine Frage: ChatGPT ist ein Musterbeispiel für „Amara‘s Law“: Wir neigen dazu, die Auswirkungen einer Technologie auf kurze Sicht zu überschätzen und auf lange Sicht zu unterschätzen. Doch was macht ChatGPT anders als bisherige „Chatbots“? Worin sticht es besonders heraus, wo liegen die Grenzen des Möglichen und Vertretbaren? Welche Use Cases warten noch auf uns? Ein kurzer Überblick!

Was ist und kann ChatGPT?

ChatGPT stammt vom bekannten Sprachmodell GPT-3 ab (über das wir ebenfalls berichteten) und ist das Resultat eines innovativen Finetuning-Prozesses (siehe Infobox) mit dem Ziel, natürlich und konsistent wirkende, textbasierte Konversationsflüsse zu generieren. Die Möglichkeiten sind schier endlos! Hier ein Auszug dessen, was sich ganz einfach ausprobieren lässt:

• Schreiben von Gedichten, Marketing-Texten, Essays – ja sogar „wissenschaftlichen“ Abhandlungen in verschiedenen Stilen.
• Schreiben von Code in einer Vielzahl von Programmiersprachen auf Basis eines geschilderten Problems (inklusive Erläuterung, Kommentierung und Simulation der Konsolenausgabe, siehe Screenshots) bis hin zur Unterstützung beim Auffinden von Bugs in einem Code-Snippet – sogar ein interaktives Linux-Terminal lässt sich damit „emulieren“!
• Wechseln zwischen verschiedenen Sprachen, Stilen und fiktiven Rollen (etwa Charaktere aus einem Film oder Buch, als Comedian, Karrierecoach, Rapper und vieles mehr) – sogar ein interaktives Spiel soll von einem 11-Jährigen entwickelt worden sein.

Hinzu kommen klassische „NLP-Downstream Tasks“: Die Extraktion von Informationen (Personen, Orte, Organisationen), Kurzzusammenfassungen oder des Sentiments (Stimmung) aus einem gegebenen Text sind natürlich kein Problem für ChatGPT. Das Web ist voll von weiteren inspirierenden „Prompts“. Was ChatGPT dabei wirklich einzigartig macht ist die Fähigkeit, sich auf den gesamten aktuellen Chatverlauf innerhalb einer Session stets zurückbeziehen zu können. Somit ist es möglich, längere zusammenhängende Konversationen zu führen und zum Beispiel nach weiteren Verfeinerungen oder Korrekturen des bereits Geschriebenen zu fragen.

Wo liegen die Grenzen von ChatGPT?

Gerade weil der „Fantasie“ von ChatGPT kaum Grenzen gesetzt sind, sollte auch bedacht werden, dass dieses Tool nicht in der Lage ist, die Bedeutung hinter den Wörtern und Texten, die es erstellt, zu verstehen und auf Wahrheitsgehalt zu überprüfen. Dies führt manchmal zu Antworten, die mit der gegebenen Eingabe – oder schlimmer: mit der Realität oder Wahrheit – nichts zu tun haben. Daher ist es wichtig, die Ausgaben nicht einfach unreflektiert zu übernehmen:

• ChatGPT spuckt keine Angaben zu Herkunft und Aktualität und damit Verlässlichkeit der Daten aus, auf denen die Aussagen basieren. Man muss zudem wissen, dass die Geschichtskenntnisse der KI (derzeit) mit dem Jahr 2021 enden.
• Generierter Code kann Bugs enthalten – mit einem Hinweis darauf gelingt es dem Tool aber meist, eigene Fehler wieder auszubügeln.
• Schließlich unterliegt ChatGPT gewissen Verzerrungen („Biases“) in den Trainingsdaten, da ihnen ausschließlich Texte aus dem englischsprachigen Raum zugrunde lagen. Auch wenn OpenAI nach eigenen Angaben einige technische „Hürden“ wie Filter gegen anstößige, stereotypische oder unwahre Aussagen eingebaut hat (und dies unter nicht gerade unumstrittenen Umständen), so sind sie doch leicht zu umgehen.

ChatGPT ist das Resultat eines innovativen Finetuning-Prozesses namens Reinforcement Learning from Human Feedback (RLHF) mit dem Ziel, Anfragen und Anweisungen natürlich und konsistent zu beantworten.

Das Finetuning gliedert sich in drei Schritte:
 

1. Supervised Fine-Tuning (SFT). Im ersten Schritt wurde GPT-3 durch menschliche KI-Trainer mit einem Trainingsdatensatz aus typischen Anfrage-Ausgabe-Folgen (etwa Chatverläufen) verfeinert.
    
2. Reward Model (RM). Im zweiten Schritt wurden pro Anfrage mehrere potenzielle Antworten des verfeinerten Modells von KI-Trainern nach Zuverlässigkeit sortiert (Ranking). Darauf wurde ein Reward-Modell (RM) trainiert, welches lernt, diese Antworten selbständig zu ranken.
    
3. Reinforcement Learning (PPO). Im dritten Schritt wird zusätzlich in einem Policy-Modell die Strategie (Proximal Policy Optimization) fortlaufend optimiert, dass derjenige Output mit möglichst hoher Belohnung (Reward) generiert wird.
    

Ausblick: Spannende Use Cases warten auf ihre Entdeckung

ChatGPT ist für uns derzeit ein (stark) gehyptes Spielzeug. Damit in der Spielwiese herumzuspielen, ermöglicht es uns jedoch gerade, relativ risikofrei die Potenziale zu entdecken und eine Vorahnung davon zu bekommen, wohin die Reise in den nächsten Stufen gehen dürfte: Microsoft kündigte im Zuge der Intensivierung ihrer Zusammenarbeit mit OpenAI die Einbettung der GPT-Technologie in Bing und Edge an – das gesamte Microsoft-Ökosystem wird sicher folgen. Unter großem Handlungsdruck stellte nun auch Google seinen Konkurrenz-Chatbot Bard vor, der jedoch offensichtlich auch unter denselben Kinderkrankheiten zu leiden scheint wie ChatGPT – diese werden jedoch mit jeder neuen Version abnehmen. Für viele ist Recherchieren = Surfen = „Googlen“. Es nur eine Frage der Zeit, bis sich auch das klassische Suchmaschinenerlebnis aller befürchteter Entmündigung zum Trotz unaufhaltsam und grundlegend verändern dürfte. Wir blicken jedenfalls gespannt auf das KI-Jahr 2023!

ChatGPT + Domänenwissen = Potenzial

Mit domänenspezifischem Wissen angereichert und unternehmenseigenen Daten feinjustiert, tun sich weitere mächtige Potenziale im Business auf: Authentisch wirkende und multifunktionale Chatbots können das Kundenerlebnis und die -zufriedenheit und damit den Umsatz immens steigern. Mitarbeitende von Unternehmen und Freiberufler bekommen eine wertvolle KI-Assistenz für automatisierbare Routineaufgaben zur Seite gestellt, beispielsweise fürs Texten oder Coden.

Quelle Titelbild: AdobeStock/Shafay