ChatGPT eroberte die Welt im Sturm und begeisterte die Menschen mit seiner eloquenten, nuancierten Erzeugung natürlicher Sprache. Doch obwohl es oberflächlich betrachtet beeindruckend ist, offenbart ein Blick unter die Haube deutliche Schwächen.
In diesem Beitrag entmystifizieren wir das Innenleben großer Sprachmodelle (LLMs) wie ChatGPT. Mein Ziel ist eine verbindliche Analyse, die Fakten von Fiktionen hinsichtlich der jüngsten KI-Fortschritte trennt.
Wie LLMs funktionieren: Ihr gleichzeitiges Versprechen und ihre Grenzen verstehen
Was genau sind LLMs und wie mögen Models? ChatGPT arbeiten? Kurzgesagt:
- LLMs erfassen umfangreiche Textdatensätze und können so eine bemerkenswert fließende menschliche Sprache vorhersagen
- Aber im Gegensatz zu Menschen mangelt es LLMs an Verständnis, Argumentation und sachlicher Grundlage für die reale Welt
- Obwohl sie zwar schön ausgefeilte Texte erzeugen können, mangelt es ihnen oft an Kohärenz, Genauigkeit oder soliden logischen Grundlagen
Lassen Sie uns die Mechanismen und Grenzen von LLMs genauer untersuchen …
LLMs verstehen die Wörter, die sie generieren, nicht wirklich
Der Schlüssel zum Verständnis der Stärken und Schwächen von LLMs liegt in ihrer Trainingsmethodik:
- Sie nehmen bis zu Hunderte Milliarden Wörter aus Websites, Büchern, Artikeln und mehr auf
- Durch das Erkennen von Wortmustern lernen sie Wahrscheinlichkeiten über mögliche Sequenzen
- Dadurch können sie dann neue Kombinationen generieren, die diesen Sprachmustern entsprechen
Diesen Wörtern ist jedoch keine verschlüsselte Bedeutung zugeordnet. Lediglich vorhergesagte Sequenzen basierend auf früheren Beispielen.
Obwohl sie eloquent ist, findet hinter den Kulissen kein wirkliches Verständnis oder Argumentation statt. Und das erklärt viele der eklatanten sachlichen Fehler und logischen Lücken der LLMs.
LLMs haben keinen Bezug zur realen Welt
Da LLMs während des Trainings nur Textkorpora aufnehmen, mangelt es ihnen außerdem an realem Wissen darüber, wie die Realität funktioniert.
Also alle „Fakten“ oder „Wissen“, die von Modellen angezeigt werden, wie z ChatGPT ist oberflächlich und ungenau – aus Wortmustern zusammengesetzt und nicht auf Wahrheit gegründet.
Dieser Mangel an Argumentation und sachlicher Grundlage erklärt die notorisch falschen oder unsinnigen Aussagen von LLMs. Ihre Antworten mögen erstaunlich klingen, sind aber oft reine Fiktion.
Es gibt kein einheitliches Identitäts- oder Glaubenssystem
Schließlich fehlt LLMs auch eine dauerhafte Identität, die die Antworten miteinander verknüpft:
- Menschen entwickeln im Laufe der Zeit kohärente Überzeugungen und Integrität in Bezug auf Themen
- LLMs mögen ChatGPT Generieren Sie jede Antwort unabhängig und ohne Konsistenz
- Sie werden also eklatante Widersprüche erkennen, wenn Sie den Fragen nachgehen
Für sich genommen könnten LLM-Ergebnisse kohärent und intelligent erscheinen. Aber wenn man weiter voranschreitet, werden ihre Mängel offensichtlich.
Abschließende Gedanken: Gemessener Optimismus angesichts des Hypes
Der rasante Fortschritt in der KI in natürlicher Sprache ist beeindruckend. In engen Anwendungen eignen sich Werkzeuge wie ChatGPT Versprechen zeigen.
Übertriebene Behauptungen über Intelligenz auf menschlicher Ebene scheinen jedoch verfrüht. LLMs haben große Fortschritte gemacht, sind jedoch immer noch mit grundlegenden Einschränkungen in Bezug auf die biologische Kognition konfrontiert.
Die Spannung ist angebracht, der Hype sollte jedoch gedämpft werden. Der Weg, der noch vor uns liegt, ist noch lang, aber LLMs bieten einen kleinen Einblick in zukünftige Möglichkeiten.