Kann man einer KI-Zusammenfassung trauen?

Was ein Zusammenfassungsmodell tatsächlich tut

Es sucht keine Sätze heraus und näht sie zusammen. Es liest das Dokument und schreibt dann neue Sätze, Wort für Wort, und wählt jedes Wort danach, was üblicherweise folgt.

Deshalb liest sich das Ergebnis natürlich — und deshalb kann es auf eine Weise falsch sein, wie Ausschneiden und Einfügen es nie könnte: nichts verankert den erzeugten Text an der Quelle außer dem, was das Modell gelernt hat.

Fehler eins: es kopiert, statt zusammenzufassen

Das war die größte Überraschung. Zwei Modelle mit sauberen, freizügigen Lizenzen — eines mit 600 Millionen, eines mit 350 Millionen Parametern — fassten erzählende Prosa nicht zusammen. Sie gaben den Anfang des Dokuments wörtlich wieder.

Mit Enzyklopädieartikeln kamen beide gut zurecht. Erst als wir einen erzählenden Text hinzunahmen, zeigte sich das Verhalten. Hätten wir nur mit Sachtexten geprüft, hätten wir ein Modell ausgeliefert, das abschreibt.

Es zum Nichtkopieren zu zwingen machte es schlechter statt besser: in Trennzeichen gefasst, lieferte dasselbe Modell einen flüssigen Satz, der etwas behauptete, das im Dokument nie stand.

Fehler zwei: es erfindet, wenn es nichts zu arbeiten gibt

Bei leerer Eingabe erzeugte ein Modell die Zusammenfassung einer Gesundheitskampagne. Beim einzelnen Wort „hallo“ schrieb es drei Zeilen Tagebuch.

Ein Modell liefert immer etwas; es gibt keinen Zustand, in dem es nichts zurückgibt. Ist die Eingabe zu kurz zum Zusammenfassen, ist das Ergebnis keine schlechte Zusammenfassung, sondern Erfindung. Deshalb hat unser Werkzeug eine Mindestlänge und lehnt darunter ab, statt gefällig zu sein.

Fehler drei: es irrt sich in Fakten, und zwar flüssig

In einem Durchlauf löste das Modell die Abkürzung NADPH zu einem chemischen Namen auf, der nicht das ist, wofür NADPH steht. Der Satz war wohlgeformt und klang sicher.

Flüssigkeit und Richtigkeit sind zweierlei und scheitern getrennt. Diesen Fehler erkennt man nicht, wenn man nur die Zusammenfassung liest — und genau deshalb ist eine Zusammenfassung eine Entscheidungshilfe fürs Lesen, kein Ersatz dafür.

Worin es wirklich gut ist

Herauszufinden, ob ein langes Dokument Sie überhaupt betrifft. Den Kern eines Berichts in einer Sprache zu fassen, die Sie langsam lesen. Einen ersten Entwurf einer Kurzfassung zu liefern, den Sie dann berichtigen.

Eine Grenze noch: eine Zusammenfassung in einer anderen Sprache als das Original zu verlangen, ist der Punkt, an dem kleine Modelle auseinanderfallen — sie erfinden Wörter, die es nicht gibt, oder ignorieren die Anweisung und antworten in der Ausgangssprache. Zusammenfassen und Übersetzen sind zwei Aufgaben; verlangen Sie sie einzeln.

Ist das Dokument ein Scan, gilt nichts davon bisher

Ein gescanntes PDF enthält keinen Text, nur Bilder von Text. Ein Zusammenfasser bekommt damit gar nichts — und nach Fehler zwei schreibt ein Modell auch ohne Eingabe etwas.

Lassen Sie zuerst die Texterkennung laufen, prüfen Sie das Ergebnis, fassen Sie dann zusammen. Erkennung auf einem schlechten Scan produziert eigene Fehler, und diese zusammenzufassen verstärkt sie unbemerkt.