toolsmith

Kein Upload · alles läuft im Browser

Ein Dokument zusammenfassen

Fügen Sie Text ein oder legen Sie eine Datei ab, und Sie bekommen ein paar Sätze zurück. Das Modell wird auf Ihr Gerät geladen und läuft dort — das Dokument verlässt diesen Tab nicht.

Dokument hier ablegen

TXT · MD · HTML · PDF — oder den Text unten einfügen

Ein Klick lädt rund 249 MB an Laufzeit und Modell herunter. Es wird einmal geladen und von Ihrem Browser behalten — das nächste Dokument startet sofort.

Das Modell ist klein: Es trifft den Kern und kann Details verfehlen. Prüfen Sie alles Wichtige am Dokument selbst nach.

Wohin geht mein Dokument?

Nirgendwohin. Es wird in diesem Tab gelesen und nie hochgeladen. Genau darum geht es hier: Die Dokumente, die man am liebsten zusammenfassen lassen möchte — Verträge, Arztbriefe, unveröffentlichte Entwürfe — sind genau die, die man nicht in den Server eines Fremden einfügen sollte.

Warum braucht ausgerechnet dieses Werkzeug eine Grafikkarte?

Weil es ohne sie keinen funktionierenden Weg gibt. Der ONNX-Build des Modells nutzt eine Operation, für die die Prozessor-Laufzeit keine Implementierung hat — die Sitzung öffnet dort nicht einmal. Wir haben das nächstbeste Modell gemessen, das auf dem Prozessor läuft: 0,9 Token pro Sekunde, also fast vier Minuten für ein kurzes Dokument. Lieber sagen wir Nein, als so etwas auszuliefern.

Wie gut ist die Zusammenfassung?

Gut im Aufbau des Dokuments, unzuverlässig im Detail. Es ist ein Modell mit 350 Millionen Parametern: klein genug, um es in einem Tab zu laden und laufen zu lassen, und klein genug, um Fakten zu verwechseln. In unseren Messungen löste es NADPH einmal zu einem chemischen Namen auf, den es nicht gibt. Nehmen Sie die Zusammenfassung als Landkarte des Dokuments, nicht als Ersatz fürs Lesen.

Welche Dateien kann ich nehmen?

Reinen Text, Markdown, HTML und PDF. Ein PDF funktioniert nur mit echter Textebene — eine eingescannte Seite ist ein Bild von Wörtern, daraus lässt sich nichts herausholen. Wenn kein Text gefunden wird, schicken Sie die Datei zuerst durch das Werkzeug Bild zu Text und fügen Sie das Ergebnis hier ein.

Kann es in eine andere Sprache zusammenfassen?

Nein, und das haben wir vor der Entscheidung geprüft. Die Zusammenfassung kommt immer in der Sprache zurück, in der das Dokument geschrieben ist. Soll das Modell ins Koreanische wechseln, bricht es mit erfundenen Wörtern zusammen; in die Gegenrichtung ignoriert es die Anweisung. Eine Sprachauswahl anzubieten, die bei zwei unserer sechs Sprachen versagt, wäre schlechter, als keine anzubieten.

Warum gibt es eine Ober- und eine Untergrenze?

Ein Token entspricht im Englischen etwa einem kurzen Wort und im Koreanischen oder Japanischen etwa einer Silbe — deshalb zählt dieselbe Seite je nach Sprache sehr unterschiedlich. Unter rund 200 Token hört das Modell auf zusammenzufassen und fängt an zu erfinden: Bei einem leeren Feld lieferte es überzeugt die Zusammenfassung einer Gesundheitskampagne, die es nicht gab. Über 16.000 geht der Grafikspeicher aus. Beide Grenzen sind gemessen, und wir lehnen lieber ab, als stillschweigend nur den ersten Teil zusammenzufassen.

Welches Modell ist das, und welche Lizenz hat es?

LFM2.5-350M von Liquid AI, nach ONNX konvertiert. Wir haben es gewählt, nachdem wir vier Kandidaten an denselben echten Dokumenten gemessen hatten — es war das einzige, das wirklich zusammenfasste, statt den Ausgangstext zurückzugeben. Die Lizenz ist die LFM Open License v1.0: kein Copyleft, aber die kommerzielle Nutzung ist daran geknüpft, dass die Organisation unter 10 Millionen Dollar Jahresumsatz bleibt. Diese Seite ist von dieser Grenze weit entfernt, und wir schreiben das lieber hier hin, als es zu verschweigen. Die Gewichte holt Ihr Browser direkt von Hugging Face; wir hosten sie nie und geben sie nicht weiter.

Weitere Werkzeuge

Lesenswert