Eric Lu hat nicht nur eine Schriftart entworfen. Er hat eine Falle gebaut.
Es funktioniert bei optischen Täuschungen, insbesondere bei solchen, die menschliche Gehirne einfangen, die generative KI jedoch zum Stolpern bringen. Ghost Font ist sicher kein Allheilmittel im Urheberrechtskrieg. Es löst nicht alles. Aber es ist ein genialer Proof of Concept. Es erinnert uns daran, dass Algorithmen zwar leistungsstark, aber dennoch grundsätzlich auf sehr spezifische, sehr menschliche Weise dumm sind.
Wir befinden uns derzeit in einer seltsamen Schwebe. Die Gesetzgeber reden. Die Öffentlichkeit wehrt sich. Tech-Giganten? Sie stecken einfach ab und durchforsten das Internet, ohne um Erlaubnis zu fragen. Bis die tatsächliche Gesetzgebung in Kraft tritt, sind wir grundsätzlich auf uns allein gestellt, unsere Worte zu hüten. Lus Experiment zeigt, was wir alleine tun können.
Wie es sich versteckt
Die Mechanik ist täuschend einfach. Sie geben eine Nachricht ein. Die Software überlagert diesen Text in einer schnellen Videoanimation mit Hunderten von beweglichen Punkten. Hier ist der Trick. Die Punkte, aus denen Ihre Buchstaben bestehen, bewegen sich auf dem Bildschirm nach oben. Das Hintergrundrauschen der Punkte sinkt. Dadurch entsteht ein visueller Gegensatz, den Ihr Verstand auf natürliche Weise wahrnimmt.
Halten Sie das Video an. Was geschieht?
Die Worte verschwinden. Sie werden von der statischen Unordnung verschluckt. Für ein Standbild – und damit für die KI, die normalerweise Bilder einzeln scannt – ist die Nachricht verschwunden. KI verarbeitet Videos wie Daumenkinos. Es wird jede einzelne Seite betrachtet. Die kumulative Animation ist nicht so spürbar wie bei Ihnen. Der Mensch sieht Bewegung. Maschinen sehen Datenpunkte.
„Menschen werden die kumulative Animation sehen … aber die KI ist immer noch gezwungen, das Bild auf jeder einzelnen Seite zu betrachten.“
Um das Ganze zu verdoppeln, fügt Ghost Font auch einen Locktext ein: „in Ghost Font geschrieben.“ Dieser sitzt im statischen Rahmen. Die KI erfasst das. Es denkt: „Ah, ich habe den Text verstanden.“ Es geht völlig an der eigentlichen Botschaft vorbei, die im Antrag verborgen ist.
Lu testete es mit den Modellen Claude und OpenAI von Anthropic. Beides ist gescheitert. Sie haben den Anschluss völlig verpasst.
Die Grenzen der Klugheit
Ist es perfekt? Nein. Lu gibt es zu.
Für lange Aufsätze ist die Schriftart unbrauchbar. Es verarbeitet Kurznachrichten. Wenn die KI intelligent genug wird, um Videos als optischen Fluss und nicht als einzelne Frames zu analysieren, bricht das Ganze zusammen. Andererseits: Wenn KI das kann, wird sie Ihre Aufsätze wahrscheinlich sowieso nur für Sie schreiben. Wen kümmert es, wenn es diese Schriftart liest?
Es ist auch hart für die Augen. Zehn Sekunden lang auf die schwindelerregende Animation zu starren, verursacht Kopfschmerzen. Für Menschen mit bestimmten Sehbehinderungen ist es wahrscheinlich schrecklich. Aber ist es nicht eine gewisse Freude, zuzusehen, wie ein milliardenschweres Geheimdienstsystem dadurch getäuscht wird, dass sich einige Punkte nach oben statt nach unten bewegen?
Vielleicht. Oder vielleicht ist es nur ein flüchtiger Sieg.
Eine kleine Anmerkung vorab: Popular Science gehört Ziff Davis. Sie reichten bereits im April 2025 eine Klage gegen Open AI wegen Urheberrechtsverletzung ein. Dieser Artikel stammt also von einem Ort, der das Problem nicht nur philosophisch betrachtet.
