Эрик Лу не просто создал шрифт. Он搭建了 ловушку.
Он работает на основе оптических иллюзий, конкретно таких, которые обманывают человеческий мозг, но приводят генеративный ИИ в замешательство. Ghost Font, конечно, не панацея в войнах за авторские права. Он не решает все проблемы. Но это гениальное доказательство концепции. Оно напоминает нам: хотя алгоритмы и мощны, они всё ещё фундаментально «тупы» в очень конкретных и очень человеческих проявлениях.
Сейчас мы находимся в странном подвешенном состоянии. Законодатели ведут дискуссии. Общество сопротивляется. А технологические гиганты? Они продолжают усердно собирать данные из интернета без спроса. Пока не вступит в силу реальное законодательство, мы вынуждены защищать свои тексты самостоятельно. Эксперимент Лу показывает, на что мы способны в одиночку.
Как это работает
Механика обманчиво проста. Вы вводите сообщение. Программа накладывает этот текст на сотни движущихся точек в виде короткой видеозаписи. Вот в чём трюк: точки, образующие буквы, движутся вверх по экрану, а фоновый «шум» из точек — вниз. Это создаёт визуальный контраст, который наш мозг легко улавливает.
Что будет, если поставить видео на паузу?
Слова исчезают. Они растворяются в статическом хаосе. Для статического изображения — а значит, и для ИИ, который обычно сканирует кадры по одному, — сообщения просто нет. ИИ обрабатывает видео как раскладушку: он рассматривает каждую отдельную страницу. Он не чувствует кумулятивной анимации, как это делаете вы. Люди видят движение. Машины видят точки данных.
«Люди увидят кумулятивную анимацию… но ИИ всё ещё вынужден смотреть на изображение на каждой отдельной странице».
Чтобы усилить эффект, Ghost Font также внедряет ложный текст: «written in Ghost Font» (написано в Ghost Font). Этот текст остаётся на статичном кадре. ИИ хватает его. Он думает: «Ага, текст пойман». При этом он полностью пропускает настоящее сообщение, скрытое в движении.
Лу протестировал шрифт против Claude от Anthropic и моделей OpenAI. Оба потерпели неудачу. Они полностью промахнулись мимо цели.
Ограничения хитрости
Идеален ли он? Нет. Сам Лу признаёт это.
Шрифт бесполезен для длинных эссе. Он справляется с короткими сообщениями. Если ИИ станет достаточно умным, чтобы анализировать видео как оптический поток, а не как отдельные кадры, вся система рухнет. Хотя, если ИИ сможет это сделать, он, вероятно, просто будет писать ваши эссе за вас. Кто тогда заботится о том, читает ли он этот шрифт?
Кроме того, это тяжело для глаз. Глядя на головокружительную анимацию десять секунд, можно заработать головную боль. Вероятно, это ужасно для людей с определёнными нарушениями зрения. Но разве не существует своего рода удовлетворения в том, чтобы видеть, как система интеллекта стоимостью в миллиарды долларов обманывается несколькими точками, движущимися вверх, а не вниз?
Возможно. Или, может быть, это лишь мимолётная победа.
Небольшая заметка перед завершением: Popular Science принадлежит Ziff Davis. В апреле 2025 года они подали иск против OpenAI о нарушении авторских прав. Так что эта статья исходит не просто из философского размышления о проблеме.
