Как проверить, был ли текст в интернете написан ИИ

Это сложно, но не невозможно, выяснить, был ли текст написан не человеком. Генеративный искусственный интеллект сейчас повсюду, в том числе в интернете: продвинутые боты предсказательного текста, такие как ChatGPT, теперь могут выдавать бесконечные объемы текста на любую тему и сделать этот письменный контент настолько естественным, что он мог бы быть написан человеком.

Проверьте автора

Так как же убедиться, что статьи и материалы, которые вы читаете в интернете, придуманы и набраны реальным человеком? Хотя нет никакого надежного, гарантированного способа сделать это, есть ряд признаков, на которые можно обратить внимание, чтобы отличить текст, созданный ИИ, от текста, созданного человеком. Пока что, по крайней мере, нет ни одного высокоуважаемого онлайн-издания, которое выпускало бы контент ИИ без соответствующей маркировки — но есть много сайтов второго эшелона, которые активно используют текст, созданный ИИ, и не особо честны об этом. Если вы сталкиваетесь с большим количеством текста без указания автора, это один из признаков, на который стоит обратить внимание. В отличие от этого, если у статьи указано имя реального человека — тем более, реального человека с биографией и ссылками на социальные сети — то вы, скорее всего, читаете материал, созданный человеком. Вряд ли у вас будет время проверять все, что вы читаете в интернете, но это стоит делать, когда вам действительно нужно знать источник.

Утверждаемые статьи ИИ, недавно замеченные на сайте Sports Illustrated, были сопровождены профилями авторов и биографиями — профилями и биографиями, которые, как оказалось, также были созданы генеративным ИИ. Обратный поиск изображений (через что-то вроде TinEye) может помочь идентифицировать изображения людей, которые на самом деле не реальны, что может быть полезно для определения источника статьи.

Дополнительные признаки можно уловить, изучая веб-сайт с точки зрения его истории, типа публикуемого контента, наличия страницы "О нас" и так далее. Например, поиск лучших обзоров телефонов в интернете приводит к известным технологическим сайтам, на которых работают люди.

Проверьте движок детектора

Существует много дискуссий о том, работает ли обнаружение текстов ИИ. OpenAI говорит, что нет, и большинство отчетов по этому вопросу говорит, что эти детекторы ИИ нельзя доверять. Тем не менее, многие из них все еще работают на момент написания этого текста, и в пределах своих возможностей они могут быть полезны для проверки использования ИИ в сети.

Мы провели короткий ряд тестов на нескольких онлайн-детекторах ИИ, включая Copyleaks, GPTZero и Scribbr, и то, что мы нашли, совпадает с тем, что нашли другие люди: эти детекторы могут различать письма ИИ и человека, но не всегда и не на таком уровне, чтобы однозначно что-то доказать.

Эти детекторы, похоже, лучше справляются с выявлением текстов, написанных человеком, чем ИИ. Они в основном ищут оригинальность в тексте, пытаясь выяснить, что ИИ скажет дальше на основе своего обучения. Чем больше данных у них есть для работы, тем лучше, но есть ограничения на то, сколько вы можете использовать бесплатно.

Исследования, которые у нас есть на сегодняшний день, предполагают, что некоторые детекторы лучше других и что некоторые даже правы большую часть времени — но ни один из них не всегда прав на высоком уровне. Эти детекторы, возможно, лучше всего рассматривать как еще один инструмент, который вы можете использовать наряду с другими способами расследования, а не как что-то, на чем можно полностью полагаться.

Проверьте признаки

Как мы сказали в начале, действительно нет надежного способа определить, какой текст в сети был создан ИИ, а какой нет. Однако все же есть определенные признаки, на которые стоит обратить внимание: из-за способа обучения генеративного ИИ его продукция, как правило, бывает обобщенной, неопределенной и иногда очевидной.

Часто отсутствуют определенные прикосновения оригинальности, юмора и человечности (как и личные анекдоты). ИИ всегда стремится генерировать текст с низким уровнем перплексии — иными словами, с высоким уровнем предсказуемости. В глубине души эти движки просто предсказывают, какое слово должно быть следующим, и это может проявляться в общей мягкости и бледности, которая иногда заметна.

Вы также можете обратить внимание на явные ошибки (такие как галлюцинации), но, конечно, и люди делают ошибки в своих текстах. Текст ИИ может быть способен на значительные ошибки или значительные ошибки несколько раз по-разному, но это все равно не доказывает, что статью написал ИИ.

Собрав вместе все эти сигналы, подсказки и флаги, вы можете сделать обоснованное предположение о том, произошло ли что-то от человеческого разума или нет, даже если единственный способ быть уверенным — это наблюдать за процессом написания: текст ИИ, безусловно, сложнее распознать, чем изображение ИИ, но это совсем другая тема.