Как найти написанный текст

Уровень сложности
Средний

Время на прочтение
8 мин

Количество просмотров 2.9K

Добро пожаловать в будущее, где всё больше контента генерируется искусственным интеллектом. От новостей до постов в соцсетях — теперь труднее понимать, что написал человек, а что — нейросеть.

С одной стороны, контент, созданный ИИ, экономит наше время и силы, но с другой — иногда он выдаёт однотипный механический текст, от которого реально заснуть. Учитывая дипфейки и фейковые новости в сети, сейчас как никогда важно уметь отличить контент, вышедший от нейросетей. 

Зайдите на сайт OpenAI — компании, которая разрабатывает языковую нейросеть ChatGPT. Эта компания недавно выпустила программу AI text classifier, которая определяет контент, написанный ИИ. По обещаниям, она упростит задачу бизнеса: позволит удостовериться, что контент пишут люди, а не машины. Но как именно это работает? Зачем это нужно в стратегиях B2B-маркетинга и можно ли полагаться на этот инструмент?

Как работает инструмент AI Text Classifier от компании OpenAI?

AI Text Classifier запустили 31 января 2023 года. Как и остальные инструменты OpenAI, он бесплатный. Работает так: анализирует образцы текста, сравнивает их с образцами баз данных, написанными как нейросетью, так и людьми, анализирует множество разных стилей написания, даже такие, как новостные статьи, научные документы, посты в соцсетях, рекламные тексты.

Хоть и нельзя со стопроцентной уверенностью сказать, что тот или иной текст написан нейросетью, потенциал у AI Text Classifier есть: через него можно обеспечивать высокое качество текстов в сети. В компании OpenAI утверждают, что новый инструмент пресечёт такие попытки обмана, как запуск автоматических кампаний по дезинформации, мошенничество с задействованием ИИ в научной сфере, имитацию переписки с живым человеком с помощью чат-ботов. 

Чтобы знать, как работает программа, нужно понимать особенности текстов, которые генерирует ИИ. Такой текст чаще всего несогласованный и несвязный: модели ИИ в большинстве случаев не способны создать текст, основные мысли которого логично и естественно перетекают из одной в другую. К тому же, в сгенерированном ИИ тексте встречается много ошибок и несуразиц, которых почти не бывает в написанном человеком материале. И наконец, ИИ зачастую используют странные схемы построения и однотипные предложения — они обучаются на огромном количестве текстов, которые не отражают тонкостей человеческого языка во всей его полноте. 

Новый инструмент находит все особенности, которыми грешат сгенерированные ИИ тексты. Он разработан для идентификации этих и других характеристик, типичных для текстов, созданных не человеком. AI Text Classifier использует как алгоритмы машинного обучения, так и алгоритмы функционирования человеческого языка, и таким образом анализирует различные языковые аспекты: грамматику, синтаксис, лексику, интонацию. В результате тексту даётся оценка, насколько вероятно, что он создан нейросетью. Люди, организации или платформы могут опираться на эту оценку, чтобы считать текст заслуживающим доверия или созданным человеком либо машиной со злонамеренной целью.

Но даже сами разработчики OpenAI признают, что их оценивание не на сто процентов надежное. На веб-сайте говорится: «В нашей тестовой оценке английских текстов классификатор правильно определяет 26% действительно написанных нейросетью текстов как «вероятно сгенерированные ИИ». В то же время в 9% случаев они относят написанные человеком тексты к «вероятно сгенерированным ИИ». Немного редактуры — и этот инструмент можно обмануть.

Так что нельзя использовать оценку AI Text Classifier как единственное доказательство того, что текст создал ИИ. Есть другие особенности, по которым можно определить, кто оказался автором текста — человек или машина. Об этих особенностях и пойдёт речь ниже.

Как определить контент, созданный нейросетью

Ищите языковые несоответствия и некорректный язык написания

ИИ не способен отобразить естественный поток человеческой речи во всём её многообразии. В процессе генерирования текста алгоритмы ИИ опираются на предустановленные шаблоны и схемы — поэтому текст выходит сухим и однообразным. Особенно это хорошо видно в длинных текстах, где то самое однообразие сразу становится заметным.

Не только тон, в котором написан текст, но и сам язык написания вам подскажет, человек ли писал тот или иной контент. Например, ИИ может использовать грамматические структуры, которые кажутся странными или даже прямо говорят о том, что человек так не пишет. Если вы будете обращать на это внимание, вы самостоятельно отличите контент нейросети от человеческого.

Проверьте, нет ли повторяющихся конструкций и шаблонов

Верный признак того, что автором контента стал ИИ — повторяющиеся шаблоны и конструкции. Получившийся текст не блещет оригинальностью и живостью. Если вы замечаете, что читаете однообразные шаблонные фразы, а конструкции от предложения к предложению повторяются, значит данный текст сгенерирован машиной.

Как проверить текст на наличие повторяющихся шаблонов? Ищите одинаковое построение в стиле или структуре текста. Например, каждое предложение может следовать одной и той же схеме построения, или в тексте раз за разом повторяются одни и те же фразы.

Ещё один способ распознать шаблонные конструкции — использовать  антиплагиат-программы. Большинство алгоритмов ИИ строят свой контент на уже существующих текстах, беря их за основу. Пропустите текст через проверку на плагиат, и вы увидите, взят ли он полностью из интернета или переписан близко к источнику.

Тем не менее, надо понимать, что текст с повторяющимися конструкциями — не равно сгенерированный нейросетью текст. Такой контент, как технические инструкции или юридические документы, создаётся по вполне предсказуемым шаблонам просто потому, что требуется придерживаться определённых общепринятых стандартов и делового стиля написания.

Пример ниже наглядно демонстрирует, что ChatGPT постоянно использует повторяющиеся слова и конструкции. 

Посмотрите на контекст того, о чём текст

Обращайте внимание на тему контента, аудиторию, на которую рассчитан текст, на то, насколько глубоко автор должен разбираться в теме. 

Тексты от нейросети часто используются там, где тема проста и недвусмысленна, и не нужно обладать каким-то особым опытом и знаниями. Например, нейросети часто создают описания продукции, сводки новостей или посты в соцсетях. Чтобы написать такой контент, не требуется глубоко вникать в тему, поэтому ИИ справляется неплохо.

С другой стороны, если вы читаете текст, в котором ведётся рассуждение на спорные, сложные темы, или в тексте много технической лексики, вероятнее всего, его писала не машина, или, по крайней мере, его отредактировал человек. Ведь алгоритмы ИИ почти не улавливают нюансы этих тем, поэтому не создают информативный и грамотный контент такого рода. 

Помимо темы, обратите внимание на целевую аудиторию. Если текст предназначен для очень узкого круга людей, например, для медиков или юристов, вероятно, над ним трудились не машины. Алгоритмы ИИ не могут быть экспертами, чтобы проработать тему так глубоко, как это нужно профессионалам в конкретной узкой сфере.

Проанализируйте источники и цитаты

Когда алгоритмы ИИ генерируют текст, они подтягивают информацию из уже существующих источников — а они могут быть устаревшими, ненадёжными или даже фейковыми. Многие платформы ИИ, например, ChatGPT или perplexity.ai, предоставляют, откуда они берут материалы — тогда человек может перепроверить машину и, при необходимости, сослаться на источники. Чаще всего в генерируемых статьях ИИ вообще не ссылается на источники, а когда позже человек их находит, оказывается, что либо они уже устарели, либо сведения по этим ссылкам сильно искажены и представлены однобоко.

Изучите первоисточники. Так вы определите, сгенерированный ли перед вами текст, и являются ли сведения в контенте достоверными, релевантными, либо же предвзятыми и перевранными. Ищите такие ресурсы, которые считаются общепринятыми и экспертными в той или иной сфере. Проверьте, насколько актуальны сведения и хорошо ли подкрепляют утверждения, приведённые в тексте.

Также стоит обратить внимание на достоверность автора или организации, текст которых взят в работу. Поищите сведения и проверьте, насколько они заслуживают доверия. Цитирует ли статья личное мнение из чьего-нибудь блога или исследование из серьёзной научной организации?

Потратив время на проверку используемых источников и ссылок, вы можете определить, был ли текст написан ИИ, а главное, вы можете убедиться, что информация в тексте надёжная и правильная. Это особенно важно, когда речь идёт о таких сферах, которые сильно влияют на жизнь людей: о здавоохранении или финансовой сфере.

Как правильно использовать ИИ в B2B-маркетинге

Нейросети вывели B2B-контент-маркетинг на другой уровень: теперь благодаря им компании могут персонализировать опыт клиентов, эффективнее анализировать данные и автоматизировать процессы. И всё же ИИ нужно использовать так, чтобы покупатели вам доверяли. Пользователи всё лучше и лучше распознают контент, сгенерированный нейросетью, поэтому важно, чтобы ваши тексты были честными, понятными и полезными.

Как надо делать

• Будьте честными. Чётко указывайте, где используется ИИ и что именно он делает. Ни в коем случае не используйте нейросеть для генерации фейковых отзывов или рекомендаций, или для того, чтобы вводить покупателей в заблуждение.

  Например, в январе 2023 года компания Apple рассказала о сервисе Digital narration, в котором доступны озвучки книг от искусственного интеллекта. Говорят, что начитка очень хорошая и неотличима от человека.

• Анализируйте данные. Проанализируйте большие объемы данных и получите информацию, чтобы разработать маркетинговую стратегию. Но обязательно убедитесь, что вы правильно используете результаты и делаете корректные выводы из предоставленной информации.

• Персонализируйте контент. ИИ поможет персонализировать контент для потребителей, только убедитесь, что вы действительно даёте правильный и значимый контент.

• Автоматизируйте рутинную работу. ИИ упростит вам рутинные задачи: отправку электронных писем для B2B-email-маркетинга, автопостинг в соцсетях, генерацию лидов. Тогда маркетологи сфокусируются на стратегических вещах.

• Проверяйте тексты, сгенерированные нейросетями. Убедитесь, что их контент грамотный, последовательный и подходит целевой аудитории, для которой он написан.

• Оптимизируйте производство контента. Нейросети — отличный инструмент для генерации идей, особенно в контент-маркетинге. Ищите свежие идеи через ИИ, а затем с помощью собственных навыков и эмоционального опыта делайте ваши тексты увлекательными, уникальными и живыми.

Как не надо делать

• Не создавайте фейковых пользователей через ИИ и не подтасовывайте данные покупателей.

• Не генерируйте спам и низкосортные тексты. Разумеется, последовательные действия — один из секретов успеха в маркетинге, но в конечном счёте вы не выиграете, если ваш контент не полезен для покупателей или не соответствует интересам вашей целевой аудитории.

• Не полагайтесь, что ИИ полностью создаст тексты за вас. Чтобы написать убедительный и качественный текст, всё ещё нужен человеческий интеллект и креативность.

• Не используйте ИИ для контента в критические или особо деликатные моменты. В случаях, когда речь идёт о человеческих чувствах, убедитесь, что процесс обмена сообщениями контролирует человек, а не машина.

• Принимайте во внимание этическую сторону вопроса. В некоторых случаях ИИ может обострять предубеждения и дискриминацию. Убедитесь, что ИИ, который вы используете, честный и непредосудительный.

• Не забывайте, что ваш бизнес должен быть «с человеческим лицом». Хоть ИИ и является удачным решением для персонализации контента, ничто не заменит настоящего человеческого взаимодействия. Используйте ИИ, чтобы предлагать пользователю именно то, что ему нужно, но вместе с тем предоставьте ему возможность пообщаться и с живым сотрудником тогда, когда это необходимо.

Заключение

Сейчас как никогда важно уметь определять тексты, созданные нейросетями. Благодаря этому можно принимать обоснованные решения и не брать во внимание ложную и сомнительную информацию. И неважно, о каких текстах идёт речь — о новостях, статьях, обзорах продуктов или обучающем контенте, в наше время критически важно уметь отличить тексты нейросетей от человеческих.

В статье разобрали главные правила, как отличить контент нейросети от контента человека. Применяйте полученные знания и не дайте себя обмануть. 

В теории отличить текст, написанный нейросетью, возможно. Исследователи уже несколько лет занимаются тем, что выявляют паттерны ИИ-текста — находят повторяющиеся слова и закономерности в строении предложений и их средней длине.

Но проблема в том, что языковые модели развиваются быстрее, чем их раскусывают. Еще четыре года назад нейросети не могли нормально связать и трех предложений подряд, а теперь выдают логичные тексты. Поэтому способы определить ИИ-текст быстро устаревают.

Что такое ChatGPT

В конце 2022 года популярностью ChatGPT особенно обеспокоились американские учителя: ученики принялись сдавать им сгенерированные работы. В некоторых школах даже стали блокировать доступ к чат-боту. Российские школьники, по данным СМИ, тоже используют ChatGPT для домашних заданий. Но пока модель не так хорошо справляется с русским языком.

Как человек может отличить ИИ-текст

Нейросеть пишет слишком конкретно. Например, исследователи из Google Brain еще в 2019 году пришли к выводу, что ИИ слишком часто использует артикль the, потому что работает на предсказание следующего слова в предложении. Но понятно, что этот признак присущ только англоязычным текстам.

ChatGPT уже используют как замену поисковым системам, поскольку она дает вполне конкретные ответы. Но с рассуждениями дела у нее обстоят хуже: на вопросы вроде «Что такое любовь?» ИИ выдаст сухую формулировку, а не попытку проанализировать сложное чувство.

Также нейросеть может очень уверенно написать абсолютную неправду. Сомневаться ей не свойственно.

С экспертностью то же самое. Многие тексты ChatGPT достаточно полезны, но в них нет углубления в тему. Это может сделать только человек с богатым личным опытом.

При этом новая версия языковой модели гораздо лучше работает с контекстом, чем ее предшественники. Поэтому теоретически уже после генерации можно попросить ChatGPT подредактировать текст и сделать его «более человеческим».

Нейросеть не допускает ошибок. В Google Brain отмечают: люди чаще указывают, что логичный текст без ошибок написал человек. Хотя идеальная грамотность как раз больше присуща ИИ: люди не там ставят запятые, опечатываются, используют сленг и сокращения. Такого уровня имитации нейросети пока не достигли.

Какие сервисы помогут отличить ИИ-текст

С сервисами есть две проблемы. Первая — та же, что и с самостоятельным выявлением ИИ-текста: алгоритмы натренированы на устаревшей GPT-2, которая вышла в 2019 году. Но за три года модель стала в разы сложнее.

Вторая проблема в том, что многие сервисы или вообще не работают с русским языком, или плохо с ним справляются и из-за этого не могут правильно определить авторство текста.

Новых сервисов еще предстоит дождаться, но я расскажу про несколько пока рабочих вариантов. Чтобы их протестировать, я использовал три материала. Первый я сгенерировал на английском языке, второй — на русском, а третий написал мой коллега без помощи ИИ.

С английским языком у сервиса не возникло никаких проблем — он показал, что мой тестовый текст с вероятностью 99,98% написал ИИ, а не человек. С ИИ-текстом на русском уверенности было меньше — 75%. Текст от моего коллеги он тоже отнес к нейросетевым. Правда, после загрузки другого фрагмента исправился.

Инструмент смотрит на предсказуемость каждого следующего слова в тексте. Работает это так: если попросить дополнить предложение «Как же мне не хочется каждый понедельник с утра идти на…», то очевидным завершением будет «…работу». Другие варианты вроде «…учебу» тоже предсказуемы. Написать так может и человек, но если весь текст воспроизводит предсказуемые шаблоны, то велика вероятность работы ИИ.

Так и вышло с моим сгенерированным материалом на английском языке — GLTR указал, что его написала нейросеть. Но русский язык сервис, к сожалению, не распознает.

Сервис анализирует текст по двум параметрам:

1. Perplexity считает предсказуемость текста: люди пишут сложнее и используют менее очевидные сочетания слов.
2. Perplexity оценивает структуру и длину предложений.

Понять итоговые оценки сложно, так что после анализа можно пролистать страницу вниз и нажать «Получить результаты».

В моем случае GPTZero верно оценил авторство текста на английском языке, но с русским не справился — выдал ошибку. В соцсетях пишут, что GPTZero легко обмануть, но с базовыми материалами он справится.

В моем случае нейросеть отлично справилась с материалом, который сама же и сгенерировала. Заодно рассказала, что в тексте приведена слишком базовая и распространенная в сети информация. А вот сгенерированный текст на русском языке ChatGPT принял за человеческий.

Результаты моего тестирования сервисов

Чего ждать дальше

Крупные платформы внедрят собственные системы проверки ИИ-текстов. Подобные решения уже анонсировали платформа для авторов Medium и ресурс для программистов Stack Overflow. Можно ожидать, что в будущем такие сервисы будут у всех крупных соцсетей и платформ.

Войти на сайт

или

Забыли пароль?
Еще не зарегистрированы?

Каждому юзеру приходится искать-либо на страницах сайтов. Это может быть не статья или новость целиком, а конкретный абзац или отрывок текста, где находится ключевое слово или фраза. Если на странице много текста, а нужен только кусок с искомым описанием, то юзаем поиск слов в браузере. Это функция, идентичная с поиском в Ворде, Экселе или PDF-редакторах.

Панели поиска в браузерах

В каждом браузере есть своя панель поиска. Чтобы вызвать ее, следует нажать Ctrl+F. Рассмотрим панели поиска таких браузеров как Хром, Firefox и Яндекс Браузер.

Поиск текста в Google Chrome

Открыть панель в Хроме можно другим способом, нажав на меню и выбрав функцию «Найти…».

Находясь на любой странице, набираем интересующее слово или фразу и нажимаем enter. Как видно на скриншоте, найденное слово подсвечено оранжевым. На панели указано количество найденных слов. С помощью стрелок осуществляется переход от одного результата к другому.

Поиск текста в Mozilla Firefox

В Firefox панель поиска более продвинутая и удобная. Обладает следующими опциями:

• подсветить все;
• с учетом регистра;
• только слова целиком.

«Подсветить все», как вы догадались, позволяет увидеть все нужные слова в документе.

Функция «С учетом регистра» придает поиску чувствительность к большим и маленьким буквам. Например, если вы напечатали слово «нефть», то есть слово с маленькой буквы, то в качестве совпадений варианты «Нефть» или «НЕФТЬ» учитываться не будут.

Поиск при помощи опции «Только слова целиком» отсеивает слова со склонениями и окончаниями. Вобъем персидское слово «нефт», чтобы проверить результат.

Поиск текста в Яндекс Браузере

Браузер Яндекса имеет аналогичную с Хромом панель поиска текста, однако обладает крутой лингвистической системой. Известно, что Яндекс как поисковик лучше любой другой системы понимает русский язык. Именно это преимущество дает пользователю возможность находить среди текста на странице нужный фрагмент или отдельные предложения с максимальным количеством вариантов. Алгоритм поиска текста учитывает падежи, склонения, число, род, часть речи.

Онлайн приложение Расширенный поиск по документам представляет собой систему полнотекстового поиска по текстовому содержимому документов и имеет следующие возможности:

• Три режима поиска: всех слов из запроса, любого слова из запроса, целой фразы.
• Регистрозависимый и регистронезависимый поиск.
• Нечеткий поиск (приблизительное сопоставление строк) с возможностью задания значения нечеткости от 1 до 9.
• Поиск с подстановочными знаками (поддерживаются знаки: «?» – для одиночного символа, «*» – для группы символов или пустой подстроки).
• Поиск различных словоформ, синонимов и омофонов.
• Поддерживается более 80 различных форматов (список поддерживаемых форматов).
• Поддерживается распознавание текста на изображениях – отдельных и встроенных в документы.

Система полнотекстового поиска GroupDocs.Search, на базе которой построено данное приложение, имеет гораздо более широкие возможности, например:

• Продвинутый логический поиск – слова запроса могут комбинироваться логическими операторами в выражение произвольной сложности.
• Для нечеткого поиска может задаваться функция зависимости нечеткости от длины слова линейная или ступенчатая.
• Продвинутый поиск слов по шаблону с подстановочными знаками.
• Фасетный поиск в любом поле документа.
• Продвинутый поиск диапазонов чисел и дат в любом формате.

Расширенный поиск в данном веб приложении выполняется в два этапа:

• Индексирование документов.
• Поиск в индексе.

Результаты поиска формируются в виде:

• Списка сегментов текста содержащих слова и фразы запроса.
• Целого извлеченного текста документа с подсветкой найденных слов и фраз.
• Постранично отформатированного документа с подсветкой найденных слов и фраз.