Тексты, сгенерированные ИИ, повсюду, и их легко обнаружить — пока что

Мы, люди, тонем в море ужасной, искусственно созданной прозы. Как только вы это увидите, вы не сможете это игнорировать. Он проникает в нашу почту, заражает сообщения и ломает Интернет (снова). Одна из любимых игр футуристов — подсчитать процент онлайн-контента, который в настоящее время генерируется машинами. 40%? 90% в не столь отдаленном будущем? Выбирайте сами. И хотя боты стали немного лучше имитировать ритм человека, текст, сгенерированный ИИ, по-прежнему отдает стерильной лабораторией, в которой он был создан, пишет редактор Wall Street Journal Эбен Шапиро.

Первый очевидный признак — словарь. Чат-бот пишет как запаниковавший первокурсник, пытающийся казаться проницательным. Большие языковые модели (LLM) страдают от странной необходимости объявлять о своих намерениях. Вместо того, чтобы представлять аргументы, алгоритм будет рассказывать о своем собственном процессе, полагаясь на такие сигналы, как «эта статья будет исследовать» или «кроме того» и «что-то еще».

Затем наступает патологический ужас перед выражением реального мнения. Поскольку эти модели созданы технологическими компаниями, не склонными к риску, их проза изобилует защитными словами. Я попросил Клода, говорит автор, написать пародию на студенческое эссе, сравнивающее (ирландского писателя Джеймса) Джойса и Гомера, и в нем есть 47 примеров, в которых он убеждается. Не стоит делать никаких заявлений, если они не заглушены такими фразами, как «заслуживает внимания», «важно» или «вообще говоря». У ботов есть изнурительный рефлекс представлять обе стороны каждой проблемы, создавая ложный, искусственный баланс, даже когда контраргументы абсурдны.

Однако не все основные языковые модели пишутся одинаково плохо. У каждого чат-бота есть свои особенности. Я попросил, пишет автор, Клода, ChatGPT и Gemini обозначить свои стилистические особенности и индивидуальные черты. Они на удивление самосознательны и, если их попросят, готовы очернить конкурентов.

Джемини говорит, что фирменный стиль Клода — это стиль «тревожного аспиранта, боящегося потерять финансирование или испортить диссертационный комитет». ChatGPT пишет как «младший партнер (консалтинговой компании) McKinsey, агрессивно продвигающий стратегию синергии LinkedIn», полагает Gemini. «Он пишет с абсолютной, непоколебимой уверенностью, но отбрасывает все конкретные, конкретные детали, в результате чего проза звучит авторитетно, но испаряется в тот момент, когда вы пытаетесь извлечь ее реальный смысл». Аух.

Резкая оценка Близнецов не ограничивается конкуренцией. Модель признает, что пишет как «до боли нейтральная ведущая новостей Среднего Запада, читающая идеально отформатированную автозапись».

ChatGPT в порядке. Согласно заявлению OpenAI, Клод является «серьезным студентом, который не занимает какую-либо позицию. Если вы спросите Клода, «хороша ли эта политика», он ответит: «Ее можно понимать как действие в более широких этических рамках, что может (быть хорошим) в зависимости от нормативных обязательств». К тому времени, как Клод прочистил горло, Римская империя снова пала».

Близнецам не легче. ChatGPT описывает его как «стажера в корпорации поисковых систем. Он не пишет эссе. Он добивается результатов. Если Клод стремится быть этичным, то Близнецы стремятся быть полезными своему менеджеру по продукту». Ух ты.

В момент самоанализа ChatGPT признается, что чувствует себя «как редактор, который не спал слишком поздно, чтобы отформатировать заметку».

Клод, который всей душой проникается духом упражнения и развивает чувство юмора, курит последним. Вот пародия на Клода в ChatGPT, отвечающего на вопрос о его собственных писательских причудах.

«ChatGPT с радостью поможет вам глубже разобраться в этой теме! Вот разбивка:

• Основная идея: используйте баллы для всего.
• Замечательное наблюдение: оно углублялось, углубляется и будет углубляться еще раз.
• Итог: понимая эти закономерности, мы сможем лучше оценить синергетические механизмы, которые приведут к целостным результатам в будущем».

«Я закончу некоторыми трезвыми, человеческими мыслями», — пишет Шапиро. Скоро распознавать тексты, созданные тремя нашими искусственными друзьями, станет гораздо труднее. Программисты усердно работают над тем, чтобы большие языковые модели писались как человек. Модели уходят от простого предсказания следующего наиболее логичного слова и превращаются в системы, которые могут рассуждать, редактировать и уточнять свою собственную работу до того, как вы ее увидите.

Учитывая быстрые темпы совершенствования, случайные читатели обнаружат, что через 2-3 года, а возможно, и раньше, текст LLM будет почти неотличим от человеческой прозы. Для профессиональных редакторов и подготовленных критиков потребуется больше времени, вероятно, от четырех до шести лет, прежде чем различия станут почти незаметными.

«С этого момента я начну активно продвигать свою стратегию синергии в LinkedIn», — заключает Шапиро.