Современные системы искусственного интеллекта умеют не только отвечать на вопросы и писать тексты, но и все заметнее влияют на то, как мы сами пишем и думаем. И ученые уже встревожены: массовое использование генеративного ИИ может незаметно «выравнивать» культуру и мышление, делая их более однообразными.Автор новостей
Аспирант Университета Южной Калифорнии Живар Суорати рассказывает, что, читая свежие научные статьи, он часто ловит себя на мысли: «Я уже видел эту работу». По его ощущению, тексты становятся все более похожими — и он подозревает, что дело в повсеместном использовании больших языковых моделей, например, ChatGPT.
Эта интуитивная догадка все чаще подтверждается в экспериментах. Ряд исследований показывает: ИИ действительно способен повышать оригинальность отдельных идей, но одновременно снижает их общее разнообразие. В одном из опытов людей и языковые модели просили придумывать нестандартные способы применения обычных предметов. Модели в среднем предлагали чуть более «оригинальные» варианты, чем участники, но их ответы между собой были гораздо более похожими, чем ответы людей.
Похожий эффект обнаружили в заданиях на написание коротких рассказов и мозговом штурме. Люди, которым позволяли сначала спросить совета у модели, придумывали истории и идеи, которые оценивались как более интересные и удачные. Но при этом эти тексты становились подозрительно похожими друг на друга. Метаанализы нескольких таких работ показывают: наиболее сильное «сжатие разнообразия» возникает именно на этапе генерации идей, особенно в сложных или жестко ограниченных задачах.
Признаки выравнивания заметны и за пределами лаборатории. Анализ более чем 400 тысяч научных статей выявил: после выхода ChatGPT число публикаций на автора выросло, но стилистическое и содержательное сходство между работами тоже усилилось. В еще одном исследовании ученые проанализировали локальные новости, препринты и посты на Reddit и увидели снижение вариативности языка после появления доступных ИИ-сервисов. Когда те же тексты пропустили через языковую модель «для исправления грамматики», из них исчезла часть индивидуальных речевых особенностей, связанных с личностью, ценностями и происхождением автора.
Генеративный ИИ стирает и культурные различия. В одном из экспериментов участники из Индии и США описывали важные для них ритуалы, героев и символы, а также писали письмо, отражающее их ценности. Половина использовала инструмент автодополнения, подсказывающий слова. В результате индийские авторы стали звучать более «по‑американски», а тексты обоих народов стали ближе друг к другу и беднее уникальными культурными деталями, например в описаниях местных праздников.
Но особые опасения вызывает то, что ИИ может воздействовать на убеждения. В одном из экспериментов перед выборами в США языковые модели демонстрировали предвзятость в пользу Джо Байдена и в разговорах о политике реально смещали мнения сторонников Дональда Трампа. В других опытах люди, писавшие тексты с помощью ИИ, незаметно подстраивали свои последующие ответы под «позицию», заложенную в модели, и сохраняли такой сдвиг даже спустя недели.
Ученые объясняют происходящее и техническими, и психологическими причинами. Модели обучаются предсказывать наиболее вероятные варианты продолжения текста и дополнительно «дотачиваются» под вкусы оценщиков, которым, как правило, важнее понятность и вежливость ответа, чем его новизна. На стороне человека работает доверие к ИИ как к «знающему» и эффект якоря: увидев подсказку, мы склонны дальше думать в том же направлении, а потом начинаем воспринимать этот выбор как свой собственный.
Однако специалисты подчеркивают: речь пока что не идет о катастрофе, а лишь о тонком, но значимом сдвиге, который при массовом использовании может иметь большие последствия. При этом ИИ можно настроить и на увеличение разнообразия. Уже разрабатываются методы обучения, которые поощряют модели не только за «качество», но и за отличия ответов друг от друга, а также приемы промптинга, которые будут заставлять систему искать несколько разных стратегий решения.
Некоторые исследователи вообще настроены осторожно оптимистично. История глобализации показывает: да, языков становится меньше, но при этом появляются новые микрокультуры. Люди нередко намеренно избегают конформизма и стремятся выделиться — а сейчас к этому добавляется еще и желание «не звучать как нейросеть». Все больше пользователей сознательно уходит от клишированных фраз, которые ассоциируются с ИИ.
Возможно, в будущем генеративный ИИ станет не только источником однообразия, но и стимулом к поиску по‑настоящему собственного голоса, чтобы не затеряться среди бесконечного потока гладких, но одинаковых текстов.
Ранее ученые объяснили, возможен ли брак с ИИ.
Получайте свежие новости в сфере искусственного интеллекта в нашем телеграм-канале >>