За два года сгенерированные тексты выросли с 3% до 13%. Автоматизация пожирает организацию изнутри?
Организация Объединённых Наций всё активнее опирается на искусственный интеллект при подготовке официальных текстов. Согласно недавнему исследованию уже 13% пресс-релизов ООН несут на себе признаки машинной генерации. Анализ корпоративных и государственных публикаций показал ещё более широкую картину: примерно 17% подобных материалов — от вакансий до официальных заявлений — могли быть написаны при поддержке языковых моделей.
ИИ активно используют и обычные граждане. По оценке авторов, около 18% жалоб, поданных в Бюро финансовой защиты потребителей США в период с 2022 по 2024 год, были составлены при помощи нейросетей. Такой результат выглядит закономерным: более половины взрослых американцев (52%) уже признались, что прибегали к языковым моделям. Чаще всего их применяют для самообразования или бытовых задач, но всё заметнее становится и рабочее использование.
Особенно высока доля машинного текста в корпоративных новостных релизах. Учёные выяснили, что почти четверть публикаций, размещённых на трёх крупнейших площадках пресс-релизов, создавалась с участием ИИ. Наибольшая концентрация таких материалов отмечена в сфере науки и технологий.
Авторы отдельно изучили вакансии, размещённые в LinkedIn. Оказалось, что крупные компании реже полагаются на генеративные инструменты при написании объявлений о найме, тогда как примерно 10% предложений от малого бизнеса, напротив, имеют признаки машинного участия. Между тем сами соискатели всё чаще выражают недовольство: автоматизация отбора персонала воспринимается как несправедливое упрощение, а кандидаты хотят, чтобы компании открыто сообщали о применении ИИ.
Рост использования алгоритмов в работе ООН тоже заметен: если в начале 2023 года признаки машинной генерации фиксировались лишь в 3% англоязычных пресс-релизов организации, то к концу 2024 года показатель превысил 13%. Это выглядит особенно показательно на фоне того, что сама ООН не раз предупреждала: автоматизация на базе нейросетей угрожает каждой четвёртой профессии, причём сильнее всего рискуют женщины в развитых странах, где многие рабочие задачи могут быть переданы алгоритмам.
В США коммуникации и PR относятся как раз к числу профессий с преобладанием женщин. По данным 2024 года, женщины составляют 67,8% специалистов по связям с общественностью и 70,1% руководителей по PR и фандрайзингу. Именно эти сферы уже активно насыщаются текстами, написанными при поддержке ИИ.
В целом исследователи зафиксировали стремительный скачок. До выхода ChatGPT в ноябре 2022 года лишь 1,5% проанализированных материалов можно было отнести к машинному письму, но к августу 2023 года доля превысила 15%. Дальнейший рост замедлился, и к августу 2024 года показатель стабилизировался на уровне 17%.
Для работы авторы применяли собственный детектор машинного текста. Однако они признают: программа не способна точно отделить материалы, которые после генерации серьёзно редактировались человеком. Этот недостаток хорошо согласуется с предыдущими выводами о слабых сторонах подобных инструментов. Ещё в 2023 году отдельная работа показала, что ни одна из доступных систем не продемонстрировала точность выше 80%, а в ряде случаев генерация определялась как человеческий текст. Результаты становились ещё хуже при ручном редактировании, машинном перефразировании или переводе.
Другое исследование зафиксировало ещё более низкий уровень: точность распознавания в условиях подмены могла падать до 17,4%. Ведущий автор нынешней работы, профессор Стэнфордского университета Джеймс Зоу, объясняет: такие инструменты эффективнее работают с крупными корпусами, но не способны с высокой достоверностью установить, написан ли конкретный материал при помощи ИИ. По его словам, как и любая новая технология, генеративные модели не сводятся к однозначно положительной или отрицательной оценке. Ошибки они совершают неизбежно, и если полностью перекладывать на них подготовку текстов, не проверяя итоговый результат, это неминуемо приведёт к фактическим неточностям.
Тот самый момент, когда научился считать 
Новый пользователь
Подробнее...