Нецифровая экономика

Консалтеров заподозрили в ИИ-генерации Исследователи GPTZero заявили, что четыре отчета PwC Middle East, опубликованные в 2024–2026 годах, содержат признаки использования генеративного ИИ, сфабрикованные цитаты и ссылки на несуществующие источники. Выводы исследования подтвердила Financial Times. Наибольшие вопросы вызвал отчет Transforming Governance. В нем PwC утверждает, что разработанный компанией фреймворк Citizen Pulse используют государственные структуры Дании, Саудовской Аравии, США и Австралии. Однако исследователи не нашли подтверждений существования самого продукта или его внедрения. GPTZero также обнаружила в отчетах вымышленные научные статьи, ссылки на сомнительные источники, следы использования ChatGPT в URL и противоречивые ссылки на одну и ту же статистику. По оценке компании, вероятность того, что текст Transforming Governance был полностью сгенерирован ИИ, достигает 84%, а без учета списка литературы — 100%. PwC Middle East заявила, что проверяет выводы исследования и уже обновляет часть ссылок. Ранее GPTZero выявляла аналогичные проблемы в отчетах других компаний: KPMG отозвала отчёт с ложными утверждениями об ИИ, EY — из-за поддельных сносок, а Deloitte дважды допускала фабрикации в правительственных отчётах, включая канадский доклад за $1,6 млн с цитированием несуществующих работ. Редакция @antidigital проверила в сервисе отчеты крупнейших российских консалтинговых компаний — результаты весьма удовлетворительные. В отчете «Технологии Доверия» оказалось меньше 20% сгенерированного или частично сгенерированного текста, в отчете «Яков и Партнеры» — 40% частично сгенерированного текста, а в отчете «Б1» ИИ не обнаружено вовсе. Наибольший процент генераций был отмечен в отчете Kept — 43% сгенерированного и 23% частично сгенерированного текста. Представители Kept прокомментировали это так: «Сведения, приведенные в упомянутом обзоре, основаны на официальных данных IFR и публично доступной информации. При его подготовке мы использовали инструменты ИИ только для перевода материалов авторитетных источников, указанных в исследовании. Мы не считаем цифру в 42% от GPTZero достоверной характеристикой обзора. ИИ-детекторы выдают вероятностную оценку, а никак не измерение доли текста. Один и тот же документ может получить существенно разные оценки у разных инструментов» Все отчеты также были проверены в системе Антиплагиат. Там ни в одном из них не были выявлены следы ИИ. Также компании рассказали, с помощью каких процедур отслеживаются ИИ-генерации. «Все исследования проходят несколько этапов редактирования, где текст проверяется на наличие ИИ-маркеров (например, длинное тире, обилие маркированных списков, характерные речевые конструкции) и корректность всех указанных источников информации. Кроме того, анализируются метаданные документов (автор документа и изменений, время редактирования документа и др.). От ручной верификации данных пока не уйти, однако такой функционал уже стал стандартным для передовых ИИ-сервисов», — отметил Алексей Лаврухин, руководитель Аналитического центра Группы компаний Б1. «В нашей компании действует политика ответственного использования ИИ. Инструменты допускаются только после одобрения, запрещается вводить конфиденциальные данные. Каждый материал проходит проверку на точность, источники и соответствие профессиональным стандартам, а ответственность за содержание несет команда авторов», — заявили в Kept. В «Яков и Партнеры» от комментариев процедуры проверки отказались.