Искусственный интеллект в финансовой журналистике: Bloomberg сталкивается с проблемами из-за некорректных сводок, созданных ИИ

Подходят ли решения на основе ИИ для повседневного использования? Неудачный старт Bloomberg с автоматизированными сводками

Интеграция искусственного интеллекта в журналистику ставит перед медиакомпаниями сложные задачи, как показывает недавний случай с Bloomberg. Финансовый новостной сервис экспериментирует с созданием ИИ-генерируемых резюме для своих статей с января 2025 года, но уже был вынужден исправить как минимум 36 ошибочных резюме. Эта ситуация подчеркивает трудности внедрения систем ИИ в редакционные процессы, особенно в отношении точности, надежности и доверия к автоматизированному контенту. В следующих разделах рассматриваются конкретные проблемы Bloomberg, помещаются в контекст общих проблем ИИ и обсуждаются потенциальные решения для успешной интеграции ИИ в журналистику.

В связи с этим:

• Надежный ИИ: козырь Европы и шанс занять лидирующую позицию в области искусственного интеллекта

Проблемный выход Bloomberg на рынок контента, создаваемого искусственным интеллектом

Потенциал ошибок в сводках, созданных с помощью ИИ

Bloomberg, ведущая мировая компания, специализирующаяся на финансовых новостях, начала использовать сгенерированные искусственным интеллектом маркированные списки в качестве резюме в начале своих статей в начале 2025 года. Однако с момента запуска этой функции 15 января компании пришлось исправить как минимум три десятка таких автоматизированных резюме, что указывает на серьезные проблемы с точностью контента, сгенерированного ИИ. Эти проблемы особенно тревожны для такой компании, как Bloomberg, которая известна своей точной финансовой отчетностью и информация которой часто может напрямую влиять на инвестиционные решения. Необходимость многочисленных исправлений подрывает доверие к надежности этой новой технологии и поднимает вопросы о преждевременном внедрении систем ИИ в журналистику.

Одна особенно существенная ошибка произошла, когда агентство Bloomberg сообщило о планах президента Трампа ввести пошлины на автомобили. Хотя в оригинальной статье правильно указывалось, что Трамп может объявить о введении пошлин в тот же день, сгенерированное ИИ резюме содержало неверную информацию о сроках введения более масштабных пошлин. В другом случае, резюме, созданное ИИ, ошибочно утверждало, что президент Трамп введет пошлины на товары из Канады уже в 2024 году. Такие ошибки демонстрируют ограничения ИИ в интерпретации сложных новостей и риски публикации непроверенного, автоматизированного контента.

Помимо неверных дат, ошибки также включали неточные цифры и ошибочное приписывание действий или заявлений отдельным лицам или организациям. Эти типы ошибок, часто называемые «галлюцинациями», представляют собой особую проблему для систем искусственного интеллекта, поскольку они могут звучать правдоподобно и поэтому их трудно обнаружить без тщательной проверки человеком. Частота таких ошибок в Bloomberg подчеркивает необходимость надежных процессов проверки и поднимает вопросы о зрелости используемой технологии ИИ.

Реакция Bloomberg на проблемы искусственного интеллекта

В официальном заявлении Bloomberg подчеркнул, что 99 процентов созданных с помощью ИИ кратких обзоров соответствуют редакционным стандартам. Компания заявляет, что ежедневно публикует тысячи статей и поэтому считает уровень ошибок относительно низким. Bloomberg утверждает, что ценит прозрачность и исправляет или обновляет статьи по мере необходимости. Компания также подчеркнула, что журналисты полностью контролируют, будет ли опубликован созданный с помощью ИИ обзор или нет.

В эссе от 10 января, основанном на лекции в лондонском City St. George's, главный редактор Bloomberg Джон Миклтуэйт описал причины создания кратких обзоров с помощью ИИ. Он объяснил, что клиенты ценят их, потому что они могут быстро понять суть истории, в то время как журналисты относятся к ним более скептически. Он признал, что репортеры опасаются, что читатели могут полагаться исключительно на обзоры и пренебречь основной идеей. Тем не менее, Миклтуэйт подчеркнул, что ценность обзора, созданного с помощью ИИ, полностью зависит от качества самой истории, а для этого человеческий опыт остается решающим.

Представитель Bloomberg сообщил газете The New York Times, что отзывы о сводках в целом положительные и что компания продолжает работать над улучшением пользовательского опыта. Это заявление говорит о том, что, несмотря на возникшие проблемы, Bloomberg намерен придерживаться своей стратегии использования ИИ для создания сводок, но с большим упором на обеспечение качества и совершенствование используемой технологии.

Искусственный интеллект в журналистике: тема, актуальная для всей отрасли

Опыт других медиакомпаний в использовании ИИ

Bloomberg — не единственная медиакомпания, экспериментирующая с интеграцией ИИ в свои журналистские процессы. Многие новостные организации пытаются понять, как лучше всего внедрить эту новую технологию в свою работу по подготовке репортажей и редакционной деятельности. Газетная сеть Gannett использует аналогичные сгенерированные ИИ резюме для своих статей, а The Washington Post разработала инструмент под названием «Спроси Post», который генерирует ответы на вопросы из опубликованных статей Post. Такое широкое внедрение демонстрирует значительный интерес медиаиндустрии к технологиям ИИ, несмотря на связанные с ними риски и проблемы.

Другие медиакомпании также сталкивались с проблемами, связанными с инструментами искусственного интеллекта. В начале марта газета Los Angeles Times удалила свой инструмент ИИ из статьи с мнением эксперта после того, как технология описала Ку-клукс-клан не как расистскую организацию. Этот инцидент показывает, что проблемы, с которыми сталкивается Bloomberg, не являются единичным случаем, а симптомом более широких проблем с интеграцией ИИ в журналистику. Вырисовывается закономерность: технология еще недостаточно зрела, чтобы надежно функционировать без участия человека, особенно при работе с деликатными или сложными темами.

Эти примеры иллюстрируют противоречие между стремлением к инновациям и эффективности с помощью ИИ, с одной стороны, и необходимостью поддерживать журналистские стандарты и точность, с другой. Медиакомпании должны соблюдать баланс: они хотят извлечь выгоду из преимуществ ИИ, не рискуя доверием своих читателей и не поступаясь основополагающими журналистскими принципами. Опыт Bloomberg и других новостных организаций служит важным уроком для всей отрасли о возможностях и ограничениях ИИ в журналистике.

В связи с этим:

• Одна из причин нерешительного использования ИИ: 68% HR-менеджеров жалуются на недостаток знаний в области ИИ в компаниях

Особая сложность финансовой журналистики

В финансовом секторе, где Bloomberg является одним из ведущих новостных сервисов, требования к точности и достоверности особенно высоки. Влияние ложной информации может иметь значительные финансовые последствия, поскольку инвесторы и финансовые эксперты принимают решения, основываясь на таких новостях. Эта особая ответственность делает интеграцию технологий искусственного интеллекта в финансовую журналистику еще более сложной задачей, чем в других областях репортажей.

Интересно, что «универсальный ИИ» превзошел специализированный ИИ Bloomberg именно в своей области: анализе финансовых отчетов. Сообщается, что Bloomberg инвестировал не менее 2,5 миллионов долларов в разработку собственного финансового ИИ, но менее чем через год после его запуска в конце марта 2023 года стало ясно, что универсальные модели ИИ, такие как ChatGPT и GPT-4, показали лучшие результаты в этой области. Это иллюстрирует стремительные темпы развития искусственного интеллекта и трудности, с которыми сталкиваются компании, пытаясь угнаться за специализированными решениями по мере того, как универсальные модели становятся все более мощными.

Воспользуйтесь обширным пятисторонним опытом Xpert.Digital в рамках комплексного пакета услуг | НИОКР, XR, PR и оптимизация цифровой видимости - Изображение: Xpert.Digital

Компания Xpert.Digital обладает глубокими знаниями в различных отраслях. Это позволяет нам разрабатывать индивидуальные стратегии, точно соответствующие требованиям и задачам вашего конкретного сегмента рынка. Благодаря постоянному анализу рыночных тенденций и мониторингу отраслевых разработок мы можем действовать на опережение и предлагать инновационные решения. Сочетание опыта и экспертных знаний создает добавленную стоимость и обеспечивает нашим клиентам решающее конкурентное преимущество.

Более подробная информация здесь:

• Воспользуйтесь преимуществами 5 областей экспертизы Xpert.Digital в одном пакете – всего от 500 евро в месяц

Фундаментальные проблемы генеративного ИИ

Проблема галлюцинаций в моделях искусственного интеллекта

Одна из самых фундаментальных проблем систем искусственного интеллекта, также отмеченная в обзорах Bloomberg, — это проблема «галлюцинаций» — тенденция моделей ИИ генерировать правдоподобно звучащую, но фактически неверную информацию. Эта проблема возникает, когда системы ИИ создают контент, выходящий за рамки предоставленной им информации, или когда они неправильно интерпретируют данные. Такие галлюцинации особенно проблематичны в журналистике, где фактическая точность и достоверность имеют первостепенное значение.

Проблемы, с которыми столкнулся Bloomberg, — это именно такие галлюцинации: ИИ «выдумал» даты, например, дату введения Трампом пошлин на автомобили, или ложно заявил, что Трамп уже ввел пошлины на Канаду в 2024 году. Подобные ошибки подчеркивают ограничения современных технологий ИИ, особенно когда речь идет о точной интерпретации сложной информации.

Эксперты отмечают, что галлюцинации могут быть вызваны различными факторами, включая способ кодирования обучающих подсказок и текстов. Большие языковые модели (LLM) связывают понятия с рядом чисел, известных как векторные кодировки. Для неоднозначных слов, таких как «банк» (которое может относиться как к финансовому учреждению, так и к месту), может использоваться одна кодировка для каждого значения, чтобы избежать неоднозначности. Любая ошибка в кодировании и декодировании представлений и текстов может привести к галлюцинациям у генеративного ИИ.

Прозрачность и отслеживаемость решений, принимаемых с помощью ИИ

Еще одна фундаментальная проблема систем искусственного интеллекта — это отсутствие прозрачности и отслеживаемости в процессах принятия решений. В случае некоторых методов ИИ становится невозможно понять, как генерируется тот или иной прогноз или результат, или почему система ИИ пришла к конкретному ответу на заданный вопрос. Эта непрозрачность, часто называемая «проблемой черного ящика», затрудняет выявление и исправление ошибок до того, как они станут достоянием общественности.

Отслеживаемость особенно важна в таких областях, как журналистика, где решения о содержании должны быть прозрачными и обоснованными. Если Bloomberg и другие медиакомпании не смогут понять, почему их ИИ генерирует неверные резюме, им будет сложно внедрить системные улучшения. Вместо этого им придется полагаться на реактивные исправления после того, как ошибки уже произошли.

Эксперты из деловых кругов и академических кругов также признают эту проблему значительной. Хотя это в первую очередь техническая проблема, она может также привести к проблемам с социальной или правовой точки зрения в определенных областях применения. В случае с Bloomberg это может привести к потере доверия читателей или, в худшем случае, к принятию финансовых решений на основе неточной информации.

Зависимость от качества и объема данных

Кроме того, эффективность приложений на основе ИИ зависит от качества данных и алгоритмов. Учитывая объем и сложность используемых данных, систематические ошибки в данных или алгоритмах часто остаются незамеченными. Это еще одна фундаментальная проблема, которую Bloomberg и другие компании должны преодолеть при внедрении систем ИИ.

Проблема с объемом данных — ИИ может учитывать лишь относительно небольшие «контекстные окна» при обработке команд или запросов — значительно уменьшилась за последние годы, но остается сложной задачей. Модель ИИ от Google «Gemini 1.5 Pro 1M» уже способна обрабатывать запрос в 700 000 слов или час видео — более чем в семь раз больше, чем лучшая на данный момент модель GPT от OpenAI. Тем не менее, тесты показывают, что, хотя искусственный интеллект может осуществлять поиск в данных, ему сложно понимать взаимосвязи внутри них.

В связи с этим:

• Снижение затрат и оптимизация эффективности являются доминирующими экономическими принципами – риски, связанные с ИИ, и выбор правильной модели ИИ

Решения и перспективы развития

Контроль со стороны персонала и редакционные процессы

Одно из очевидных решений проблем, с которыми столкнулся Bloomberg, — усиление человеческого контроля над контентом, созданным с помощью ИИ. Bloomberg уже подчеркивал, что журналисты имеют полный контроль над тем, будет ли опубликован сгенерированный ИИ обзор. Однако этот контроль должен осуществляться эффективно, а это значит, что редакторы должны иметь достаточно времени для проверки обзоров, созданных ИИ, перед их публикацией.

Внедрение надежных редакционных процессов для проверки контента, созданного с помощью ИИ, имеет решающее значение для минимизации ошибок. Это может включать в себя требование, чтобы все резюме, созданные ИИ, проверялись как минимум одним редактором-человеком перед публикацией, или подвергать определенные типы информации (например, данные, рисунки или ссылки на источники) особенно тщательной проверке. Хотя такие процессы увеличивают рабочую нагрузку и, следовательно, снижают некоторые преимущества ИИ с точки зрения эффективности, они необходимы для поддержания точности и достоверности.

Технические усовершенствования моделей искусственного интеллекта

Постоянное технологическое развитие самих моделей ИИ — ещё один важный подход к решению современных проблем. Количество галлюцинаций уже значительно уменьшилось в модели GPT-4 по сравнению с её предшественницей, GPT-3.5. Новейшая модель Anthropic, «Claude 3 Opus», демонстрирует ещё меньше галлюцинаций в ходе первоначальных тестов. Вскоре частота ошибок речевых моделей должна стать ниже, чем у среднестатистического человека. Тем не менее, в отличие от того, к чему мы привыкли в компьютерах, речевые модели ИИ, вероятно, не будут полностью безошибочными в обозримом будущем.

Перспективным техническим подходом является «смешение экспертов»: несколько небольших специализированных моделей соединены с сетью вентилей. Входные данные системы анализируются вентилем, а затем, при необходимости, передаются одному или нескольким экспертам. Наконец, ответы объединяются в единый, исчерпывающий ответ. Это позволяет избежать необходимости всегда активировать всю модель во всей ее сложности. Такая архитектура потенциально может повысить точность за счет использования специализированных моделей для конкретных типов информации или областей.

Реалистичные ожидания и прозрачная коммуникация

Наконец, важно иметь реалистичные ожидания от систем ИИ и прозрачно сообщать об их возможностях и ограничениях. Современные системы ИИ разрабатываются специально для конкретного контекста применения и никоим образом не сравнимы с человеческим интеллектом. Это понимание должно определять внедрение ИИ в журналистику и другие области.

Bloomberg и другие медиакомпании должны прозрачно информировать о своем использовании ИИ и четко давать понять, что контент, созданный с помощью ИИ, может содержать ошибки. Этого можно достичь путем явной маркировки контента, созданного с помощью ИИ, прозрачных процессов исправления ошибок и открытого информирования об ограничениях используемой технологии. Такая прозрачность поможет сохранить доверие читателей, даже когда возникают ошибки.

Почему интеграция ИИ в журналистику терпит неудачу без участия человека

Опыт Bloomberg с использованием сводок, сгенерированных искусственным интеллектом, подчеркивает сложные проблемы интеграции ИИ в журналистику. По меньшей мере 36 ошибок, потребовавших исправления с января, демонстрируют, что, несмотря на свой потенциал, технология еще недостаточно зрела для надежного использования без тщательного контроля со стороны человека. Проблемы, с которыми сталкивается Bloomberg, не уникальны, но отражают фундаментальные проблемы ИИ, такие как иллюзии, отсутствие прозрачности и зависимость от высококачественных данных.

Успешная интеграция ИИ в журналистику требует нескольких подходов: надежных редакционных процессов для проверки контента, созданного ИИ, постоянного технического совершенствования самих моделей ИИ и прозрачного информирования о возможностях и ограничениях используемой технологии. Опыт Bloomberg может послужить ценным уроком для других медиакомпаний, планирующих аналогичные внедрения ИИ.

Будущее журналистики, основанной на искусственном интеллекте, зависит от того, насколько эффективно мы будем использовать преимущества ИИ и его инновационные возможности, не поступаясь при этом журналистскими стандартами. Ключ к успеху — сбалансированный подход, рассматривающий технологию как инструмент поддержки журналистов-людей, а не как замену им. Как метко заметил Джон Миклетвейт из Bloomberg: «Краткое изложение, сгенерированное ИИ, настолько же хорошо, насколько хороша история, на которой оно основано. А для таких историй люди по-прежнему важны»

☑️ Поддержка малых и средних предприятий в области стратегии, консалтинга, планирования и реализации проектов

☑️ Разработка или корректировка цифровой стратегии и цифровизации

☑️ Расширение и оптимизация международных процессов продаж

☑️ Глобальные и цифровые торговые платформы B2B

☑️ Развитие новаторского бизнеса

Konrad Wolfenstein

Я с удовольствием стану вашим личным консультантом.

Вы можете связаться со мной, заполнив форму обратной связи ниже, или просто позвонить мне по номеру +49 7348 4088 965 .

Я с нетерпением жду начала нашего совместного проекта.

Xpert.Digital — это центр для предприятий, специализирующийся на цифровизации, машиностроении, логистике/внутрипроизводственной логистике и фотовольтаике.

С помощью нашего комплексного решения для развития бизнеса мы поддерживаем известные компании на всех этапах, от привлечения новых клиентов до послепродажного обслуживания.

Анализ рынка, маркетинговый маркетинг, автоматизация маркетинга, разработка контента, PR, почтовые рассылки, персонализированные кампании в социальных сетях и работа с потенциальными клиентами — все это входит в число наших цифровых инструментов.

Более подробную информацию можно найти по ссылкам: www.xpert.digital - www.xpert.solar - www.xpert.plus