금융 저널리즘의 인공지능: 블룸버그, AI 요약 오류로 어려움 겪어

Xpert 사전 출시

온라인 연락처 (Konrad Wolfenstein)

언어 선택 📢

게시일: 2025년 4월 6일 / 업데이트일: 2025년 4월 6일 – 저자: Konrad Wolfenstein

금융 저널리즘의 AI: 블룸버그, AI 기반 요약 오류로 어려움 겪어 – 이미지: Xpert.Digital

저널리즘 분야에서 인공지능의 한계는 이미 도달했을까요?

AI 기술은 일상생활에 적합할까요? 블룸버그의 자동 요약 서비스 도입은 순탄치 않았습니다

최근 블룸버그 사례에서 볼 수 있듯이, 언론에 인공지능을 접목하는 것은 미디어 기업들에게 복잡한 과제를 안겨줍니다. 블룸버그는 2025년 1월부터 AI 기반 기사 요약 기능을 시험적으로 도입해 왔지만, 이미 최소 36건의 오류 요약을 수정해야 했습니다. 이러한 상황은 특히 정확성, 신뢰성, 그리고 자동화된 콘텐츠에 대한 신뢰도 측면에서 AI 시스템을 편집 과정에 도입하는 데 따르는 어려움을 보여줍니다. 다음 섹션에서는 블룸버그의 구체적인 문제점을 살펴보고, 이를 일반적인 AI 과제와 연관시켜 분석하며, 언론에 AI를 성공적으로 통합하기 위한 잠재적인 해결책을 논의합니다.

이와 관련된 내용:

신뢰할 수 있는 AI: 유럽의 비장의 카드이자 인공지능 분야에서 선도적인 역할을 맡을 기회

블룸버그의 인공지능 생성 콘텐츠 진출에 대한 문제점

AI 요약의 오류 발생 가능성

세계적인 금융 뉴스 기업 블룸버그는 2025년 초부터 기사 서두에 AI가 생성한 요약문을 사용하기 시작했습니다. 그러나 1월 15일 도입 이후 최소 30건 이상의 자동 생성 요약문을 수정해야 했으며, 이는 AI 생성 콘텐츠의 정확성에 상당한 문제가 있음을 시사합니다. 이러한 문제는 정확한 금융 보도로 유명하고 투자 결정에 직접적인 영향을 미치는 정보를 제공하는 블룸버그와 같은 기업에게 특히 우려스러운 부분입니다. 수많은 수정 요청은 이 새로운 기술의 신뢰성에 대한 의문을 제기하고 언론에 AI 시스템을 섣불리 도입하는 것에 대한 우려를 불러일으킵니다.

특히 블룸버그가 트럼프 대통령의 자동차 관세 계획을 보도했을 때 발생한 오류가 심각했습니다. 원문 기사에서는 트럼프 대통령이 당일 관세 부과를 발표할 가능성이 있다고 정확하게 보도했지만, AI가 생성한 요약본에는 더 광범위한 관세 조치의 시기에 대한 잘못된 정보가 포함되어 있었습니다. 또 다른 사례에서는 AI 요약본이 트럼프 대통령이 2024년 초 캐나다에 관세를 부과할 것이라고 잘못 주장했습니다. 이러한 오류는 복잡한 뉴스를 해석하는 데 있어 AI의 한계와 검증되지 않은 자동화 콘텐츠를 게시하는 데 따르는 위험성을 보여줍니다.

잘못된 날짜 외에도 부정확한 수치와 개인 또는 조직에 대한 행위나 발언의 잘못된 귀속 등 다양한 오류가 발견되었습니다. 흔히 "환각"이라고 불리는 이러한 유형의 오류는 그럴듯하게 들릴 수 있어 철저한 사람의 검토 없이는 탐지하기 어렵기 때문에 AI 시스템에 특히 어려운 과제를 안겨줍니다. 블룸버그에서 이러한 오류가 빈번하게 발생하는 것은 강력한 검토 프로세스의 필요성을 강조하며, 사용 중인 AI 기술의 성숙도에 대한 의문을 제기합니다.

블룸버그의 AI 문제에 대한 반응

블룸버그는 공식 성명을 통해 자사의 AI 생성 요약본 중 99%가 편집 기준을 충족한다고 강조했습니다. 회사는 매일 수천 건의 기사를 발행하고 있기 때문에 오류율이 상대적으로 낮다고 판단한다고 밝혔습니다. 블룸버그는 투명성을 중시하며 필요에 따라 기사를 수정하거나 업데이트한다고 설명했습니다. 또한, AI 생성 요약본의 게시 여부는 기자들이 전적으로 결정할 수 있다고 강조했습니다.

1월 10일, 런던 시티 세인트 조지 대학교에서 진행된 강연을 바탕으로 작성된 에세이에서 블룸버그 편집장 존 미클스웨이트는 AI 요약의 필요성을 설명했습니다. 그는 고객들이 AI 요약을 통해 기사의 핵심을 빠르게 파악할 수 있다는 점에서 긍정적으로 평가하는 반면, 기자들은 다소 회의적인 시각을 갖고 있다고 밝혔습니다. 미클스웨이트는 기자들이 독자들이 요약에만 의존하여 핵심 기사를 간과할 것을 우려한다는 점을 인정했습니다. 그럼에도 불구하고, 그는 AI 요약의 가치는 전적으로 원문 기사의 질에 달려 있으며, 이를 위해서는 인간의 전문 지식이 여전히 중요하다고 강조했습니다.

블룸버그 대변인은 뉴욕 타임스에 요약 서비스에 대한 피드백이 전반적으로 긍정적이었으며, 사용자 경험 개선을 위해 지속적으로 노력하고 있다고 밝혔습니다. 이 성명은 발생한 문제점에도 불구하고 블룸버그가 인공지능을 활용한 요약 서비스 전략을 유지하되, 품질 보증 및 기술 개선에 더욱 집중할 계획임을 시사합니다.

저널리즘 분야의 AI: 업계 전반에 걸쳐 중요한 주제

다른 미디어 회사들의 AI 활용 경험

블룸버그만이 인공지능(AI)을 언론 활동에 통합하려는 실험을 하는 유일한 미디어 기업은 아닙니다. 많은 언론사들이 이 새로운 기술을 취재 및 편집 작업에 어떻게 가장 효과적으로 접목할지 고심하고 있습니다. 가넷 신문 체인도 AI 기반 요약본을 기사에 활용하고 있으며, 워싱턴 포스트는 기사에 대한 질문에 답변을 제공하는 "Ask the Post"라는 도구를 개발했습니다. 이처럼 AI 기술의 광범위한 도입은 관련 위험과 어려움에도 불구하고 미디어 업계가 AI 기술에 상당한 관심을 갖고 있음을 보여줍니다.

다른 언론사들도 AI 도구 사용에 있어 문제를 겪었습니다. 3월 초, 로스앤젤레스 타임스는 AI 도구가 쿠 클럭스 클랜(KKK)을 인종차별주의 단체가 아닌 다른 것으로 묘사하자 해당 논평 기사에서 AI 도구를 삭제했습니다. 이 사건은 블룸버그가 직면한 어려움이 단지 블룸버그만의 문제가 아니라, 저널리즘에 AI를 통합하는 데 있어 더 광범위한 문제점을 보여주는 단적인 예임을 시사합니다. 특히 민감하거나 복잡한 주제를 다룰 때, AI 기술이 인간의 감독 없이 안정적으로 작동할 만큼 아직 성숙하지 못했다는 공통적인 양상이 나타나고 있습니다.

이러한 사례들은 한편으로는 인공지능을 통한 혁신과 효율성 추구, 다른 한편으로는 언론 윤리 기준과 정확성 유지의 필요성 사이의 긴장 관계를 보여줍니다. 미디어 기업들은 균형을 유지해야 합니다. 독자의 신뢰를 잃거나 근본적인 언론 원칙을 훼손하지 않으면서 인공지능의 이점을 누리고자 합니다. 블룸버그를 비롯한 여러 뉴스 기관의 경험은 언론계 전체에 인공지능이 제공하는 기회와 한계에 대한 중요한 교훈을 제공합니다.

이와 관련된 내용:

AI 도입을 주저하는 이유 중 하나는 인사 담당자의 68%가 회사 내 AI 관련 전문 지식 부족을 지적하기 때문입니다

금융 저널리즘의 특별한 어려움

블룸버그가 주요 뉴스 서비스 중 하나로 활동하는 금융 부문에서는 정확성과 신뢰성에 대한 요구가 특히 높습니다. 투자자와 금융 전문가들이 뉴스를 바탕으로 투자 결정을 내리기 때문에 허위 정보는 막대한 재정적 손실을 초래할 수 있습니다. 이러한 특별한 책임감 때문에 금융 저널리즘에 인공지능 기술을 접목하는 것은 다른 보도 분야보다 훨씬 더 어려운 과제입니다.

흥미롭게도, '범용 AI'는 블룸버그의 전문 AI보다 금융 보고서 분석이라는 특정 분야에서 더 뛰어난 성능을 보였습니다. 블룸버그는 자체 금융 AI 개발에 최소 250만 달러를 투자한 것으로 알려졌지만, 2023년 3월 말 출시 후 1년도 채 되지 않아 ChatGPT나 GPT-4와 같은 범용 AI 모델이 해당 분야에서 더 나은 결과를 제공한다는 사실이 드러났습니다. 이는 인공지능 분야의 급속한 발전 속도와 범용 모델의 강력함이 커짐에 따라 기업들이 전문 솔루션에 발맞춰 나가는 것이 얼마나 어려운지를 보여줍니다.

🎯🎯🎯 Xpert.Digital의 광범위한 5가지 전문 지식을 하나의 종합 서비스 패키지로 활용하세요 | 사업 개발, 연구 개발, XR, PR 및 디지털 가시성 최적화

Xpert.Digital의 광범위한 5가지 전문 지식을 종합 서비스 패키지로 활용해 보세요 | 연구 개발, XR, PR 및 디지털 가시성 최적화 - 이미지: Xpert.Digital

Xpert.Digital은 다양한 산업 분야에 걸쳐 심도 있는 지식을 보유하고 있습니다. 이를 바탕으로 고객의 특정 시장 부문의 요구 사항과 과제에 정확히 부합하는 맞춤형 전략을 개발할 수 있습니다. 시장 동향을 지속적으로 분석하고 산업 발전을 모니터링하여 선제적으로 대응하고 혁신적인 솔루션을 제공합니다. 풍부한 경험과 전문성의 결합은 고객에게 부가가치를 창출하고 결정적인 경쟁 우위를 제공합니다.

자세한 내용은 여기에서 확인하세요:

Xpert.Digital의 5개 전문 분야 서비스를 하나의 패키지로 이용해 보세요. 월 500유로부터 시작합니다

데이터 품질과 AI 모델: 현대 기술의 보이지 않는 걸림돌

생성형 인공지능의 근본적인 과제

AI 모델에서의 환각 문제

블룸버그의 요약에서도 강조되었듯이, AI 시스템의 가장 근본적인 문제점 중 하나는 "환각" 문제입니다. 이는 AI 모델이 그럴듯하게 들리지만 사실과 다른 정보를 만들어내는 경향을 말합니다. 이러한 문제는 AI 시스템이 제공된 정보를 넘어서는 콘텐츠를 생성하거나 데이터를 잘못 해석할 때 발생합니다. 특히 사실의 정확성과 신뢰성이 매우 중요한 언론 분야에서 이러한 환각은 심각한 문제로 작용합니다.

블룸버그가 겪은 문제는 바로 이러한 착각에서 비롯됩니다. 인공지능은 트럼프의 자동차 관세 시행일과 같은 날짜를 "만들어내거나", 트럼프가 2024년에 이미 캐나다에 관세를 부과했다고 잘못 주장했습니다. 이러한 오류는 특히 복잡한 정보를 정확하게 해석하는 데 있어 현재 인공지능 기술의 한계를 여실히 보여줍니다.

전문가들은 학습 프롬프트와 텍스트의 인코딩 방식을 포함한 다양한 요인이 환각을 유발할 수 있다고 지적합니다. 대규모 언어 모델(LLM)은 개념을 벡터 인코딩이라고 하는 일련의 숫자로 연결합니다. "은행"처럼 금융 기관과 좌석 모두를 의미할 수 있는 모호한 단어의 경우, 모호성을 피하기 위해 의미별로 다른 인코딩이 사용될 수 있습니다. 표현과 텍스트의 인코딩 및 디코딩 과정에서 발생하는 오류는 생성형 AI가 환각을 경험하게 하는 원인이 될 수 있습니다.

AI 결정의 투명성과 추적성

인공지능 시스템의 또 다른 근본적인 문제는 의사 결정 과정의 투명성과 추적성이 부족하다는 점입니다. 일부 인공지능 방법의 경우, 특정 예측이나 결과가 어떻게 도출되었는지, 또는 인공지능 시스템이 특정 질문에 대해 특정한 답을 내놓은 이유를 더 이상 이해할 수 없습니다. 흔히 "블랙박스 문제"라고 불리는 이러한 투명성 부족으로 인해 오류가 공개되기 전에 이를 식별하고 수정하기가 어렵습니다.

추적성은 콘텐츠에 대한 결정이 투명하고 정당해야 하는 저널리즘과 같은 분야에서 특히 중요합니다. 블룸버그를 비롯한 미디어 기업들이 자사의 AI가 잘못된 요약을 생성하는 이유를 파악하지 못한다면 시스템적인 개선을 구현하기 어려울 것입니다. 결국 오류가 발생한 후에 사후 수정에만 의존하게 될 것입니다.

이러한 과제는 기업 및 학계 전문가들 사이에서도 중요한 문제로 지적되고 있습니다. 이는 주로 기술적인 문제이지만, 특정 적용 분야에서는 사회적 또는 법적 관점에서 문제가 될 수도 있습니다. 블룸버그의 경우, 독자의 신뢰 상실로 이어지거나 최악의 경우 부정확한 정보에 기반한 재정적 결정이 내려질 수 있습니다.

데이터 품질 및 범위에 대한 의존성

더욱이, AI 기반 애플리케이션은 데이터와 알고리즘의 품질에 크게 의존합니다. 사용되는 데이터의 규모와 복잡성을 고려할 때, 데이터나 알고리즘의 체계적인 오류는 종종 발견되지 않고 넘어갑니다. 이는 블룸버그를 비롯한 여러 기업들이 AI 시스템을 구현할 때 극복해야 할 또 다른 근본적인 과제입니다.

데이터 용량 문제, 즉 AI가 명령이나 프롬프트를 처리할 때 상대적으로 작은 "맥락 창"만 고려할 수 있다는 문제는 최근 몇 년 동안 상당히 줄어들었지만 여전히 해결해야 할 과제입니다. 구글의 AI 모델 "제미니 1.5 프로 1M"은 이미 70만 단어 또는 1시간 분량의 비디오를 처리할 수 있는데, 이는 현재 오픈AI의 최고 GPT 모델보다 7배 이상 많은 양입니다. 그럼에도 불구하고, 테스트 결과 인공지능은 데이터를 검색할 수는 있지만 데이터 내의 관계를 파악하는 데는 어려움을 겪는 것으로 나타났습니다.

이와 관련된 내용:

비용 절감과 효율성 최적화는 주요 경제 원칙이며, AI 위험과 적절한 AI 모델 선택이 중요한 과제입니다

해결책 및 향후 개발 방향

인간의 모니터링 및 편집 과정

블룸버그가 겪었던 문제에 대한 명백한 해결책 중 하나는 AI가 생성한 콘텐츠에 대한 인간의 감독을 강화하는 것입니다. 블룸버그는 이미 기자들이 AI가 생성한 요약 기사의 게재 여부를 완전히 결정할 수 있다고 강조해 왔습니다. 그러나 이러한 통제는 효과적으로 행사되어야 하며, 이는 편집자들이 AI 요약 기사를 게시하기 전에 충분한 검토 시간을 확보해야 함을 의미합니다.

인공지능이 생성한 콘텐츠를 검토하기 위한 강력한 편집 프로세스를 구현하는 것은 오류를 최소화하는 데 매우 중요합니다. 여기에는 모든 인공지능 요약본을 게시하기 전에 최소 한 명의 인간 편집자가 검토하도록 요구하거나 특정 유형의 정보(예: 데이터, 수치 또는 출처)를 특히 철저하게 검증하는 것이 포함될 수 있습니다. 이러한 프로세스는 업무량을 증가시켜 인공지능으로 얻을 수 있는 효율성 향상 효과를 일부 상쇄할 수 있지만, 정확성과 신뢰성을 유지하는 데 필수적입니다.

AI 모델에 대한 기술적 개선

인공지능 모델 자체의 지속적인 기술 개발은 현재 문제를 해결하는 또 다른 중요한 접근 방식입니다. GPT-4는 이전 버전인 GPT-3.5에 비해 환청이 크게 감소했습니다. 앤스로픽의 최신 모델인 "클로드 3 오푸스"는 초기 테스트에서 환청이 더욱 적은 것으로 나타났습니다. 음성 모델의 오류율은 머지않아 평균적인 인간의 오류율보다 낮아질 것입니다. 그러나 우리가 기존 컴퓨터에서 기대하는 것과는 달리, 인공지능 음성 모델은 가까운 미래에도 완전히 오류가 없을 가능성은 낮습니다.

유망한 기술적 접근 방식 중 하나는 "전문가 혼합 모델(Mixture of Experts)"입니다. 이 모델은 여러 개의 작고 전문화된 모델을 게이트 네트워크에 연결합니다. 시스템에 입력된 정보는 게이트에서 분석된 후, 필요한 경우 하나 이상의 전문가에게 전달됩니다. 마지막으로, 여러 전문가의 응답이 하나의 포괄적인 결과로 통합됩니다. 이러한 방식은 복잡한 전체 모델을 항상 활성화할 필요성을 없애줍니다. 이 아키텍처는 특정 유형의 정보나 영역에 특화된 모델을 활용함으로써 정확도를 향상시킬 수 있는 잠재력을 가지고 있습니다.

현실적인 기대와 투명한 소통

마지막으로, 인공지능 시스템에 대한 현실적인 기대를 갖고 그 기능과 한계에 대해 투명하게 소통하는 것이 중요합니다. 오늘날의 인공지능 시스템은 특정 응용 분야에 맞춰 설계되었으며, 결코 인간의 지능과 비교할 수 없습니다. 이러한 이해가 언론 분야를 비롯한 여러 분야에서 인공지능을 도입하는 데 지침이 되어야 합니다.

블룸버그를 비롯한 언론사들은 인공지능(AI) 활용에 대해 투명하게 소통하고, AI 생성 콘텐츠에 오류가 있을 수 있음을 명확히 밝혀야 합니다. 이를 위해서는 AI 생성 콘텐츠에 대한 명확한 라벨링, 투명한 오류 수정 절차, 그리고 사용된 기술의 한계에 대한 공개적인 소통이 필요합니다. 이러한 투명성은 오류가 발생하더라도 독자의 신뢰를 유지하는 데 도움이 될 수 있습니다.

인간 없이 AI를 저널리즘에 통합하는 것이 실패하는 이유는 무엇일까요?

블룸버그의 AI 기반 요약본 사용 경험은 인공지능을 저널리즘에 통합하는 데 따르는 복잡한 문제들을 잘 보여줍니다. 1월 이후 수정이 필요했던 최소 36건의 오류는, AI 기술이 잠재력에도 불구하고 아직 인간의 철저한 감독 없이는 신뢰할 수 있게 사용될 만큼 성숙하지 못했음을 시사합니다. 블룸버그가 직면한 문제는 블룸버그만의 문제가 아니라, AI가 만들어내는 오류, 투명성 부족, 고품질 데이터에 대한 의존성 등 근본적인 과제들을 반영하는 것입니다.

저널리즘에 인공지능(AI)을 성공적으로 통합하려면 여러 가지 접근 방식이 필요합니다. AI가 생성한 콘텐츠를 검토하는 견고한 편집 프로세스, AI 모델 자체의 지속적인 기술 개선, 그리고 사용되는 기술의 기능과 한계에 대한 투명한 소통이 그것입니다. 블룸버그의 경험은 유사한 AI 도입을 계획하는 다른 미디어 기업들에게 귀중한 교훈이 될 수 있습니다.

인공지능 기반 저널리즘의 미래는 저널리즘 기준을 훼손하지 않으면서 인공지능의 효율성 향상과 혁신적 역량을 얼마나 잘 활용하느냐에 달려 있습니다. 핵심은 기술을 인간 기자를 대체하는 도구가 아닌 지원하는 도구로 바라보는 균형 잡힌 접근 방식에 있습니다. 블룸버그의 존 미클스웨이트가 적절하게 지적했듯이, "인공지능이 생성한 요약은 그것이 기반으로 하는 기사만큼만 가치가 있습니다. 그리고 그러한 기사에 있어서는 여전히 사람이 중요합니다."

컨설팅, 기획, 실행, 프로젝트 관리 등 모든 서비스를 제공합니다