게시일: 2025년 4월 19일 / 업데이트일: 2025년 4월 19일 – 저자: Konrad Wolfenstein
AI 오픈소스 대안: Together AI는 상세한 웹 검색을 위한 오픈소스 도구 "Open Deep Research"를 공개했습니다. (이미지: Xpert.Digital)
체계적이고, 오픈소스이며, 강력한 Together AI는 심층 연구를 새로운 차원으로 끌어올립니다
Together AI는 OpenAI의 딥 리서치에 대한 오픈 소스 대안인 "Open Deep Research"를 소개합니다
2025년 4월 16일, Together AI는 OpenAI의 Deep Research를 대체할 수 있는 구조화된 웹 리서치 시스템인 오픈 소스 "Open Deep Research"를 출시했습니다. 이 도구는 다단계 웹 리서치를 통해 복잡한 질문에 대한 답을 찾고, 출처 기반의 종합 보고서를 생성할 수 있습니다. 독점 솔루션과 달리 Together AI는 커뮤니티 기반 개발을 장려하기 위해 전체 코드, 데이터 세트 및 시스템 아키텍처를 공개합니다.
적합:
오픈 딥 리서치의 아키텍처
Open Deep Research는 인간의 연구 과정을 모방한 4단계 워크플로를 사용합니다. 첫 번째 단계는 계획 단계로, AI 모델이 관련 검색어 목록을 생성합니다. 다음으로, Tavily 검색 API를 사용하여 웹에서 관련 콘텐츠를 수집합니다. 평가 모델은 남아 있는 지식 격차를 확인하고, 마지막으로 작성 모델이 최종 보고서를 생성합니다.
Together AI의 고유한 접근 방식은 워크플로 내의 다양한 작업을 위해 여러 전문 모델을 사용하는 것, 즉 "에이전트 혼합(Mixture-of-Agents, MoA)" 방식에 있습니다. 구현에 사용되는 AI 모델은 다음과 같습니다
- 계획 도구: 계획 및 추론 능력 향상을 위한 Alibaba의 Qwen2.5-72B-Instruct-Turbo
- 요약: Meta에서 제작한 Llama-3.3-70B-Instruct-Turbo는 긴 웹 콘텐츠를 요약하는 데 사용됩니다
- JSON 추출기: Meta의 Llama-3.1-70B-Instruct-Turbo를 사용하여 구조화된 정보를 추출합니다
- 보고서 작성 도구: DeepSeek-V3는 정보를 취합하고 고품질 연구 보고서를 생성하는 데 사용됩니다
긴 텍스트를 처리하기 위해 요약 모델은 내용을 간결하게 요약하고 관련성을 평가합니다. 이를 통해 언어 모델의 컨텍스트 창이 넘쳐나는 것을 방지합니다.
기술 스택 및 통합
해당 모델들은 Together AI의 독자적인 클라우드 플랫폼을 통해 제공됩니다. 웹 검색 및 콘텐츠 검색은 Tavily에서 처리하며, 특히 웹사이트 콘텐츠 검색과 검색 결과를 단일 API 호출로 모두 수행할 수 있다는 장점이 있습니다.
일반적인 요청 처리 시간은 요청의 복잡성과 평가 및 검토 횟수에 따라 2분에서 5분 사이입니다.
멀티모달 출력 및 확장 기능
Open Deep Research는 텍스트 출력에만 국한되지 않고 다양한 멀티모달 기능을 제공합니다
- HTML 출력: 결과는 텍스트와 시각적 요소를 결합한 구조화된 HTML 형식으로 표시됩니다
- 차트: Mermaid JS JavaScript 라이브러리를 통한 차트 자동 생성
- 표지 이미지: 블랙 포레스트 랩스의 플럭스 모델을 사용하여 주제에 맞는 이미지를 생성했습니다
- 팟캐스트 기능: Cartesia의 Sonic 음성 모델을 사용하여 보고서의 주요 내용을 요약한 간결한 오디오 팟캐스트를 자동으로 생성합니다
이러한 다중 모드 출력 형식은 연구된 정보를 더욱 포괄적이고 매력적으로 제시할 수 있도록 해줍니다.
성능 평가 및 벤치마킹
Together AI는 세 가지 인기 벤치마크를 사용하여 Open Deep Research의 성능을 평가했습니다
- 프레임: 다단계 논리적 추론 테스트
- SimpleQA: 사실적 지식 테스트
- HotPotQA: 여러 단계의 추론이 필요한 다중 홉 질문 평가
세 가지 벤치마크 모두에서 Open Deep Research는 검색 도구가 없는 기본 모델보다 훨씬 뛰어난 성능을 보였습니다. LangChain의 Open Deep Research(LDR) 및 Hugging Faces SmolAgents(SearchCodeAgent)와 같은 유사한 오픈 소스 시스템과 비교했을 때도 전반적으로 더 높은 응답 품질을 달성했습니다.
이번 평가에서 특히 중요한 결과는 여러 번의 연속적인 검색 단계를 거치면 답변의 질이 크게 향상된다는 점이었습니다. 단일 검색으로 제한했을 때는 정확도가 눈에 띄게 떨어졌습니다.
알려진 한계 및 과제
이러한 발전에도 불구하고 Together AI는 자사 시스템의 몇 가지 한계를 지적합니다
- 오류 전파: 워크플로 초기 단계의 오류는 전체 파이프라인을 통해 전파되어 최종 결과에 오류를 초래할 수 있습니다
- 환각: 환각은 자료를 해석할 때, 특히 모호하거나 모순된 정보가 있을 때 발생할 수 있습니다
- 구조적 편향: 훈련 데이터 또는 검색 인덱스의 편향은 결과에 영향을 미칠 수 있습니다
- 시의성: 높은 시의성이 요구되는 주제나 웹상에서의 보도량이 적은 주제는 특히 어려운 과제입니다
- 캐싱 문제: 캐싱을 구현하면 비용을 절감할 수 있지만, 적절한 만료 시간이 없으면 오래된 정보가 제공될 수 있습니다
이러한 한계는 현재 인공지능 연구 도구에서 흔히 나타나는 문제이며, 향후 개선을 위한 중요한 과제를 제시합니다.
적합:
Open Deep Research는 다른 서비스와 비교했을 때 어떤 장점을 가지고 있을까요?
심층 연구 기능 개발은 현재 AI 제공업체들 사이에서 유행하는 추세입니다. 오픈AI가 이 개념을 처음 도입했으며, 현재 구글, 그록, 퍼플렉시티도 유사한 기능을 제공하고 있습니다. 앤스로픽 또한 최근 클로드 모델에 에이전트 기반 연구 기능을 추가했습니다.
Hugging Face는 OpenAI 출시 직후 오픈 소스 대안을 제시했지만 더 이상 개발하지 않았습니다. AI 검색 엔진인 Perplexity는 ChatGPT의 심층 연구 기능을 무료로 대체할 수 있는 서비스를 제공하며, 사용자는 하루에 최대 5번의 "심층 연구" 검색을 수행할 수 있습니다.
OpenAI의 Deep Research(ChatGPT Pro 구독료 약 200달러에 포함됨)와 같은 폐쇄형 유료 시스템과는 달리, Together AI는 완전히 개방적이고 오픈 소스인 대안을 제공합니다.
커뮤니티 중심 및 확장성
Together AI는 Open Deep Research를 커뮤니티에서 확장 및 개선할 수 있는 개방형 플랫폼으로 의도적으로 설계했습니다. 이 아키텍처는 쉽게 확장할 수 있도록 설계되어 개발자는 자체 모델을 통합하거나, 데이터 소스를 조정하거나, 새로운 출력 형식을 추가할 수 있습니다.
전체 코드와 문서는 GitHub에 공개되었으며, 평가 데이터 세트와 자세한 설명은 회사 블로그에서 확인할 수 있습니다. Together AI는 자사 시스템을 오픈 소스 커뮤니티의 추가 실험 및 개선을 위한 기반으로 보고 있습니다.
이러한 개방성은 다른 대형 AI 기업들의 폐쇄적인 접근 방식과 대조를 이루며, Together AI가 오픈 소스 AI에 대해 더욱 폭넓게 헌신하고 있음을 보여줍니다. 이는 최근 o3-mini 수준의 오픈 소스 코딩 모델을 출시한 것과 같은 이전 프로젝트에서도 드러났는데, 이 모델은 폐쇄형 경쟁 모델보다 매개변수가 훨씬 적습니다.
인공지능 연구 분야에 미치는 중요성
Together AI가 Open Deep Research를 출시하면서 고급 AI 연구 도구의 대중화에 중요한 진전이 이루어졌습니다. 강력한 AI 모델, 체계적인 다단계 웹 검색, 그리고 다양한 출력 형식을 결합한 이 시스템은 독점 솔루션에 대한 유망한 대안을 제시합니다.
개방형 접근 방식은 개발자와 연구자들이 시스템을 필요에 맞게 조정, 확장 및 개선할 수 있도록 해줍니다. 장기적으로 이는 폐쇄형 시스템에서는 불가능했던 더욱 혁신적이고 다양한 응용 프로그램으로 이어질 수 있습니다.
환각, 편향, 시의성 등 해결해야 할 과제가 여전히 남아 있지만, Together AI의 오픈 딥 리서치는 강력한 AI 연구 도구가 특정 플랫폼에만 국한될 필요가 없음을 보여줍니다. 이 프로젝트는 첨단 AI 기술에 대한 개방적인 접근을 촉진할 뿐만 아니라, AI 기반 연구에 대한 신뢰를 구축하는 데 필수적인 요소인 투명성과 재현성에도 기여합니다.
적합:
AI 변환, AI 통합 및 AI 플랫폼 산업 전문가
✔️ 우리의 비즈니스 언어는 영어 또는 독일어입니다.
✔️ 새로운 기능: 자국어로 된 통신!
Konrad Wolfenstein
나는 귀하와 우리 팀에 개인 고문으로 봉사하게 되어 기쁘게 생각합니다.
문의 양식을 작성하여 연락하시거나 +49 89 89 674 804 (뮌헨) 로 전화해 주세요 . 내 이메일 주소는: Wolfenstein ∂ xpert.digital
나는 우리의 공동 프로젝트를 기대하고 있습니다.
