НОВИНКА! DeepSeek OCR – тихий тріумф Китаю: як штучний інтелект з відкритим кодом підриває домінування США у сфері чіпів

Як простий трюк може зменшити обчислювальні витрати на 90% – Ахіллесова п'ята ChatGPT: Чому нова технологія OCR переписує правила економіки штучного інтелекту

Довгий час світ штучного інтелекту, здавалося, підкорявся простому закону: чим більше, тим краще. Підживлювані мільярдами, вкладеними у гігантські центри обробки даних, технологічні гіганти, такі як OpenAI, Google та Anthropic, взялися за гонку озброєнь, щоб розробляти дедалі більші мовні моделі з дедалі ширшими контекстними вікнами. Але за цими вражаючими демонстраціями криється фундаментальна економічна слабкість: квадратичне масштабування. Кожне подвоєння довжини тексту, яку модель повинна обробляти, призводить до експоненціального зростання обчислювальних витрат, що робить незліченну кількість перспективних застосувань практично неекономічними.

Саме на цьому економічному бар'єрі зараз вступає в гру технологія, яка не лише являє собою покращення, а й пропонує фундаментальну альтернативу усталеній парадигмі: DeepSeek-OCR. Замість того, щоб розбивати текст на довгий ланцюжок токенів, ця система використовує радикально інший підхід: вона перетворює текст на зображення та обробляє інформацію візуально. Цей, здавалося б, простий трюк виявляється економічним руйнівником дамби, який трясе основи інфраструктури штучного інтелекту.

Завдяки інтелектуальному поєднанню візуального стиснення, яке скорочує кількість дороговартісних обчислювальних кроків у 10-20 разів, та високоефективної архітектури поєднання експертів (MoE), DeepSeek OCR обходить традиційну пастку витрат. Результатом є не лише значне підвищення ефективності, що робить обробку документів до 90% дешевшою, але й зміна парадигми з далекосяжними наслідками. У цій статті аналізується, як ця інновація не лише революціонізує ринок обробки документів, але й кидає виклик бізнес-моделям відомих постачальників штучного інтелекту, переосмислює стратегічну важливість переваги апаратного забезпечення та демократизує технологію в широких масштабах завдяки своєму підходу з відкритим вихідним кодом. Ми можемо бути на порозі нової ери, в якій архітектурний інтелект, а не груба обчислювальна потужність, диктуватиме правила економіки штучного інтелекту.

Підходить для цього:

• Забудьте про гігантів штучного інтелекту: Чому майбутнє маленьке, децентралізоване та набагато дешевше | Прорахунок на 57 мільярдів доларів – NVIDIA попереджає: Індустрія штучного інтелекту вклала не ту ставку

Чому DeepSeek OCR фундаментально кидає виклик усталеній інфраструктурі штучного інтелекту та пише нові правила економіки інформатики: Класичні обмеження контекстно-залежної обробки

Центральна проблема, з якою зіткнулися великі мовні моделі з моменту їхнього комерційного впровадження, полягає не в їхньому інтелекті, а в їхній математичній неефективності. Конструкція механізму уваги, яка є основою всіх сучасних архітектур трансформаторів, має фундаментальний недолік: складність обробки зростає квадратично зі збільшенням кількості вхідних токенів. Зокрема, це означає, що мовна модель з контекстом 4096 токенів вимагає в шістнадцять разів більше обчислювальних ресурсів, ніж модель з контекстом 1024 токенів. Це квадратичне масштабування є не просто технічною деталлю, а прямим економічним порогом, який розрізняє практично життєздатні та економічно нестійкі програми.

Протягом тривалого часу галузь реагувала на це обмеження класичною стратегією масштабування: більші вікна контексту досягалися шляхом розширення апаратних потужностей. Наприклад, Microsoft розробила LongRoPE, який розширює вікна контексту до понад двох мільйонів токенів, тоді як Gemini 1.5 від Google може обробляти один мільйон токенів. Однак практика чітко демонструє ілюзорний характер цього підходу: хоча технічні можливості обробки довших текстів зросли, впровадження цих технологій у виробничих середовищах застоювалося, оскільки структура витрат для таких сценаріїв просто залишається невигідною. Операційна реальність для центрів обробки даних та хмарних провайдерів полягає в тому, що вони стикаються з експоненціальним зростанням витрат на кожне подвоєння довжини контексту.

Ця економічна дилема стає геометрично прогресивною через вищезгадану квадратичну складність: модель, яка обробляє текст зі 100 000 токенів, вимагає не в десять, а в сто разів більше обчислювальних зусиль, ніж модель, яка обробляє 10 000 токенів. У промисловому середовищі, де пропускна здатність, що вимірюється в токенах за секунду на графічний процесор, є ключовим показником прибутковості, це означає, що довгі документи не можуть бути економічно оброблені за допомогою поточної парадигми токенізації.

Бізнес-модель більшості постачальників LLM побудована на монетизації цих токенів. OpenAI, Anthropic та інші відомі постачальники розраховують свої ціни на основі вхідних та вихідних токенів. Середній бізнес-документ зі ста сторінками може швидко перетворитися на п'ять-десять тисяч токенів. Якщо компанія щодня обробляє сотні таких документів, рахунок швидко накопичується до шести- або семизначних річних сум. Більшість корпоративних додатків у контексті RAG (Retrieval Augmented Generation) були обмежені цими витратами і тому або не були впроваджені, або перейшли на більш економічно ефективну альтернативу, таку як традиційні OCR або системи на основі правил.

Підходить для цього:

• Внутрішня платформа штучного інтелекту компанії як стратегічна інфраструктура та бізнес-необхідність

Механізм візуального стиснення

DeepSeek-OCR пропонує принципово інший підхід до цієї проблеми, який не працює в межах існуючої парадигми токенів, а буквально обходить її. Система функціонує за простим, але радикально ефективним принципом: замість того, щоб розкладати текст на окремі токени, текст спочатку відображається як зображення, а потім обробляється як візуальний носій. Це не просто технічна трансформація, а концептуальний редизайн самого процесу введення.

Основна схема складається з кількох послідовних рівнів обробки. Сторінка документа з високою роздільною здатністю спочатку перетворюється на зображення, зберігаючи всю візуальну інформацію, включаючи макет, графіку, таблиці та оригінальну типографіку. У цій графічній формі одна сторінка, наприклад, у форматі 1024×1024 пікселів, теоретично може бути еквівалентна тексту обсягом від тисячі до двадцяти тисяч токенів, оскільки сторінка з таблицями, багатоколонковими макетами та складною візуальною структурою може містити таку кількість інформації.

DeepEncoder, перший компонент обробки системи, використовує не класичний дизайн візуального трансформатора, а радше гібридну архітектуру. Модуль локального сприйняття, заснований на моделі Segment Anything, сканує зображення з віконною увагою. Це означає, що система працює не з усім зображенням, а з невеликими, перекриваючимися областями. Ця стратегія є критично важливою, оскільки вона дозволяє уникнути класичної пастки квадратичної складності. Замість того, щоб кожен піксель або візуальна ознака привертали увагу до всіх інших, система працює в межах локалізованих вікон, таких як області восьмого-восьмого або чотирнадцятого-чотирнадцятого пікселя.

Далі настає технічно революційна фаза: двошаровий згортковий даунсемплер зменшує кількість візуальних токенів у шістнадцять разів. Це означає, що початкові 4960 візуальних патч-токенів з локального модуля стискаються до лише 256 візуальних токенів. Це стиснення напрочуд ефективних пропорцій, але справді важливим є те, що це стиснення відбувається до застосування дорогих механізмів глобальної уваги. Даунсемплер являє собою точку інверсії, де економічно ефективна локальна обробка перетворюється на надзвичайно стиснене представлення, до якого потім застосовується дорожча, але тепер можлива, глобальна увага.

Після такого стиснення модель розміру CLIP, яка сама має триста мільйонів параметрів, оперує лише з двомастами п'ятдесятьма токенами. Це означає, що глобальній матриці уваги потрібно виконати лише чотири тисячі шістсот тридцять п'ять парних операцій уваги замість шістнадцяти тисяч дев'яноста чотирьох. Це зменшення в двісті п'ятдесят разів лише на цьому етапі обробки.

Результатом такого архітектурного поділу є наскрізне стиснення від 10:1 до 20:1, що практично досягає точності 97%, за умови, що стиснення не перевищує 10:1. Навіть при більш екстремальному стисненні 20:1 точність падає лише до приблизно 60%, що є прийнятним для багатьох застосувань, особливо в контексті навчальних даних.

Шар оптимізації суміші експертів

Другим критичним аспектом DeepSeek OCR є його архітектура декодування. Система використовує DeepSeek-3B-MoE, модель із трьома мільярдами параметрів загалом, але лише 570 мільйонами активних параметрів на висновок. Це не був випадковий вибір дизайну, а радше відповідь на проблеми контекстного вікна та вартості.

Моделі зі змішаними експертами працюють за принципом динамічного відбору експертів. Замість обробки кожного токена через усі параметри моделі, кожен токен передається невеликій підмножині експертів. Це означає, що на кожному кроці декодування активується лише частина загальної кількості параметрів. В DeepSeek OCR це зазвичай шість із шістдесяти чотирьох експертів, плюс два спільних експерта, активних для всіх токенів. Така розріджена активація дозволяє реалізувати явище, відоме в економіці як сублінійне масштабування: обчислювальні витрати зростають не пропорційно розміру моделі, а набагато повільніше.

Економічні наслідки цієї архітектури є глибокими. Модель щільного трансформатора з трьома мільярдами параметрів активувала б усі три мільярди параметрів для кожного токена. Це призводить до величезного навантаження на пропускну здатність пам'яті та обчислювального навантаження. Однак модель MoE з тими ж трьома мільярдами параметрів активує лише 570 мільйонів на токен, що приблизно становить одну п'яту від експлуатаційних витрат з точки зору часу обчислення. Це не означає, що страждає якість, оскільки потужність моделі не зменшується різноманітністю експертів, а радше вибірково мобілізується.

У промисловому розгортанні ця архітектура радикально змінює структуру вартості послуг. Великий центр обробки даних, що використовує DeepSeek-V3 з архітектурою MoE, може досягти в чотири-п'ять разів більшої пропускної здатності на тій самій апаратній інфраструктурі порівняно з щільною моделлю еквівалентної якості. Це означає, що на одному графічному процесорі A100 оптичне стиснення в поєднанні з архітектурою MoE дозволяє обробляти приблизно дев'яносто мільярдів токенів чистих текстових даних на день. Це величезна пропускна здатність, раніше недосяжна в цьому секторі.

Скористайтеся перевагами великого, п'ятикратного досвіду Xpert.Digital у комплексному пакеті послуг | Дослідження та розробки, XR, PR та оптимізація цифрової видимості - Зображення: Xpert.Digital

Xpert.digital має глибокі знання в різних галузях. Це дозволяє нам розробити кравці, розроблені стратегії, пристосовані до вимог та проблем вашого конкретного сегменту ринку. Постійно аналізуючи тенденції на ринку та здійснюючи розвиток галузі, ми можемо діяти з передбаченням та пропонувати інноваційні рішення. З поєднанням досвіду та знань ми створюємо додаткову цінність та надаємо своїм клієнтам вирішальну конкурентну перевагу.

Детальніше про це тут:

• Використовуйте 5 -разову компетентність xpert.digital в одній упаковці - від 500 € на місяць

Економічна трансформація ринку обробки документів

Наслідки цього технологічного прориву для всього ринку обробки документів є значними. Традиційний ринок оптичного розпізнавання символів (OCR), на якому довгий час домінували такі компанії, як ABBYY, Tesseract та власні рішення, історично фрагментувався залежно від складності, точності та пропускної здатності документів. Стандартизовані рішення OCR зазвичай досягають точності від 90 до 95 відсотків для гладких цифрових документів, але падають до 50 відсотків або нижче для сканованих документів з рукописними анотаціями або застарілою інформацією.

DeepSeek OCR значно перевершує ці показники точності, але також досягає чогось, чого не міг забезпечити традиційний OCR: він не просто обробляє текст, а зберігає розуміння макета, структури таблиці, форматування та навіть семантики. Це означає, що фінансовий звіт не просто витягується як текстовий рядок, а зберігається структура таблиці та математичні зв'язки між клітинками. Це відкриває шлях до автоматизованої перевірки даних, яку не міг забезпечити традиційний OCR.

Економічний ефект особливо помітний у великих обсягах оброблюваних даних. Компанія, яка щодня обробляє тисячі рахунків-фактур, зазвичай платить від сорока центів до двох доларів за документ за традиційне вилучення даних на основі документів, залежно від складності та рівня автоматизації. Завдяки DeepSeek OCR ці витрати можуть знизитися до менш ніж десяти центів за документ, оскільки оптичне стиснення робить весь процес виведення даних настільки ефективним. Це означає зниження витрат на сімдесят-дев'яносто відсотків.

Це має ще більш разючий вплив на системи RAG (Retrieval Augmented Generation – доповнене покоління пошуку), де компанії отримують зовнішні документи в режимі реального часу та передають їх до мовних моделей для генерації точних відповідей. Компанія, яка має агента служби підтримки клієнтів з доступом до бази даних документів на сотні мільйонів слів, традиційно повинна була б токенізувати одне або кілька з цих слів та передавати їх до моделі з кожним запитом. За допомогою DeepSeek OCR цю ж інформацію можна попередньо стиснути як стиснуті візуальні токени та повторно використовувати з кожним запитом. Це усуває масивні надлишкові обчислення, які раніше виникали з кожним запитом.

Дослідження показують конкретні цифри: компанія, яка хоче автоматично аналізувати юридичні документи, може очікувати витрат у розмірі ста доларів за кожен аналізований випадок за допомогою традиційної обробки текстів. Завдяки візуальному стисненню ці витрати падають до дванадцяти-п'ятнадцяти доларів за випадок. Для великих компаній, які щодня обробляють сотні справ, це означає щорічну економію в десятки мільйонів.

Підходить для цього:

• «Німецький страх» – чи є німецька інноваційна культура відсталою, чи «обережність» сама по собі є формою сталого розвитку?

Суперечність парадоксу ефективності токенів

Цікавим економічним аспектом, що виникає внаслідок таких розробок, як DeepSeek OCR, є так званий парадокс ефективності токенів. На перший погляд, зниження витрат завдяки підвищенню ефективності мало б призвести до зниження загальних витрат. Однак емпірична реальність показує протилежну закономірність. Хоча вартість одного токена за останні три роки знизилася в тисячу разів, компанії часто повідомляють про зростання загальних рахунків. Це пов'язано з явищем, яке економісти називають парадоксом Джевонса: зниження витрат призводить не до пропорційного зменшення використання, а до вибухового зростання використання, що зрештою призводить до зростання загальних витрат.

У контексті DeepSeek OCR може спостерігатися протилежне явище: компанії, які раніше мінімізували використання мовних моделей для обробки документів через непомірні витрати, тепер масштабуватимуть ці програми, оскільки вони раптово стають економічно вигідними. Як не парадоксально, це означає, що хоча вартість однієї програми зменшується, загальні витрати на штучний інтелект у компанії можуть зрости, оскільки раніше непридатні для використання випадки використання тепер стають можливими.

Це не є негативним явищем, а радше відображає економічну раціональність компаній: вони інвестують у технології доти, доки граничні вигоди перевищують граничні витрати. Доки витрати є непомірно високими, технологія не буде впроваджена. Коли вона стане доступнішою, її впроваджуватимуть масово. Це нормальний процес впровадження технологій.

Наслідки для економіки інфраструктури графічних процесорів

Ще один критичний момент стосується інфраструктури графічних процесорів, необхідної для розгортання цих систем. Оптичне стиснення та архітектура зі змішаним експертним складом означають, що необхідна апаратна потужність на одиницю пропускної здатності різко зменшується. Центр обробки даних, якому раніше потрібно було 40 000 графічних процесорів H100 для досягнення заданої пропускної здатності, міг би досягти цього за допомогою 10 000 або менше систем виведення на основі оптичного розпізнавання символів DeepSeek.

Це має геополітичні та стратегічні наслідки, що виходять за рамки чистих технологій. Китай, зіткнувшись з обмеженнями експорту передових напівпровідників, розробив систему за допомогою DeepSeek, яка працює ефективніше з доступним обладнанням. Це не означає, що обмеження обладнання стають неважливими, але вони роблять їх менш виснажливими. Китайський центр обробки даних з 5000 дворічними графічними процесорами Nvidia A100 може завдяки архітектурі DeepSeek OCR та MoE забезпечити пропускну здатність, яка раніше вимагала б 10 000 або 15 000 новіших графічних процесорів.

Це зміщує стратегічний баланс в економіці інфраструктури штучного інтелекту. Сполучені Штати та їхні союзники вже давно зберігають своє домінування в розробці штучного інтелекту, маючи доступ до найновіших та найпотужніших чіпів. Нові методи підвищення ефективності, такі як оптичне стиснення, підірве це домінування, дозволивши ефективніше використовувати старе обладнання.

Трансформація бізнес-моделі постачальників послуг зі штучним інтелектом

Такі визнані постачальники LLM, як OpenAI, Google та Anthropic, зараз стикаються з проблемою, яка підриває їхні бізнес-моделі. Вони значно інвестували в обладнання для навчання та розгортання великих, щільних моделей. Ці моделі є цінними та забезпечують реальну цінність. Однак такі системи, як DeepSeek OCR, ставлять під сумнів прибутковість цих інвестицій. Якщо компанія з меншим капітальним бюджетом може досягти ефективніших моделей за допомогою різних архітектурних підходів, стратегічна перевага більших, капіталомістких систем зменшується.

OpenAI довго компенсував це швидкістю: раніше у них були кращі моделі. Це давало їм майже монопольні прибутки, дозволяючи виправдати подальші інвестиції. Однак, оскільки інші постачальники наздогнали та перевершили їх за деякими показниками, відомі гравці втратили цю перевагу. Частки ринку стали більш фрагментованими, а середня рентабельність на токен впала під тиск.

Освітня інфраструктура та демократизація технологій

Часто недооціненим аспектом таких систем, як DeepSeek-OCR, є їхня роль у демократизації технологій. Система була випущена з відкритим вихідним кодом, з ваговими коефіцієнтами моделей, доступними на Hugging Face, та навчальним кодом на GitHub. Це означає, що будь-хто з одним високопродуктивним графічним процесором або навіть доступом до хмарних обчислень може використовувати, розуміти та навіть налаштовувати систему.

Експеримент з Unsloth показав, що оптичне розпізнавання символів DeepSeek, точно налаштоване на перський текст, покращило рівень помилок символів на 88 відсотків, використовуючи лише 60 кроків навчання на одному графічному процесорі. Це не є суттєвим, оскільки перське розпізнавання символів є проблемою масового ринку, а тому, що це демонструє, що інновації в інфраструктурі штучного інтелекту більше не належать мільярдним компаніям. Невелика група дослідників або стартап могли б адаптувати модель до своїх конкретних потреб.

Це має величезні економічні наслідки. Країни, яким бракує ресурсів для інвестування мільярдів у розробку власного штучного інтелекту, тепер можуть використовувати системи з відкритим кодом та адаптувати їх до власних потреб. Це зменшує розрив у технологічних можливостях між великими та малими економіками.

Вплив граничних витрат та майбутнє цінової стратегії

У класичній економіці ціни в довгостроковій перспективі спрямовуються до граничних витрат, особливо за наявності конкуренції та можливого виходу нових учасників на ринок. Індустрія LLM вже демонструє цю закономірність, хоча й із затримкою. Гранична вартість логічного висновку токенів у встановлених моделях зазвичай становить від однієї до двох десятих цента за мільйон токенів. Однак ціни зазвичай коливаються від двох до десяти центів за мільйон токенів, що являє собою значну норму прибутку.

DeepSeek OCR може прискорити цю динаміку. Якщо граничні витрати різко знизяться через оптичне стиснення, конкуренти будуть змушені скоригувати свої ціни. Це може призвести до прискореного зниження норми прибутку, що зрештою призведе до споживчого сценарію, коли вивід токенів стане квазібезкоштовною або недорогою послугою, подібно до хмарного сховища.

Такий розвиток подій лякає відомих постачальників, але є вигідним для нових або орієнтованих на ефективність постачальників. Він спровокує масову консолідацію або перепозиціонування в галузі. Компанії, які покладаються виключно на масштаб та розмір моделі, матимуть труднощі. Компанії, що зосереджені на ефективності, конкретних випадках використання та інтеграції клієнтів, стануть сильнішими в довгостроковій перспективі.

Підходить для цього:

• Суверенітет ШІ для компаній: чи це перевага Європи у сфері ШІ? Як суперечливий закон стає можливістю в умовах глобальної конкуренції.

Зміна парадигми на економічному рівні

Розпізнавання символів DeepSeek OCR та інновації в галузі оптичного стиснення, що лежать в його основі, являють собою більше, ніж просто технічне вдосконалення. Вони знаменують собою зміну парадигми в тому, як індустрія штучного інтелекту мислить, інвестує та впроваджує інновації. Перехід від чистого масштабування до інтелектуального дизайну, впровадження архітектур MoE та розуміння того, що візуальне кодування може бути ефективнішим, ніж кодування токенів, є ознаками того, що галузь розглядає можливість дозрівання своїх технічних меж.

З економічної точки зору це означає масштабну зміну структури витрат, перерозподіл конкурентних позицій між усталеними та новими гравцями, а також фундаментальний перерахунок прибутковості різних застосувань штучного інтелекту. Компанії, які розуміють ці зміни та швидко адаптуються, отримають значні стратегічні переваги. Компанії, які ігнорують ці зміни та чіпляються за усталені підходи, втратять конкурентоспроможність.

☑ Наша ділова мова - англійська чи німецька

☑ Нове: листування на вашій національній мові!

Konrad Wolfenstein

Я радий бути доступним вам та моїй команді як особистого консультанта.

Ви можете зв’язатися зі мною, заповнивши тут контактну форму або просто зателефонуйте мені за номером +49 89 674 804 (Мюнхен) . Моя електронна адреса: Вольфенштейн ∂ xpert.digital

Я з нетерпінням чекаю нашого спільного проекту.

☑ Підтримка МСП у стратегії, порадах, плануванні та впровадженні

☑ Створення або перестановка цифрової стратегії та оцифрування

☑ Розширення та оптимізація міжнародних процесів продажів

☑ Глобальні та цифрові торгові платформи B2B

☑ Піонерський розвиток бізнесу / маркетинг / PR / Мір

Наша глобальна галузева та бізнес-експертиза в розвитку бізнесу, продажах та маркетингу - Зображення: Xpert.Digital

Галузевий фокус: B2B, цифровізація (від штучного інтелекту до XR), машинобудування, логістика, відновлювані джерела енергії та промисловість

Детальніше про це тут:

• Бізнес-центр Xpert

Тематичний центр з аналітичними матеріалами та експертними знаннями:

• Платформа знань про світову та регіональну економіку, інновації та галузеві тенденції
• Збір аналізів, імпульсів та довідкової інформації з наших пріоритетних напрямків
• Місце для експертів та інформації про поточні розробки в бізнесі та технологіях
• Тематичний центр для компаній, які хочуть дізнатися про ринки, цифровізацію та галузеві інновації