Заблуждение об интеллекте: почему современные модели ИИ не умнее домашней кошки

Показательное исследование Apple: почему искусственный интеллект не справляется с простой логикой

Потенциал в 440 миллиардов или ловушка издержек? Где ИИ действительно создает ценность, а где нет

Искусственный интеллект провозглашается технологической революцией нашего времени – спасителем, обещающим компаниям колоссальный рост производительности и миллиардные прибыли. Но любой, кто заглянет за кулисы алгоритмов, столкнется с поразительным парадоксом: те же самые языковые модели, которые обрабатывают тысячелетия знаний за миллисекунды, с треском проваливаются в простых логических выводах, которые легко может понять любой ученик начальной школы. Научные исследования таких технологических гигантов, как Apple, и известных университетов все чаще демонстрируют, что современным системам ИИ не хватает подлинного понимания мира. Они блестяще распознают сложные образы, но плохо мыслят. Это создает опасное противоречие для бизнеса и общества. Там, где ИИ используется стратегически как инструмент для обработки огромных массивов данных, он обладает огромным потенциалом. Однако слепое полагание на его предполагаемый интеллект при принятии сложных стратегических решений чревато дорогостоящими иллюзиями и серьезными юридическими последствиями. Пришло время трезвой оценки: что на самом деле может делать умная машина – и где ее слепые пятна?

Умная машина и её слепые зоны

Почему ИИ наводняет мир данными, но не справляется с мыслительными процессами

Любой, кто ежедневно работает с искусственным интеллектом, быстро замечает фундаментальный парадокс: та же самая технология, которая обрабатывает миллионы точек данных за секунды и кажется простой в использовании, не справляется с логическими выводами, которые школьник мог бы решить за несколько минут. Это наблюдение не является единичным случаем, а структурной характеристикой современных систем ИИ, подтвержденной все большим числом научных исследований. Экономические последствия этого несоответствия значительны: оно определяет, где ИИ действительно создает ценность, а где становится дорогостоящим разочарованием.

Гигантская вычислительная машина – триумф в обработке огромных объемов данных

Если мы сначала рассмотрим, на что действительно способен ИИ, то изумление, которое вызвала эта технология, станет понятным. Большие языковые модели (LLM) были обучены на текстах, на прочтение которых, по оценкам Нухи Дзири из Института ИИ имени Аллена, человеку потребовалось бы около 20 000 лет. Это не метафора, а показатель огромной способности к статистической обработке образов, лежащей в основе современных систем ИИ.

Эта возможность открывает огромные экономические перспективы. Исследование «Цифровой фактор», проведенное IW Consult и Implement Consulting Group по заказу Google, оценивает общий экономический потенциал генеративного ИИ для Германии примерно в 440 миллиардов евро дополнительной валовой добавленной стоимости к 2034 году. Из этой суммы 330 миллиардов евро приходится на повышение производительности за счет более эффективных процессов, а еще 110 миллиардов евро — на новые инновации, например, за счет ускорения циклов исследований и разработок, которые, согласно исследованию, могут стать на 10–15 процентов эффективнее. Эти цифры отражают то, в чем ИИ действительно преуспевает: молниеносный поиск, сортировка, сжатие и рекомбинация структурированных и неструктурированных наборов данных.

Экономическое обоснование этого утверждения о производительности кроется в аналитических возможностях современных систем искусственного интеллекта в режиме реального времени. Анализ больших данных, дополненный обработкой на основе ИИ, теперь позволяет компаниям распознавать закономерности в разнородных наборах данных из социальных сетей, сенсорных сетей, финансовых транзакций и данных цепочки поставок — одновременно и за миллисекунды. Немецкий экономический институт (IW Cologne) подчеркивает, что цифровизация открывает потенциал во многих секторах экономики, которые просто оставались бы недоступными без ИИ. Для компаний это означает, что ИИ как инфраструктура обработки данных уже сейчас явно оправдан с точки зрения бизнеса.

Крайне важно точно понимать это преимущество. Искусственный интеллект — это высокоразвитый статистический распознаватель образов. Он выявляет корреляции между словами, предложениями и понятиями на основе вероятностей, а не на основе понимания. Если система ИИ «знает», что «король» и «королева» имеют такое же отношение, как «мужчина» и «женщина», то это не потому, что она понимает монархию или гендер, а потому, что это векторное отношение постоянно встречается в обучающих данных. Это закономерность, а не принцип. И именно в этом заключается ограничение.

Заблуждение об интеллекте – чем распознавание образов не является

В публичных дебатах об ИИ сохраняется распространенное заблуждение: распознавание образов приравнивается к мышлению, а статистическая ассоциация — к причинно-следственному анализу. Это заблуждение не является тривиальным — оно является источником завышенных ожиданий в советах директоров, завышенных цен на проекты в области ИИ и разочарования пользователей.

Принципиальное различие между человеческим мышлением и машинной обработкой можно проиллюстрировать на примере простого силлогизма. Если человек читает предложение: «Все млекопитающие — теплокровные. Киты — млекопитающие. Следовательно, киты — теплокровные», он делает этот вывод, потому что понимает логическую связь между посылками — даже в силлогизме, с которым он никогда раньше не сталкивался. Нейронная сеть может прийти к тому же ответу, потому что она статистически научилась на основе своих обучающих данных, что «киты» часто ассоциируются с термином «теплокровные». Это звучит как тот же результат. Однако это принципиально другой процесс, и эта основа становится хрупкой, как только мы отклоняемся от привычного.

Философ Джон Сёрл метко описал эту проблему в 1980-х годах с помощью мысленного эксперимента «Китайская комната»: человек сидит в комнате, следует правилам манипулирования символами, которые он не понимает, и выдает ответы, которые со стороны кажутся ответами человека, свободно владеющего китайским языком. Комната не понимает китайского — она имитирует понимание. Именно это и делают современные LLM-системы: они манипулируют символами в соответствии со статистическими вероятностями, не понимая их скрытого смысла. Сегодняшний эксперт по ИИ, Майкл Бэггот, профессор биоэтики в Папском Афинеуме королевы Апостолом в Риме, резко выражает это с философской точки зрения: существует принципиальное различие между статистическим распознаванием образов машиной и человеческим разумом, который способен постичь метафизический принцип причины и следствия как таковой.

Ян ЛеКун, главный научный сотрудник Meta по искусственному интеллекту, и Демис Хассабис, генеральный директор Google DeepMind, несмотря на конкуренцию в отрасли, делятся важной оценкой: современные системы ИИ даже не обладают базовыми когнитивными способностями домашней кошки, когда речь идёт о гибком, контекстно-ориентированном мышлении. Эта оценка может показаться провокационной, но она затрагивает суть проблемы: кошка может распознавать причинно-следственные связи в новой среде и соответствующим образом корректировать своё поведение. Модель большой жизни (LLM) не может делать это надёжно, потому что у неё нет модели мира, а она лишь воспроизводит закономерности из прошлых данных.

Крах под натиском сложности – научные доказательства против рассуждений искусственного интеллекта

В последнее время научные исследования все чаще указывают на ограничения в рассуждениях, присущих искусственному интеллекту. Полученные результаты согласуются между собой и должны учитываться при любой экономической оценке инвестиций в ИИ.

Исследование Apple так называемых «больших моделей рассуждений» (LRM) — моделей, часто хвалимых за их предполагаемые способности к рассуждению, — выявило отрезвляющую закономерность: по мере увеличения сложности задачи точность этих систем полностью снижается. Исследователи выделили три режима производительности. При низкой сложности LRM превосходят даже более простые стандартные языковые модели, хотя и менее эффективны. При средней сложности LRM демонстрируют небольшое преимущество. При высокой сложности оба типа систем полностью терпят неудачу. Кроме того, Apple обнаружила нелогичный предел масштабирования: вычислительные затраты моделей, измеряемые количеством потребляемых токенов, увеличиваются с увеличением сложности задачи до определенного момента, а затем уменьшаются, даже при наличии большего количества вычислительных ресурсов. Это указывает на фундаментальное архитектурное ограничение, а не просто на недостаток вычислительных мощностей.

Исследование, проведенное в Университете штата Аризона, пошло еще дальше, изучив так называемое рассуждение по принципу цепочки мыслей (CoT) — метод, при котором моделям ИИ дается указание обдумывать каждый шаг перед тем, как дать ответ. Результат: то, что кажется разумным рассуждением, оказывается хрупкой иллюзией. Подсказки по принципу цепочки мыслей работают надежно только до тех пор, пока тестовые данные структурно похожи на обучающие данные. Как только вступают в игру новые типы задач, изменяется длина цепочек аргументов или модифицируются форматы подсказок, предполагаемая когнитивная эффективность рушится. Системы блестяще воспроизводят известные структуры, но оказываются бессильны перед лицом действительно новых задач.

Исследование Apple GSM Symbolic, посвященное математическим рассуждениям, предоставляет дополнительные конкретные доказательства. Были протестированы восемь современных моделей, включая GPT-4o, Gemini, Llama и варианты o1 от OpenAI. Результат: все модели продемонстрировали ошибки в пространственном мышлении, стратегическом планировании и арифметике. Особенно поразительным был тот факт, что некоторые модели выдавали правильные ответы, но обосновывали их ошибочной логикой. Это особенно проблематично с экономической точки зрения: ответ кажется правильным, но метод, использованный для его получения, — нет, и в следующей, слегка измененной ситуации система рушится. К распространенным ошибкам относятся необоснованные предположения, чрезмерная зависимость от числовых закономерностей и трудности с переводом физического понимания в математические шаги.

Анализ с использованием Корпуса абстракции и рассуждений (ARC), стандартизированного теста на подвижный интеллект, выявляет поразительный разрыв между человеческим и машинным познанием: люди в среднем правильно решают 60 процентов задач ARC. Модели OpenAI в первой версии теста достигли лишь пяти процентов. В сложных задачах планирования, таких как складывание блоков, модели ИИ почти полностью терпят неудачу после более чем 20 шагов. Головоломка «Зебра» — классическая логическая головоломка — была правильно решена GPT-4 только в десяти процентах случаев с четырьмя домами. С пятью домами и пятью атрибутами процент успеха составил ноль процентов.

Результаты, касающиеся композиционности, особенно показательны: хотя большие языковые модели понимают функциональность отдельных операций, им крайне сложно осмысленно комбинировать эти операции для решения сложных задач. Они склонны многократно применять одни и те же операции вместо того, чтобы находить правильную комбинацию. В этом и заключается суть их недостаточной комбинаторной способности: система может использовать строительные блоки, но не может творчески и адекватно комбинировать их в зависимости от ситуации. К этому добавляется недостаточная продуктивность в логическом смысле — то есть неспособность самостоятельно генерировать новые, допустимые примеры на основе абстрактных правил. Короче говоря: ИИ может воспроизвести увиденное, но не может по-настоящему вывести из этого то, что должно следовать.

Практически внутреннее решение: как Xpert.Digital устраняет операционные пробелы в B2B-маркетинге и продажах – Умный бизнес, основанный на контенте - Изображение: Xpert.Digital

Xpert.Digital — это ориентированный на данные B2B-индустрионный центр, возглавляемый Konrad Wolfenstein . Компания выступает в качестве внешнего, частично внутреннего решения для отраслевых партнеров, устраняя операционные пробелы в маркетинге, контенте и продажах — без необходимости привлечения дополнительных ресурсов со стороны клиента.

Более подробная информация здесь:

• Практически внутреннее решение: как Xpert.Digital устраняет операционные пробелы в B2B-маркетинге и продажах – Smart Content-Driven Business

Галлюцинации как системная ошибка – экономический риск ложной уверенности

Научные ограничения одних лишь рассуждений имели бы значительные практические последствия. Но существует также явление, которое до сих пор недооценивается при экономической оценке систем ИИ: галлюцинация. Модели ИИ выдают фактически неверную информацию с высокой лингвистической убедительностью, и делают это без каких-либо заметных предупреждающих сигналов.

Анализ, проведенный NewsGuard в 2025 году, показал, что более трети — 35 процентов — ответов ведущих инструментов генеративного ИИ содержали ложные утверждения. Масштабное исследование агентства maxonline охватило 150 средних компаний из 11 отраслей в регионе DACH (Германия, Австрия и Швейцария). Результат: ChatGPT предоставил полностью точную информацию о компании только в трех процентах из более чем 450 стандартизированных запросов. В 45 процентах запросов ИИ сфабриковал ложные факты, а еще в 37 процентах вообще отказался предоставить какую-либо информацию. Особую тревогу вызывает тот факт, что в 96 процентах случаев, когда ИИ упоминал имена руководителей, они были полностью вымышленными.

Экономические последствия уже измеримы и принимают конкретные формы. Amazon пришлось прекратить использование инструмента подбора персонала на основе ИИ после того, как он систематически дискриминировал женщин. Zillow потеряла более 500 миллионов долларов из-за неисправных алгоритмов оценки на основе ИИ. Deloitte Australia представила правительству отчет, за который заплатила около 440 000 австралийских долларов, содержащий галлюцинаторные сведения. Два немецких суда — окружной суд Кёльна и региональный суд Франкфурта-на-Майне — уже в 2025 году рассматривали дела, в которых юристы ссылались в своих юридических документах на галлюцинаторные решения Федерального суда Германии (BGH), которых на самом деле не существовало.

Отчет Dataiku «Глобальные признания об ИИ», основанный на опросе более 100 руководителей отделов данных в крупных немецких компаниях, рисует тревожную картину того, как управляются эти риски. 76 процентов немецких руководителей отделов данных сообщили о возникновении в прошлом году проблем в бизнесе из-за галлюцинаций, вызванных ИИ, — это рекордный показатель в мире. В то же время 53 процента немецких компаний терпят системы ИИ, которые ошибаются более чем в 20 процентах критически важных для бизнеса решений. И 82 процента немецких руководителей отделов данных заявили, что их высшее руководство недооценивает время и усилия, необходимые для подготовки систем ИИ к эксплуатации. Эти цифры указывают на системный пробел в управлении, который несет в себе значительные экономические риски.

Основная проблема галлюцинаций носит структурный характер: модели ИИ вычисляют на основе вероятностей, какое слово или утверждение статистически следует за предыдущим – без подлинного понимания мира. Если обучающие данные неполны или искажены, возникают ошибки, которые кажутся логичными, но не соответствуют реальности. И эти ошибки преподносятся с той же лингвистической убедительностью, что и правильная информация. Растущий объем контента, созданного ИИ в интернете, создает самоподдерживающиеся циклы: галлюцинации циркулируют, множатся и подпитывают новые обучающие данные, что в долгосрочной перспективе грозит усугубить проблемы с качеством.

Архитектура как судьба – почему проблему нельзя просто решить оптимизацией

Распространенное заблуждение в технологических дискуссиях заключается в том, что описанные недостатки являются временными проблемами, которые можно преодолеть за счет увеличения вычислительной мощности, более крупных моделей или более качественных обучающих данных. Научные данные это опровергают.

Основная проблема кроется в самой архитектуре. LLM-модели на основе трансформеров — доминирующая парадигма современной волны ИИ — оптимизированы для прогнозирования следующего токена на основе статистических закономерностей из обучающих данных. Эта архитектура чрезвычайно эффективна именно для того, для чего она была разработана: обработки и генерации естественного языка на основе известных закономерностей. Однако она не предназначена для истинного логического рассуждения, причинно-аналитического мышления или обобщения правил на действительно новые ситуации.

В своей более поздней работе «Компьютер и мозг» Джон фон Нейман утверждал, что человеческий мозг — в отличие от архитектур фон Неймана — не основан на арифметической точности. Биологические системы гибко выполняют задачи, для решения которых моделям ИИ требуются огромные вычислительные мощности, — и даже в этом случае они часто терпят неудачу. Поэтому вопрос о том, заключается ли будущее ИИ в простом масштабировании существующих методов или в принципиально ином подходе, остается открытым и имеет стратегическое значение с экономической точки зрения.

Недавние исследования логического мышления в моделях с линейной логикой подтверждают, что, несмотря на впечатляющий прогресс, достигнутый такими моделями, как OpenAI o3 или DeepSeek-R1, способность к строгой логической аргументации остается открытым вопросом. В этих обзорах подчеркивается необходимость дальнейшего изучения нейросимволических подходов, обучения с подкреплением и настройки на основе данных — подходов, которые выходят далеко за рамки простого масштабирования существующих моделей. Однако, если не произойдет смена парадигмы в фундаментальной архитектуре ИИ, описанные когнитивные ограничения, вероятно, останутся структурно неизменными.

Экономические последствия — где ИИ создает ценность, а где он влечет за собой издержки

Научный анализ приводит к четкому экономическому выводу: ИИ — это не универсальный инструмент мышления, а узкоспециализированный инструмент обработки информации. Это различие имеет прямые последствия для инвестиционных решений, сценариев применения и управления рисками.

Искусственный интеллект, как показывает практика, создает ценность в областях применения, которые в первую очередь зависят от объема данных, скорости и распознавания образов. К ним относятся автоматизированный анализ договорных текстов на предмет стандартных положений, контроль качества в производстве с использованием систем распознавания изображений, сегментация клиентов на основе поведенческих данных, оценка данных датчиков в режиме реального времени в логистике и оптимизация цепочек поставок в соответствии с заданными параметрами. Во всех этих областях ИИ заменяет или дополняет человеческие возможности в выполнении повторяющихся, ресурсоемких задач, требующих обработки больших объемов данных, что приводит к значительному повышению эффективности.

Использование ИИ становится экономически рискованным везде, где требуется сложное, многоуровневое мышление, причинно-следственный анализ, творческое решение проблем или обобщение на действительно новые ситуации. Хотя системы ИИ могут поддерживать стратегические решения, юридические оценки, медицинские диагнозы сложных заболеваний или научные выводы, их нельзя делегировать. Экономический ущерб, причиняемый безоговорочным использованием результатов работы ИИ в этих областях, уже задокументирован и будет продолжать расти.

Результаты отчета Dataiku выявляют особую проблему для немецких компаний: 78 процентов немецких руководителей, работающих с данными, убеждены, что их топ-менеджеры переоценивают точность систем искусственного интеллекта. В то же время 76 процентов немецких руководителей, работающих с данными, считают, что бизнес-рекомендации, сгенерированные ИИ, воспринимаются в их организациях серьезнее, чем рекомендации сотрудников. Такое сочетание переоценки технологий и систематической недооценки человеческого опыта экономически опасно. Оно может привести к неэффективным инвестициям, рискам юридической ответственности и стратегическим ошибкам.

Интеллект как социальная категория – что поставлено на карту?

Дискуссия об ограничениях ИИ в конечном итоге затрагивает вопрос, выходящий за рамки чистого управления бизнесом: что это значит для общества, когда оно все больше доверяет системам ИИ, которые надежны при работе с большими объемами данных, но структурно не способны к подлинному мышлению?

Исследование Московского государственного университета и Высшей школы экономики (ВШЭ) изучало, как модели ИИ оценивают способности человека к стратегическому мышлению. Результат оказался вдвойне показательным: современные модели ИИ, такие как ChatGPT, значительно переоценивают человеческую рациональность — и, следовательно, проигрывают в логических играх реальным участникам. ИИ считает человечество гораздо более рациональным и логичным, чем оно есть на самом деле. В то же время исследователи предполагают, что интенсивное использование инструментов ИИ может ослабить способность человека к критическому и независимому мышлению в долгосрочной перспективе. Если люди все чаще не могут сделать собственные логические выводы, полагаясь на результаты работы ИИ, а сам ИИ не может сделать подлинные логические выводы, возникает коллективный вакуум.

Индекс развития ИИ Стэнфордского университета на 2025 год показывает, что разработка ИИ демонстрирует впечатляющий прогресс во многих областях. Однако этот прогресс в основном связан с вычислительными мощностями, языковой компетентностью и широтой охватываемых областей знаний, а не с элементарным логическим мышлением. Дарио Амодей, генеральный директор Anthropic, изложил сценарии, в которых системы ИИ могут превзойти лауреатов Нобелевской премии уже в 2026 году. Эти оптимистичные прогнозы резко контрастируют с отрезвляющими результатами лабораторных исследований, которые показывают, что даже продвинутые модели терпят неудачу в задачах элементарной школьной математики, когда задачи немного различаются.

Дискуссия об искусственном общем интеллекте (ИИ) — то есть вопрос о том, когда искусственный интеллект сможет полностью воспроизвести человеческое мышление, — остается открытой. Анализ более 9800 прогнозов экспертов показывает широкий спектр мнений. Однако научно доказано, что существующие подходы достигают фундаментальных пределов обобщаемого мышления. Прорыв в области ИИ не будет продолжением нынешнего пути, а потребует парадигматического скачка в архитектуре ИИ, сроки и форма которого совершенно неясны.

Точность вместо эйфории – последствия для стратегического использования ИИ

Экономический анализ ограничений ИИ приводит к рекомендации, которая столь же проста, сколь и неудобна: точность вместо эйфории. В частности, это означает концентрацию использования ИИ там, где проявляются его доказанные сильные стороны, и осторожность и человеческий контроль там, где его структурные недостатки создают экономические и социальные риски.

Для компаний это означает, что системы с поддержкой ИИ для обработки данных, распознавания образов и генерации повторяющегося текста могут обеспечить значительный рост производительности и являются оправданными. Однако системы с поддержкой ИИ для принятия сложных решений, причинно-следственного анализа, юридической оценки или стратегического планирования абсолютно требуют проверки человеком и не должны использоваться в качестве автономных систем принятия решений. Исходя из имеющихся знаний, допустимый уровень ошибок ИИ в критически важных для бизнеса приложениях для многих немецких компаний не является ни экономически, ни юридически приемлемым.

Это открывает для Германии стратегические возможности. Необходимо преодолеть международное отставание во внедрении генеративного ИИ, но не ценой безоговорочного принятия технологических обещаний. Индустриально развитая страна, основанная на точности, качестве и надежности инженерных решений, имеет потенциал для формирования осознанного, учитывающего риски подхода к ИИ как к конкурентному преимуществу. Потенциал создания стоимости в 440 миллиардов евро, который, согласно исследованиям, будет реализован для Германии, только в том случае, если ИИ будет внедрен там, где он действительно демонстрирует свои сильные стороны, а не там, где убедительная видимость лишь имитирует подлинную компетентность.

Интеллектуальные машины способны впечатлять своей способностью обрабатывать огромные массивы данных. Но когда дело доходит до мышления, они остаются инструментом, не способным мыслить. Осознание этого не является поводом для отказа от технологии, а скорее убедительной причиной для трезвого суждения. А трезвость всегда была наиболее экономически обоснованной отправной точкой при работе с революционными технологиями.

☑️ Язык ведения нашего бизнеса — английский или немецкий

☑️ НОВИНКА: Переписка на вашем родном языке!

Konrad Wolfenstein

Я и моя команда будем рады быть вашими личными консультантами.

Вы можете связаться со мной, заполнив контактную форму здесь [email protected]:или просто позвонив по номеру +49 7348 4088 965. Мой адрес электронной почты

Я с нетерпением жду начала нашего совместного проекта.

☑️ Поддержка малых и средних предприятий в области стратегии, консалтинга, планирования и реализации проектов

☑️ Разработка или корректировка цифровой стратегии и цифровизации

☑️ Расширение и оптимизация международных процессов продаж

☑️ Глобальные и цифровые торговые платформы B2B

☑️ Развитие бизнеса / Маркетинг / PR / Выставки от компании Pioneer

От прозрачности к доверию: ваш масштабируемый путь с Xpert.Digital - Изображение: Xpert.Digital

В промышленном B2B-секторе устойчивые деловые отношения редко возникают за одну ночь. Они развиваются шаг за шагом – благодаря видимости, профессиональной значимости, регулярным контактам и растущему доверию. Четырехэтапная модель Xpert.Digital решает именно эту задачу: она предлагает структурированный путь, начинающийся с управляемой отправной точки и, при необходимости, перерастающий в более глубокое сотрудничество в развитии бизнеса.

Вместо громких маркетинговых обещаний, эта модель ставит во главу угла взаимоотношения. Компании начинают с четко определенных, легко поддающихся расчету показателей, а затем, основываясь на собственном опыте, решают, насколько они хотят расширить сотрудничество. Ключевым фактором этого беспрепятственного процесса построения доверия является то, что платформа полностью избегает навязчивой рекламы, поэтому редакционный фокус остается исключительно на экспертизе компаний.

Более подробная информация здесь:

• От прозрачности к доверию: ваш масштабируемый путь с Xpert.Digital