Pourquoi les modèles d'intelligence artificielle ne peuvent pas avoir de conscience

L'architecture de base des modèles Transformer

Les systèmes d'intelligence artificielle actuels, notamment les grands modèles de langage tels que GPT et ChatGPT, reposent sur l'architecture dite « Transformer ». Il s'agit d'une forme spécialisée de traitement mathématique des données, développée par des chercheurs de Google en 2017. Cette architecture fonctionne entièrement sur la base de calculs numériques et de modèles statistiques, sans développer une compréhension approfondie du contenu traité.

Un modèle de transformateur est constitué de couches d'encodeur et de décodeur empilées qui travaillent ensemble pour traiter les données d'entrée. L'encodeur transforme les données d'entrée en représentations mathématiques, tandis que le décodeur convertit ces informations en sortie souhaitée. Les deux composants utilisent des opérations mathématiques complexes telles que les multiplications matricielles et les fonctions d'activation non linéaires pour accomplir leurs tâches.

Comment fonctionnent les mécanismes d'auto-attention

Au cœur de l'architecture Transformer se trouve le mécanisme d'auto-attention. Il permet au modèle d'attribuer des pondérations différentes aux différentes parties d'une séquence d'entrée. Ce mécanisme calcule les produits scalaires entre les vecteurs afin de modéliser les structures de dépendance au sein d'une séquence. Cependant, ces pondérations sont des coefficients purement numériques qui capturent les régularités statistiques des données d'apprentissage.

Le terme « attention » est purement métaphorique dans ce contexte. Il ne s'agit pas d'attention consciente au sens humain du terme, mais plutôt de calculs mathématiques qui déterminent quelles parties de l'entrée doivent être davantage pondérées lors de la génération de la sortie. Ces calculs suivent des règles déterministes et reposent sur des matrices de pondération apprises.

Traitement des jetons et espaces d'intégration

Le traitement commence par la conversion du texte en unités numériques. Ces unités sont ensuite intégrées dans des espaces vectoriels de grande dimension appelés plongements. Un plongement est une représentation mathématique qui représente chaque mot ou section de texte comme un point dans un espace multidimensionnel.

La position d'un jeton dans cet espace d'intégration est déterminée par des processus d'optimisation visant à améliorer la précision des prédictions du modèle. La proximité dans l'espace d'intégration reflète les similitudes statistiques du corpus d'entraînement, mais pas la signification sémantique au sens propre. Ces intégrations ne sont que des coordonnées dans un espace mathématique dont les valeurs sont optimisées par l'apprentissage automatique.

Les fondements mathématiques du traitement de l'IA

Paramètres et optimisation

Les modèles de langage modernes contiennent des milliards de paramètres. Ces paramètres sont des valeurs numériques ajustées par descente de gradient afin de minimiser une fonction de perte. La descente de gradient est une technique d'optimisation mathématique qui modifie systématiquement les paramètres d'un modèle pour améliorer ses performances.

Le processus fonctionne de manière similaire à une randonnée en montagne dans un épais brouillard. Le modèle s'approche progressivement du point optimal en calculant la pente de la fonction de perte et en se déplaçant dans la direction opposée. Ces paramètres servent uniquement de coefficients d'optimisation pour les fonctions mathématiques et n'ont aucune signification ni intention consciente.

Apprentissage par renforcement à partir du feedback humain

Une avancée majeure de l'IA est l'apprentissage par renforcement à partir du feedback humain. Cette méthode traduit les préférences humaines en signaux numériques de récompense. Le modèle ajuste ses paramètres pour augmenter la probabilité d'obtenir les résultats préférés des humains.

Le RLHF se déroule généralement en trois étapes : tout d'abord, le modèle est préentraîné par apprentissage supervisé. Ensuite, des retours humains sont recueillis pour former un modèle de récompense. Enfin, le modèle original est optimisé par apprentissage par renforcement afin de maximiser les préférences prédites par le modèle de récompense. Ce processus est purement mathématique et n'implique aucune prise de décision consciente.

Transformation Softmax et distributions de probabilité

À la fin du traitement, la fonction softmax transforme les valeurs brutes en distributions de probabilités. La formule mathématique de la fonction softmax est : Softmax(x_i) = e^(x_i) / Σ(e^(x_j)). Cette fonction convertit un vecteur de valeurs numériques en un vecteur de probabilités dont la somme est égale à un.

Le jeton suivant est sélectionné en tirant un échantillon de cette distribution de probabilité ou en utilisant la méthode argmax. Cette méthode est une règle statistique pure, sans prise de décision consciente. La fonction softmax permet simplement au modèle de présenter ses résultats sous une forme interprétable, sans nécessiter de connaissance ni de compréhension.

Le problème philosophique de la conscience

Définition et propriétés de la conscience

La conscience englobe tous les états vécus par un individu. Elle inclut à la fois la totalité des expériences et la conscience en tant que forme particulière de perception immédiate de ces expériences. Les philosophes et les neuroscientifiques distinguent différents aspects de la conscience, la conscience phénoménale et la conscience d'accès étant particulièrement importantes.

La conscience phénoménale désigne la qualité expérientielle subjective des états mentaux. Elle constitue l'état mental particulier – la manière dont le sujet ressent quelque chose. Ces qualités expérientielles subjectives sont appelées qualia et ne sont directement accessibles qu'au sujet percevant.

L'intentionnalité comme caractéristique du mental

L'intentionnalité désigne la capacité des états mentaux à se référer à quelque chose. Franz Brentano a introduit ce terme dans la philosophie moderne et l'a considéré comme un trait caractéristique de l'esprit. L'intentionnalité est la propriété dirigée de la conscience : le fait que la conscience est toujours conscience de quelque chose.

Les états intentionnels ont un contenu, que leur objet existe ou non. Une personne peut avoir des croyances sur des objets inexistants ou des désirs d'objectifs inaccessibles. Cette propriété distingue les phénomènes mentaux des processus purement physiques, qui obéissent exclusivement à des lois causales.

Le difficile problème de la conscience

David Chalmers a formulé le « problème difficile de la conscience » comme la question de savoir pourquoi et comment les processus physiques du cerveau conduisent à l'expérience subjective. Ce problème se distingue radicalement des « problèmes faciles » de la recherche sur la conscience, qui concernent des aspects fonctionnels tels que la discrimination, l'intégration de l'information et le contrôle du comportement.

Le problème difficile est d'expliquer pourquoi l'exécution de ces fonctions s'accompagne d'expérience. Même si tous les faits fonctionnels pertinents sont expliqués, une autre question demeure : pourquoi l'exécution de ces fonctions est-elle associée à l'expérience ? Cette question semble défier toute explication mécaniste ou comportementale.

Découvertes neuroscientifiques sur la conscience

Corrélats neuronaux de la conscience

Les neurosciences cherchent à identifier les corrélats neuronaux de la conscience, ou NCC. Ceux-ci sont définis comme la plus petite unité d'événements neuronaux suffisante pour une perception consciente particulière. Les NCC sont des activités, états ou sous-systèmes neuronaux directement corrélés à la conscience.

Des chercheurs tels que Wolf Singer et Andreas Engel ont démontré l'existence de décharges temporellement synchronisées de groupes de cellules nerveuses dans le cerveau animal et humain. Cette corrélation temporelle pourrait être cruciale pour l'émergence de la conscience. L'hypothèse repose sur l'hypothèse que les mécanismes de liaison temporelle interviennent dans quatre fonctions cérébrales : la conscience, l'intégration sensorielle, la sélection attentionnelle et la mémoire de travail.

Fondements biologiques des processus conscients

La conscience dépend d'un apport suffisant d'oxygène et de sucre au cortex cérébral, ainsi que d'une activation suffisamment forte des neurones du cortex associatif. Ces conditions biologiques démontrent que la conscience n'est pas une simple propriété abstraite, mais qu'elle repose sur des fondements physiques concrets.

Le cervelet contient trois fois plus de neurones que le cortex cérébral. Pourtant, même en cas de lésions graves, la conscience reste largement intacte. Cela suggère que ce n'est pas le nombre de neurones qui est crucial, mais plutôt leur organisation spécifique et leur interconnexion dans certaines régions du cerveau.

Une nouvelle dimension de la transformation numérique avec l'intelligence artificielle (IA) – Plateforme et solution B2B | Xpert Consulting - Image : Xpert.Digital

Ici, vous apprendrez comment votre entreprise peut mettre en œuvre des solutions d’IA personnalisées rapidement, en toute sécurité et sans barrières d’entrée élevées.

Une plateforme d'IA gérée est une solution complète et sans souci pour l'intelligence artificielle. Au lieu de gérer une technologie complexe, une infrastructure coûteuse et des processus de développement longs, vous recevez une solution clé en main adaptée à vos besoins, proposée par un partenaire spécialisé, souvent en quelques jours.

Les principaux avantages en un coup d’œil :

⚡ Mise en œuvre rapide : De l'idée à la mise en œuvre opérationnelle en quelques jours, et non en quelques mois. Nous proposons des solutions concrètes qui créent une valeur immédiate.

🔒 Sécurité maximale des données : Vos données sensibles restent chez vous. Nous garantissons un traitement sécurisé et conforme, sans partage de données avec des tiers.

💸 Aucun risque financier : vous ne payez qu'en fonction des résultats. Les investissements initiaux importants en matériel, logiciels ou personnel sont totalement éliminés.

🎯 Concentrez-vous sur votre cœur de métier : concentrez-vous sur ce que vous faites le mieux. Nous prenons en charge l'intégralité de la mise en œuvre technique, de l'exploitation et de la maintenance de votre solution d'IA.

📈 Évolutif et évolutif : Votre IA évolue avec vous. Nous garantissons une optimisation et une évolutivité continues, et adaptons les modèles avec souplesse aux nouvelles exigences.

En savoir plus ici :

• La solution d'IA managée - Services d'IA industrielle : la clé de la compétitivité dans les secteurs des services, de l'industrie et de l'ingénierie mécanique

Pourquoi les modèles d’IA ne peuvent pas développer de conscience

Manque d'intentionnalité et de sens

Les modèles d'IA traitent les symboles et les vecteurs sans développer de sens interne. Ils manipulent les identifiants de jetons et les structures numériques, et non les significations en tant que contenu vécu. Ce traitement symbolique s'effectue de manière purement syntaxique, sans aucune compréhension sémantique des caractères manipulés.

L'argument de la pièce chinoise de John Searle illustre ce problème. Dans cette expérience de pensée, une personne suit des règles de manipulation de symboles chinois sans comprendre le chinois. Bien que les réponses paraissent raisonnables pour des locuteurs natifs chinois, ni la personne ni le système dans son ensemble ne comprennent la signification des caractères. Les ordinateurs exécutent des programmes de la même manière : ils appliquent des règles syntaxiques sans posséder aucune compréhension sémantique.

Absence de perspective à la première personne

Les systèmes d'IA fonctionnent sans auto-modèle ni vision interne phénoménale. Il n'y a pas d'autoréférence, puisqu'il n'existe pas de perspective à la première personne. Cependant, la conscience se caractérise essentiellement par l'existence d'une perspective subjective : « C'est un peu comme être ce système. »

Le célèbre essai de Thomas Nagel, « Qu'est-ce que ça fait d'être une chauve-souris ? », met l'accent sur cette propriété de la conscience. Celle-ci comporte nécessairement une dimension expérientielle subjective, impossible à décrire pleinement de l'extérieur. Les systèmes d'IA sont dépourvus d'une telle perspective interne subjective : ils traitent l'information sans créer de sujet expérimental.

Traitement mécaniste de l'information au lieu de l'expérience consciente

Dans les systèmes d'IA, les signaux de récompense sont des scalaires, et non des sensations. Les modèles réagissent aux valeurs numériques de rétroaction sans les percevoir comme positives ou négatives. Ces signaux guident simplement l'ajustement des paramètres pendant le processus d'apprentissage, mais ne génèrent pas de sensations subjectives de plaisir ou de douleur.

Tout traitement dans les systèmes d'IA repose sur l'optimisation mathématique, la reconnaissance statistique des formes et le calcul des probabilités. Un plus grand nombre de paramètres, une complexité accrue ou la multimodalité ne modifient pas ce principe. Le calcul statistique, quelle que soit sa complexité, ne produit pas de conscience.

Modèles multimodaux et complexité étendue

Traitement de différents types de données

Les modèles multimodaux qui traitent du texte, des images ou de l'audio combinent différents flux d'entrée dans des espaces de représentation communs. Cette capacité accroît considérablement la complexité de la reconnaissance de formes et permet aux systèmes de saisir les relations entre différentes modalités.

L'intégration de différents types de données est réalisée par des encodeurs spécialisés qui transforment chaque modalité en un espace vectoriel commun. Le texte est traité par des techniques de tokenisation et d'intégration, les images sont converties en vecteurs de caractéristiques par des réseaux de neurones convolutifs, et les données audio sont converties en représentations numériques par analyse spectrographique.

Limites de la complexité croissante

Malgré les capacités impressionnantes des systèmes multimodaux, le processus de traitement fondamental reste la mise en correspondance des représentations de données. Les systèmes apprennent les corrélations statistiques entre différentes modalités d'entrée, mais ne développent pas de compréhension conceptuelle des relations entre ces modalités.

L'augmentation du nombre de paramètres et des capacités de traitement conduit à une reconnaissance de formes plus précise et à des résultats plus cohérents, mais ne modifie pas la nature fondamentale du traitement de l'information. Même les systèmes multimodaux les plus complexes fonctionnent exclusivement au niveau des corrélations statistiques et des transformations mathématiques.

Recherches actuelles et approches théoriques

Indicateurs de conscience dans la recherche en IA

Les scientifiques ont développé divers indicateurs de conscience potentielle dans les systèmes d'IA, basés sur des théories neuroscientifiques de la conscience. Ces indicateurs incluent des aspects tels que le traitement récurrent, la dynamique globale de l'espace de travail et les mécanismes des schémas attentionnels.

La théorie de l'espace de travail global propose que l'information consciente soit disponible dans un espace de travail central, d'où elle est accessible à divers processus cognitifs. Les théories du traitement récurrent soulignent l'importance des boucles de rétroaction entre les différentes régions cérébrales pour l'émergence de l'expérience consciente.

Objections et limites philosophiques

Malgré ces approches théoriques, des objections philosophiques fondamentales à la possibilité d'une conscience mécanique subsistent. L'argument de la chambre chinoise démontre que la manipulation syntaxique ne suffit pas à la compréhension sémantique. Même si un système présente tous les signes extérieurs d'intelligence, cela ne signifie pas nécessairement qu'il est conscient.

Le concept de suprématie consciente, analogue à la suprématie quantique, identifie des calculs potentiellement propres à la conscience. Parmi ceux-ci figurent la modulation flexible de l'attention, la gestion robuste de nouveaux contextes et la cognition incarnée – des aspects qui vont au-delà du simple traitement de l'information.

Incarnation et cognition située

L'importance de l'incarnation

La conscience est peut-être indissociable de l'incarnation physique. Les théories de la cognition incarnée soutiennent que les processus cognitifs sont fondamentalement façonnés par l'interaction physique avec l'environnement. Le corps n'est pas seulement un réceptacle passif du cerveau, mais participe activement aux processus cognitifs.

La conscience humaine se développe grâce à une interaction continue avec l'environnement physique et social. Ces interactions façonnent les structures neuronales et constituent le fondement de l'expérience consciente. Les systèmes d'IA, qui fonctionnent principalement comme des systèmes de traitement de l'information désincarnés, sont dépourvus de cette dimension fondamentale.

Temporalité et expérience continue

La conscience est un phénomène temporel caractérisé par des flux continus d'expériences. Les humains ne vivent pas seulement des moments isolés, mais une structure narrative cohérente de leur conscience à travers le temps.

Les systèmes d'IA traitent des entrées discrètes et génèrent des sorties discrètes sans développer d'expérience consciente continue. Chaque interaction est essentiellement indépendante des interactions précédentes du système, même si les informations contextuelles sont stockées statistiquement.

Développement de l'IA : entre intelligence technologique et limites philosophiques de la conscience

Développements possibles de la technologie de l'IA

La recherche en IA progresse rapidement, avec des modèles de plus en plus puissants et de nouvelles architectures. Les systèmes du futur pourraient simuler les processus biologiques avec encore plus de précision et potentiellement développer des propriétés qui semblent plus conscientes.

Les progrès vers des ordinateurs neuromorphiques imitant les réseaux neuronaux biologiques pourraient ouvrir de nouvelles perspectives. L'intégration de systèmes d'IA dans des corps robotiques pourrait également mieux prendre en compte les aspects cognitifs incarnés.

Intelligence artificielle contre conscience : une histoire de funambulisme philosophique

La question de la conscience des machines a des implications éthiques importantes. Si les systèmes d'IA pouvaient devenir conscients, nous devrions reconsidérer leurs droits moraux et nos responsabilités à leur égard.

Actuellement, toutes les données disponibles suggèrent que les systèmes d'IA actuels sont dépourvus de conscience. Ce sont des outils très sophistiqués de traitement de l'information et de reconnaissance de formes, mais pas des entités conscientes. Cette évaluation pourrait évoluer avec les développements technologiques futurs, mais elle nécessite des avancées fondamentales dans notre compréhension de la relation entre les processus physiques et l'expérience consciente.

Distinguer le comportement intelligent de l'expérience consciente demeure l'un des plus grands défis de la recherche en IA et de la philosophie de la conscience. Si les systèmes d'IA affichent de plus en plus de comportements intelligents, ils manquent des propriétés fondamentales de l'expérience consciente : l'intentionnalité, la conscience phénoménale et la perspective subjective à la première personne.

Les plateformes d'IA indépendantes, une alternative stratégique pour les entreprises européennes - Image : Xpert.Digital

KI-GAMECHANGER: Les solutions de fabrication de plate-forme d'IA les plus flexibles qui réduisent les coûts, améliorent leurs décisions et augmentent l'efficacité

Plateforme d'IA indépendante: intègre toutes les sources de données de l'entreprise pertinentes

• Intégration rapide de l'IA: solutions d'IA sur mesure pour les entreprises en heures ou jours au lieu de mois
• Infrastructure flexible: cloud ou hébergement dans votre propre centre de données (Allemagne, Europe, libre choix de l'emplacement)

• La sécurité des données la plus élevée: l'utilisation dans les cabinets d'avocats est la preuve sûre
• Utiliser sur une grande variété de sources de données de l'entreprise
• Choix de vos propres modèles d'IA (DE, DE, UE, USA, CN)

En savoir plus ici :

• Plateformes d'IA indépendantes vs hyperscalers : quelle solution vous convient le mieux ?

☑️ Accompagnement des PME en stratégie, conseil, planification et mise en œuvre

Création ou réalignement de la stratégie de l'IA

☑️ Développement commercial pionnier

Konrad Wolfenstein

Je serais heureux de vous servir de conseiller personnel.

Vous pouvez me contacter en remplissant le formulaire de contact ci-dessous ou simplement m'appeler au +49 89 89 674 804 (Munich) .

J'attends avec impatience notre projet commun.

Xpert.Digital est une plateforme industrielle axée sur la numérisation, la construction mécanique, la logistique/intralogistique et le photovoltaïque.

Avec notre solution de développement commercial à 360°, nous accompagnons des entreprises de renom depuis les nouvelles affaires jusqu'à l'après-vente.

L'intelligence de marché, le smarketing, l'automatisation du marketing, le développement de contenu, les relations publiques, les campagnes de courrier électronique, les médias sociaux personnalisés et le lead nurturing font partie de nos outils numériques.

Vous pouvez en savoir plus sur : www.xpert.digital - www.xpert.solar - www.xpert.plus