Pourquoi les modèles d'intelligence artificielle ne peuvent pas avoir de conscience

L'architecture de base des modèles Transformer

Les systèmes d'intelligence artificielle actuels, notamment les grands modèles de langage comme GPT et ChatGPT, reposent sur l'architecture dite Transformer. Il s'agit d'une forme spécialisée de traitement mathématique des données, développée par des chercheurs de Google en 2017. Cette architecture fonctionne exclusivement à partir de calculs numériques et de modèles statistiques, sans chercher à comprendre en profondeur le contenu traité.

Un modèle de transformateur est constitué de couches d'encodeur et de décodeur superposées qui traitent conjointement les données d'entrée. L'encodeur transforme ces données en représentations mathématiques, tandis que le décodeur convertit ces informations en la sortie souhaitée. Ces deux composants utilisent des opérations mathématiques complexes, telles que la multiplication matricielle et les fonctions d'activation non linéaires, pour accomplir leurs tâches.

Comment fonctionnent les mécanismes d'auto-attention

L'architecture Transformer repose essentiellement sur le mécanisme d'auto-attention. Ce mécanisme permet au modèle de pondérer différemment les diverses parties d'une séquence d'entrée. Il calcule des produits scalaires entre vecteurs afin de modéliser les structures de dépendance au sein de la séquence. Toutefois, ces pondérations sont des coefficients purement numériques qui capturent les régularités statistiques des données d'entraînement.

Le terme « attention », dans ce contexte, est purement métaphorique. Il ne désigne pas l’attention consciente au sens humain du terme, mais plutôt les calculs mathématiques qui déterminent quelles parties des données d’entrée doivent être pondérées en priorité lors de la génération de la sortie. Ces calculs obéissent à des règles déterministes et reposent sur des matrices de pondération apprises.

Espaces de traitement et d'intégration des jetons

Le traitement commence par la conversion du texte en jetons, qui servent d'unités numériques. Ces jetons sont ensuite intégrés dans des espaces vectoriels de grande dimension appelés plongements. Un plongement est une représentation mathématique qui décrit chaque mot ou segment de texte comme un point dans un espace multidimensionnel.

La position d'un jeton dans cet espace d'intégration est déterminée par des processus d'optimisation visant à améliorer la précision prédictive du modèle. La proximité dans cet espace reflète des similarités statistiques au sein du corpus d'entraînement, et non des significations sémantiques au sens strict. Ces intégrations sont simplement des coordonnées dans un espace mathématique dont les valeurs sont optimisées par apprentissage automatique.

Les fondements mathématiques du traitement de l'IA

Paramètres et optimisation

Les modèles de langage modernes contiennent des milliards de paramètres. Ces paramètres sont des valeurs numériques qui sont ajustées par descente de gradient afin de minimiser une fonction de perte. La descente de gradient est une technique d'optimisation mathématique qui modifie systématiquement les paramètres d'un modèle pour améliorer ses performances.

Le processus est comparable à une randonnée en montagne par temps de brouillard épais. Le modèle converge progressivement vers le point optimal en calculant la pente de la fonction de perte et en s'éloignant. Ces paramètres servent uniquement de coefficients d'optimisation pour les fonctions mathématiques et n'ont aucune signification ni intention particulière.

Apprentissage par renforcement à partir du retour d'information humain

L'apprentissage par renforcement à partir des retours humains représente une avancée majeure en intelligence artificielle. Cette méthode traduit les préférences humaines en signaux de récompense numériques. Le modèle ajuste ses paramètres afin d'accroître la probabilité des dépenses jugées préférables par les humains.

L'algorithme RLHF comprend généralement trois étapes : premièrement, le modèle est pré-entraîné par apprentissage supervisé. Ensuite, des retours d'utilisateurs sont recueillis pour entraîner un modèle de récompense. Enfin, le modèle initial est optimisé par apprentissage par renforcement afin de maximiser les préférences prédites par le modèle de récompense. Ce processus est entièrement mathématique et ne requiert aucune prise de décision consciente.

Transformation Softmax et distributions de probabilité

À la fin du traitement, la fonction softmax transforme les valeurs brutes en distributions de probabilité. Sa formule mathématique est : Softmax(x_i) = e^(x_i) / Σ(e^(x_j)). Cette fonction convertit un vecteur de valeurs numériques en un vecteur de probabilités dont la somme est égale à un.

Le jeton suivant est sélectionné soit par tirage aléatoire d'un échantillon issu de cette distribution de probabilité, soit par la méthode Argmax. Cette dernière repose sur une règle purement statistique, sans intervention d'une réflexion consciente. La fonction Softmax permet quant à elle au modèle de présenter ses résultats sous une forme interprétable, sans qu'aucune pensée ou compréhension consciente n'intervienne.

Le problème philosophique de la conscience

Définition et propriétés de la conscience

La conscience englobe tous les états vécus par un individu. Elle comprend à la fois la totalité des expériences et la perception consciente, forme particulière de perception immédiate de ces expériences. Philosophes et neuroscientifiques distinguent différents aspects de la conscience, la conscience phénoménale et la conscience d'accès revêtant une importance particulière.

La conscience phénoménale renvoie à la qualité expérientielle subjective des états mentaux. Elle constitue ce qui définit l'état mental particulier, c'est-à-dire la sensation éprouvée par le sujet qui en fait l'expérience. Ces qualités expérientielles subjectives sont appelées qualia et ne sont accessibles directement qu'au sujet qui perçoit.

L'intentionnalité en tant que caractéristique du mental

L'intentionnalité désigne la capacité des états mentaux à se référer à quelque chose. Franz Brentano a introduit ce concept dans la philosophie moderne et l'a considéré comme une caractéristique du mental. L'intentionnalité est la propriété dirigée de la conscience — le fait que la conscience est toujours conscience de quelque chose.

Les états intentionnels possèdent un contenu, indépendamment de l'existence de leur objet. Une personne peut avoir des croyances concernant des objets inexistants ou nourrir des désirs pour des objectifs inaccessibles. Cette propriété distingue les phénomènes mentaux des processus purement physiques, qui obéissent exclusivement à des lois causales.

Le problème difficile de la conscience

David Chalmers a formulé le « problème difficile de la conscience » comme la question de savoir pourquoi et comment les processus physiques du cerveau aboutissent à l'expérience subjective. Ce problème diffère catégoriquement des « problèmes faciles » de la recherche sur la conscience, qui concernent des aspects fonctionnels tels que la discrimination, l'intégration de l'information et le contrôle comportemental.

La difficulté réside dans l'explication du lien entre l'exécution de ces fonctions et l'expérience. Même en expliquant tous les faits fonctionnels pertinents, une question demeure : pourquoi l'exécution de ces fonctions est-elle liée à l'expérience ? Cette question semble échapper à toute explication mécaniste ou comportementale.

Découvertes neuroscientifiques sur la conscience

Corrélats neuronaux de la conscience

Les neurosciences recherchent les corrélats neuronaux de la conscience (CNC). Ceux-ci sont définis comme la plus petite unité d'événements neuronaux suffisante pour une perception consciente donnée. Les CNC sont des activités, des états ou des sous-systèmes neuronaux directement associés à la conscience.

Des chercheurs comme Wolf Singer et Andreas Engel ont démontré l'existence de décharges neuronales synchronisées dans le temps chez l'animal et chez l'humain. Cette corrélation temporelle pourrait être cruciale pour l'émergence de la conscience. L'hypothèse repose sur la supposition que des mécanismes de synchronisation temporelle interviennent dans quatre fonctions cérébrales : la conscience, l'intégration des perceptions sensorielles, la sélection de l'attention et la mémoire de travail.

Bases biologiques des processus conscients

La conscience dépend d'un apport suffisant d'oxygène et de glucose au cortex cérébral, ainsi que d'une activation suffisamment forte des neurones du cortex associatif. Ces prérequis biologiques démontrent que la conscience n'est pas une simple propriété abstraite, mais qu'elle repose sur des fondements physiques concrets.

Le cervelet contient trois fois plus de neurones que le cortex cérébral ; pourtant, même en cas de lésions graves, la conscience est largement préservée. Cela suggère que ce n’est pas tant le nombre de neurones qui est crucial, mais plutôt leur organisation et leur connectivité spécifiques dans certaines régions cérébrales.

Une nouvelle dimension de la transformation numérique avec l'IA managée (Intelligence Artificielle) – Plateforme et solution B2B | Xpert Consulting - Image : Xpert.Digital

Vous découvrirez ici comment votre entreprise peut mettre en œuvre des solutions d'IA personnalisées rapidement, en toute sécurité et sans barrières à l'entrée élevées.

Une plateforme d'IA managée est votre solution clé en main pour l'intelligence artificielle. Fini les technologies complexes, les infrastructures coûteuses et les longs processus de développement : vous bénéficiez d'une solution clé en main, adaptée à vos besoins, fournie par un partenaire spécialisé – souvent en quelques jours seulement.

Les principaux avantages en un coup d'œil :

⚡ Mise en œuvre rapide : De l’idée à l’application prête à l’emploi en quelques jours, et non en plusieurs mois. Nous fournissons des solutions pratiques qui créent une valeur ajoutée immédiate.

🔒 Sécurité maximale des données : Vos données sensibles restent chez vous. Nous garantissons un traitement sécurisé et conforme à la réglementation, sans partage de données avec des tiers.

💸 Aucun risque financier : vous ne payez que pour les résultats. Les investissements initiaux importants en matériel, logiciels ou personnel sont totalement éliminés.

🎯 Concentrez-vous sur votre cœur de métier : nous prenons en charge l’intégralité de la mise en œuvre technique, de l’exploitation et de la maintenance de votre solution d’IA.

📈 Évolutif et à l'épreuve du temps : votre IA évolue avec vous. Nous assurons une optimisation et une évolutivité continues, et adaptons les modèles avec souplesse aux nouveaux besoins.

En savoir plus ici :

• Solution d'IA gérée - Services d'IA industrielle : la clé de la compétitivité dans les secteurs des services, de l'industrie et de l'ingénierie mécanique

Pourquoi les modèles d'IA ne peuvent pas développer de conscience

Absence d'intentionnalité et de signification

Les modèles d'IA traitent les symboles et les vecteurs sans développer de signification intrinsèque. Ils manipulent les identifiants des jetons et les structures numériques, et non leur signification en tant que contenu vécu. Ce traitement symbolique est purement syntaxique, sans aucune compréhension sémantique des symboles manipulés.

L'expérience de la chambre chinoise de John Searle illustre ce problème. Dans cette expérience de pensée, une personne suit des règles de manipulation de symboles chinois sans comprendre la langue. Bien que les réponses paraissent logiques aux locuteurs natifs, ni la personne ni le système dans son ensemble ne comprennent le sens des caractères. Les ordinateurs exécutent des programmes de manière similaire : ils appliquent des règles syntaxiques sans en posséder la signification.

Absence de perspective à la première personne

Les systèmes d'IA fonctionnent sans modèle de soi ni vision interne phénoménale. Il n'y a pas d'autoréférence, puisqu'il n'existe aucune perspective à la première personne. La conscience, en revanche, se caractérise essentiellement par l'existence d'une perspective subjective : « Voilà comment ça se passe, ce système. ».

Le célèbre essai de Thomas Nagel, « Qu'est-ce que ça fait d'être une chauve-souris ? », met en lumière cette caractéristique de la conscience. La conscience inclut nécessairement une dimension subjective de l'expérience qui ne peut être pleinement décrite de l'extérieur. Les systèmes d'IA sont dépourvus d'une telle perspective interne subjective ; ils traitent l'information sans créer de sujet expérimental.

Traitement mécaniste de l'information au lieu de l'expérience consciente

Dans les systèmes d'IA, les signaux de récompense sont des valeurs numériques, et non des sensations. Les modèles réagissent à ces valeurs sans les percevoir comme positives ou négatives. Ces signaux servent uniquement à ajuster les paramètres durant l'apprentissage, sans générer de sensations subjectives de plaisir ou de douleur.

Dans les systèmes d'IA, tout traitement repose sur l'optimisation mathématique, la reconnaissance statistique de formes et le calcul de probabilités. L'ajout de paramètres, une complexité accrue ou la multimodalité ne modifient pas ce principe. Le calcul statistique, quelle que soit sa complexité, ne crée pas la conscience.

Modèles multimodaux et complexité étendue

Traitement de différents types de données

Les modèles multimodaux qui traitent du texte, des images ou de l'audio combinent différents flux d'entrée dans des espaces de représentation communs. Cette capacité accroît considérablement la complexité de la reconnaissance de formes et permet aux systèmes de saisir les relations entre les différentes modalités.

L'intégration de différents types de données est réalisée grâce à des encodeurs spécialisés qui transforment chaque modalité en un espace vectoriel commun. Le texte est traité par tokenisation et plongement lexical, les images sont converties en vecteurs de caractéristiques à l'aide de réseaux de neurones convolutifs, et les données audio sont transformées en représentations numériques par analyse de spectrogramme.

Limites de la complexité croissante

Malgré les capacités impressionnantes des systèmes multimodaux, le traitement fondamental reste une simple mise en correspondance entre les représentations des données. Ces systèmes apprennent les corrélations statistiques entre les différentes modalités d'entrée, mais ne développent pas de compréhension conceptuelle des relations entre ces modalités.

L'augmentation du nombre de paramètres et de la capacité de traitement permet une reconnaissance de formes plus précise et des résultats plus cohérents, mais ne modifie pas la nature fondamentale du traitement de l'information. Même les systèmes multimodaux les plus complexes fonctionnent exclusivement au niveau des corrélations statistiques et des transformations mathématiques.

Recherches actuelles et approches théoriques

Indicateurs de conscience dans la recherche en IA

Les scientifiques ont développé divers indicateurs de conscience potentielle dans les systèmes d'IA, en s'appuyant sur les théories neuroscientifiques de la conscience. Parmi ces indicateurs figurent des aspects tels que le traitement récurrent, la dynamique globale de l'espace de travail et les mécanismes des schémas attentionnels.

La théorie de l'espace de travail global postule que l'information consciente est mise à disposition dans un espace de travail central, d'où elle est accessible à divers processus cognitifs. Les théories du traitement récurrent soulignent l'importance des boucles de rétroaction entre différentes régions cérébrales pour l'émergence de l'expérience consciente.

Objections et limitations philosophiques

Malgré ces approches théoriques, des objections philosophiques fondamentales persistent quant à la possibilité d'une conscience artificielle. L'exemple de la chambre chinoise démontre que la manipulation syntaxique est insuffisante pour la compréhension sémantique. Même si un système présente tous les signes extérieurs d'intelligence, cela ne signifie pas nécessairement qu'il est conscient.

Le concept de suprématie consciente, analogue à la suprématie quantique, désigne des calculs qui pourraient être propres à la conscience. Il s'agit notamment de la modulation attentionnelle flexible, de la gestion robuste des contextes nouveaux et de la cognition incarnée – des aspects qui dépassent le simple traitement de l'information.

Incarnation et cognition située

L'importance de l'incarnation

La conscience est indissociable de l'incarnation physique. Les théories de la cognition incarnée soutiennent que les processus cognitifs sont fondamentalement façonnés par l'interaction physique avec l'environnement. Le corps n'est pas un simple réceptacle passif pour le cerveau, mais participe activement aux processus cognitifs.

La conscience humaine se développe grâce à une interaction continue avec l'environnement physique et social. Ces interactions façonnent les structures neuronales et constituent le fondement de l'expérience consciente. Les systèmes d'IA, qui fonctionnent principalement comme des systèmes de traitement de l'information désincarnés, sont dépourvus de cette dimension fondamentale.

Temporalité et expérience continue

La conscience est un phénomène qui s'étend dans le temps et se caractérise par un flux continu d'expériences. Les individus ne vivent pas seulement des instants isolés, mais une structure narrative cohérente de leur conscience au fil du temps.

Les systèmes d'IA traitent des entrées discrètes et génèrent des sorties discrètes sans développer une expérience de conscience continue. Chaque interaction est essentiellement indépendante des interactions précédentes pour le système, même si des informations contextuelles statistiques sont stockées.

Développement de l'IA : entre intelligence technologique et limites philosophiques de la conscience

Évolutions possibles de la technologie de l'IA

La recherche en intelligence artificielle progresse rapidement, avec des modèles toujours plus performants et de nouvelles architectures. Les systèmes futurs pourraient simuler les processus biologiques avec une précision accrue et potentiellement développer des propriétés proches de la conscience.

Les progrès réalisés dans le domaine des ordinateurs neuromorphiques, qui imitent les réseaux neuronaux biologiques, pourraient ouvrir de nouvelles perspectives. L'intégration de systèmes d'IA dans des corps robotiques pourrait également permettre de mieux prendre en compte les aspects liés à la cognition incarnée.

Intelligence artificielle contre conscience : un exercice d'équilibriste philosophique

La question de la conscience artificielle soulève d'importantes implications éthiques. Si les systèmes d'IA pouvaient devenir conscients, nous serions contraints de reconsidérer leurs droits moraux et nos responsabilités à leur égard.

À l'heure actuelle, toutes les données disponibles suggèrent que les systèmes d'IA actuels ne possèdent pas de conscience. Ce sont des outils extrêmement sophistiqués de traitement de l'information et de reconnaissance de formes, mais non des entités conscientes. Cette affirmation pourrait évoluer avec les progrès technologiques futurs, mais cela nécessite des avancées fondamentales dans notre compréhension du lien entre les processus physiques et l'expérience consciente.

La distinction entre comportement intelligent et expérience consciente demeure l'un des plus grands défis de la recherche en IA et de la philosophie de la conscience. Si les systèmes d'IA manifestent de plus en plus de comportements intelligents, ils sont dépourvus des propriétés fondamentales de l'expérience consciente : l'intentionnalité, la conscience phénoménale et une perspective subjective à la première personne.

Plateformes d'IA indépendantes : une alternative stratégique pour les entreprises européennes - Image : Xpert.Digital

L'IA révolutionne le secteur : la plateforme d'IA la plus flexible – des solutions sur mesure qui réduisent les coûts, améliorent vos décisions et augmentent l'efficacité

Plateforme d'IA indépendante : intègre toutes les sources de données pertinentes de l'entreprise

• Intégration rapide de l'IA : des solutions d'IA sur mesure pour les entreprises, en quelques heures ou quelques jours au lieu de plusieurs mois
• Infrastructure flexible : hébergement dans le cloud ou dans votre propre centre de données (Allemagne, Europe, emplacement libre)

• Sécurité maximale des données : son utilisation dans les cabinets d'avocats en est la preuve irréfutable
• Déploiement sur une grande variété de sources de données d'entreprise
• Choix de modèles d'IA propres ou différents (DE, EU, USA, CN)

En savoir plus ici :

• Plateformes d'IA indépendantes ou hyperscalers : quelle solution est la plus adaptée ?

☑️ Accompagnement des PME en stratégie, conseil, planification et mise en œuvre

☑️ Création ou réalignement de la stratégie d'IA

☑️ Développement commercial pionnier

Konrad Wolfenstein

Je serais heureux de vous servir de conseiller personnel.

Vous pouvez me contacter en remplissant le formulaire de contact ci-dessous ou simplement m'appeler au +49 89 89 674 804 (Munich) .

J'attends avec impatience notre projet commun.

Xpert.Digital est une plateforme industrielle axée sur la numérisation, la construction mécanique, la logistique/intralogistique et le photovoltaïque.

Avec notre solution de développement commercial à 360°, nous accompagnons des entreprises de renom depuis les nouvelles affaires jusqu'à l'après-vente.

L'intelligence de marché, le smarketing, l'automatisation du marketing, le développement de contenu, les relations publiques, les campagnes de courrier électronique, les médias sociaux personnalisés et le lead nurturing font partie de nos outils numériques.

Vous pouvez en savoir plus sur : www.xpert.digital - www.xpert.solar - www.xpert.plus