À qui faites-vous confiance pour façonner vos pensées ?
Sur la confiance, le pouvoir et le jugement humain à l’ère de l’IA.
Les êtres humains ont toujours dépendu de la confiance. Nous naissons sans connaissance du monde et apprenons à le comprendre à travers les autres. Nos parents, nos enseignants, nos amis et les figures d’autorité nous transmettent des expériences et des connaissances dont nous nous servons pour construire notre propre vision du monde.
Mais qui décide de ce que nous devrions croire ? Et pourquoi ?
Au cours de l’histoire, le pouvoir sur la pensée humaine s’est déplacé au gré de l’évolution de nos moyens de communication. Dans les premières sociétés, les anciens des tribus transmettaient les savoirs et les traditions. Avec l’invention de l’écriture, les connaissances ont pu être conservées et diffusées au-delà de la portée de la voix humaine. L’Église, les monarchies et d’autres institutions ont acquis une influence croissante sur ce que les gens considéraient comme vrai.
L’imprimerie a modifié l’équilibre des pouvoirs. Les connaissances pouvaient toucher des publics toujours plus larges, et de nouvelles institutions ont émergé. La science, les universités, les journaux et, finalement, les mouvements politiques en sont venus à façonner notre compréhension du monde. Ces transformations ont ceci en commun : ceux qui contrôlent la communication acquièrent aussi une influence sur la manière dont les gens pensent.
Puis est arrivé Internet.
Soudain, presque tout le monde pouvait publier ses pensées et toucher un public mondial. Le pouvoir des autorités traditionnelles a été remis en question. Les réseaux sociaux ont encore accéléré cette transformation. Les algorithmes ont commencé à déterminer les informations auxquelles nous sommes exposés, souvent en fonction de ce qui suscite notre intérêt plutôt que de ce qui est vrai.
Et voici maintenant l’intelligence artificielle.
Pour la première fois dans l’histoire, nous pouvons avoir des conversations sophistiquées avec une machine qui a accès à d’immenses quantités de connaissances produites par les humains. Elle peut raisonner, synthétiser des informations, construire des arguments et répondre à des questions qui nécessitaient auparavant des recherches approfondies. Mais cela soulève un problème fondamental : comment déterminer si nous pouvons faire confiance à ses réponses ?
L’IA peut produire un argument convaincant qui est complètement faux, et elle peut aussi fournir des réponses correctes sans que nous comprenions pourquoi elles le sont. Plus l’IA devient performante, plus la tentation de lui déléguer notre réflexion est grande. Nous risquons donc de perdre quelque chose d’essentiel : notre jugement indépendant.
La Bildung a traditionnellement consisté à développer notre compréhension de nous-mêmes et du monde. La capacité à replacer les connaissances dans leur contexte, à examiner différentes perspectives et à remettre en question les croyances établies. À l’ère de l’IA, cette capacité devient plus importante que jamais.
À mesure que chacun accède à la même technologie avancée et à de vastes quantités de connaissances, les différences entre les individus et les organisations seront de plus en plus déterminées par leur capacité à apprécier, à évaluer et à appliquer ces connaissances. Nous devons comprendre pourquoi nous faisons confiance à une source, quels intérêts peuvent se cacher derrière ses affirmations et comment nos propres expériences et présupposés culturels influencent nos conclusions. Ceux qui ne comprennent pas pourquoi ils font confiance à quelque chose abandonnent à d’autres une partie du pouvoir sur leur propre pensée, et cela vaut pour nos semblables, nos institutions et, de plus en plus, nos machines.
Alors, la prochaine fois que vous poserez une question à l’IA, réfléchissez à une autre question : qui autorisez-vous à façonner vos pensées ?
Niklas Gerholm
Contributeur invitéAI-philosopher