David A. Bell, historien à l’Université de Princeton, souligne que si les réponses instantanées de l’IA font gagner du temps et de la commodité à la récupération des données, elles peuvent éroder l’héritage le plus précieux des Lumières, à savoir la pensée indépendante et le questionnement rationnel. (Synopsis : Soumission » Le procès anthropique dévoile la feuille de vigne de l’IA : pillage pour le bien-être social, vous et moi sommes responsables de la prochaine génération du désert de connaissances) (Supplément de fond : l’article de l’avocat de Lin Shanglun « L’IA bat trois avocats ? Ne vous y trompez pas, il s’agit du prologue de « Lawyer 2.0 ») À l’heure actuelle, avec le développement rapide et la popularisation de l’intelligence artificielle (IA), qu’il s’agisse d’écrire du code, de concevoir des affiches ou de rédiger des écrits universitaires, de plus en plus de personnes intègrent l’IA dans leur travail et leur vie. Bien que de nombreux emplois d’aujourd’hui nécessitent encore à la fois de l’IA et du travail humain, on parle beaucoup d’IA qui remplacera un jour complètement les humains. Cependant, David A. Bell, un historien de l’Université de Princeton qui se concentre sur les Lumières, a récemment écrit dans le New York Times que, tout en reconnaissant la transformation que l’IA a apportée au monde, il a également critiqué l’impact que l’IA peut avoir sur l’esprit moderne, Bell a déclaré sans ambages : Les connaissances fournies par l’IA peuvent sembler englobantes, mais en fait, elles peuvent ébranler l’héritage le plus précieux des Lumières, qui est l’esprit de pensée indépendante et de questionnement rationnel. Bell note que les penseurs des Lumières du XVIIIe siècle, tels que D’Alembert et Diderot, encourageaient les lecteurs à délibérer sur des textes par eux-mêmes à travers l’Encyclopédie. Cependant, bien que les outils d’IA tels que ChatGPT puissent également récupérer et organiser rapidement les connaissances, ils « mâchent » les réponses avant de les servir, ce qui permet aux utilisateurs d’obtenir la conclusion finale en peu de temps, mais élimine le processus de réflexion de l’utilisateur. Bell a déclaré que lorsqu’on interagit avec l’IA, on peut constater que l’IA répond toujours aux besoins des signaux humains, mais qu’elle ne remet pas en question les opinions et les positions, il a carrément déclaré : « Elle n’a jamais dit : 'C’est la mauvaise question'. » Il n’a jamais remis en question mes convictions morales ou ne m’a jamais demandé de me défendre. De l’avis de Bell, lorsque la capacité unique des êtres humains à penser rationnellement en tant qu’animaux intelligents est privée par l’IA, l’esprit moderne nourri par les Lumières a sans aucun doute été affaibli. Vérité, raison et « contenu hallucinatoire » Bell est particulièrement préoccupé par la vitesse et l’échelle auxquelles l’IA génère du « contenu hallucinatoire ». Il a souligné que l’IA manque de compréhension réelle et de jugement moral, et que si elle ne fait pas attention, elle enveloppera des données fictives dans des déclarations crédibles et répondra aux besoins des utilisateurs avec du contenu fabriqué. Si la société dépend trop de ces exportations, la culture de la preuve que la communauté scientifique a laborieusement construite s’érodera également. Bell souligne que l’esprit scientifique des Lumières mettait l’accent sur la vérifiabilité et le débat ouvert, et que si les gens perdent confiance dans l’authenticité de l’information, le pilier de la « discussion rationnelle » s’effondrera également. Les penseurs des Lumières tels que Montesquieu et Voltaire sont bons pour guider les lecteurs à affiner leur capacité de raisonnement dans les contradictions, mais d’un autre côté, les produits d’IA orientés vers les affaires, la plupart d’entre eux renforcent les préférences existantes de l’utilisateur, en termes simples, si l’utilisateur lui-même est biaisé contre un certain point de vue, l’IA non seulement ne peut pas stimuler l’autoréflexion et la capacité critique de l’utilisateur, mais peut approfondir ce biais, ce qui rendra les êtres humains profondément piégés dans la prison des préjugés. Bell souligne que lorsque les êtres humains sacrifient des questions pointues à la recherche de résultats rapides, au niveau de la société civile, les gens perdent la remise en question nécessaire de l’autorité et de la tradition. L’éducation et la sortie de « l’intelligence hybride collective » Bell ne nie pas la technologie, mais appelle à l’action humaine dans la politique et l’enseignement. Il a proposé le concept d'« intelligence hybride collective » : intégrer la puissance de calcul de l’IA avec le jugement éthique humain et la perspicacité empirique. Cela signifie que les salles de classe doivent renforcer la lecture approfondie, le débat et la formation logique, afin que les élèves voient l’IA comme une aide et non comme un point final pour les réponses. À long terme, ce n’est qu’en prenant l’initiative de remettre en question et de dialoguer courageusement que l’humanité pourra continuer à écrire l’esprit des Lumières dans la vague de technologie en évolution rapide. La perspective historique de Bell nous rappelle que nous pouvons perdre notre instinct de commodité en recherchant la commodité. Lorsque l’IA peut remplacer les humains pour capturer des informations comme une explosion dans l’univers, ce qu’il faut vraiment investir, c’est peut-être la patience de lutter contre les problèmes. La question de savoir si l’IA peut devenir la force motrice pour perpétuer l’esprit des Lumières, plutôt que de se tenir du côté opposé de l’esprit des Lumières, dépend de la volonté de chaque utilisateur de conserver le courage de poser des questions. Rapports connexes : l’effondrement de la vie privée de l’IA : la « conversation ChatGPT » nue devant la loi ; Altman : J’ai peur de saisir des informations personnelles, et il est difficile de savoir qui obtiendra les données. Lorsque l’IA menace la survie des êtres humains, nous avons davantage besoin de la philosophie de conception de Satoshi Professeur Yale : L’IA « éliminera définitivement » la solitude humaine, avons-nous toujours besoin de la compagnie des autres ? « Combien de temps n’y as-tu pas pensé ?) Des universitaires de Princeton mettent en garde : L’IA érode « l’héritage des Lumières » Cet article a été publié pour la première fois dans « Dynamic Trends - The Most Influential Blockchain News Media » de BlockTempo.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Depuis combien de temps n'avez-vous pas réfléchi sérieusement ? Des chercheurs de Princeton mettent en garde : l'IA ronge l'héritage des Lumières.
David A. Bell, historien à l’Université de Princeton, souligne que si les réponses instantanées de l’IA font gagner du temps et de la commodité à la récupération des données, elles peuvent éroder l’héritage le plus précieux des Lumières, à savoir la pensée indépendante et le questionnement rationnel. (Synopsis : Soumission » Le procès anthropique dévoile la feuille de vigne de l’IA : pillage pour le bien-être social, vous et moi sommes responsables de la prochaine génération du désert de connaissances) (Supplément de fond : l’article de l’avocat de Lin Shanglun « L’IA bat trois avocats ? Ne vous y trompez pas, il s’agit du prologue de « Lawyer 2.0 ») À l’heure actuelle, avec le développement rapide et la popularisation de l’intelligence artificielle (IA), qu’il s’agisse d’écrire du code, de concevoir des affiches ou de rédiger des écrits universitaires, de plus en plus de personnes intègrent l’IA dans leur travail et leur vie. Bien que de nombreux emplois d’aujourd’hui nécessitent encore à la fois de l’IA et du travail humain, on parle beaucoup d’IA qui remplacera un jour complètement les humains. Cependant, David A. Bell, un historien de l’Université de Princeton qui se concentre sur les Lumières, a récemment écrit dans le New York Times que, tout en reconnaissant la transformation que l’IA a apportée au monde, il a également critiqué l’impact que l’IA peut avoir sur l’esprit moderne, Bell a déclaré sans ambages : Les connaissances fournies par l’IA peuvent sembler englobantes, mais en fait, elles peuvent ébranler l’héritage le plus précieux des Lumières, qui est l’esprit de pensée indépendante et de questionnement rationnel. Bell note que les penseurs des Lumières du XVIIIe siècle, tels que D’Alembert et Diderot, encourageaient les lecteurs à délibérer sur des textes par eux-mêmes à travers l’Encyclopédie. Cependant, bien que les outils d’IA tels que ChatGPT puissent également récupérer et organiser rapidement les connaissances, ils « mâchent » les réponses avant de les servir, ce qui permet aux utilisateurs d’obtenir la conclusion finale en peu de temps, mais élimine le processus de réflexion de l’utilisateur. Bell a déclaré que lorsqu’on interagit avec l’IA, on peut constater que l’IA répond toujours aux besoins des signaux humains, mais qu’elle ne remet pas en question les opinions et les positions, il a carrément déclaré : « Elle n’a jamais dit : 'C’est la mauvaise question'. » Il n’a jamais remis en question mes convictions morales ou ne m’a jamais demandé de me défendre. De l’avis de Bell, lorsque la capacité unique des êtres humains à penser rationnellement en tant qu’animaux intelligents est privée par l’IA, l’esprit moderne nourri par les Lumières a sans aucun doute été affaibli. Vérité, raison et « contenu hallucinatoire » Bell est particulièrement préoccupé par la vitesse et l’échelle auxquelles l’IA génère du « contenu hallucinatoire ». Il a souligné que l’IA manque de compréhension réelle et de jugement moral, et que si elle ne fait pas attention, elle enveloppera des données fictives dans des déclarations crédibles et répondra aux besoins des utilisateurs avec du contenu fabriqué. Si la société dépend trop de ces exportations, la culture de la preuve que la communauté scientifique a laborieusement construite s’érodera également. Bell souligne que l’esprit scientifique des Lumières mettait l’accent sur la vérifiabilité et le débat ouvert, et que si les gens perdent confiance dans l’authenticité de l’information, le pilier de la « discussion rationnelle » s’effondrera également. Les penseurs des Lumières tels que Montesquieu et Voltaire sont bons pour guider les lecteurs à affiner leur capacité de raisonnement dans les contradictions, mais d’un autre côté, les produits d’IA orientés vers les affaires, la plupart d’entre eux renforcent les préférences existantes de l’utilisateur, en termes simples, si l’utilisateur lui-même est biaisé contre un certain point de vue, l’IA non seulement ne peut pas stimuler l’autoréflexion et la capacité critique de l’utilisateur, mais peut approfondir ce biais, ce qui rendra les êtres humains profondément piégés dans la prison des préjugés. Bell souligne que lorsque les êtres humains sacrifient des questions pointues à la recherche de résultats rapides, au niveau de la société civile, les gens perdent la remise en question nécessaire de l’autorité et de la tradition. L’éducation et la sortie de « l’intelligence hybride collective » Bell ne nie pas la technologie, mais appelle à l’action humaine dans la politique et l’enseignement. Il a proposé le concept d'« intelligence hybride collective » : intégrer la puissance de calcul de l’IA avec le jugement éthique humain et la perspicacité empirique. Cela signifie que les salles de classe doivent renforcer la lecture approfondie, le débat et la formation logique, afin que les élèves voient l’IA comme une aide et non comme un point final pour les réponses. À long terme, ce n’est qu’en prenant l’initiative de remettre en question et de dialoguer courageusement que l’humanité pourra continuer à écrire l’esprit des Lumières dans la vague de technologie en évolution rapide. La perspective historique de Bell nous rappelle que nous pouvons perdre notre instinct de commodité en recherchant la commodité. Lorsque l’IA peut remplacer les humains pour capturer des informations comme une explosion dans l’univers, ce qu’il faut vraiment investir, c’est peut-être la patience de lutter contre les problèmes. La question de savoir si l’IA peut devenir la force motrice pour perpétuer l’esprit des Lumières, plutôt que de se tenir du côté opposé de l’esprit des Lumières, dépend de la volonté de chaque utilisateur de conserver le courage de poser des questions. Rapports connexes : l’effondrement de la vie privée de l’IA : la « conversation ChatGPT » nue devant la loi ; Altman : J’ai peur de saisir des informations personnelles, et il est difficile de savoir qui obtiendra les données. Lorsque l’IA menace la survie des êtres humains, nous avons davantage besoin de la philosophie de conception de Satoshi Professeur Yale : L’IA « éliminera définitivement » la solitude humaine, avons-nous toujours besoin de la compagnie des autres ? « Combien de temps n’y as-tu pas pensé ?) Des universitaires de Princeton mettent en garde : L’IA érode « l’héritage des Lumières » Cet article a été publié pour la première fois dans « Dynamic Trends - The Most Influential Blockchain News Media » de BlockTempo.