¿En quién confías para dar forma a tus pensamientos?
Sobre la confianza, el poder y el juicio humano en la era de la IA.
Los seres humanos siempre hemos dependido de la confianza. Nacemos sin conocimiento del mundo y aprendemos a comprenderlo a través de otras personas. Nuestros padres, profesores, amigos y autoridades nos transmiten experiencias y conocimientos que utilizamos para formar nuestra propia visión del mundo.
Pero ¿quién decide qué debemos creer? ¿Y por qué?
A lo largo de la historia, el poder sobre el pensamiento humano ha cambiado junto con nuestras formas de comunicarnos. En las primeras sociedades, los ancianos de las tribus transmitían conocimientos y tradiciones. Con la invención de la escritura, el conocimiento pudo conservarse y difundirse más allá del alcance de la voz humana. La Iglesia, las monarquías y otras instituciones adquirieron una influencia cada vez mayor sobre lo que la gente consideraba verdadero.
La imprenta cambió el equilibrio de poder. El conocimiento podía llegar a públicos cada vez más amplios y surgieron nuevas instituciones. La ciencia, las universidades, los periódicos y, con el tiempo, los movimientos políticos llegaron a dar forma a nuestra comprensión del mundo. Lo que estas transformaciones tienen en común es que quienes controlan la comunicación también adquieren influencia sobre cómo piensa la gente.
Entonces llegó internet.
De repente, casi cualquiera podía publicar sus pensamientos y llegar a un público mundial. El poder de las autoridades tradicionales se vio cuestionado. Las redes sociales aceleraron aún más esta transformación. Los algoritmos empezaron a determinar qué información encontramos, a menudo en función de lo que capta nuestra atención y no de lo que es verdad.
Y ahora llega la inteligencia artificial.
Por primera vez en la historia, podemos mantener conversaciones sofisticadas con una máquina que tiene acceso a enormes cantidades de conocimiento producido por seres humanos. Puede razonar, sintetizar información, construir argumentos y responder preguntas que antes exigían una investigación exhaustiva. Pero esto plantea un problema fundamental: ¿cómo determinamos si podemos confiar en sus respuestas?
La IA puede producir un argumento convincente que sea completamente erróneo, y también puede ofrecer respuestas correctas sin que entendamos por qué lo son. Cuanto más capaz se vuelve la IA, mayor es la tentación de delegar en ella nuestro pensamiento. Por tanto, corremos el riesgo de perder algo esencial: nuestro juicio independiente.
Bildung ha consistido tradicionalmente en desarrollar nuestra comprensión de nosotros mismos y del mundo. La capacidad de situar el conocimiento en su contexto, examinar distintas perspectivas y cuestionar las creencias establecidas. En la era de la IA, esta capacidad se vuelve más importante que nunca.
A medida que todos tengan acceso a la misma tecnología avanzada y a grandes cantidades de conocimiento, las diferencias entre individuos y organizaciones estarán cada vez más determinadas por su capacidad para valorar, evaluar y aplicar ese conocimiento. Necesitamos comprender por qué confiamos en una fuente, qué intereses pueden esconderse detrás de sus afirmaciones y cómo nuestras propias experiencias y supuestos culturales influyen en nuestras conclusiones. Quienes no comprenden por qué confían en algo ceden a otros parte del poder sobre su propio pensamiento, y esto se aplica a nuestros semejantes, a nuestras instituciones y, cada vez más, a nuestras máquinas.
Así que la próxima vez que le hagas una pregunta a la IA, plantéate otra pregunta: ¿a quién le estás permitiendo dar forma a tus pensamientos?
Niklas Gerholm
Autor invitadoAI-philosopher