Wem vertraust du an, deine Gedanken zu prägen?
Über Vertrauen, Macht und menschliche Urteilskraft im Zeitalter der KI.
Menschen waren schon immer auf Vertrauen angewiesen. Wir werden ohne Wissen über die Welt geboren und lernen, sie durch andere Menschen zu verstehen. Unsere Eltern, Lehrkräfte, Freunde und Autoritäten geben Erfahrungen und Wissen weiter, mit denen wir unser eigenes Weltbild formen.
Aber wer entscheidet, was wir glauben sollen? Und warum?
Im Laufe der Geschichte hat sich die Macht über das menschliche Denken zusammen mit unseren Kommunikationsformen verlagert. In frühen Gesellschaften gaben Stammesälteste Wissen und Traditionen weiter. Mit der Erfindung der Schrift konnte Wissen bewahrt und über die Reichweite der menschlichen Stimme hinaus verbreitet werden. Die Kirche, Monarchien und andere Institutionen gewannen zunehmend Einfluss darauf, was Menschen für wahr hielten.
Der Buchdruck veränderte das Machtgleichgewicht. Wissen konnte immer größere Zielgruppen erreichen, und neue Institutionen entstanden. Wissenschaft, Universitäten, Zeitungen und schließlich politische Bewegungen begannen, unser Verständnis der Welt zu prägen. Diesen Umbrüchen ist gemeinsam, dass diejenigen, die die Kommunikation kontrollieren, auch Einfluss darauf gewinnen, wie Menschen denken.
Dann kam das Internet.
Plötzlich konnte fast jeder seine Gedanken veröffentlichen und ein weltweites Publikum erreichen. Die Macht traditioneller Autoritäten wurde infrage gestellt. Soziale Medien beschleunigten diesen Wandel noch weiter. Algorithmen begannen zu bestimmen, welchen Informationen wir begegnen – oft danach, was unsere Aufmerksamkeit fesselt, statt danach, was wahr ist.
Und nun kommt die künstliche Intelligenz.
Zum ersten Mal in der Geschichte können wir anspruchsvolle Gespräche mit einer Maschine führen, die Zugang zu enormen Mengen an von Menschen geschaffenem Wissen hat. Sie kann Schlussfolgerungen ziehen, Informationen zusammenführen, Argumente entwickeln und Fragen beantworten, die zuvor umfangreiche Recherchen erforderten. Doch das wirft ein grundlegendes Problem auf: Wie stellen wir fest, ob wir ihren Antworten vertrauen können?
KI kann ein überzeugendes Argument hervorbringen, das völlig falsch ist, und sie kann auch richtige Antworten liefern, ohne dass wir verstehen, warum sie richtig sind. Je leistungsfähiger KI wird, desto größer wird die Versuchung, ihr unser Denken zu überlassen. Wir laufen deshalb Gefahr, etwas Wesentliches zu verlieren: unsere unabhängige Urteilskraft.
Bei Bildung ging es traditionell darum, unser Verständnis von uns selbst und der Welt zu entwickeln. Die Fähigkeit, Wissen in einen Zusammenhang einzuordnen, unterschiedliche Perspektiven zu prüfen und etablierte Überzeugungen zu hinterfragen. Im Zeitalter der KI wird diese Fähigkeit wichtiger denn je.
Da alle Zugang zu derselben fortschrittlichen Technologie und riesigen Wissensbeständen erhalten, werden die Unterschiede zwischen Einzelpersonen und Organisationen zunehmend durch ihre Fähigkeit bestimmt, dieses Wissen einzuschätzen, zu bewerten und anzuwenden. Wir müssen verstehen, warum wir einer Quelle vertrauen, welche Interessen hinter ihren Aussagen stehen könnten und wie unsere eigenen Erfahrungen und kulturellen Annahmen unsere Schlussfolgerungen beeinflussen. Wer nicht versteht, warum er etwas vertraut, überlässt anderen einen Teil der Macht über sein eigenes Denken – und das gilt für unsere Mitmenschen, unsere Institutionen und zunehmend auch für unsere Maschinen.
Wenn du also das nächste Mal einer KI eine Frage stellst, denke über eine weitere Frage nach: Wem erlaubst du, deine Gedanken zu prägen?
Niklas Gerholm
GastautorAI-philosopher