LI 147, Winter 2024

(…)

Der Impuls der Datafizierung ist keine Erfindung des Internets, sondern das Erbe der Aufklärung. Der Vermessungswahn der Gegenwart ist die Fortführung eines alten Erkenntnisdrangs mit neuesten technischen Mitteln.
     Diese neuen technischen Mittel führen nun dazu, daß zum einen die Vermessung immer mehr ins Verborgene drängt und zum anderen die Zahl zur letzten großen Erzählung der Post-Postmoderne wird. Am Ende wird die Mathematik sogar zur Grundlage der Sprache, und zwar so sehr, daß sie schließlich kollabiert und die Gesellschaft dank der Vermessung nicht mehr über sich Bescheid weiß, sondern immer weniger. Von alldem ist hier zu berichten. Beginnen wir mit der Ausweitung der Vermessungszone nach dem Hügel.

Affective Computing

Der Erkenntnisdrang, der schon mit der Vermessung des Schädels auf das Innere des Menschen zielte, macht nicht an der Außengrenze seines Körpers halt. Ende des 19. Jahrhunderts entwickelte sich mit der Psychoanalyse eine Theorie, die tief ins Verborgene des Menschen schaute, bis in den Schlaf hinein, und mit wissenschaftlich begründeten Methoden dessen Gefühle und Gedanken aufzudecken versuchte. Das methodische Paradigma kam hier noch ganz aus der Literatur: durch Zwischen-den-Zeilen-Lesen und Symbol-Entschlüsselung wollte man nicht nur das verstehen, was die Autorin beziehungsweise der Patient eigentlich hatte sagen wollen, sondern auch das, was er und sie vor den anderen und sich selbst geheimhalten wollten.
     Die Psychoanalyse ist der Versuch, das Geheimnis in der Sprache aufzudecken. Zu ihrem theoretischen Fundament gehört der Ausspruch von Charles-Maurice de Talleyrand, französischer Staatsmann unter Napoleon: „Die Sprache ist dem Menschen gegeben, um seine Gedanken zu verbergen.“ Diese Gleichung liegt nun auch dem Versuch zugrunde, mit digitalen Mitteln Zugang zum Innenleben des Menschen zu erhalten. Allerdings verweist das methodische Paradigma da nicht mehr auf die Literatur, sondern auf die Mathematik: Es wird nicht länger interpretiert, sondern vermessen. 
     Die Rede ist von „affective computing“, so heißt der Forschungszweig, der durch die Analyse biometrischer Daten wie Stimmlage, Gesichtszüge, Gestik oder Körperhaltung den nonverbalen Teil der Kommunikation offenzulegen sucht. Wäre es nicht toll, sagt die Gründerin des Startups Affectiva euphorisch in einer Radiosendung, wenn wir diesen nichtverbalen Teil unserer Kommunikation zur Lesbarkeit hin befreien könnten? Die Radiosendung, die verschiedene Startup-Ideen vorstellt, heißt passenderweise „Should this exist?“: Soll es das geben? Und die Moderatorin denkt bei Affectiva nicht zu Unrecht an „thoughtcrime“, das Gedankenverbrechen in Orwells Dystopie 1984, und an „precrime“, das potentielle Verbrechen in Steven Spielbergs Science-Fiction-Film Minority Report. Soll es wirklich eine App geben, die unsere Gedanken und Gefühle lesen kann? 
     Zu spät! Solche Apps werden längst eingesetzt. Zum Beispiel, wenn in einem Bewerbungsverfahren ein Vorstellungsvideo einzusenden ist, das dann von einer KI ausgewertet wird. Sagt dieser die Körpersprache und der Gesamteindruck der Kandidatin zu, kommt die Bewerbung in die nächste Runde. Ein entsprechender Anbieter für solche Affekt-Analysen ist HireVue mit Sitz in South Jordan, Utah, und Retorio mit Sitz in München. In China kommt dieses Verfahren sogar im Unterricht zum Einsatz, wenn unter dem poetischen Begriff „Himmelsauge“ eine KI-unterstützte Kamera die innere Stimmungslage der Schüler erkundet.1 Im Westen begrenzt sich der Einsatz eines solchen Auges noch weitgehend auf den Arbeitsbereich und Konferenzräume.
     Aber auch die EU schaut Menschen, die in sie einreisen wollen, computergestützt ins Innere. Die von der EU geförderte App iBorderCtrl analysiert bei einem vorausgehenden Video-Gespräch der Antragssteller deren Gesichtszüge – wie ein visueller Lügendetektor aus dem Internet. Und an der Universität des Saarlands arbeitet man daran, die Persönlichkeit eines Menschen anhand seiner Augenbewegungen zu erkennen.2 Der Entdeckungs- und Vermessungsdrang der Moderne kennt keine Grenzen, nicht nur in autoritären Staaten und nicht nur im Wirtschaftsbereich der Gesellschaft. Und wir alle machen fleißig mit, wenn wir unser Handy per Gesichts-ID entsperren und ihm so gleich vorab unsere aktuelle Stimmung verraten.
     All diese Beispiele kommen ohne invasive Methoden aus. Die Vermessung biometrischer Daten erfolgt im Außen der Betroffenen. Natürlich gibt es Begehrlichkeiten, auch diese Grenze zu überwinden. 

(…)

Vermessung kolonialisiert zunehmend unsere Kommunikation. Allerdings kann nicht nur biometrisch deren nonverbaler Teil vermessen werden, auch die Sprache selbst ist mittlerweile Objekt der Vermessung. Ein Forschungszweig, der sich damit beschäftigt, heißt „Digital Humanities“, ein Forschungszweig, der vor nunmehr einem Vierteljahrhundert maßgeblich vom Literaturwissenschaftler Franco Moretti von der Stanford University ins Leben gerufen wurde.

(…)

Die Digital Humanities ersetzen das Verfahren der Interpretation durch das der Vermessung. Die Vermessung der Sprache kann allerdings selbst dem Produktionsprozeß schon zugrunde liegen. Auch das Sprechen kann mathematisiert werden, von der Wahl der Wörter bis zur Satzstruktur. Jedenfalls, wenn das Sprechen von einer KI übernommen wird wie ChatGPT oder Gemini, wie Googles Sprachmodell heißt, oder Ernie, so der Name des chinesischen Äquivalents. All diese Sprachmodelle rechnen, wenn sie sprechen. Sie berechnen aus riesigen Textmengen die Verhältnisse der Wörter zueinander und wählen als nächstes Wort in einem Satz immer das mit der statistisch höchsten Anschlußfähigkeit. In Anlehnung an den Begriff vom „distant reading“ wäre von einem distanzierten Schreiben zu sprechen oder eben vom mathematischen Schreiben. Es ist der nächste logische Schritt zum mathematischen Lesen: Sobald die Maschine analysiert hat, wie der Mensch Text produziert, kann sie die Textproduktion auch selbst übernehmen.
     Wegen der vorgenommenen Vermessung der Sprache anhand von Millionen von Texten weiß ChatGPT, daß der Satz „Sie ging nicht nach links, sondern …“ mit den Worten „nach rechts“ enden muß und daß Hitler ein Monster war, denn diese Attribuierung überwiegt im Datensatz bei weitem die von Hitler als Helden. Mit der gleichen mathematischen Logik denkt die KI bei dem englischen Wort für Pfleger und Pflegerin, „nurse“, an eine Frau und bei der ebenfalls genderneutralen Abkürzung CEO für Chief Executive Officer an einen Mann; denn das ergeben die mathematischen Verhältnisse in den Trainingsdaten der KI, die zugleich mehr oder weniger die gesellschaftlichen Verhältnisse spiegeln.
     Die politische Konsequenz dieses mathematischen Schreibstils liegt auf der Hand: Ohne normatives Feintuning des numerischen Sprachmodells wird dieses sich immer für das entscheiden, was im Datensatz die Mehrheit auf seiner Seite hat, also für den Mainstream. Und je mehr wir mit dem Sprachmodell kommunizieren und von ihm uns unsere Texte schreiben lassen, um so mehr werden wir sein lexikalisches und syntaktisches Design übernehmen und selbst im Modus der Vermessung sprechen. Jenseits der politischen Sorge (CEO als weiße Männer, nurse als Frau) führt diese Situation dazu, daß der „Durchschnitt zum Maß aller Dinge“ wird; die Sprachmaschine ist strukturell konservativ, weil sie zum gelingenden Fortgang der Kommunikation immer die gebräuchlichsten Anschlüsse wählt.

(…)