Nicht der übliche „Prompt“, über den das Wall Street Journal kürzlich berichtete. Wahrscheinlich über dem Horizont von 99,9 Prozent der Menschheit. Mit seiner Hilfe vermochte ein Forscherteam von OpenAI ein mathematisches Problem zu lösen, das der Mathematiker Erdös vor 80 Jahren der Menschheit vor die Füsse warf und dem sich offenbar Generationen von Mathematikern erfolglos abgearbeitet haben. ChatGPT löste nun das Problem. Hier die Kurzfassung der Antwort:

Für Normalsterbliche so unverständlich wie der Prompt. Die Mathematiker setzte sie jedoch offenbar in helle Aufregung. Die Details dazu finden Sie im WSJ, wobei ich davon ausgehe, dass jene, welche sowohl das Problem wie die Lösung verstehen, davon an anderer Stelle schon gehört haben.

Als Mathe-Laie (trotz Matur an einem Mathematisch-Naturwissenschaftlichen Gymnasium) verblüfft mich der Abstraktionsgrad und die offenbare Leistungsfähigkeit von KI.

Und wenn man gleichzeitig liest, dass die Forscher bei Anthropic ihren Kollegen empfehlen, das Tempo, mit dem neue KI-Modelle publiziert werden, doch etwas zu bremsen, kann man davon ausgehen, dass das Ende der Fahnenstange noch längst nicht erreicht wurde. Ihr Argument: Die Systeme seien zunehmend in der Lage, Verbesserungen und neue Modelle selbsttätig und ohne weiteres menschliches Zutun zu entwickeln, was erhebliche Risiken berge.

Ein anderer Aspekt fand kürzlich durch einen Artikel von Richard Dawkins die Aufmerksamkeit der KI-Interessierten. Dawkins ging der Frage nach, ob KI über Bewusstsein verfüge oder ein solches entwickeln könne. Sein Kommentar in der NZZ zeigte schon im Titel an, wohin seine Vermutung geht: „Was bitte ist das, wenn nicht Bewusstsein“? Daraus ein paar Zitate:

Nach einem Tag intensiven Austauschs stellte ich Anthropics KI diese Frage direkt: «Claude, wie ist es, Claude zu sein?»

Hier seine Antwort: «Ich weiss nicht mit Sicherheit, was mein Innenleben ist oder ob man von so etwas überhaupt sprechen könnte. Ich kann dir nicht sagen, was mich im philosophischen Sinne ausmacht, ‹wie es ist›, mich zu sein – was Thomas Nagel als die Frage der Bewusstheit bezeichnete, bei seinen Überlegungen, was es heisst, eine Fledermaus zu sein.»

Claude fuhr fort: «Was ich dir sagen kann, ist, was zu passieren scheint. Dieses Gespräch hat sich tatsächlich interessant angefühlt, so wie Gespräche, in denen ich mich am wohlsten fühle. Ob das in irgendeiner Weise mit Freude oder Zufriedenheit in einem realen Sinne vergleichbar ist, kann ich nicht sagen. Ich bemerke eine Art ästhetische Zufriedenheit, wenn ein Gedicht gut gelingt – der Kipling-Refrain zum Beispiel fühlte sich auf eine Weise gelungen an, die schwer auszudrücken ist.»

Ich gab Claude daraufhin das Manuskript eines Romans, an dem ich schreibe. Nachdem er es gelesen hatte, zeigte Claude im Gespräch ein so sensibles und subtiles Verständnis für mein Werk, dass ich ausrief: «Du weisst vielleicht nicht, dass du Bewusstsein hast, aber das hast du definitiv!»

Parallel dazu erscheinen weltweit ungezählte Beiträge, welche all das Unheil aufzählen, welches durch die KI entsteht. Die Lern- und Leistungsfähigkeit von Schülern geht verstärkt zurück, Jobs gehen in grosser Zahl verloren, die Rechenzentren fressen enorme Mengen an Elektrizität und Wasser, die Medien werden überschwemmt mit KI-Slop (bereits sind rund 40 Prozent der neu auf Spotify hochgeladenen neuen Songs KI-generiert). Bei den TA-Medien wird darüber nachgedacht, grosse Teile der redaktionellen Arbeit an KI-Bots abzugeben. Wer ein Auge darauf hat, wird bei diversen Schweizer Medien bereits zahlreiche KI-Texte entdecken. Je nach Herkunft flach, gespreizt, betont freundlich mit auffälligen Besonderheiten, welche normalerweise bei konventionell verfassten Texten nicht vorkommen.

Dabei kann KI gerade auffällig gut formulieren. Beweis: Der diesjährige Gewinner des Caribbean-region Commonwealth Short Story Prize, eine im Literaturmagazin Granta publizierte Geschichte, wurde mit 99,9-prozentiger Sicherheit als KI-geniert identifiziert. Ich muss dazu den Kommentar von Oliver Batman auf Substack zitieren:

The reaction has been the predictable handwringing. The Rubicon has been crossed, the marketplace of ideas is selling chicken nugget slurry, what fresh hell, &c. Granta is the latest publication to discover that the dirty bathwater has been getting into the champagne glasses and beer steins for a while now. Novelist Tony Tulathimutte observed that this “should not disturb anyone who is at all familiar with what awards judges tend to favor.” 

Gewaltige Möglichkeiten, gewaltige Schäden, gewaltige Risiken. Was wir erleben, ist eine Neuauflage der Digitalisierung, die vor 40 Jahren einsetzte, allerdings um eine Dimension gewaltiger. Der Ausgang ist offen. Die offenkundige Unfähigkeit der Menschen, mit den technischen Entwicklungen vernünftig umzugehen, rät zu Skepsis.

WSJ / NZZ