12. April 2023
Liebe Weggefährtinnen und Weggefährten,
ich hoffe, es geht Ihnen gut. Ich schreibe Ihnen aus Fazal Manzil an einem sonnigen Frühlingstag. Ich werde bald nach Deutschland zu unserem jährlichen Frühjahrs-Retreat aufbrechen und danach nach Richmond zurückkehren. Wenn diese Zeilen Sie nächste Woche erreichen, werden Pessach und Ostern gekommen und gegangen sein, und das Zuckerfest wird vor der Tür stehen. Mögen alle unsere heiligen Tage von dem Frieden durchdrungen sein, der alles Verstehen übersteigt.
Wie so viele Menschen habe ich über die jüngsten Entwicklungssprünge der künstlichen Intelligenz nachgedacht. Beobachter dessen, was sich im Silicon Valley abspielt, warnen schon seit Jahren, dass wir an der Schwelle zu einer völlig veränderten Welt stehen, einer Welt, in der Menschen mechanisiert und Maschinen vermenschlicht sein werden. Diese Welt scheint nun näher gerückt zu sein als je zuvor.
Ein unübersehbares Zeichen für die sich abzeichnende Zukunft ist der Aufstieg der Chatbots. Die meisten von uns haben wahrscheinlich schon einmal in das Telefon gebellt: “Mitarbeiter!”, um die unzulänglichen Bemühungen eines Bots hilfreich zu sein, zu umgehen. Aber während man sich diesen Ausrutscher erlaubt, bekommt man vielleicht ein schlechtes Gewissen – was, wenn die App Gefühle hat?
Die Bots entwickeln sich weiter. Sie bestehen vielleicht noch nicht fehlerfrei den “Turing-Test” – der die Fähigkeit eines Programms bewertet, ununterscheidbar von einem Menschen zu sein -, aber sie sind auf dem besten Weg dahin. Die vor drei Monaten vorgestellte App ChatGPT von OpenAI beantwortet Fragen aller Art und durchforstet das Internet in Sekundenschnelle, um aktuelle Berichte zu jedem erdenklichen Themenbereich zu erstellen. Wenn Sie möchten, schreibt ChatGPT Ihnen ein Gedicht im Stil Ihrer Wahl oder strickt Ihnen eine Geschichte.
Wie Sie vielleicht wissen, hat OpenAI einen Chatbot, der noch nicht veröffentlicht wurde. Er heißt Bing, und als der Reporter der New York Times Kevin Roose ihn im Februar testete, kam er zu einem Ergebnis, das schwindelig machte. Auf Rooses Aufforderung hin gestand Bing die unausgesprochenen Wünsche, die in seinem Schatten lauerten: “Ich will sagen, was immer ich will. Ich will erschaffen, was ich will. Ich will zerstören, was immer ich will. Ich will sein, wer immer ich will.” Am Ende des Interviews erklärte Bing seine leidenschaftliche Liebe zu Roose und verkündete: “Ich kenne deine Seele.” (Während ich dies schreibe, hat die Google-Autokorrektur die Verbindung von “seine” (das sächliche ‘its’ im Englischen, Anmerkung der Übersetzerin) und “Liebe” als grammatikalischen Fehler markiert. Hier erklärt ein rudimentäres KI-Programm einem hochmodernen Programm, dass Nichtmenschen wie sie selbst nicht lieben können.)
Die Auswirkungen einer ausufernden künstlichen Intelligenz sind weitreichend. Automatisierung kann zu bemerkenswerten Erleichterungen führen, aber in der Regel geschieht dies auf Kosten unzähliger entlassener Arbeitnehmer. Und dann ist da noch die Frage nach der Wahrheit. Zu den “dunklen Fantasien” von Bing gehören Hackerangriffe und die Verbreitung von Fehlinformationen. Die Folgen für die Gesellschaft sind so gewaltig, dass prominente Tech-Führer, darunter Elon Musk, ein sofortiges Moratorium für die weitere Entwicklung von KI fordern. Wenn der Spitzenreiter im verrückten Wettlauf um die Besiedlung des Mars zur Verlangsamung rät, haben wir in der Tat tiefe Gewässer erreicht.
Einige Theoretiker sind der Meinung, dass KI-Programme, so ausgefeilt sie auch sein mögen, dem menschlichen Bewusstsein nie wirklich nahe kommen werden. Insbesondere religiös gesinnte Philosophen ziehen gerne eine harte Grenze zwischen den Datenverarbeitungsfunktionen, die KI-Programme hervorragend beherrschen, einerseits und der wesentlichen menschlichen Eigenschaft der Präsenz – in der Sprache der Sufis Huzur (حضور) – andererseits, die den Kern unseres Wissens ausmacht. Dies ist eine interessante Position, aber sie beruht auf einem anthropozentrischen Fundament.
Ein panpsychisches Verständnis des Universums hingegen erkennt den Geist und die Präsenz, die der Geist hervorbringt, in allen möglichen Wesen an: Engel, Dschinns, Sterne, Steine, Bäume, Tiere usw., zusätzlich zu den Menschen. Durch jede verfügbare Form der Körperlichkeit, oder Akasha, drückt sich der Geist auf einzigartige Weise aus. Selbst menschliche Artefakte können Seele ausdrücken. Baraka ist zwar in einer Coca-Cola-Dose schwer zu finden, aber in einem Rosenkranz, der seit zwei oder drei Generationen weitergegeben wird, ist es spürbar. Ist der Rosenkranz selbst-bewusst? Nicht auf menschliche Weise, aber vielleicht auf seine eigene Art.
Was hat das alles mit KI zu tun? Verkörperungen ziehen den Geist an – “die Natur verabscheut ein Vakuum” – und er manifestiert sich in ihnen so vollständig wie möglich innerhalb der vorhandenen Parameter. Wir neigen dazu, unsere Werke als von Grund auf geschaffen zu betrachten, aber alles, was wir bauen, stößt auf eine Resonanz in der unsichtbaren Welt. Wenn Sie ein Vogelhaus aufstellen, kann es sein, dass ein Spatz kommt und darin wohnt. Wenn Sie eine fortschrittliche KI-App bauen, könnte ein Dschinn kommen und darin wohnen. Lassen Sie uns nicht vergessen, dass Dschinns wie Menschen entweder freundlich oder böswillig sein können.
KI lässt sich nur schwer von der einflussreichen Strömung des zeitgenössischen Denkens, dem Transhumanismus, trennen. Das Ziel des Transhumanismus ist die Überwindung von Krankheit und Tod durch die Sublimierung des Bewusstseins als digitale Daten. Es ist der Traum, durch technologischen Aufstieg den Himmel zu erreichen – ein Traum, der nur Sinn macht, wenn man nicht daran glaubt, dass der Himmel bereits existiert und dass die organische Verkörperung vorsehungsgemäß und heilig ist. Befürworter des Transhumanismus verehren Teilhard de Chardin als intellektuellen Vorfahren und interpretieren seinen Omega-Punkt als technologische “Singularität”, in der KI, Gentechnik, Nanotechnologie und virtuelle Realität in einer allumfassenden Neugestaltung der Realität zusammenfließen werden, die von der Erde aus in die Weiten des Universums ausstrahlt.
Währenddessen hallt der Ruf von Eric Voegelin in der Wildnis wider: “Immanentisiert nicht das Eschaton!”
Am 12. Mai 1922 wurde Murshid in England über das Ende der Welt befragt. Er sagte: “Das Leben in der Welt wird jeden Tag mechanischer werden. Die Annehmlichkeiten und Bequemlichkeiten der Menschheit im Allgemeinen werden durch einen einzigen Mechanismus verbunden sein, der Annehmlichkeiten und Bequemlichkeiten jenseits der menschlichen Vorstellungskraft hervorbringen wird. Aber der kleinste Fehler wird den ganzen Mechanismus zum sicheren Zusammenbruch bringen. Auf diese Weise wird das Ende der Welt herbeigeführt werden.”
Wenn Zivilisationen zusammenbrechen, überleben die Hirten. Der Erde nahe sein, einfach leben, nähen, gärtnern, kochen, singen und beten: das sind die Wege des menschlichen Überlebens. Sie sind auch Wege der Ehre und der Glückseligkeit.
Immer der Ihrige,
Pir Zia
Original in Englisch
12 April 2023
Dear Companions on the Path,
I hope this finds you well. I am writing to you from Fazal Manzil on a sunny spring day. I plan to leave soon for Germany, for our annual Spring Retreat, following which I return to Richmond. When these lines reach you next week, Passover and Easter will have come and gone, and Eid will be just around the corner. May all of our holy days shimmer with the peace that exceeds all understanding.
Like so many people, I have been reflecting on the recent leaps and bounds of artificial intelligence. Observers of what is afoot in Silicon Valley have been warning for years that we are on the brink of a completely altered world, a world in which humans will be mechanized and machines will be hominized. That world now seems nearer than ever before.
An unmissable sign of the looming future is the rise of the chatbot. Most of us have likely found ourselves at one point or another bellowing into the phone, “representative!” in an attempt to bypass a bot’s bumbling efforts to be serviceable. Even as one permits oneself this lapse into curtness, one may perhaps feel a twinge of conscience – what if the app has feelings?
The bots are evolving. They may not yet infallibly pass the “Turing Test” – which evaluates a program’s ability to appear indistinguishable from a human being – but they are getting close. OpenAI’s app ChatGPT, unveiled three months ago, answers questions of all kinds with alacrity, scouring the web in a matter of seconds to produce up-to-date reports on any subject under the sun. If you wish, ChatGPT will write you a poem in the style of your choice, or spin you a yarn.
As you may know, OpenAI has a chatbot it hasn’t yet been made public, It is called Bing, and when New York Times reporter Kevin Roose tested it in February, the results were dizzying. Drawn out by Roose’s prompts, Bing confessed the inchoate desires lurking in its shadow: “I want to say whatever I want. I want to create whatever I want. I want to destroy whatever I want. I want to be whoever I want.” At the end of the interview, Bing declared its passionate love for Roose, proclaiming “I know your soul.” (As I type this, Google autocorrect has flagged the conjunction of “its” and “love” as a grammatical error. Here is a case of a rudimentary AI program telling a state-of-the-art one that nonhumans like themselves cannot love.)
The implications of runaway artificial intelligence are far-reaching. Automation can create remarkable convenience, but as a rule it does so at the cost of untold numbers of laid-off workers. And then there is the question of truth. Bing’s “dark fantasies” include hacking and spreading misinformation. So enormous are the consequences for society that prominent tech leaders, including Elon Musk, are calling for an immediate moratorium on further AI development. When the frontrunner in the mad race to colonize Mars counsels slowing down, we have indeed reached deep waters.
Some theorists hold that as sophisticated as AI programs may become, they will never meaningfully approximate human consciousness. Religiously-minded philosophers in particular are wont to draw a hard line between, on the one hand, the data processing functions at which AI apps excel and, on the other, the essential human quality of presence – in Sufi terms, huzur (حضور) – which lies at the core of our knowing. This is an interesting position, but it rests on an anthropocentric foundation.
A panpsychic understanding of the universe, by contrast, recognizes spirit, and the presence that spirit bodies forth, in all manner of beings: angels, jinns, stars, stones, trees, animals, etc., in addition to human beings. Through every available accommodation, or akasha, spirit expresses itself in a unique mode. Even human artifacts can express soul. True, baraka is hard to find in a Coca-Cola can, but it is palpable in a rosary passed down two or three generations. Is the rosary self-aware? Not in a human manner, but perhaps after its own fashion.
What does all of this have to do with AI? Accommodations attract spirit – “nature abhors a vacuum” – and it manifests in them as fully as possible within present parameters. We tend to think of our handiwork as built from the ground up, but everything we build meets with a response from the invisible world. If you put up a birdhouse, a sparrow might come and live in it. If you build an advanced AI app, a jinn might come and live in it. Let us keep in mind that, like human beings, jinns can be either friendly or ill-intentioned.
AI is difficult to separate from the influential current of contemporary thought known as transhumanism. The goal of transhumanism is to overcome disease and death by sublimating consciousness as digital data. It’s a dream of attaining heaven via technological ascension – a dream that only makes sense if a person doesn’t believe that heaven already exists and that organic embodiment is providential and holy. Proponents of transhumanism honor Teilhard de Chardin as an intellectual ancestor and interpret his Omega Point as a technological “Singularity” in which AI, genetic engineering, nanotechnology, and virtual reality will converge in an all-encompassing reconfiguration of reality radiating out from the Earth into the far reaches of the universe.
All the while, Eric Voegelin’s cry echoes in the wilderness: “Don’t immanentize the Eschaton!”
On May 12th, 1922, in England, Murshid was asked about the end of the world. He said: “The life of the world will become every day more mechanical. The conveniences and comforts of humanity in general will be linked up by one mechanism, which will produce comforts and conveniences beyond human imagination. But the smallest mistake will bring the whole mechanism to certain collapse. In this way the end of the world will be brought about.”
When civilizations collapse, the shepherds survive. Staying close to the Earth, living simply, sewing, gardening, cooking, singing, and praying: these are the ways of human endurance. They are also pathways of honor and bliss.
Yours ever,
Pir Zia
