Artificial Servility

Weitere Beiträge von Stanislaw Lem:
Die Simulation der Kultur
Labyrinthe der Information
Meine Abenteuer mit der Futurologie
Informationsbarriere
Exformation
Evolution als Parallelcomputer
Gespräch mit Stanislaw Lem.

Was bedeutet Artificial Servility? Diesen Begriff gibt es erst, seitdem ich ihn hier geprägt habe. Wörtlich
übersetzt hieße er "künstliche Sklaverei", und er bezieht sich auf ALLES, wozu die sich heute auf der
ganzen Welt so verbreitenden elektronischen Geräte zur Verarbeitung, Betätigung, Speicherung und last
but not least zur Übertragung von Information fähig sind.

Warum "Sklaverei"? Weil es in dieser ganzen Industrie (die den verschiedenen Microsofts MILLIARDEN
bringt), in dem ganzen Computergedränge, in allen Generationen der Hard- und Software, in Modems und
Server keine Spur von Verstand gibt. Es gibt kein bißchen an Intelligenz. Sie arbeiten wie Sklaven: auf
Befehl. Sie können in die Paradiese der "sexuellen Wollust" und in die "Tarpejische Hölle" führen. Sie
unterscheiden nicht den Mumpitz ("junk mail") von einer so unerhört bedeutsamen Information wie z.B. der
Gleichung E=mc2. In ihrer gehorsamen Versklavung ist ihnen alles völlig "egal". Diese könnte man
wahrscheinlich keinem Menschen, vielleicht aber einem Tier beibringen, das nach der Regel der bedingten
und sogar der unbedingten Reflexe, die es ja auch gibt, reagiert.

Vielleicht sagt jemand hier: "Na und? Ist das SCHLECHT? Ist eine solche
grenzenlose Unterwerfung unter unsere Bedürfnisse, Cordoba zu besichtigen
oder dechiffrierten Fragmente der Knotenschrift "Kipu" anzusehen, ist so eine
durch nichts begrenzte Gehorsamkeit aller Computer sowie deren Anschlüsse,
Netze, Modems, Drucker und Systeme der Versendung der "elektronischen Post"
schlecht? Ziehen wir daraus nicht einen großen Nutzen, den man nicht nur daran
erkennen kann, daß diese Unterwerfung der INDUSTRIE DER VERARBEITUNG
UND ÜBERTRAGUNG VON BELIEBIGEN INFORMATIONEN große Gewinne bringt, sondern auch, daß
sie uns bei der Sammlung, beim Ordnen, Schreiben oder Drucken, bei der Visualisierung von
Informationen hilft und daß sie zuverlässig ist - bis irgendein Mensch, der sich von einer typisch
menschlichen Boshaftigkeit inspirieren läßt, auf diese weltweite ORDNUNG "giftige" Viren zu schicken
beginnt, die als Mikroprogramme sofort (wie ein ins Ziel treffendes Geschoß) oder mit einer beliebig
geplanten und eingestellten Verspätung (wie eine Sprengladung mit einem auf den "richtigen Augenblick"
eingestellten Zündsatz) Daten zerstören oder alle Daten auf der Festplatte einer "informatischen
Säuberung" unterziehen können?

Das Böse fügen die Menschen den anderen Menschen zu. Sie können also auch, und oft mögen sie das,
nicht nur Sprengbomben, sondern auch "logische Bomben" ("logic bombs") mit oder ohne Adresse
versenden oder legen. Elektronische Umsetzer, elektronische "Erreger" oder elektronische MEDIEN
können hingegen "von selbst" NICHTS machen. Sie können in dem Ausmaß "NICHTS", daß ein
gewöhnliches Huhn, sogar ein blindes, das "auch einmal ein Korn findet", einem Computer der letzten
Generation gegenüber ein Einstein ist. Versuchen Sie einmal diesen Unterschied zu erkennen, indem Sie
einmal ein Huhn und einmal einen Computer mit einem Hammer bedrohen. Der Computer macht keinen
Mucks, bis Sie ihn zerquetschen, das Huhn wird dagegen mindestens zu fliehen versuchen. Wir haben uns
bereits an diesen sklavischen Gehorsam, an diese Unfehlbarkeit der Computer und Netze (mit Ausnahme
der "Verstopfungen" oder "Staus", die lediglich durch einen die Übertragungskapazität der elektronischen
Verbindungen überschreitenden Informationsüberfluß entstehen) so gewöhnt, daß wir diesen Zustand
immer noch als normal, erwünscht und selbstverständlich betrachten - allerdings mit einer, dafür um so
größeren Ausnahme.

Wir stoßen darauf, wenn wir erkennen, daß es die von uns geschaffene "ARTIFICIAL INTELLIGENCE"
nicht gibt, daß sich die Kommunikationstechnik und das "data processing" seit fünfzig Jahren am
AI-Problem abrackert und daß bisher daraus nichts Nützliches entstanden ist - außer sehr primitiven
Aktionen der Programme, die zum Beispiel verschiedene geometrische Körper und Farben unterscheiden
oder auch, aber wiederum ohne EIGENE Initiative, verschiedene Objekten bewegen und sie aufstellen
können (so wie WIR es wollen). Das ist ganz klar keine Intelligenz. Es ist nicht nur keine menschliche,
sondern nicht einmal eine Hundeintelligenz.

Man wird jedoch entgegnen: Aber wir haben Wissensspeicher und
Expertenprogramme, wir haben Datenmassen zur Selektion, die es z.B. den
Geologen ermöglichen, die Stellen zu finden, an denen unter der Erde Öl
vorkommen soll, oder wir haben Datenmassen zur Auswahl (auch Daten von
Nachforschungen), mit denen man den heuristischen Weg der alternativen
Verzweigungen gehen kann, um einem KRANKEN die Diagnose zu stellen, um
eine optimale Therapie zu zeigen und so weiter. Wir haben ganze Systeme, die die "Produktionsroboter"
etwa für die Herstellung von Fahrzeugen, Raketen oder auch Bomben steuern können. Wir haben das, und
diese Entwicklung geht weiter, aber wo kann in dieser Fortschrittsbewegung eine Spur des Verstandes, der
intelligenten Inspiration, der "schöpferischen Eingebung" erscheinen? Wir haben genug gelernt, um sie
umzugehen und sie zu ersetzen, denn man kann Simulations- und Optimierungsprogramme und
Programme, die "virtuelle Realität" erschaffen, einsetzen. Doch leider sind das Effekte UNSERER
Umgehungen der "INTELLIGENZ" und der schöpferischen "IMAGINATION" - das sind Substitute.

All das ähnelt der Intelligenz des Verdauungssystems, das zuerst die "Lebensmittel verschlingt", sie
"schluckt" und "verdaut", und auf diese "intelligente" Weise Energie für den Körper und die organischen
Verbindungen gewinnt, die für die Lebenserhaltung unentbehrlich sind. Der ganze energetisch und
chemisch abgewertete "Rest" wird hingegen als Exkrement ausgeschieden. Etwas ähnliches können
bereits die leblosen Geräte in der Welt der Elektronik, die durch menschliche Klugheit bezwungen wurde,
aber es ist doch niemand der Meinung, daß der Verzehr und die Verdauung eines Koteletts den Nachweis
für die Intelligenz der Zähne, des Speichels, Magens und Darmes darstellt.

Die einzige Antwort auf die so dargestellte Abwesenheit von Intelligenz, die von lebendigen Gehirnen in die
Maschinen verlegt wird, auf das gänzliche Fehlen auch nur einer Spur der Vergeistigung von Maschinen
(nicht "Deus ex machina", sondern wenigstens "ANIMUS EX MACHINA") lautet wie folgt:

Es gibt nicht nur eine Form des Verstandes.

Es gibt auch nicht nur eine einzige Form von Intelligenz. Falls die "Artificial Intelligence" und nicht irgendein
Ersatz, der mehr oder weniger geschickt die Intelligenz imitiert, erschaffen wird, werden die Menschen
bereits DADURCH, ob sie es wollen oder nicht, als Konstrukteure der AI das Königreich der Mannigfaltigkeit
beschreiten. Ein intelligentes System wird gehorsam sein - oder es wird nicht gehorsam sein wollen, WEIL
es Befehle, Bitten, Suggestionen, Forderungen VERSTEHT und deswegen entweder gehorchen oder sich
widersetzen kann. Falls es IMMER und ALLEM zu gehorchen bereit ist, wird es DADURCH demonstrieren,
daß es WILLENLOS ist und keine "eigene Meinung" haben kann. Die Tatsache, daß verschiedene,
unterschiedlich ausgebildete und talentierte Menschen - ich spreche hier nicht von Idioten - die GLEICHEN
wissenschaftlichen, künstlerischen oder literarischen TEXTE unterschiedlich zusammenfassen oder
interpretieren können und sie AUF IHRE ART für bedeutsam oder oberflächlich halten, durch sie gerührt
werden oder sich über sie entrüsten, Empörung, zumindest Gleichgültigkeit oder Begeisterung empfinden,
offenbart eine reale Vielheit der Verstandesarten, die wir akzeptieren müssen.

Sollte dies nicht so sein, dann würden historisch, also diachron, und gegenwärtig,
also synchron, verschiedene Denkstile in den Religionen, in der Philosophie und
last but not least sogar in der Herstellung von mörderischen Waffen oder von
rettenden Medizinen und Therapiemethoden nicht entstehen können.
Beispielsweise wird sich KEIN Expertenprogramm aller (JETZT) existierenden eine
NEUE Therapie für eine beliebige Stimmungslage für uns ausdenken, weil
Programme überhaupt nicht denken. Und sollten sie zu denken beginnen, dann
würden sie auf eine unterschiedliche Weise denken MÜSSEN. Anders gesagt: eine künstliche Intelligenz zu
erschaffen, heißt einen neuen Bereich der Freiheit, auch der kreativen, zu erschaffen.

Die sogenannte "linguistische Performanz" bedeutet, daß kein Mensch, der sich einer Sprache zu bedienen
weiß (der sie zu verstehen und zu sprechen vermag), die in seinem Gehirn entstandenen Gedanken auf
eine ideell identische Weise artikulieren kann. Auf einer so kleinen Skala heißt "Performanz" einfach, daß
wir einigermaßen frei sprechen und nicht nur das rezitieren, was wir auswendig gelernt haben. Auswendig
spricht eine Grammophonplatte, ein Tonband oder eine Diskette. Wir können "das Bett des
Gedankenstroms, das von Worten ausgekleidet ist", verändern. Je besser jemand eine entsprechende
Sprache kennt, desto freier ist er auch, sich anders zu artikulieren. In einer Fremdsprache sind wir stärker
beschränkt. Worauf will ich durch dieses scheinbar überflüssige Gerede hinaus? Ich will damit sagen, daß
wir uns, wenn wir aus den leblosen Geräten Intelligenz herausgeholt hätten, mit vielen Problemen
konfrontiert sehen würden. Einige werde ich erwähnen.

Heutzutage fehlt den Systemen der Datenübertragung die Selbstkontrolle. Den Modems ist es gleichgültig,
ob sie in die ganze Netzwelt Bilder von Heiligen oder von nackten Hinterteilen, oder die
Herstellungsformeln von Sprengmitteln übertragen. IHNEN ist es gleichgültig, und damit plagen wir uns
GEGENWÄRTIG ab, weil Menschen die unangenehme Gewohnheit haben, an nur moralisch verbotenen
oder bis zum Tod schädlichen Produkten Gefallen zu finden.

Ich bitte jedoch zu berücksichtigen: Falls in den Netzen eine fliegende "künstliche Intelligenz" zum
Vorschein käme, dann würde sich DADURCH auch die Fähigkeit zeigen, die Information zu filtern, zu
bremsen, auszusieben und zu zerstören, weil die Intelligenz, die mit dem Verstand stark verwandt ist, eine
Zensur ausüben kann und muß, um Sperren gegen BESTIMMTE ARTEN DER INFORMATION
aufzubauen. Und jetzt wird sich zeigen, daß es viele verschiedene Intelligenzen gibt, und daß es
DADURCH verschiedene Staatsformen, Religionen, Weltanschauungen oder Ansichten über Fertigkeiten
des "Ausschaltens" oder der "Vernichtung" von SOLCHEN Informationen gibt, die sie mit einem Tabu
belegen oder deren Übertragung an diese oder jene Empfänger nicht erwünscht wird.

Gegenwärtig können beispielsweise Papa oder Mama, um ihre Kinder durch die
etwa vom Fernsehen elektronisch übertragenen Bilder nicht zu gefährden, auf den
Fernseher einen "elektronischen Maulkorb" nach dem Maßstab dessen aufsetzen,
was SIE (Vater oder Mutter) über das zukünftige Programm wissen. Wenn sie
dieses "Ansatzstück" nicht verwenden, wird der Fernseher gegenüber sich selbst
keine "Anti-Obszönitäten-Zensur" ausüben. Schließlich werden die Bilder oder
Texte vom Vater und der Mutter, vom Onkel und der Tante oder vom Erzieher "zensiert", und nicht von der
elektronischen Maschine. Elektronen werden Sie durch NICHTS entrüsten. Die künstliche Intelligenz
dagegen kann nicht nur, sie MUSS Aktivität und Selektivität zeigen. Man kann sie verderben, man kann ihr
dies oder jenes ausreden, man kann sie desorientieren, betrügen, hinters Licht führen oder sie belehren
und ihr etwas erklären. Fundamentalisten würden sich unheimlich freuen, wenn sie sich der AI
bemächtigen könnten! Man würde nicht mehr einfach wie im Iran die Installation von Schüsseln und
Satellitenempfängern verbieten müssen...

Noch nicht sehr lange ist es her, daß die Sowjets die Entstehung von Satellitentransponder mit einer
globalen Reichweite für eine Bedrohung vom Typ CASUS BELLI ansahen. Ich habe mir das nicht für diese
Ausführungen ausgedacht. Es gibt zwar keine Sowjetunion mehr, und es gibt auch noch keine künstliche
Intelligenz, aber ich versichere dem Leser, daß mit ihrem Beginn ein neues, mit bisher unbekannten
Gefahren gespicktes Zeitalter eintreten wird. Nicht jeder ist von der Idee der globalen Zensurmöglichkeiten
begeistert. Ich behaupte nicht, daß die künstliche Intelligenz uns am Schopf packen kann, aber sie könnte
uns doch täuschen, betrügen und auf Irrwege führen.

Ebenso wie es keinen identischen Verstand bei allen Menschen gibt, gibt es auch
keine identische Intelligenz. So unterschiedlich die Leistung verschiedener
Motoren ist, so unterschiedlich kann auch die Leistung von Intelligenzen sein. Dies
wird weder gleich mit dem Bau von maschinellen Einsteinen, noch - wie in meinem
Buch - von "Golems" beginnen. Es werden vielleicht verschiedene Intelligenzarten
entstehen, die sich auch auf verschiedene "Charakterarten" aufsetzen lassen.
Persönlich glaube ich, daß "Klugheit" und "Persönlichkeit" POTENTIELL
abtrennbare Entitäten sind. Aber eine solche potentielle Trennbarkeit kann für uns
auch nicht nur einen guten Ertrag bringen.

Ich möchte bemerken, daß ich immer noch sehr weit von dem mythosähnlichen Märchen über die
"menschenfeindliche, boshafte Intelligenz" entfernt bin, die "Roboter" zu Genozid- oder
Rebellionswünschen anregen wird. Man soll nicht gleich alles in jenen Extremen sehen, die wir uns am
leichtesten vorstellen können. Künstliche Intelligenzen können uns sowohl Nutzen als auch Schaden
bringen, WEIL dies das zukunftsweisende Schicksal JEDER technologischen Innovation, die Menschen
konzipieren und einsetzen können, war und auch geblieben ist.

Persönlich füge ich nebenbei, auch wenn das mit dem Hauptgedanken meiner Erörterung verbunden ist,
nur hinzu, daß wir heutzutage eine Steigerung der rein technologischen Leistungen erleben, die
gleichzeitig stark mit dem Fortschreiten der Senilität der schöpferischen und freien Phantasie in
Zusammenhang steht. Man merkt das zum Beispiel im Fernsehen, aber auch bei den bildenden Künsten.
Unlängst sah ich im Fernsehen die verkohlten Überreste von menschlichen Körpern, aber es handelte sich
nicht um Brand- oder Völkermordopfer, sondern um "Werke der modernen Kunst", wie ich sogleich aus
dem Lautsprecher erfahren habe. Modern ist auch die visualisierte SCIENCE FICTION, jedoch steht die
Armseligkeit der Schöpfer leider im Gegensatz zum Reichtum der technisch-visuellen Ausrüstung.

Mit der außertechnologischen und außerwissenschaftlichen Intelligenz sieht es
sehr, sehr schlecht aus. Ich selbst schrieb einst Science Fiction und bemühte mich
darum, die grundlegenden und uns gut bekannten Naturgesetze möglichst wenig
zu verletzen. Man schreibt eben nicht, daß eine verheiratete Frau Eier legt und ihr
Ehemann sie ausbrütet. In Independence Day dagegen wird zugunsten der Kasse
der Filmemacher eine kolossale Anzahl von Naturgesetzen mit Füßen getreten
und zertrampelt. Die meisten Ereignisse in diesem Film stehen im Gegensatz zu vielen
Selbstverständlichkeiten. Zum Beispiel können keine riesigen Raumschiffe mit "Extraterrestrials" über
Manhattan schweben, weil bei einer solchen Annäherung an die Erde die sogenannte Roche-Grenze
überschritten würde, was bedeutet, daß jeder größerer Körper durch die Gravitationstide der Erdkugel
zerrissen wird. Es lohnt sich schon gar nicht zu erwähnen, daß von einer "Kompatibilität" der Computer von
einem Planeten eines außerirdischen Sternbildes mit irdischen Computern, auch wenn es sich um eine
neue Generation handeln sollte, keine Rede sein kann. Ich kann schon eher Gespräche mit einer Kuh oder
einer Giraffe ohne die Vermittlung von Computern für wahrscheinlich halten.

Die Filmemacher ziehen uns, wie man umgangssprachlich sagt, über den Tisch. Ich erwähne das
deswegen, weil es die menschliche Intelligenz deswegen gibt, DAMIT wir die WAHRHEIT kennenlernen
können, was übrigens notwendigerweise bedeutet, daß die Intelligenz auch Fehler begehen, daß sie
LÜGEN, daß sie betrogen werden kann: auf eine andere Weise kann man es (sie) nicht machen. Die
Intelligenz ist ein Produkt, das in der natürlichen Evolution entsteht, (auf der Erde) auf den Sprossen der
"Fortschrittsleiter" bis zur sprachschöpferischen Ebene emporgestiegen und DADURCH auch fähig ist, die
Mathematik hervorzubringen. Dann entstehen Oppositionsunterscheidungen zwischen Wahrheit und
Falschheit, es entsteht die Logik, das Königreich der neuen, übertierischen Freiheit, aber es entstehen
auch übertierische Vorurteile, Aberglauben, Mythen, Unsinn, mit der Astrologie und Scientology oder
einem anderen Sektierertum als Höhepunkt.

Zu höheren Intelligenzquotienten kann man auch durch die Gene gelangen, aber man kann sich auch
davon entfernen - bis zum sogenannten geistigen Kretinismus, bis zum völlig Schwachsinnigen. Das sind
Nebenwirkungen der Intelligenzentwicklung, und ich denke nicht, daß die Unfehlbarkeit der Computer als
unveränderliche Eigenschaft auch die KÜNSTLICHE INTELLIGENZ begleiten kann. Die Welt kann ohne
jede natürliche oder künstliche Intelligenz existieren. Deswegen sollte man sich wirklich bewußtmachen,
daß dieser außergewöhnliche Reichtum an verschiedenen und immer wieder neuen, dem breiten
Publikum angepriesenen und angebotenen Server-Provider-Computer-Software-Disk-Ausrüstungen vor
allem den ständigem Wettlauf nach Gewinn darstellt, der durch den Verkauf dessen entsteht, was heute
noch als das Perfekte präsentiert wird, morgen aber schon durch etwas Neues und angeblich Besseres
ersetzt wird. Das ist beispielsweise auch der Grund für die fortschreitende Mikrominiaturisierung und für
den "Nanonisierungstrend" bei den Prozessoren.

Ich möchte jedoch nicht technisch argumentieren. Der Gewinndrang wird sicherlich vom Bedürfnis nach
dem Erwerb materieller Vorteile ausgelöst. Die menschliche Intelligenz stellt jedoch immer noch keine
außermenschliche ("unmenschliche" würde für uns schon schlecht klingen) Intelligenz her. Die Intelligenz,
die Vernunft, der Verstand, der Scharfsinn oder die Weisheit sind potentiell ausgezeichnete und
gleichzeitig gefährliche Entitäten. Soviel und nicht weniger wollte ich sagen.

Geschrieben im November 1996

Aus dem Polnischen übersetzt von Ryszard Krolicki

No Messages

Copyright © 1996-2000. All Rights Reserved. Alle Rechte vorbehalten
Verlag Heinz Heise, Hannover
last modified: 02.08.2000

Links to this Page

Texts by Stanislaw Lem last edited on 26 July 2007 at 12:34 pm by proxy.hfbk-hamburg.de
enter. last edited on 21 February 2002 at 1:55 am by max2-171.dialin.uni-hamburg.de.