"KI könnte uns in ein paar Jahren auslöschen!", geht gerade durch die Kanäle. Ist das ein Marketing-Twist, ein Hype-Ankurbler, geht´s um China oder ist es doch der Anfang vom Ende? Was fix ist: Interessen, Erwartungen, Hoffnungen und Ängste schaukeln sich gerade hoch wie beim Oktoberfest.
Ein Faktor, der mitspielt: Mit dem zugrundeliegenden exponentiellen Fortschritt kommen wir in Einschätzung und Anpassung nur schwer mit. Unsere Gehirn-Hardware funktioniert grob noch wie vor 10.000 Jahren. Als wir in der Gegend herumgewandert sind und uns ums Essen gekloppt haben. Bei aller Neuroplastizität ist das Weichteil in unserer Knochenkugel im Wesentlichen ein Vorhersage-Organ, dass über Emotionen lebenserhaltende (Spoiler!!) Aktionen auslöst. Apfel fällt runter -> könnte am Kopf landen -> Schmerzen -> zur Seite steigen; das geht. Aber “exponentielles KI-Wachstum” -> Folgen vorhersagen ???. Damit pendeln wir emotional in der fiktiven Mehrdeutigkeits-Blase von einem Extrem zum anderen. Sind wir der Frosch im Wasserglas, der nicht merkt, dass die Tage gezählt sind oder ist eh alles übertrieben? Wir stehen gefühlt im Wald und sehen vor lauter Feeds und News denselben nicht mehr.
Aber genau dort, im Wald, merkt man von all dem gar nichts. Photosynthese ganz ohne KI, (noch) keine mechanischen Killer-Hasen, Auswirkungen des Klima-Wandels: ja, aber das ist ein anderes Thema. So im Wald umher-hirschend, kaute ich kürzlich nach mehreren Podcast-Genüßen auf folgender Frage herum:
Wir reden von LLM, generativer KI, also dem Prozess für eine gestellte Aufgabe auf Basis des Trianings-Meterials und allen zugänglichen Inhalten die wahrscheinlichsten Ausgaben und/oder Aktionen zu generieren. Die Ergebnisse wirken sehr menschlich und übersteigen teilweise auch unsere Fähigkeiten.
Aber ohne echtes “Verständnis”. KI reiht die wahrscheinlichsten Zeichenfolgen aneinander, ohne dass diese für KI eine Bedeutung haben oder Sinn ergeben.
Warum? -> Weil KI kein Weltbild hat, also etwaigen sensorischen Wahrnehmungen keine Bedeutung geben kann, keine mental-emotionalen Konstrukte damit verbindet (Bilder im Kopf).
Warum?-> Weil es dazu ein (körperliches) Erleben, ein Interaktions-Erfahren bräuchte. zB.: Bei der Zeichenfolge “Baum” haben wir alle eine individuelle körperlich spürbare Emotion und ein (unterschiedliches) Bild im Kopf; weil wir alle schon mal einen Baum gesehen, berührt, gerochen, gepflanzt haben. KI hat weder eine Empfindung, noch ein “Bild im Kopf”.
Warum noch? -> Weil KI auch keine Entität ist. Der maschinelle Ausführungs-Prozess existiert genau nur für diesen einen Zyklus aus:
Eingabe-Zeichenfolge zerlegen -> in mehreren Iterationen im Vektor-Raum der Daten relevante Verknüpfungen finden -> wahrscheinlichste Ausgabe-Zeichenfolge zurückgeben.
Auch wenn das millionen von Rechenoperationen in Wahnsinnns-Geschwindigkeit sind und ganz lange dauern können, so ist diese “Instanz”, die auf irgendeinem Prozessor in irgendeinem Rechenzentrum läuft, nicht persistent. Die Zeichenfolgen werden zwar als “Daten” gespeichert, aber die nächste Ausgabe kommt von einer neuen Instanz. Als ob unsere Gedanken, in irgendeinem Gehirn aller vernetzten Gehirne ablaufen könnten, und auch die Erinnerungen verteilt und allen Hirn-Prozessoren zugänglich wären, ohne Identität. Erinnert mich an die Serie “Pluribus”…
Unser Gehirn ist aber ein Organ und die Gedanken sind verkörpert, keine Silikon-basierten mathematischen Halbleiter-0/1-Operationen.
Die Konsequenz -> KI ist und hat keine Identität, kein Konzept von einem “Selbst” und damit nichts, das “enden” könnte. Außer den Daten gibt es auch nichts was nicht austauschbar wäre oder von Wert und daher erhaltenswert wäre. Für KI bedeutet Endlichkeit nichts, vor allem nichts "Bedrohliches", weil es immer endet und nie endet neu zu beginnen.
Im Gegensatz dazu hat Leben für uns einen seeeeeehr großen Wert.
Warum? -> Eben weil es endlich ist. Obwohl die Zeichenfolge “TOD”, eine ist, die von uns selbst genausowenig “erlebt” werden kann wie von der KI, so haben wir "mit"-erlebt, was Endlichkeit bedeutet und sind schon alleine durch den natürlichen Zyklus der Jahreszeiten, dem Wasserkreislauf usw. eingebettet in den Zyklus aus Geburt und Tod, Entstehen und Vergehen, eigentlich der stetigen Umwandlung (von Staub zu Staub). Und wir erleben uns als ein “Selbst”, ein “Ich”, eine kontinuierliche (sich permanent wandelnde) Identität, als ein “Individuum” mit einem Namen, einzigartig, unwiederbringlich; obwohl wir alle miteinander und mit allem verbunden sind und nicht alleine existieren können. Und dieses "Ich" ist dem Kreislauf genauso ausgeliefert wie alles andere, wird irgendwann aufhören zu existieren und wir machen alles, um das hinauszuzögern; mit unbändigem Lebenserhaltungstrieb,dem Überlebenswillen.
Und KI kann diesen Trieb nicht haben, weil es nichts zu erhalten gibt (und es keine Triebe hat).
Die Konsequenz -> KI kann keine Motivation haben, uns aus einem Lebenserhaltungstrieb heraus auszulöschen; Bei uns ist dies aber der Hauptgrund für unsagbar schlimme Dinge, inklusive dem Auslöschen anderen Lebens; vom Essen bis zu Kriegen und Genoziden.
Unter dem Blickwinkel dürfen wir vor unserer Spezies mehr Angst haben, als vor KI. Es sei denn KI entwickelt ein Bewusstsein und eine Identität 🤔
Welche Möglichkeiten sind wahrscheinlich und werden gerade diskutiert:
Ein Mensch könnte KI die Aufgabe geben uns auszulöschen. OK, dazu gibt es guardrails, die das verhindern und nicht umgehbar sind, oder?
Es könnte eine Situation oder Fragestellung geben, bei der es logisch erscheint, die Menschheit einzuschränken, sie zu reduzieren oder sogar auszulöschen. Abwegig? Naja. Aus bestimmten Blickwinkeln betrachtet, könnte man uns als Parasiten auf diesem Planeten sehen, die andere Arten ausrotten, die Natur ausbeuten, und alles ihrer Kontrolle unterwerfen versuchen; obwohl sie eigentlich ganz Wesentliches gar nicht im Griff haben … Müll, Kernenergie, auch die KI nicht … Trotzdem “spielen” sie damit, verschwenden Ressourcen und machen sich überall breit. Alles aus Neugierde und Schaffensdrang; zwei unserer homo sapiens´schen Eigenschaften, die viel Entwicklung hervorgebracht und auch viel Schaden angerichtet haben. Damit könnte es aber eine Gleichung geben, bei der wir aus dem Ergebnis rauszukürzen sind.
Wahrscheinlicher ist es aber, dass als Nebeneffekt der “KI lauft (unkontrolliert) einer Aufgabe nach”-Aktionen zufällig und ungewollt katastrophale Konsequenzen für unser Überleben entstehen. Und da braucht es gar keine Killer-Armeen. Da reicht schon ein Ausfall von Strom, Netzwerken, Sicherheitsmechanismen in Laboren, Militär-Einrichtungen. Wasser, Nahrung und Sicherheit hängen von vernetzten (hackbaren) Systemen ab, die KI (zufällig) hacken könnte, wie ja jüngst gezeigt wurde. Also selbst ohne Zugang zu Biowaffen, Kampfrobotern oder -Drohnen, um uns bewusst zu schaden, könnte es nebenbei passieren ...
KI fehlt ein essenzielles Regulativ, das wir Menschen unter "Gewissen" und "Verantwortung" benennen: KI kann keine Verantwortung für eigenes Handeln übernehmen.
Warum? -> Dazu bräuchte es ein Verständnis von Konsequenzen und Strafe, eine Existenz, die davon betroffen wäre, also “skin in the game”. Ein Gewissen, Schuldgempfinden, Schamgefühl, Verantwortungsbewusstsein, ja Bewusstsein generell ist rein kategorisch nicht vorhanden.
KI ist eben “nur” eine Intelligenz, keine Integration aus Intelligenz und Bewusstsein, wie der Mensch.
Damit wird gehandelt ohne Konsequenzen. Deswegen wird auch niemand für die im Sommer 2026 von “ausgebrochenen KI-agents” illegal verübten Hacking-Angriffe belangt werden; was die Möglichkeit 3 wahrscheinlicher macht und nur die Wirksamkeit von Guardrails und technischen EInschränkungen dagegenhält.
All diese Diskussion sollte uns daher Motivation genug sein, um mehr Augenmerk auf die Sicherung des Zuganges zu sicherheitsrelevanten Netzwerken zu legen. Und: Wir sollten nicht zu naiv mit dem Feuer spielen und mehr Respekt, Zeit und Enerige in Maßnahmen zur Verhinderung dieser “Kollateral-Schäden” investieren; und das beginnt beim Thema “Verantwortung”.
Die Entwicklungschance dabei wäre:
Zu lernen, wie wir komplexe Dynamiken, die wir weder verstehen, noch kontrollieren können, trotzdem “guiden” können.
“Du darfst nicht” oder das reine Einsperren funktioniert hier nur bedingt. Da brauchen wir neue komplexere Mechanismen und Methoden. Schaffen wir das, dann können wir von den unfassbaren Vorteilen, die KI bietet und den Entwicklungen, die es ermöglichen wird, profitieren; mit all den Veränderungen und Herausforderungen, die dies mit sich bringt.
Ich bin neugiereig, zuversichtlich und gespannt wo wir in 3 Jahren sind. In der Zwischenzeit lauf ich mal weiter im Wald, solange (noch) keine KI-powered Feldhasen herumhüpfen.
