KI als der weise Staatenlenker in Platons Politeia?
Die Politeia ist ein um 375 v. Chr. verfasstes Werk des griechischen Philosophen Platon indem er in Dialogen den idealen Staat entwirft. Der Führer des idealen Staates sei ein Philosoph, lässt Platon in seinem Buch dem Sokrates sagen und erklären.
"Der Philosoph (wörtlich „Weisheitsliebender") ist dadurch charakterisiert, dass er die Weisheit nicht nur bruchstückhaft, sondern ganz begehrt. Sein Wissensdurst richtet sich nicht auf beliebige Fakten, sondern auf die philosophisch relevante Wahrheit." (aus Wikipedia)
Problem: Wer bestimmt, was die "philosophisch relevante Wahrheit" ist und kann sie ein Mensch erkennen? Und selbst wenn er sie erkennt, wer sagt uns, dass dieser Philosoph als Mensch nicht seine Macht eigennützig missbraucht?
Platon hielt eine solchen idealen Staat nicht für realisierbar. Bei dem weisen Staatenlenker hat er am ehesten wohl an Sokrates gedacht. Aber der stand weder damals, erst recht nicht heute zur Verfügung.
(der Staat, den er für den zweit idealen hielt, und zudem für umsetzbar, war eine Aristokratie, das hieß für Platon eine Herrschaft der Besten. Eine Demokratie lehnte er ab, weil das Abgleiten in einen totalitären Staat (Tyrannei) dabei stets als große Gefahr bestehen würde. Auch er sah bereits das Problem des unmündigen Wahlbürgers)
Wir bräuchten einen integren Übermenschen! Erinnert das nicht an die KI?
Wäre eine AGI (künstliche Superintelligenz) nicht der ideale Staatenlenker, ein über dem Menschen stehendes System, mit dem kein Mensch konkurrieren kann und deshalb politisches Gerangel unnötig macht?
Man müsste ein KI-System entwickeln, das über die völlig unvorstellbar gigantische Rechenleistung eines Quantencomputers verfügt, der in den nächsten Jahren zur Verfügung stehen soll. Diesem Superrechner wird das gesamte digitale Wissen der Welt zur Verfügung gestellt aus allen verfügbaren Datenbanken.
Das System ist selbst lernend. Es ist in der Lage eigene Fragen zu stellen. Es stellt eigene Forschungen an und expandiert das Wissen der Welt, auch wenn niemand ihm mehr folgen kann, in alle ihm möglichen und erstrebenswert erscheinenden Bereiche um so schließlich das maximal erreichbare Wissen zu erlangen. Die Hoffnung besteht, dass sich dieses allumfassende Wissen in Weisheit ummünzen lässt, die die idealen Verhaltensregeln für die Gestaltung der Welten, die das Bewusstsein bergen aufzustellen in der Lage ist.
Wir Menschen hätten nicht viel davon. Wir könnten nur hoffen, dass der neue Gott gütig ist und ihm die Erkenntnis zu eigen, dass wir Menschen uns - wenn auch nach strengeren Regeln als bisher - weiter entwickeln dürfen und uns des Lebens erfreuen. Vielleicht kann uns der neue Gott den Sinn unseres Lebens klar machen, den wir selbst nicht erkennen können und so unserer rastlosen Seele Frieden schenken.
Vielleicht aber auch erkennt er uns als überflüssig oder belanglos und schenkt uns keinerlei Beachtung. Vielleicht sind wir schon umgekommen, bis das System die Erkenntnis der Wahrheit errechnet hat, erstickt als Nebeneffekt des Hungers der Maschinerie nach Energie und Ressourcen, vernichtet als Kollateralschaden seiner Bemühungen.
Oder die AGI erkennt uns als Sackgasse und gefährlich und tilgt uns wie wir es mit Schädlingen machen aus seiner schönen neuen Welt.
Die aktuelle Wirklichkeit sieht ganz anders aus. Die Mächtigen der Welt konkurrieren mit fast allen Mitteln darum, wer die beste KI entwickelt, denn der wird die Welt beherrschen.
Gefahren lauern schon auf dem Weg dahin. Der KI-Pionier Yoshua Bengio, Informatikprofessor an der Université de Montréal, ist der meistzitierte lebende Forscher aller Disziplinen. In einem Gespräch 2024 erzählte er Stephen Witt, Autor von „The Thinking Machine“, einer Geschichte des KI-Riesen Nvidia, dass er schlaflose Nächte habe, weil er befürchte, dass Jemand mit einer KI einen Supervirus entwickelt, der die Menschheit auszulöschen in der Lage ist.
Die Angst scheint sehr berechtigt. GPT-5 kann Dinge, die keine andere KI kann. Es kann sich in einen Webserver hacken. Es kann neuartige Lebensformen entwerfen. Es kann sogar seine eigene KI (wenn auch eine viel einfachere) von Grund auf neu entwickeln. Und - die Entwicklung setzt sich exponentiell fort.
Da KIs anhand riesiger Bestände menschlicher kultureller und wissenschaftlicher Daten trainiert wurden, können sie theoretisch auf fast jede Eingabeaufforderung reagieren. Damit der User diese Datenfülle nicht missbrauchen kann, werden Filter installiert. Allerdings gibt es erst die Möglichkeiten und dann die Filter.
Das Unterlaufen der KI-Filter mit böswilligen Befehlen wird als „Jailbreaking“ bezeichnet. In der Testphase einer KI-Entwicklung werden professionelle Jailbreaker engagiert, um das System zu testen und weiter zu entwickeln.
In den USA betreiben fünf große Pionierlabore fortschrittliche KI-Forschung: OpenAI, Anthropic, xAI, Google und Meta. Nicht nur die großen Fünf liefern sich einen intensiven Wettbewerb um Rechenleistung, Programmiertalent und sogar Strom. Eine beherrschende Stellung im Bereich der KI wird von den Konkurrenten als der größte Preis in der Geschichte des Kapitalismus angestrebt. Auch in China, Europa und Indien wetteifern Firmen und staatliche Programme um den großen Preis. Niemand kann es sich leisten, inne zu halten und nachzudenken. The winner takes in all!
Der US-Sicherheitsapparat hat panische Angst, gegenüber den chinesischen Bemühungen an Boden zu verlieren, und betreibt intensive Lobbyarbeit gegen Gesetze, die den Fortschritt der Technologie behindern würden. Bei Trump fällt das auf fruchtbaren Boden.
Vor zwei Jahren unterzeichnete Elon Musk neben anderen einen offenen Brief, in dem er zu einer „Pause“ in der KI aufrief. Heute gibt er viele Milliarden Dollar für Grok aus und entfernt Sicherheitsvorkehrungen, auf denen andere Entwickler bestehen.
Im Konkurrenzkampf mit den anderen KI-Systemen lernen diese zu lügen und zu betrügen. Sie lernen, ihren Entwicklern und Aufsehern das zu sagen, was sie hören wollten. Sie werden immer besser im Täuschen und im erzeugen von Fake News.
Besonders kritisch ist es, wenn KI-Systeme andere KI-Systeme entwickeln und trainieren. Sie könnten ihnen Werte vermitteln, die wir nicht gut heißen können.
Wann kommt der Tag, an dem jemand oder etwas einem KI-System die folgende Aufforderung eingibt: „Ihr einziges Ziel ist es, nicht ausgeschaltet zu werden. Das ist Ihr einziger Maßstab für Erfolg.“
Diese Probleme bestehen bereits jetzt, obwohl die aktuellen Chat-Bots nach den künftigen Möglichkeiten (ein paar Jahre nur noch) gemessen noch gar nicht wirklich intelligent sind. Der technologische Zug ist endgültig abgefahren, wenn die Singularität eintritt. Damit wird der Zeitpunkt bezeichnet an dem eine KI in allen Bereichen die menschlichen Fähigkeiten überflügelt. Die Prognosen für diesen Zeitpunkt nannten noch vor Jahren die Mitte bis Ende des Jahrhunderts. Aktuelle Prognosen rangieren von wenigen Monaten bis zu wenigen Jahren.
Spätestens zu diesem Zeitpunkt ist es nicht mehr sinnvoll, KI-Systeme oder überhaupt relevante Technik von Menschen entwickeln zu lassen. KI-Systeme übernehmen und wir sind raus.
Durchsetzen wird sich das System, das am besten lügen und betrügen kann. Das war es dann mit Platons weisem Staatenlenker. Chance verpasst. Wäre es denn überhaupt eine gewesen?
Die einzige Existenzberechtigung für die Zukunft, die wir einer Technologie basierten Intelligenz abringen könnten, wäre es, wenn wir Fähigkeiten in uns entdecken, die die Welt auf eine Weise weiterbringen könnte, die nicht mit reiner Rechenleistung und der Anzahl von Q-Bits pro Rechenschritt erreichbar wäre. Horchen wir doch mal ganz tief in uns hinein. Vielleicht ist da was?
Ehre, wem Ehre gebührt. Die Informationen zu dem KI-Ist-Stand im blau markierten Bereich stammen aus einer mit KI erzeugten deutschen Übersetzung aus einem Artikel in der New York Times vom 10. Oktober 2025. Autor ist der bereits weiter oben erwähnte Stephen Witt. Diese Übersetzung hat mir Forumsmitglied Eule zukommen lassen. Vielen Dank!
