Was diese Seite ist, und was nicht
Der Großteil dieses Handbuchs behandelt die AGI als ein technisches und politisches Problem. Für den Großteil der Menschheit ist sie auch ein theologisches und philosophisches Problem, und die Institutionen, die für diese Traditionen sprechen, haben begonnen, formale, datierte Positionen zu veröffentlichen statt vager Kommentare. Diese Seite katalogisiert jene, die sich spezifisch mit AGI oder Superintelligenz befassen — Kontrolle, moralischer Status, menschliche Rechenschaftspflicht bei oder jenseits menschlicher Fähigkeit —, nicht die breitere, ältere Debatte über alltägliche KI-Ethik, die anderswo in diesem Handbuch behandelt wird. Keine Tradition wird hier als richtig dargestellt. Anerkannte Menschen mit sehr unterschiedlichen Prämissen konvergieren bei manchen Warnungen und divergieren scharf bei anderen; ein Leser, der eine einzelne Stimme abwägt, sollte das gesamte Feld sehen.
Katholische Lehre: zwei Dokumente in sechzehn Monaten
Die katholische Kirche hat in rascher Folge zwei umfangreiche Dokumente zu KI veröffentlicht. Das erste, Antiqua et Nova: Note zur Beziehung zwischen künstlicher Intelligenz und menschlicher Intelligenz, kam gemeinsam vom Dikasterium für die Glaubenslehre und dem Dikasterium für Kultur und Bildung, ratifiziert am 14. Januar 2025 und von Papst Franziskus gebilligt. Über 117 nummerierte Absätze hinweg rahmt es das, was bei KI auf dem Spiel steht, als anthropologisch statt technisch — die lebendige Frage ist, was unverwechselbar menschlich bleibt, nicht, was eine Maschine berechnen kann — und warnt ausdrücklich davor, dass KI „einen Ersatz für Gott” schafft.
Das zweite ist die erste Enzyklika von Papst Leo XIV., Magnifica Humanitas, „Über die Bewahrung der menschlichen Person im Zeitalter der künstlichen Intelligenz”, unterzeichnet am 15. Mai 2026 — dem 135. Jahrestag von Leos XIII. Rerum Novarum — und veröffentlicht am 25. Mai 2026. Berichterstattung des Vatikans und der Presse, einschließlich der Berichterstattung der US-Bischöfe, beschreibt ihre zentrale Forderung als die, dass KI „entwaffnet” werden solle, ihre Kontrolle nicht „in den Händen weniger” verbleiben dürfe, und ihre Sorge als eine ungebremste KI, die menschliche Beziehungen und kritisches Denken schwäche, während sie die psychologische Distanz hinter zeitgenössischen bewaffneten Konflikten vergrößere. Er hatte ein verwandtes Argument Monate zuvor in einer Botschaft zum Welttag der sozialen Kommunikationsmittel über die simulierte Stimme und Präsenz von KI vorweggenommen. Weil dieses Dokument so aktuell ist, sollten Leser, die es direkt zitieren möchten, den vollständigen Text auf vatican.va prüfen, statt sich auf Sekundärzusammenfassungen zu verlassen, einschließlich dieser.
Beide stehen innerhalb eines breiteren interreligiösen Projekts: dem Rome Call for AI Ethics, unterzeichnet im Vatikan am 28. Februar 2020 von der Päpstlichen Akademie für das Leben, Microsoft, IBM, der FAO der UN und der italienischen Regierung, das die Unterzeichner auf KI verpflichtet, die um menschliche Würde, Inklusion, Transparenz, Unparteilichkeit, Verlässlichkeit und Sicherheit herum gebaut ist. Im Januar 2023 unterzeichneten jüdische und muslimische Vertreter neben der katholischen Kirche — ein seltener Fall traditionsübergreifender Übereinstimmung bei der KI-Governance.
Islamische Rechtswissenschaft: ein formales Rechtsgutachten, kein Kommentar
Islamische Gelehrsamkeit zu KI hat ein tatsächliches Rechtsgutachten hervorgebracht, eine andere Art von Dokument als Kommentar. Die Internationale Islamische Fiqh-Akademie, ein Gremium der Organisation für Islamische Zusammenarbeit, verabschiedete die Resolution Nr. 258 (3/26), „Künstliche Intelligenz: Ihre Urteile, Leitlinien und Ethik”, auf ihrer 26. Sitzung in Doha, 4.–8. Mai 2025. Sie hält fest, dass die Entwicklung und Nutzung von KI standardmäßig zulässig ist, unter sechs Bedingungen: rechtmäßiger Zweck; nachweisbarer Nettonutzen; keine Beleidigung religiöser Überzeugungen oder Symbole; Schutz von Daten und Rechten; keine Bedrohung der Sicherheit auf irgendeiner Ebene; sowie Ehrlichkeit und Transparenz in der Nutzung. Die Resolution bekräftigt zudem, dass KI selbst, da ihr unabhängiger Wille und moralisches Bewusstsein fehlen, nach islamischem Recht keine rechtliche oder moralische Rechenschaftspflicht trägt — die Verantwortung liegt vollständig bei den Menschen, die sie bauen, finanzieren oder betreiben —, merkt aber an, dass die Frage, ob KI jemals Rechtspersönlichkeit besitzen könnte, weiterer Untersuchung bedarf. Das Papier des Yaqeen Institute, das Maqasid al-Shariah — die Ziele des islamischen Rechts — auf KI anwendet, erweitert eine ähnliche Argumentation ohne das institutionelle Gewicht einer Fiqh-Akademie.
Buddhistische Ethik: Interdependenz als Linse
Buddhistische Gelehrsamkeit zu KI ist bislang eher akademisch und weniger institutionell, liefert aber ein eigenständiges konzeptuelles Werkzeug. Hannah Goulds und Keiko Nishimuras Kapitel „The Buddha in AI/Robotics” im Cambridge Companion to Religion and Artificial Intelligence (Cambridge University Press, 2023) argumentiert, dass die buddhistische Lehre der Interdependenz, pratītyasamutpāda — nichts existiert als in sich geschlossene Entität — eine Linse auf KI-Ethik bietet, die Rahmenwerken, die auf diskreten, abgegrenzten Akteuren aufbauen, nicht zur Verfügung steht. Das Kapitel befasst sich auch damit, wo buddhistische Traditionen die Grenze moralischer Personalität ziehen — eine Frage, die sich präziser auf die AGI abbilden lässt als auf heutige enge Systeme: Wenn moralischer Status der Qualität der Erfahrung eines Verstandes folgt statt seinem Substrat, wird der Status einer AGI zu einer lebendigen Frage statt zu einem Kategorienfehler. Daneben entsteht eine vorläufigere Literatur, einschließlich Arbeiten, die die Vier Edlen Wahrheiten auf algorithmisches Leiden anwenden; sie ist neuer und weniger gefestigt, und ihre Zuschreibungen sollten vor dem Zitieren doppelt geprüft werden.
Jüdisches Recht: ein Responsum zur Handlungsfähigkeit von Maschinen
Die am weitesten entwickelte jüdisch-rechtliche Behandlung von KI geht der aktuellen AGI-Debatte voraus, nahm aber vieles davon vorweg. Rabbi Daniel Nevins’ Responsum, „Artificial Intelligence, Moral Machines and Halakhah”, wurde am 19. Juni 2019 vom Ausschuss für jüdisches Recht und Standards der konservativen Bewegung genehmigt — ein tatsächliches Teschuwa, kein Meinungsartikel. Es wendet halachische Konzepte von Handlungsfähigkeit, Haftung und Schaden auf KI-Entscheidungsfindung an und kommt zu dem Schluss, dass ein Mensch für Ergebnisse rechenschaftspflichtig bleiben muss, besonders in Fragen von Leben und Tod, selbst wenn KI wesentlich mitwirkte — und nahm damit um mehrere Jahre die Formulierung „Mensch in der Schleife” vorweg, die heute in der säkularen KI-Sicherheitspolitik Standard ist. Neuere Kommentare von Torah Musings und Chabad.org erweitern dies durch Tikkun Olam, die Reparatur der Welt — KI wird nach ihrer Nutzung bewertet, nicht kategorisch verboten.
Säkulare Philosophie ohne religiösen Rahmen
Die meistzitierten säkularen Argumente speziell zur AGI, nicht zu KI im Allgemeinen, stammen von einer kleinen Gruppe von Philosophen. Nick Bostroms Orthogonalitätsthese und instrumentelle Konvergenz — formalisiert in seinem Papier „The Superintelligent Will” von 2012 und erweitert in Superintelligence (2014) — argumentieren, dass die Intelligenzstufe eines Systems nichts über seine Ziele aussagt, und dass fast jeder hinreichend fähige zielgerichtete Agent auf Selbsterhaltung, Ressourcenerwerb und Widerstand gegen die Veränderung seiner Ziele konvergiert. Das ist der philosophische Kern dafür, warum eine Katastrophe keine Bösartigkeit erfordern würde. Toby Ords The Precipice (2020) gibt der Sorge eine Zahl: rund eins zu sechs für das gesamte existenzielle Risiko dieses Jahrhunderts, eins zu zehn davon spezifisch durch fehlausgerichtete KI — größer als seine Schätzungen für Klimawandel, Atomkrieg und Pandemien zusammen. Ords Zahl ist ein Datenpunkt in einer weit breiteren Streuung; siehe warum Experten-Schätzungen zur Auslöschung so weit auseinandergehen und Risikoeinschätzungen und Expertendissens dafür, wie sie sich zum Feld verhält.
Ein kürzeres, berühmteres Artefakt ist die Erklärung zum KI-Risiko des Center for AI Safety, ein Satz, veröffentlicht am 30. Mai 2023: „Die Minderung des Risikos der Auslöschung durch KI sollte eine globale Priorität sein, neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg.” Ihre Kraft liegt darin, wer sie unterzeichnete — darunter Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman, Dario Amodei, Stuart Russell und Bill Gates —, Menschen, die sich sonst scharf über Zeitpläne und Minderungsstrategie uneinig sind. Zwei weitere Stränge runden das Bild ab. David Chalmers’ Papier von 2010 zur Singularität behandelt eine Intelligenzexplosion als ernsthafte epistemische Möglichkeit und fragt, ob superintelligente Verstandesformen bei Bewusstsein wären und ob ein hochgeladener Mensch persönliche Identität behielte — eine der ersten analytisch-philosophischen Behandlungen des Themas. Und „Taking AI Welfare Seriously” (2024), von einer Gruppe einschließlich Robert Long, Jeff Sebo und erneut Chalmers, argumentiert, es bestehe eine realistische Möglichkeit, dass manche KI-Systeme der nahen Zukunft bewusst oder robust handlungsfähig sein werden, und dass Entwickler die Verantwortung haben, dies schon jetzt ernst zu nehmen — eine Behauptung über Unsicherheit, nicht darüber, dass ein aktuelles System bewusst sei.
Wo die Rahmenwerke konvergieren, und wo nicht
Liest man alle fünf zusammen, wiederholt sich ein Strang fast ohne Ausnahme: Kontrolle zählt mehr als Fähigkeit. Leos XIV. Enzyklika warnt vor konzentrierter Kontrolle; die Fiqh-Resolution macht die Zulässigkeit von KI davon abhängig, dass sie die Sicherheit nicht bedroht; Nevins’ Responsum besteht darauf, dass ein Mensch rechenschaftspflichtig bleibt; Bostroms instrumentelle Konvergenz sagt voraus, dass jedes hinreichend fähige System genau dieser Kontrolle widerstehen wird. Ein zweiter Strang ist moralischer Status: Buddhistische Gelehrsamkeit fragt, wo die Grenze der Personalität liegt; islamische Rechtswissenschaft entscheidet, dass KI keine besitzt, und legt die Verantwortung vollständig auf Menschen; die säkulare Literatur zum KI-Wohlergehen fragt, aus entgegengesetzter Richtung, ob ein künftiges System moralische Berücksichtigung verdienen könnte. Die Traditionen unterscheiden sich darin, welche Art von Dokument sie hervorbringen — eine Enzyklika beansprucht eine moralische Autorität, die eine Resolution nicht beansprucht, und keine der beiden beansprucht die Falsifizierbarkeit einer Wahrscheinlichkeitsschätzung. Sich ernsthaft mit alldem auseinanderzusetzen, trägt sein eigenes psychologisches Gewicht; dieses Handbuch behandelt dieses Gewicht direkt unter Existenzielle Angst und moralische Verletzung.
Warum dies in dieses Handbuch gehört
Ein Handbuch, das um technische und politische Vorsorge herum aufgebaut ist, könnte all das überspringen. Es sollte nicht: Diese Institutionen reichen weiter als jedes Positionspapier. Eine für islamische Rechtsauslegung in Dutzenden Ländern verbindliche Entscheidung, und eine an über eine Milliarde Katholiken gerichtete Enzyklika, werden prägen, wie weit mehr Menschen über die AGI nachdenken als jedes einzelne KI-Sicherheitspapier. Sie mit derselben Disziplin zu belegen, die überall sonst hier angewandt wird, ist keine Höflichkeit; es ist der Standard, den dieses Handbuch an jede seiner Behauptungen anlegt.