Situation report active Rev. 2026.9 119 reports 239 source records updated
Real Life After AGI Das Überlebens-Briefing für die Menschheit
DE

Institutionelle Leitfäden zur KI-Vorsorge

Was NIST, US-Bundesbehörden und Städte wie Seattle tatsächlich veröffentlicht haben, um Schulen, Kliniken, Behörden und kleine Unternehmen auf KI vorzubereiten.

Written by
Dwight Ringdahl
Status
Quellen geprüft
Revised
Sources
20 cited
Reading
6 min

Ein gemeinsamer Boden: das Generative-AI-Profile des NIST

Die meisten sektorspezifischen KI-Leitlinien begannen nicht bei null. Sie begannen beim selben Bundesdokument: NIST AI 600-1, dem Generative-AI-Profile-Begleitdokument zum grundlegenden AI Risk Management Framework, veröffentlicht am 26. Juli 2024. AI 600-1 ersetzt nicht die vier Funktionen des Basisrahmenwerks — Govern, Map, Measure, Manage —, sondern legt zwölf generative-KI-spezifische Risikokategorien darüber: Konfabulation, Datenschutz, Informationsintegrität, schädliche Verzerrung und Homogenisierung, Wertschöpfungsketten- und Komponentenintegration und andere, jede mit mehr als 200 vorgeschlagenen Maßnahmen in Abschnitt 3 des Dokuments verknüpft.

Das Rahmenwerk ist freiwillig. NIST hat keine Durchsetzungsbefugnis, und die Behauptung eines Schulbezirks oder einer Klinik, „NIST zu befolgen”, ist kein Beleg dafür, dass eine bestimmte Kontrolle tatsächlich funktioniert — dieselbe Vorsicht, die dieses Handbuch bei Unternehmensvorständen anmahnt, die das Basisrahmenwerk zitieren, unter Aktionärsaktivismus und Unternehmensführung. Was NIST stattdessen liefert, ist ein gemeinsames Vokabular. Wenn eine staatliche Bildungsbehörde, eine Gesundheitsaufsicht und eine städtische IT-Abteilung jeweils unabhängig voneinander eigene KI-Leitlinien veröffentlichen, ist die Tatsache, dass sich die meisten um etwas ähnlich wie Govern/Map/Measure/Manage organisieren, kein Zufall — es ist das Nächste an einer gemeinsamen nationalen Referenzarchitektur, die derzeit existiert, ob anerkannt oder nicht. Wo verbindliches Recht statt eines freiwilligen Rahmenwerks die Arbeit leistet, siehe rechtlicher und regulatorischer Hebel und die KI-Rechts- und Durchsetzungslandschaft 2026.

Schulen: Leitlinien sind real, Pflichten holen auf

Föderale Leitlinien für die K-12-Bildung kamen über das Office of Educational Technology des US-Bildungsministeriums, das am 24. Oktober 2024 Empowering Education Leaders: A Toolkit for Safe, Ethical, and Equitable AI Integration veröffentlichte — ein 74-seitiges Dokument, aufgebaut aus Anhörungssitzungen mit 90 Pädagogen in 12 Runden zwischen Dezember 2023 und März 2024, erlassen unter der KI-Durchführungsverordnung der Biden-Regierung vom Oktober 2023. Eine Begleitressource des Office for Civil Rights des Bildungsministeriums, „Avoiding the Discriminatory Use of Artificial Intelligence”, behandelt die bürgerrechtliche Seite. Das Toolkit folgte einem früheren, weniger operativen Bericht des Bildungsministeriums von Mai 2023, dessen erste Empfehlung schlicht lautete, Menschen im Prozess zu behalten. Nach dem Regierungswechsel 2025 unterzeichnete Präsident Trump am 23. April 2025 eine separate Durchführungsverordnung, „Advancing Artificial Intelligence Education for American Youth”, die eine White House Task Force on AI Education und eine Presidential AI Challenge schuf.

Die Bundesstaaten bewegten sich schneller und ungleichmäßiger als Washington. Bis Mitte 2026 hatten 37 Bundesstaaten plus Puerto Rico eigene K-12-KI-Leitlinien erlassen, laut den von Ballotpedia und K-12 Dive geführten Trackern. Die meisten dieser Leitlinien sind beratend. Louisiana ist repräsentativ: Sein Bildungsministerium veröffentlichte am 28. August 2024 Artificial Intelligence in Louisiana Schools: Guidance for K-12 Schools, erarbeitet von einer eigens eingerichteten LDOE-KI-Arbeitsgruppe, das Umsetzungsstrategie, Schutzmaßnahmen und technische Erwägungen behandelt — doch die Übernahme durch einen bestimmten Bezirk bleibt freiwillig.

Tennessee wählte den gegenteiligen Ansatz. Public Chapter 550, in Kraft seit dem 11. März 2024, ist ein gesetzliches Gebot: Jeder lokale Bildungsausschuss und jede Trägerschaft öffentlicher Charter-Schulen muss eine eigene KI-Nutzungsrichtlinie verabschieden, nicht nur freiwillige Leitlinien konsultieren. Die Tennessee School Boards Association reagierte mit der Musterrichtlinie 4.214, datiert auf den 26. Juni 2024, die zulässige Nutzung, akademische Integrität, Datenschutz und Disziplin abdeckt; die meisten Bezirke übernahmen sie fast wörtlich, statt sie von Grund auf neu zu verfassen. Kalifornien befindet sich noch mitten im Prozess: SB 1288 (2024) schuf eine staatliche KI-Arbeitsgruppe beim California Department of Education, mit gesetzlichen Fristen zum 1. Januar 2026 für Leitlinien an lokale Bildungsbehörden und zum 1. Juli 2026 für eine Musterrichtlinie. Beide Fristen sind zum Zeitpunkt dieses Textes bereits verstrichen; dieses Handbuch hat nicht unabhängig bestätigt, ob das CDE fristgerecht veröffentlicht hat, daher sollte man diese Seite direkt prüfen, statt es anzunehmen.

Gesundheitswesen: Transparenzregeln über dem Medizinprodukterecht

Die KI-Governance im Gesundheitswesen läuft auf zwei getrennten Spuren, die leicht verwechselt werden. Die erste ist die Gerätezulassung, bearbeitet von der FDA. Die zweite — neuer und von der Geräteanzulassung verschieden — ist Transparenzberichterstattung für KI-Werkzeuge, die in die elektronischen Patientenakten eingebettet sind, die die meisten US-Kliniker bereits nutzen. Das Office of the National Coordinator for Health IT des HHS finalisierte die HTI-1-Regel am 13. Dezember 2023, wirksam ab dem 11. März 2024: die erste Bundesregel, die von Entwicklern prädiktiver Entscheidungsunterstützungswerkzeuge in zertifizierten EHR-Systemen verlangt, die Trainingsdaten des Modells, seinen beabsichtigten Zweck und sein Risiko für Verzerrung oder Gesundheitsdisparität offenzulegen. HTI-1 ersetzte das ältere Zertifizierungskriterium „Clinical Decision Support” durch ein neues Kriterium „Decision Support Intervention”; mehrere Tracker von Anwaltskanzleien berichten, dass Durchsetzungsfristen von Januar 2025 auf Januar 2026 verschoben wurden, sodass die Umsetzung noch stark im Gange ist, statt gefestigter Praxis.

Auf der Seite der Gerätezulassung gaben FDA, Health Canada und die britische MHRA gemeinsam zehn leitende Grundsätze der Good Machine Learning Practice heraus, am 27. Oktober 2021 — sie decken multidisziplinäre Expertise über den gesamten Produktlebenszyklus, Unabhängigkeit von Trainings- und Testdatensätzen, Leistungstests unter klinisch relevanten Bedingungen und Überwachung nach dem Einsatz ab. Dieses Rahmenwerk wurde seither für KI-Systeme erweitert, die sich nach der Zulassung weiter verändern: Der Entwurf der FDA-Leitlinie vom Januar 2025 zum Lebenszyklusmanagement KI-fähiger Geräte, gefolgt von der endgültigen Leitlinie zu Predetermined Change Control Plans im August 2025, erlaubt Herstellern, ein eingesetztes klinisches Modell ohne neue Marktzulassungseinreichung zu aktualisieren, sofern der Aktualisierungspfad bei der Zulassung vorab festgelegt und offengelegt wurde. Das ist der spezifische Mechanismus, der bestimmt, ob das KI-Diagnosewerkzeug eines Krankenhauses im nächsten Quartal sein Verhalten ändern kann, ohne dass jemand außerhalb des Herstellers vorab informiert wird.

Kommunalverwaltung: Städte schrieben die ersten Leitfäden

Bevor die meisten Bundesstaaten oder Bundesbehörden handelten, schrieben städtische IT-Abteilungen bereits Regeln — meist Beschränkungen dessen, was Mitarbeiter mit generativen KI-Werkzeugen tun durften, statt der auf Bewohner angewandten KI. Seattle verabschiedete am 3. November 2023 seine Generative Artificial Intelligence Policy nach einem sechsmonatigen Prozess unter Leitung eines Generative-AI-Beirats; sie verlangt von Mitarbeitern, KI-generierte Arbeit zu kennzeichnen, jede KI-Ausgabe vor Veröffentlichung von einem Menschen prüfen zu lassen und persönliche oder sensible Informationen aus generativen KI-Werkzeugen herauszuhalten. Bostons vorläufige Richtlinien, erstmals am 18. März 2023 erlassen, gelten für Stadtbehörden außer den Boston Public Schools und bezeichnen sich ausdrücklich selbst als Platzhalter bis zu einer formalen Richtlinie — ein ungewöhnlich ehrliches Eingeständnis, dass die Leitlinie schneller geschrieben wurde, als jemand sie vollständig durchdenken konnte.

San Josés Generative-AI-Leitlinien gehen operativ weiter: Alle in städtische generative KI-Werkzeuge eingegebenen Informationen werden als Gegenstand eines Antrags auf öffentliche Akteneinsicht behandelt, Personal muss Ausgaben gegen mehrere Quellen faktenprüfen, Personal muss die Nutzung generativer KI über ein eigenes internes Formular protokollieren, und Personal muss städtische statt persönliche Konten nutzen. Puyallup und Spokane in Washington verabschiedeten 2024 eigene Richtlinien zu generativer KI, mitverfolgt neben Dutzenden anderen vom Municipal Research and Services Center. Kleinere Gemeinden ohne hausinterne KI-Beratung haben sich auf das KI-Handbuch für Kommunalverwaltungen der Michigan Municipal League und die Zusammenstellung staatlicher und kommunaler KI-Nutzungsrichtlinien der International Municipal Lawyers Association gestützt, die echten Richtlinientext von Städten und Landkreisen nebeneinander wiedergibt, statt generische Ratschläge zu bieten.

Kleinunternehmen: ein Ressourcenzentrum, noch kein Regelwerk

Kleinunternehmen sind der am wenigsten entwickelte dieser vier Sektoren, und diese Lücke verdient es, benannt statt übertüncht zu werden. Das Ressourcenzentrum „AI for Small Businesses” der Small Business Administration startete rund um ihren erstmaligen Artificial Intelligence Small Business Summit am Georgia Tech, abgehalten am 11. Dezember 2024. Das Office of Advocacy der SBA hat seither eigene Forschung veröffentlicht — Research Spotlight: AI in Business — Small Firms Closing In, veröffentlicht am 24. September 2025 —, die KI-Einführungsraten bei Kleinunternehmen verfolgt. Was die SBA zum Zeitpunkt dieses Textes nicht veröffentlicht hat, ist eine operative Checkliste vergleichbar mit dem, was Schulen, Kliniken oder Städte inzwischen haben. Eine Reihe von Beratungs- und Consulting-Blogs verbreitet spezifisch klingende „SBA-Checklisten”-Formulierungen zu Themen wie Anbieterprüfung und Mensch-im-Prozess-Anforderungen; nichts davon lässt sich auf sba.gov selbst zurückführen, und dieses Handbuch lehnt es ab, es der Behörde zuzuschreiben. Das eigentliche institutionelle Signal, das zu beobachten ist, ist legislativ: Das US-Repräsentantenhaus verabschiedete 2026 Gesetzentwürfe, die die SBA verpflichten, Kleinunternehmen bei der Einführung von KI zu unterstützen, was sich weniger wie gefestigte Leitlinie liest als wie ein Beleg dafür, dass Leitlinien noch im Aufbau sind.

Das Muster über die Sektoren hinweg

Zusammen gelesen zeigen diese vier Sektoren dieselbe Form: ein freiwilliges Bundesrahmenwerk, eine Handvoll verbindlicher Regeln, die in den Bereichen mit dem höchsten Risiko darübergelegt sind (Tennessees Schulmandat, die HTI-1-Regel), und ein weit größerer Bestand an beratenden Leitlinien, die einzelne Institutionen übernehmen, ignorieren oder halb umsetzen können. Nichts davon ersetzt die schwierigere Frage, zu der dieses Handbuch andernorts immer wieder zurückkehrt — wer die Autorität hat zu handeln, wenn Evidenz einem Einsatzplan widerspricht —, doch jedes dieser Dokumente ist eine konkrete, datierte, überprüfbare Antwort auf „was hat eine tatsächliche Institution veröffentlicht”, was mehr ist, als die meisten Gespräche über KI-Governance bieten können.

References

Summarized position

NIST published the AI 600-1 Generative AI Profile in July 2024, adding twelve generative-AI-specific risk categories and more than 200 suggested actions onto the Govern-Map-Measure-Manage structure of the base AI Risk Management Framework.

NIST, U.S. National Institute of Standards and Technology
AI 600-1: Artificial Intelligence Risk Management Framework — Generative Artificial Intelligence Profile, Research/report
Summarized position

U.S. Department of Education released a 74-page toolkit for K-12 leaders on safe, ethical, and equitable AI integration, built from listening sessions with 90 educators across 12 roundtables held between December 2023 and March 2024.

U.S. Department of Education, Office of Educational Technology
Empowering Education Leaders: A Toolkit for Safe, Ethical, and Equitable AI Integration, Research/report
Summarized position

State of Tennessee is, as of its March 2024 effective date, a legal mandate rather than voluntary guidance, requiring every Tennessee local board of education and public charter school to adopt its own AI-use policy.

State of Tennessee, Tennessee General Assembly
Public Chapter 550 (2024), codified at Tenn. Code Ann. §§ 49-7-185 and 49-13-118, Primary source
Summarized position

Louisiana Department of Education published K-12 AI guidance in August 2024, developed through a dedicated LDOE AI Task Force, covering implementation strategy, safeguards, and technical considerations for districts.

Louisiana Department of Education, State education agency
Artificial Intelligence in Louisiana Schools: Guidance for K-12 Schools, Research/report
Summarized position

HHS Office of the National Coordinator for Health IT finalized in December 2023 the first federal rule requiring developers of AI-driven clinical decision support tools embedded in certified electronic health record systems to disclose the data, intended use, and bias or health-disparity risks behind each tool.

HHS Office of the National Coordinator for Health IT, Federal health-IT regulator
HTI-1 Final Rule (Health Data, Technology, and Interoperability: Certification Program Updates, Algorithm Transparency, and Information Sharing), Primary source
Summarized position

FDA, Health Canada, and UK MHRA jointly issued ten guiding principles in October 2021 covering multidisciplinary expertise, representative training data, and post-deployment monitoring for AI-enabled medical devices.

FDA, Health Canada, and UK MHRA, Joint medical-device regulators
Good Machine Learning Practice for Medical Device Development: Guiding Principles, Research/report
Summarized position

City of Seattle adopted a generative-AI policy in November 2023, after a six-month advisory process, requiring employees to attribute AI-generated work, have a human review all AI output before publication, and keep personal or sensitive information out of GenAI tools.

City of Seattle, Seattle Information Technology Department
Generative Artificial Intelligence Policy, Research/report
Summarized position

U.S. Small Business Administration launched an "AI for Small Businesses" resource hub around its December 2024 inaugural Artificial Intelligence Small Business Summit at Georgia Tech.

U.S. Small Business Administration, Federal agency
"AI for Small Businesses" resource hub, Research/report
  1. Bericht des Bildungsministeriums von Mai 2023 ed.gov
  2. Durchführungsverordnung, „Advancing Artificial Intelligence Education for American Youth" whitehouse.gov
  3. Ballotpedia ballotpedia.org
  4. K-12 Dive k12dive.com
  5. SB 1288 cde.ca.gov
  6. vorläufige Richtlinien boston.gov
  7. Generative-AI-Leitlinien sanjoseca.gov
  8. Municipal Research and Services Center mrsc.org
  9. KI-Handbuch für Kommunalverwaltungen der Michigan Municipal League stpp.fordschool.umich.edu
  10. Zusammenstellung staatlicher und kommunaler KI-Nutzungsrichtlinien der International Municipal Lawyers Association imla.org
  11. Research Spotlight: AI in Business — Small Firms Closing In advocacy.sba.gov
  12. verabschiedete 2026 Gesetzentwürfe, die die SBA verpflichten, Kleinunternehmen bei der Einführung von KI zu unterstützen pymnts.com

Type to search the manual.

navigate open esc close