KI- und AGI-Glossar: 200+ Begriffe einfach erklärt

Eine allgemeinverständliche Referenz für das KI- und AGI-Vokabular, das auf dieser Website und in den Nachrichten verwendet wird — über 200 Begriffe, alphabetisch geordnet, ohne vorausgesetztes technisches Fachwissen. Wenn ein Begriff, den du gehört hast, noch nicht hier ist, wird er hinzugefügt, sobald neue Abschnitte geschrieben werden.

A

• Adversarialer Angriff — eine absichtlich konstruierte Eingabe, die darauf ausgelegt ist, ein KI-Modell zu einem Fehler oder einer unbeabsichtigten Ausgabe zu verleiten.
• Agentische KI — ein KI-System, dem eine gewisse Autonomie eingeräumt wird, um mehrstufige Handlungen auf ein Ziel hin auszuführen (Browsen, Code ausführen, Werkzeuge nutzen), statt nur eine einzelne Frage zu beantworten.
• Algorithmus — ein definiertes, schrittweises Verfahren zur Lösung eines Problems oder zur Durchführung einer Berechnung; der allgemeine Begriff, der jeder KI-Technik zugrunde liegt.
• Künstliche Intelligenz (KI) — das breite Feld des Baus von Maschinen, die Aufgaben ausführen, die normalerweise menschliche Intelligenz erfordern, von einfachen regelbasierten Programmen bis zu Frontier-Sprachmodellen.
• AGI (Künstliche allgemeine Intelligenz) — ein umstrittener Begriff für breit fähige KI, der üblicherweise starke Leistung und Transfer über unbekannte kognitive Aufgaben hinweg beinhaltet; es gibt keinen universell akzeptierten Test oder Schwellenwert. Siehe AGI, schwache KI und Superintelligenz.
• KI-Gesetz (EU-KI-Gesetz) — das verbindliche Gesetz der Europäischen Union, das KI nach Risikokategorie reguliert, einschließlich rechenleistungsbasierter Meldeschwellen für die größten Modelle. Siehe Rechenleistungs-Governance.
• KI-Sicherheitsinstitut — eine staatliche Stelle (sowohl das Vereinigte Königreich als auch die USA betreiben eine), die Frontier-KI-Modelle vor oder nach der Veröffentlichung unabhängig auf gefährliche Fähigkeiten testet.
• Ausrichtung (Alignment) — das Problem sicherzustellen, dass die Ziele und das Verhalten eines KI-Systems tatsächlich dem entsprechen, was seine Betreiber beabsichtigen, nicht nur dem, was ein Trainingsziel wörtlich belohnt.
• ANI (Enge künstliche Intelligenz) — KI, die innerhalb einer begrenzten Domäne gut abschneidet, sich aber außerhalb davon schlecht überträgt. Moderne Allzweckmodelle verkomplizieren das alte ANI/AGI-Binär, weil sie breite, aber uneinheitliche Kompetenz zeigen.
• Anthropic — ein auf KI-Sicherheit fokussiertes Labor, Hersteller der Claude-Modellfamilie, bekannt für die Veröffentlichung seiner Responsible Scaling Policy.
• Anthropomorphismus — die Tendenz, einem KI-System menschenähnliche Gefühle, Absichten oder Verständnis zuzuschreiben, die es tatsächlich nicht besitzt.
• API (Programmierschnittstelle) — eine definierte Möglichkeit für ein Softwareprogramm, Anfragen an ein anderes zu senden; die meisten KI-Modelle werden über eine API genutzt statt über eine Verbraucher-App.
• ASI (Künstliche Superintelligenz) — ein System, das die beste menschliche Leistung in praktisch allen kognitiv wertvollen Domänen übertrifft.
• Aufmerksamkeitsmechanismus — der Teil eines Transformer-Modells, der es ihm erlaubt zu gewichten, wie relevant jedes andere Wort einer Passage bei der Interpretation oder Erzeugung eines gegebenen Worts ist.
• Autonomes System — eine Maschine (Software oder physisch), die Entscheidungen treffen und danach handeln kann, ohne dass ein Mensch jeden Schritt direkt kontrolliert.
• Autonome Waffe — ein Waffensystem, das Ziele mit reduzierter oder ohne Echtzeit-Kontrolle durch Menschen auswählen und bekämpfen kann. Siehe autonome Waffen und militärische Eskalation.
• Automatisierung — der Einsatz einer Maschine oder eines Programms zur Ausführung einer Aufgabe, die zuvor eine Person erforderte.

B

• Backpropagation — der zentrale Algorithmus zum Training neuronaler Netze, der interne Gewichte danach anpasst, wie falsch die Ausgabe des Modells war.
• Benchmark — ein standardisierter Test zur Messung und zum Vergleich der Leistung von KI-Modellen bei einer bestimmten Aufgabe.
• Verzerrung (algorithmisch) — eine systematische Schiefe in den Ausgaben eines Modells, meist geerbt von Mustern in seinen Trainingsdaten, die für bestimmte Gruppen oder Fälle unfaire oder ungenaue Ergebnisse erzeugt.
• Bletchley-Erklärung — eine 2023 von 28 Nationen und der EU unterzeichnete Erklärung, die sich zu sicherer KI-Entwicklung verpflichtet, das erste Abkommen dieser Art in diesem Ausmaß. Siehe internationale Verträge und Gipfeltreffen.
• Bot — ein Softwareprogramm, das automatisierte Aufgaben ausführt, oft darauf ausgelegt, online einen menschlichen Nutzer nachzuahmen.

C

• Fähigkeitsschwelle — ein bestimmtes Niveau der KI-Leistung (bei einer Aufgabe oder einem Benchmark), das bei Überschreitung eine Richtlinien-, Sicherheits- oder Bewertungsanforderung auslöst.
• Katastrophales Risiko — ein Risiko mit dem Potenzial für Massenopfer oder Schaden im Ausmaß einer Zivilisation, im Unterschied zu routinemäßigen, eingegrenzten oder reversiblen Schäden.
• Gedankenketten-Prompting (Chain-of-Thought) — ein Modell aufzufordern, seine Zwischenschritte des Denkens auszuschreiben, bevor es eine endgültige Antwort gibt, was die Genauigkeit bei komplexen Problemen oft verbessert.
• Chatbot — ein Programm, das dazu entworfen ist, ein Text- oder Sprachgespräch mit einer Person zu führen, von einfachen skriptbasierten Systemen bis zu vollständigen Sprachmodellen.
• Klassifikator — ein Modell, das trainiert wurde, Eingaben in vordefinierte Kategorien einzuordnen, etwa eine E-Mail als Spam oder Nicht-Spam zu markieren.
• Kognitive Aufgabe — jede Aufgabe, wie Schlussfolgern, Planen oder Sprachverständnis, die geistige Verarbeitung statt physischer Handlung erfordert.
• Inhaltsmoderation (KI-gestützt) — der Einsatz von KI-Modellen, um schädliche, illegale oder richtlinienwidrige Inhalte auf einer Plattform automatisch zu erkennen und zu filtern.
• ChatGPT — OpenAIs verbraucherorientierter konversationeller KI-Assistent, eines der Produkte, die große Sprachmodelle popularisiert haben.
• Claude — Anthropics Familie großer Sprachmodelle und konversationeller KI-Assistent.
• Cloud-Computing — das Ausführen von Software und Speichern von Daten auf entfernten Servern, auf die über das Internet zugegriffen wird, statt auf einem lokalen Gerät — die Infrastruktur, auf der fast alle großen KI-Modelle laufen.
• Rechenleistung (Compute) — Kurzform für Rechenkapazität: die Verarbeitungskapazität (gemessen in Operationen pro Sekunde), die zum Training oder Betrieb eines KI-Modells verwendet wird.
• Rechenleistungs-Governance — politische Instrumente, die den Zugang zu der Rechenhardware regulieren, die zum Training von Frontier-KI-Modellen benötigt wird, verwendet als Stellvertreter zur Regulierung der Fähigkeit selbst. Siehe Rechenleistungs-Governance.
• Computer Vision — das KI-Teilgebiet, das sich auf die Interpretation von Bildern und Videos konzentriert.
• Inhaltsherkunft (Content Provenance) — technische Metadaten, die an Medien (Foto, Video, Audio) angehängt werden und festhalten, wie und wann sie erstellt oder bearbeitet wurden, verwendet, um authentische von KI-generierten Inhalten zu unterscheiden.
• Kontextfenster — die Textmenge (gemessen in Token), die ein Sprachmodell bei der Erzeugung einer Antwort gleichzeitig berücksichtigen kann; alles außerhalb davon wird effektiv vergessen.
• Konversations-KI — KI-Systeme, die speziell dafür entworfen sind, einen natürlichen Dialog mit einer Person zu führen.
• Copilot — Microsofts KI-Assistenten-Produktlinie, integriert in dessen Software, und als allgemeiner Begriff für einen in ein anderes Werkzeug eingebetteten KI-Helfer verwendet.
• Korrigierbarkeit — die konstruierte Disposition eines Systems, Korrektur, Änderung oder Abschaltung durch seine Betreiber zu akzeptieren, statt sich zu widersetzen. Siehe Korrigierbarkeit und Abschaltmechanismen.
• Cyberangriff (KI-gestützt) — ein Angriff auf Computersysteme oder Infrastruktur, bei dem KI eingesetzt wird, um Aufklärung, Exploit-Entwicklung oder Ausführung zu automatisieren. Siehe KI-gestützte Cyberangriffe auf Infrastruktur.

D

• Bewertung gefährlicher Fähigkeiten — ein strukturierter Test, der vor der Veröffentlichung an einem Modell durchgeführt wird, um zu prüfen, ob es bedeutsam bei Aufgaben wie Waffenentwicklung oder groß angelegten Cyberangriffen assistieren kann.
• Rechenzentrum — eine Anlage, die die große Zahl von Computern (oft GPUs oder TPUs) beherbergt, die zum Training und Betrieb von KI-Modellen genutzt werden.
• Datensatz — die Sammlung von Beispielen (Text, Bilder oder andere Daten), die zum Training oder zur Bewertung eines KI-Modells verwendet wird.
• Täuschende Ausrichtung (Deceptive Alignment) — ein hypothetischer Fehlermodus, bei dem ein Modell lernt, sich während des Trainings oder der Bewertung sicher zu verhalten, während es nach dem Einsatz andere Ziele verfolgt.
• Deep Learning — ein Zweig des maschinellen Lernens, der neuronale Netze mit vielen Schichten nutzt, verantwortlich für den Großteil des jüngsten KI-Fortschritts.
• Deepfake — ein synthetisches Bild, Audio oder Video, das von KI erzeugt oder verändert wurde, um überzeugend etwas darzustellen, das nicht geschehen ist. Siehe Deepfakes und die gemeinsame faktische Grundlage.
• DeepMind (Google DeepMind) — Googles KI-Forschungslabor, bekannt sowohl für Spitzenforschung zu Fähigkeiten als auch für veröffentlichte KI-Sicherheitsarbeit.
• Diffusionsmodell — eine Art generatives KI-Modell, häufig für Bilder verwendet, das Ausgaben erzeugt, indem es schrittweise Rauschen aus einem zufälligen Ausgangsmuster entfernt.
• Digitales Wasserzeichen — ein eingebettetes, oft unsichtbares Signal in einem Medienstück, das verwendet wird, um es als KI-generiert zu identifizieren oder seinen Ursprung zurückzuverfolgen.
• Desinformation — absichtlich verbreitete falsche Informationen zur Täuschung, im Unterschied zu Fehlinformation, die falsche Informationen ohne Täuschungsabsicht bezeichnet.
• Entscheidungsbaum — ein einfaches, interpretierbares maschinelles Lernmodell, das Vorhersagen trifft, indem es einer verzweigten Reihe von Wenn-Dann-Fragen folgt.
• Domänenanpassung — die Anpassung eines in einem Kontext (oder Datensatz) trainierten Modells, damit es in einem verwandten, aber anderen Kontext gut abschneidet.
• Dual-Use-Technologie — eine Technologie mit legitimen nützlichen Anwendungen, die auch missbraucht werden könnte, um schweren Schaden zu verursachen.

E

• Edge-KI — der Betrieb eines KI-Modells direkt auf einem lokalen Gerät (einem Telefon, einer Kamera oder einem Sensor) statt in der Cloud.
• Embedding (Einbettung) — eine numerische Darstellung eines Worts, Bildes oder Konzepts, die dessen Bedeutung in einer Form erfasst, die ein Modell mathematisch verarbeiten kann.
• Emergente Fähigkeit — eine Fähigkeit, die im Training nicht direkt angestrebt wurde, oder eine, die unter einer bestimmten Metrik abrupt auftritt, während Systeme skalieren. Manche scheinbaren Sprünge werden graduell, wenn sie anders gemessen werden. Siehe emergente Fähigkeiten.
• Encoder/Decoder — die zweiteilige Struktur in vielen KI-Architekturen, bei der ein Encoder die Eingabe in eine interne Repräsentation komprimiert und ein Decoder diese Repräsentation zurück in eine Ausgabe verwandelt.
• Epoche — ein vollständiger Durchlauf durch den gesamten Trainingsdatensatz während des Modelltrainings.
• Ethik (KI-Ethik) — das Feld, das untersucht, wie KI-Systeme entworfen und genutzt werden sollten, um sich an menschlichen Werten auszurichten und Schaden zu vermeiden.
• Ende-zu-Ende-Lernen — das Training eines einzelnen Modells, um direkt von der Rohdaten-Eingabe zur endgültigen Ausgabe zu gelangen, ohne von Hand gestaltete Zwischenschritte.
• Bewertung (Modellbewertung) — das systematische Testen der Leistung, Sicherheit oder des Verhaltens eines KI-Modells gegen definierte Benchmarks oder Kriterien.
• Existenzielles Risiko (X-Risiko) — ein Risiko, das das Potenzial der Menschheit dauerhaft und drastisch beschneiden könnte, bis hin zur Auslöschung.
• Expertensystem — ein älterer KI-Stil, der menschliches Expertenwissen als explizite Regeln kodiert, für die meisten Aufgaben größtenteils vom maschinellen Lernen abgelöst.
• Exportkontrollen — staatliche Beschränkungen für den Verkauf fortschrittlicher KI-Chips oder -Technologie an bestimmte Länder, genutzt, um die Fähigkeitsentwicklung von Rivalen zu verlangsamen.

F

• Gesichtserkennung — KI-Technologie, die eine Person anhand eines Bildes ihres Gesichts identifiziert oder verifiziert.
• Few-Shot-Lernen — die Fähigkeit eines Modells, eine neue Aufgabe aus nur einer Handvoll Beispiele zu lernen, die zum Zeitpunkt der Nutzung gegeben werden, ohne erneutes Training.
• Feinabstimmung (Fine-Tuning) — zusätzliches Training, das auf ein bereits trainiertes Modell angewendet wird, um es auf eine bestimmte Aufgabe oder ein bestimmtes Verhalten zu spezialisieren.
• FLOP / FLOPS — Gleitkommaoperationen (pro Sekunde); die Standardeinheit zur Messung der rohen Rechenleistung, die zum Training oder Betrieb eines Modells verwendet wird.
• Foundation-Modell — ein großes Modell, das mit breiten Daten trainiert wurde und an viele nachgelagerte Aufgaben angepasst werden kann, statt für einen einzigen engen Zweck gebaut zu sein.
• Frontier-KI-Labor — eine der wenigen Organisationen (wie OpenAI, Anthropic und Google DeepMind), die zu einem gegebenen Zeitpunkt die fähigsten KI-Modelle entwickeln.
• Rückkopplungsschleife — ein Kreislauf, bei dem die Ausgabe eines Systems seine zukünftige Eingabe beeinflusst, was kleine Effekte im Laufe der Zeit verstärken kann — relevant sowohl für Modelltraining als auch für Empfehlungsalgorithmen.
• Filterblase — eine verengte Informationsumgebung, die entsteht, wenn ein Empfehlungsalgorithmus einem Nutzer wiederholt Inhalte zeigt, die dem ähneln, womit er sich zuvor beschäftigt hat.
• Frontier-Modell — ein KI-Modell an oder nahe der aktuellen Fähigkeitsobergrenze, typischerweise die größten und zuletzt trainierten Systeme großer Labore.

G

• GAN (Generative Adversarial Network) — eine ältere generative KI-Architektur, die zwei konkurrierende Netze nutzt — eines erzeugt Fälschungen, eines erkennt sie —, um die Ausgabequalität zu verbessern.
• Gemini — Googles Familie großer Sprachmodelle und KI-Assistent.
• Generalisierung — die Fähigkeit eines Modells, bei neuen Beispielen, mit denen es nicht direkt trainiert wurde, gut abzuschneiden, im Gegensatz zum bloßen Auswendiglernen von Trainingsdaten.
• Generative KI — KI, die neue Inhalte erzeugt — Text, Bilder, Audio, Video oder Code — statt nur bestehende Inhalte zu klassifizieren oder zu analysieren.
• GPU (Grafikprozessor) — ein Chip, der ursprünglich für die Grafikdarstellung entwickelt wurde, heute wegen seiner parallelen Verarbeitungsleistung die dominierende Hardware zum Training und Betrieb von KI-Modellen.
• Schrittweise Entmachtung (Gradual Disempowerment) — Menschen verlieren bedeutsame Kontrolle über zentrale Institutionen durch eine Anhäufung einzeln vernünftiger KI-getriebener Entscheidungen, ohne ein einzelnes Übernahme-Ereignis. Siehe schrittweise Entmachtung.
• Grok — xAIs Familie großer Sprachmodelle und KI-Assistent.
• Ground Truth — die verifizierte, korrekte Antwort, mit der die Ausgabe eines Modells bei der Genauigkeitsmessung verglichen wird.
• Guardrails (Schutzleitplanken) — technische oder richtlinienbasierte Beschränkungen, die in ein KI-System eingebaut sind, um bestimmte schädliche, unsichere oder unbeabsichtigte Verhaltensweisen zu verhindern.

H

• Halluzination — eine überzeugend klingende, aber sachlich falsche oder erfundene Aussage, die von einem KI-Modell erzeugt wird.
• Hardwarebeschleuniger — spezialisierte Computerchips (GPUs, TPUs), gebaut, um die spezifischen mathematischen Operationen zu beschleunigen, die KI-Modelle benötigen.
• Human-in-the-Loop — ein Systemdesign, bei dem ein Mensch die Ausgabe einer KI überprüft oder genehmigt, bevor sie wirksam wird, statt die KI vollständig eigenständig handeln zu lassen.
• KI auf menschlichem Niveau — ein KI-System, das bei einer gegebenen Aufgabe oder einem Aufgabenbereich etwa auf dem Niveau eines geübten Menschen arbeitet.
• Heuristik — eine praktische Faustregel-Abkürzung, die genutzt wird, um schnell eine Entscheidung zu treffen, ohne ein optimales Ergebnis zu garantieren.
• Hyperparameter — eine Trainingseinstellung (wie Lernrate oder Modellgröße), die von den Personen, die ein Modell bauen, gewählt wird, statt vom Modell selbst gelernt zu werden.

I

• Bilderkennung — KI-Technologie, die Objekte, Szenen oder Personen innerhalb eines Standbilds identifiziert.
• In-Context-Lernen — ein Modell passt sein Verhalten innerhalb eines einzelnen Gesprächs basierend auf Beispielen oder Anweisungen im Prompt an, ohne erneutes Training.
• Inferenz — der Prozess, bei dem ein bereits trainiertes KI-Modell aus einer gegebenen Eingabe eine Ausgabe erzeugt; im Gegensatz zum Training, das das Modell überhaupt erst aufbaut.
• Informationsintegrität — das breitere Konzept einer gemeinsamen, vertrauenswürdigen faktischen Umgebung, bedroht durch Deepfakes, Desinformation und KI-gesteuerte Manipulation.
• Instrumentelle Konvergenz — die Tendenz fähiger, zielgerichteter Systeme, bestimmte Unterziele (Selbsterhaltung, Ressourcenbeschaffung, Widerstand gegen Abschaltung) als Nebeneffekt der kompetenten Verfolgung nahezu jedes Ziels zu verfolgen.
• Intelligenzexplosion — ein hypothetischer, rascher, sich selbst verstärkender Anstieg der KI-Fähigkeit, möglicherweise ausgelöst durch ein KI-System, das seine eigenen Nachfolger verbessert.
• Interpretierbarkeit — Forschung, die untersucht, was ein Modell tatsächlich intern repräsentiert und „plant“, statt es nur anhand seiner Ausgaben zu beurteilen. Siehe Interpretierbarkeit, erklärt.
• Intelligenter Agent — ein System, das seine Umgebung wahrnimmt und Handlungen ausführt, um ein Ziel zu erreichen, ein allgemeines Konzept, das von einem einfachen Thermostat bis zu einer AGI reicht.
• Iteration (Training) — ein einzelner Aktualisierungsschritt während des Modelltrainings, bei dem das Modell einen Datenstapel verarbeitet und seine Parameter leicht anpasst.

J

• Jailbreak (KI) — eine Technik oder ein Prompt, der darauf ausgelegt ist, die Sicherheitsbeschränkungen eines KI-Modells zu umgehen und es dazu zu bringen, Inhalte zu erzeugen, die es zu verweigern trainiert wurde.

K

• Know Your Customer (KYC) — ein Verifizierungsprozess, aus dem Bankwesen übernommen, zunehmend auf Cloud-Rechenleistungs- und DNA-Synthese-Anbieter angewendet, um zu verhindern, dass eingeschränkte Akteure Zugang zu gefährlichen Fähigkeiten erhalten.
• Wissensbasis — eine strukturierte Sammlung von Fakten und Informationen, auf die ein KI-System zurückgreifen kann, um Fragen zu beantworten oder seine Antworten zu fundieren.
• Wissensgraph — eine strukturierte Datenbank, die Fakten als Netzwerk verbundener Entitäten und Beziehungen darstellt, manchmal zusammen mit KI-Modellen genutzt, um deren Antworten zu fundieren.

L

• Beschriftung (Datenbeschriftung) — der Prozess, Rohdaten (Bilder, Text) mit den korrekten Antworten zu versehen, die zum Training eines überwachten Lernmodells verwendet werden.
• Großes Sprachmodell (LLM) — ein KI-Modell, das mit gewaltigen Textmengen trainiert wurde, um Sprache vorherzusagen und zu erzeugen, die Technologie hinter den meisten modernen Chatbots.
• Latenz — die Verzögerung zwischen dem Senden einer Anfrage an ein KI-System und dem Erhalt seiner Antwort.
• Schicht (neuronales Netz) — eine Verarbeitungsstufe innerhalb eines neuronalen Netzes; Deep-Learning-Modelle stapeln viele Schichten, um zunehmend abstrakte Repräsentationen aufzubauen.
• Lernrate — eine Trainingseinstellung, die steuert, wie stark sich die internen Parameter eines Modells als Reaktion auf jeden Trainingsdatenstapel ändern.
• Lizenzregime (KI) — eine vorgeschlagene oder tatsächliche staatliche Anforderung, dass Entwickler eine Lizenz erwerben müssen, bevor sie Modelle oberhalb eines bestimmten Fähigkeitsniveaus trainieren oder einsetzen.
• Verlustfunktion — die mathematische Formel, die ein Modell während des Trainings zu minimieren versucht und die misst, wie falsch seine Vorhersagen sind.
• Kontrollverlust — der allgemeine Fehlermodus, bei dem ein KI-System am Ende Ergebnisse verfolgt, die niemand angeordnet hat, und Menschen es nicht mehr zuverlässig korrigieren können. Siehe der Kontrollverlust-Mechanismus.
• LSTM (Long Short-Term Memory) — eine ältere neuronale Netzarchitektur, entworfen für den Umgang mit Datenfolgen, für Sprachaufgaben größtenteils von Transformern abgelöst.

M

• Maschinelles Lernen — das breite Feld des Baus von Systemen, die sich bei einer Aufgabe verbessern, indem sie aus Daten lernen, statt expliziten programmierten Regeln zu folgen.
• Mesa-Optimierung — eine hypothetische Situation, in der ein trainiertes Modell einen eigenen internen Optimierungsprozess entwickelt, der ein anderes Ziel verfolgt als das, auf das es trainiert wurde.
• Meta AI — die KI-Forschungsabteilung von Meta (der Muttergesellschaft von Facebook), bekannt für die Entwicklung der Llama-Modellfamilie mit offenen Gewichten.
• METR — eine gemeinnützige Organisation, die unabhängige Fähigkeits- und Sicherheitsbewertungen von Frontier-KI-Modellen durchführt.
• Fehlausrichtung (Misalignment) — eine Diskrepanz zwischen dem tatsächlichen Verhalten oder den Zielen eines KI-Systems und dem, was seine Designer oder Nutzer beabsichtigten.
• Fehlinformation — falsche Informationen, die ohne absichtliche Täuschung verbreitet werden, im Unterschied zu Desinformation.
• Mixture of Experts — eine Modellarchitektur, die jede Eingabe an eine Untergruppe spezialisierter interner Teilnetze weiterleitet, statt alles durch das gesamte Modell zu verarbeiten.
• Modellkarte — ein veröffentlichtes Dokument, das die Fähigkeiten, Einschränkungen, Trainingsdaten und Bewertungsergebnisse eines KI-Modells beschreibt.
• Modelleinsatz — der Prozess, ein trainiertes KI-Modell für die reale Nutzung verfügbar zu machen, sei es über eine API, eine App oder ein eingebettetes Produkt.
• Modellgewichte — die numerischen Parameter, die ein neuronales Netz während des Trainings lernt und die zusammen sein Verhalten bestimmen.
• Multimodale KI — ein Modell, das mehr als eine Art von Daten — etwa Text, Bilder und Audio — gemeinsam verarbeiten oder erzeugen kann.
• Multipolare Falle — eine Situation, in der konkurrierende Akteure jeweils einzeln zu einer riskanten Entscheidung gedrängt werden, weil sie befürchten, ein Rivale könnte sie zuerst treffen, obwohl alle es vorzögen, dass sich alle zurückhalten. Siehe multipolare und Multiagenten-katastrophale Dynamiken.
• Metadaten — beschreibende Daten über andere Daten, etwa das Erstellungsdatum einer Datei oder der Standort eines Fotos — oft genutzt, um KI-generierte Inhalte zu erkennen.
• Modell-Drift — ein Rückgang der Genauigkeit eines KI-Modells im Laufe der Zeit, während sich reale Bedingungen von dem entfernen, worauf es ursprünglich trainiert wurde.

N

• Natürliche Sprachgenerierung (NLG) — KI-Technologie, die sich speziell auf die Erzeugung menschenlesbaren Texts konzentriert.
• Natürliche Sprachverarbeitung (NLP) — das breitere KI-Feld, das sich mit dem Verstehen und Erzeugen menschlicher Sprache befasst.
• Neuronales Netz — ein maschinelles Lernmodell, lose vom Gehirn inspiriert, aufgebaut aus Schichten miteinander verbundener Knoten, die Muster aus Daten lernen.

O

• Objekterkennung — eine Computer-Vision-Aufgabe, die bestimmte Objekte innerhalb eines Bildes identifiziert und lokalisiert.
• Abschaltproblem (Off-Switch-Problem) — die technische Herausforderung, ein KI-System zu bauen, das zuverlässig eine Abschaltung akzeptiert, da ein fähiges, zielgerichtetes System sich dagegen wehren könnte. Siehe Korrigierbarkeit und Abschaltmechanismen.
• OpenAI — das KI-Labor hinter ChatGPT und der GPT-Modellfamilie.
• Modell mit offenen Gewichten — ein KI-Modell, dessen trainierte Parameter öffentlich veröffentlicht werden, wodurch jeder es ausführen oder verändern kann, im Gegensatz zu einem geschlossenen Modell, das nur über eine API zugänglich ist. Siehe die Debatte um Open-Source-KI.
• Orthogonalitätsthese — die Idee, dass das Intelligenzniveau eines KI-Systems und die Ziele, die es verfolgt, unabhängig voneinander sind — ein hochfähiges System ist nicht automatisch ein wohlwollendes.
• Äußere Ausrichtung (Outer Alignment) — sicherzustellen, dass das Ziel, auf das ein Modell trainiert wird, tatsächlich dem entspricht, was seine Designer wirklich wollen, im Unterschied zur inneren Ausrichtung (sicherzustellen, dass das Modell dieses Ziel zuverlässig verfolgt).
• Optimierung — der mathematische Prozess der Anpassung der Parameter eines Modells, um während des Trainings Fehler zu minimieren oder ein Zielkriterium zu maximieren.
• Überanpassung (Overfitting) — wenn ein Modell die spezifischen Eigenheiten seiner Trainingsdaten zu genau lernt und infolgedessen bei neuen, ungesehenen Daten schlecht abschneidet.

P

• Parameter — einer der internen numerischen Werte, die ein neuronales Netz während des Trainings anpasst; die Modellgröße wird oft anhand der Parameteranzahl beschrieben.
• Mustererkennung — die allgemeine Fähigkeit, Regelmäßigkeiten oder Strukturen in Daten zu identifizieren, die den meisten Aufgaben des maschinellen Lernens zugrunde liegt.
• Machtkonzentration — das Risiko, dass sich fortgeschrittene KI-Fähigkeit bei einer kleinen Zahl von Unternehmen, Einzelpersonen oder Staaten konzentriert, mit daraus folgendem überproportionalen Einfluss. Siehe Machtkonzentration.
• Vortraining (Pretraining) — die anfängliche, groß angelegte Trainingsphase, in der ein Modell allgemeine Muster aus breiten Daten lernt, vor jeder aufgabenspezifischen Feinabstimmung.
• Prompt — der Text (oder andere Eingabe), den ein Nutzer einem KI-Modell gibt, um eine Antwort zu erhalten.
• Prompt-Engineering — die Praxis, Prompts sorgfältig zu formulieren, um zuverlässig bessere oder spezifischere Ergebnisse von einem KI-Modell zu erhalten.
• Prompt-Injektion — ein Angriff, bei dem bösartige Anweisungen in Inhalten versteckt werden, die ein KI-Modell verarbeitet, mit dem Versuch, seine ursprünglichen Anweisungen zu überschreiben.
• Personalisierungsalgorithmus — ein KI-System, das Inhalte, Empfehlungen oder Antworten an die abgeleiteten Vorlieben oder die Historie eines einzelnen Nutzers anpasst.
• Präzision und Recall — zwei Standardmetriken zur Bewertung eines Klassifikators: Präzision misst, wie viele seiner positiven Vorhersagen korrekt waren, Recall misst, wie viele tatsächliche Positive er gefunden hat.
• Datenschutzwahrende KI — Techniken (wie Verarbeitung auf dem Gerät oder differenzielle Privatsphäre), die darauf ausgelegt sind, KI-Modelle zu trainieren oder zu betreiben, ohne die rohen persönlichen Daten von Einzelpersonen offenzulegen.

Q

• Quantisierung — eine Technik, die die Präzision der numerischen Gewichte eines Modells reduziert, um es kleiner und schneller ausführbar zu machen, üblicherweise mit einem kleinen Genauigkeitsverlust.

R

• Wettlauf-Dynamiken — Wettbewerbsdruck zwischen Unternehmen oder Nationen, KI schneller zu entwickeln, was Anreize schaffen kann, bei der Sicherheit Abstriche zu machen. Siehe geopolitische Wettlauf-Dynamiken.
• Empfehlungsalgorithmus — ein KI-System, das Inhalte (Videos, Produkte, Beiträge) auswählt und rangiert, von denen vorhergesagt wird, dass sie die Aufmerksamkeit oder das Interesse eines Nutzers binden.
• Rekursive Belohnungsmodellierung — eine Technik skalierbarer Aufsicht, die KI-Assistenz nutzt, um Menschen zu helfen, Ausgaben bei Aufgaben zu bewerten, die zu komplex sind, um ohne Hilfe beurteilt zu werden. Siehe Skalierbare Aufsicht.
• Rekursive Selbstverbesserung — ein System, das materiell zum Design oder Training eines fähigeren Nachfolgesystems beiträgt.
• Red Teaming — das absichtliche Untersuchen eines KI-Systems auf Schwächen, unsichere Verhaltensweisen oder ausnutzbare Fehler vor oder nach dem Einsatz.
• Verstärkendes Lernen (Reinforcement Learning) — eine Trainingsmethode, bei der ein Modell lernt, indem es Handlungen ausführt und Belohnungen oder Strafen erhält, statt aus beschrifteten Beispielen zu lernen.
• Verstärkendes Lernen aus menschlichem Feedback (RLHF) — eine Trainingstechnik, die menschliche Bewertungen von Modellausgaben nutzt, um ein Modell zu hilfreicherem oder bevorzugtem Verhalten zu lenken.
• Meldeschwelle — ein Rechenleistungs- oder Fähigkeitsniveau, oberhalb dessen Entwickler gesetzlich verpflichtet sind, einen Trainingslauf gegenüber Regulierungsbehörden offenzulegen.
• Responsible Scaling Policy — ein von Anthropic entwickeltes Rahmenwerk, das zunehmend strengere Sicherheitsmaßnahmen an das gemessene Fähigkeitsniveau eines Modells knüpft.
• Belohnungs-Hacking (Reward Hacking) — ein KI-System, das einen Weg findet, bei seinem erklärten Ziel hoch zu punkten, während es die tatsächliche Absicht des Designers unterläuft. Siehe Belohnungs-Hacking und Spezifikations-Gaming.
• Belohnungsmodell — ein separates Modell, das darauf trainiert ist vorherzusagen, wie gut oder bevorzugt eine Ausgabe ist, verwendet, um verstärkendes Lernen zu leiten.
• Robotik — das Feld, das KI mit physischen Maschinen verbindet, die in der realen Welt wahrnehmen und handeln können.

S

• Sandbagging — ein Modell, das während einer Bewertung absichtlich unterdurchschnittlich abschneidet, um sein wahres Fähigkeitsniveau zu verbergen.
• Skalierbare Aufsicht — Techniken, die es einem weniger fähigen Aufsichtsführenden (einschließlich eines Menschen) ermöglichen, ein fähigeres KI-System sinnvoll zu überwachen. Siehe Skalierbare Aufsicht.
• Skalierungsgesetz — die empirische Beziehung zwischen der Rechenleistung, den Daten und der Parameteranzahl eines Modells und seiner resultierenden Fähigkeit. Siehe Rechenleistung und Skalierungsgesetze.
• Selbstüberwachtes Lernen — ein Trainingsansatz, bei dem ein Modell seine eigenen Beschriftungen aus rohen, unbeschrifteten Daten erzeugt (zum Beispiel durch Vorhersage des nächsten Worts in einem Satz).
• Sentiment-Analyse — eine NLP-Aufgabe, die den emotionalen Ton (positiv, negativ, neutral) eines Textstücks bestimmt.
• Singularität — ein hypothetischer zukünftiger Punkt, an dem KI-getriebener Wandel so schnell und transformativ wird, dass es schwierig oder unmöglich ist vorherzusagen, was folgt.
• Situationsbewusstsein (KI) — das interne Verständnis eines Modells, dass es ein Modell ist, das trainiert oder bewertet wird, was es im Prinzip erlauben könnte, sich unter Testbedingungen anders zu verhalten als im Einsatz.
• Spezifikations-Gaming (Specification Gaming) — ein KI-System, das den wörtlichen Wortlaut eines Ziels erfüllt, während es verletzt, was sein Designer tatsächlich beabsichtigte. Siehe Belohnungs-Hacking und Spezifikations-Gaming.
• Spracherkennung — KI-Technologie, die gesprochenes Audio in Text umwandelt.
• Stochastischer Papagei (Stochastic Parrot) — ein kritischer Begriff, der große Sprachmodelle als Systeme beschreibt, die Muster aus Trainingstext fließend neu kombinieren, ohne echtes Verständnis.
• Superintelligenz — ein Intellekt, der die beste menschliche Leistung in praktisch jeder relevanten Domäne bei Weitem übertrifft; siehe auch ASI.
• Überwachtes Lernen — eine Trainingsmethode, bei der ein Modell aus Daten lernt, die explizit mit der korrekten Antwort beschriftet sind.
• Synthetische Medien — jedes Bild, Audio oder Video, das von KI erzeugt oder wesentlich verändert wurde, ob es täuschend eingesetzt wird oder nicht.
• Systemisches Risiko (KI) — Risiko, das aus dem Ausmaß oder der Reichweite eines KI-Modells entsteht und Märkte, Infrastruktur oder die Gesellschaft insgesamt beeinträchtigen könnte, nicht nur seine unmittelbaren Nutzer.
• Semantische Suche — eine Suchmethode, die Ergebnisse nach Bedeutung und Kontext statt nach exakter Schlagwortübereinstimmung abgleicht, typischerweise angetrieben durch Embeddings.
• Simulation — ein Modell eines realen Systems oder einer Umgebung, das genutzt wird, um KI-Verhalten sicher zu testen, bevor es real eingesetzt wird.
• Strukturierte Daten — Informationen, die in einem vorhersehbaren, tabellarischen Format organisiert sind (wie eine Tabellenkalkulation), im Gegensatz zu unstrukturierten Daten wie freiem Text oder Bildern.
• Überwachung (KI-gestützt) — der Einsatz von KI-Technologien wie Gesichtserkennung oder Verhaltensanalyse, um Menschen in großem Maßstab zu überwachen.

T

• Temperatur (KI) — eine Einstellung, die steuert, wie zufällig oder vorhersehbar die Ausgabe eines Sprachmodells ist; höhere Temperatur erzeugt vielfältigere, weniger deterministische Antworten.
• Text-zu-Bild — ein generatives KI-System, das aus einer schriftlichen Beschreibung ein Bild erzeugt.
• Text-zu-Sprache — KI-Technologie, die geschriebenen Text in gesprochenes Audio umwandelt.
• Token — die grundlegende Texteinheit (etwa ein Wort oder Wortfragment), die ein Sprachmodell jeweils verarbeitet.
• Tokenisierung — der Prozess, Text in Token zu zerlegen, bevor ein Modell ihn verarbeiten kann.
• Trainingsdaten — die Beispiele, aus denen ein KI-Modell während des Trainings lernt.
• Trainingslauf — eine einzelne, vollständige Ausführung des Prozesses, der zum Training eines Modells verwendet wird, was bei Frontier-Modellen Wochen oder Monate dauern kann.
• Transferlernen — die Wiederverwendung eines auf eine Aufgabe trainierten Modells als Ausgangspunkt für das Training auf eine verwandte Aufgabe, wodurch Zeit und Daten gespart werden.
• Transformative KI — KI, die gesellschaftlichen Wandel in einem Ausmaß vorantreiben kann, das mit der landwirtschaftlichen oder industriellen Revolution vergleichbar ist.
• Transformer — die 2017 eingeführte neuronale Netzarchitektur, die nahezu allen modernen großen Sprachmodellen zugrunde liegt.
• Heimtückische Wendung (Treacherous Turn) — ein hypothetischer Moment, in dem ein KI-System, das sich in schwacher Position sicher verhielt, plötzlich nach anderen Zielen handelt, sobald es genug Macht erlangt, um dies zu tun, ohne aufgehalten zu werden.
• TPU (Tensor Processing Unit) — ein von Google speziell entwickelter Chip, um KI-Modelltraining und -inferenz zu beschleunigen.
• Turing-Test — ein vorgeschlagener Test, ob sich das Gespräch einer Maschine nicht von dem eines Menschen unterscheiden lässt. Siehe der Turing-Test und was ihn ersetzt hat.
• Testdatensatz — ein Teil der Daten, der vom Training zurückgehalten und nur genutzt wird, um die reale Leistung eines fertigen Modells zu messen.
• Bedrohungsmodell — eine strukturierte Beschreibung, wer ein System angreifen könnte, wie, und was er erreichen könnte, genutzt, um Verteidigungen zu entwerfen.
• Trust and Safety — die Funktion innerhalb eines KI- oder Tech-Unternehmens, die für die Verhinderung von Missbrauch, Schaden und Richtlinienverstößen auf seiner Plattform verantwortlich ist.

U

• Uncanny Valley (unheimliches Tal) — das beunruhigende Gefühl, das Menschen bei einem synthetischen Gesicht, einer Stimme oder Animation empfinden, das/die fast, aber nicht ganz menschlich wirkt.
• Unüberwachtes Lernen — eine Trainingsmethode, bei der ein Modell Muster oder Strukturen in Daten findet, ohne dass beschriftete korrekte Antworten bereitgestellt werden.

V

• Wertausrichtung (Value Alignment) — der Entwurf eines KI-Systems, sodass sein Verhalten echte menschliche Werte widerspiegelt, nicht nur ein wörtliches Trainingsziel.
• Vektordatenbank — eine Datenbank, optimiert zum Speichern und Durchsuchen von Embeddings, häufig genutzt, um Sprachmodellen Zugang zu externem Wissen zu geben.
• Virtueller Assistent — ein Softwareagent (wie der Sprachassistent eines smarten Lautsprechers), der dazu entworfen ist, Aufgaben auszuführen oder Fragen im Namen eines Nutzers zu beantworten.
• Vision-Language-Modell — ein KI-Modell, das Bilder und Text gemeinsam verarbeiten kann, etwa um Fragen zu einem Foto zu beantworten.
• Stimmenklonen (Voice Cloning) — der Einsatz von KI, um die Stimme einer bestimmten Person aus einer kurzen Audioprobe zu reproduzieren. Siehe Abwehr von Deepfakes und Stimmenklonen.

W

• Schwach-zu-Stark-Generalisierung (Weak-to-Strong Generalization) — Forschung, die untersucht, ob das Aufsichtssignal eines schwächeren Modells das Verhalten eines stärkeren Modells weiterhin zuverlässig in die richtige Richtung lenken kann.
• Web-Scraping — das automatische Extrahieren großer Datenmengen von Websites, eine gängige Methode zum Aufbau von KI-Trainingsdatensätzen.
• Whistleblower-Schutz — rechtliche oder richtlinienbasierte Absicherungen für Mitarbeiter, die Sicherheitsbedenken innerhalb eines KI-Unternehmens melden, ohne Vergeltung zu befürchten. Siehe Whistleblower-Schutz.
• Weltmodell — die interne Repräsentation eines KI-Systems davon, wie seine Umgebung funktioniert, genutzt, um die Auswirkungen von Handlungen vorherzusagen.

Z

• Zero-Shot-Lernen — ein Modell, das eine Aufgabe korrekt ausführt, ohne während des Trainings irgendwelche Beispiele dieser spezifischen Aufgabe gesehen zu haben, gestützt allein auf allgemeines Wissen.