Was ist KI wirklich? Wie sie lernt, Inhalte erzeugt und Fehler macht

Möglicherweise haben Sie vor dem Frühstück mehrmals künstliche Intelligenz eingesetzt. Ein E-Mail-Dienst hat eine verdächtige Nachricht außer Sichtweite gebracht. Eine Karte verglich mögliche Routen. Eine Telefonkamera hat ein Gesicht oder eine Pflanze gefunden. Ein Musikdienst hat eine Liste neu geordnet. Keiner dieser Momente sah aus wie eine Science-Fiction-Maschine. Sie sahen aus wie gewöhnliche Software, die in Ihrem Namen ein kleines Urteil fällt.

Das ist einer der Gründe, warum KI schwieriger zu verstehen sein kann, als sie sollte. Die Schnittstelle zeigt die Antwort, verbirgt jedoch die Maschinerie: das von jemandem gewählte Ziel, die zum Aufbau des Modells verwendeten Beispiele, die als Eingabe gelieferten Signale und die Tests, die ermittelten, ob das Ergebnis gut genug war. Generative KI sorgt für noch mehr Verwirrung, da sie sich selbst dann in ausgefeilter Sprache erklären kann, selbst wenn die Erklärung unvollständig oder falsch ist.

Dieser Leitfaden öffnet die Maschinerie, ohne vorzugeben, dass jedes KI-System auf die gleiche Weise funktioniert. Es folgt von Anfang bis Ende einer praktischen Frage: Was muss passieren, bevor eine Maschine eine Eingabe in eine Ausgabe umwandeln kann, und was sollte man prüfen, bevor man dem Ergebnis vertraut?

Eine nützliche Definition von KI

Die Aktualisierte Definition der OECD beschreibt ein KI-System als ein maschinenbasiertes System, das aus seinen Eingaben ableitet, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generiert werden können, die physische oder virtuelle Umgebungen beeinflussen können. Verschiedene Systeme unterscheiden sich in der Autonomie und darin, ob sie sich nach der Bereitstellung weiter anpassen.

Das wichtige Verb ist ableiten. Ein herkömmlicher Taschenrechner folgt Regeln, die genau festlegen, wie Zahlen in eine Antwort umgewandelt werden. Ein KI-Modell bewältigt oft Situationen, in denen es unpraktisch wäre, jede Regel von Hand zu schreiben. Es schätzt eine nützliche Ausgabe von Mustern, Einschränkungen oder erlernten Beziehungen. Diese Ergebnisse können je nach Aufgabe und Bedingungen ausgezeichnet, mittelmäßig oder gefährlich irreführend sein.

KI ist daher nicht ein Produkt, ein Algorithmus oder ein digitaler Geist. Es ist ein Dach, das viele Systeme abdeckt. Ein Spam-Klassifizierer, ein Spracherkenner, ein Proteinstruktur-Prädiktor und ein Sprachmodell können alle der Definition entsprechen, haben aber über das breite Eingabe-Modell-Ausgabe-Muster hinaus kaum Gemeinsamkeiten.

Jedes KI-System ist mehr als ein Modell

In der öffentlichen Diskussion wird das Modell oft als die gesamte Maschine behandelt. In der Praxis ist das Modell eine Komponente innerhalb eines Systems. Es lohnt sich, fünf Teile zu trennen:

• Ziel: Wofür wird das System optimiert, um es vorherzusagen, zu bewerten, zu generieren oder zu entscheiden?
• Eingabe: die zum Zeitpunkt der Nutzung verfügbaren Informationen, wie Pixel, Wörter, Sensorwerte, Standort oder früheres Verhalten.
• Modell: der erlernte oder konstruierte Mechanismus, der die Eingabe einem Ergebnis zuordnet.
• Ausgabe und Schnittstelle: die Bezeichnung, Partitur, Route, das Bild, der Satz oder die Aktion, die einer Person angezeigt oder an ein anderes System übergeben wird.
• Bewertung und Feedback: Tests, Überwachung, Korrekturen und menschliche Entscheidungen, die zur Beurteilung dienen, ob das System unter realen Bedingungen funktioniert.

Denken Sie an die Routenplanung. Das Ziel kann darin bestehen, die geschätzte Reisezeit zu minimieren. Zu den Eingaben gehören das Straßennetz, der aktuelle Standort, Sperrungen und Verkehrssignale. Ein Modell schätzt die Kosten möglicher Routen. Die Schnittstelle bietet eine oder mehrere Auswahlmöglichkeiten. Rückmeldungen erhalten Sie, wenn sich der Verkehr ändert und Fahrten abgeschlossen sind. Das nützliche Ergebnis stammt aus der gesamten Kette, nicht aus einem isolierten Algorithmus.

Auch das Ziel verdient eine genauere Betrachtung. Ein System kann sein zugewiesenes Ziel optimieren und dennoch ein Ergebnis erzielen, das den Menschen missfällt. Eine Route, die im Durchschnitt am schnellsten ist, kann eine stressige Kurve beinhalten. Eine für Klicks optimierte Empfehlung ist möglicherweise nicht die Empfehlung, die jemanden am besten informiert. Computer erkennen nicht automatisch das richtige menschliche Ziel. Menschen definieren das Ziel, wählen aus, was gemessen werden kann, und akzeptieren die Kompromisse.

Wie eine Maschine aus Beispielen lernt

Angenommen, ein Apfelhändler möchte beschädigte Früchte anhand von Kamerabildern identifizieren. Ein regelbasiertes Programm überprüft möglicherweise Farbe und Form anhand von Schwellenwerten, die von einem Ingenieur geschrieben wurden. Das kann in einer kontrollierten Umgebung funktionieren, aber echte Äpfel variieren in Sorte, Reife, Beleuchtung, Winkel und Oberflächenbeschaffenheit. Ein maschineller Lernansatz verwendet viele Beispiele und passt ein Modell so an, dass seine Vorhersagen zunehmend mit den bekannten Ergebnissen übereinstimmen.

Während des Trainings trifft das Modell Vorhersagen anhand von Beispielen, misst, wie weit diese Vorhersagen vom gewünschten Ergebnis entfernt sind, und aktualisiert numerische Parameter, um diesen Fehler zu reduzieren. Die Details unterscheiden sich je nach Algorithmus, aber die Schleife ist erkennbar: vorhersagen, messen, anpassen, wiederholen. Das Modell speichert keine verbale Regel, dass jeder dunkle Fleck ein blauer Fleck ist. Es handelt sich um eine mathematische Beziehung, die viele visuelle Signale kombinieren kann.

Training, Validierung, Tests und Schlussfolgerung

Diese Begriffe beschreiben verschiedene Momente und sollten nicht in einem zusammengefasst werden:

• Trainingsdaten werden verwendet, um die Parameter des Modells anzupassen.
• Validierungsdaten helfen bei der Auswahl von Einstellungen und beim Vergleich von Versionen, während die Entwicklung noch läuft.
• Testdaten werden getrennt gehalten, um abzuschätzen, wie das ausgewählte Modell mit Beispielen umgeht, aus denen es nicht direkt gelernt hat.
• Inferenz ist der Moment, in dem ein trainiertes Modell eine neue Eingabe empfängt und eine Ausgabe erzeugt.

Ein Modell, das bei bekannten Beispielen hervorragend, bei neuen jedoch schlecht abschneidet, hat das beabsichtigte Muster nicht gut genug gelernt. Möglicherweise enthält der Trainingssatz überpassende Nebendetails. Googles Crashkurs für maschinelles Lernen behandelt Datensätze, Generalisierung, Überanpassung, Bewertung, Produktionssysteme und Fairness aus genau diesem Grund als separate Teile des praktischen maschinellen Lernens. Ein Trainingsergebnis allein ist keine zuverlässige Beschreibung des Verhaltens in der realen Welt.

Selbst ein guter Test kann zu eng sein. Ein Apfelklassierer, der unter einer Kamera und einer Lagerbeleuchtung getestet wurde, kann nach dem Einsatz unter einer anderen Kamera ausfallen. Dies ist eine Verteilungsverschiebung: Die Bedingungen rund um neue Inputs ähneln nicht mehr den Bedingungen, die während der Entwicklung vorherrschten. Reale Systeme müssen überwacht werden, da die Welt nicht verspricht, wie das Testset zu bleiben.

Neuronale Netze und Deep Learning, ohne Mythologie

Ein neuronales Netzwerk ist ein Modell, das aus verbundenen Schichten numerischer Operationen aufgebaut ist. Jede Ebene wandelt eine Darstellung in eine andere Darstellung um. Frühe Ebenen in einem Bildmodell reagieren möglicherweise auf eine einfache visuelle Struktur. Spätere Schichten können diese Signale zu aufgabenspezifischeren Mustern kombinieren. Unter Deep Learning versteht man neuronale Netze mit vielen solcher Schichten, die darauf trainiert sind, nützliche Darstellungen aus Daten zu lernen.

Das biologische Vokabular ist eine historische Inspiration und kein Beweis dafür, dass das Modell wie ein menschliches Gehirn denkt. Ein Netzwerk kann Millionen oder Milliarden einstellbarer Parameter enthalten und dennoch keine persönliche Erfahrung, Absicht oder Verständnis im gewöhnlichen menschlichen Sinne aufweisen. Es führt Berechnungen durch, die von seiner Architektur, seinem Trainingsziel, seinen Daten und seinem aktuellen Input abhängen.

Deep Learning war besonders effektiv, wenn die Roheingabe komplex ist, einschließlich Bildern, Audio, Sprache und wissenschaftlichen Strukturen. Seine Stärke hat seinen Preis: Es kann schwierig sein zu erklären, welche Kombination gelernter Signale eine bestimmte Ausgabe erzeugt hat, und die Leistung kann von großen Datensätzen, umfangreichen Berechnungen und sorgfältiger Auswertung abhängen.

Was sich durch generative KI verändert

Ein Klassifikator wählt zwischen definierten Kategorien. Ein generatives Modell erzeugt neues Material, das in seiner Trainingsverteilung Mustern ähnelt. Je nach Modell kann es sich bei diesem Material um Text, ein Bild, Audio, Video, Code oder eine wissenschaftliche Struktur handeln. Durch die Generierung fühlt sich die KI kreativer und gesprächiger an, aber sie entfernt nicht die zugrunde liegende statistische Maschinerie.

Ein großes Sprachmodell (LLM) verarbeitet Text als Token. Ein Token kann ein Wort, ein Wortteil, ein Satzzeichen oder eine andere kleine Einheit sein. Angesichts der bereits im Kontext befindlichen Token schätzt das Modell eine Verteilung über mögliche nächste Token, wählt entsprechend den Decodierungseinstellungen des Systems eines aus, hängt es an und wiederholt den Vorgang. Googles Einführung in große Sprachmodelle beschreibt diese Sequenzvorhersage direkt.

Moderne LLMs verwenden üblicherweise die im Artikel von 2017 eingeführte Transformer-Architektur Aufmerksamkeit ist alles, was Sie brauchen. Dank seines Aufmerksamkeitsmechanismus kann das Modell die Beziehungen zwischen Token im Kontext abwägen, anstatt jedes Wort als isoliertes Element zu verarbeiten. Das Training über große Textsammlungen hinweg ermöglicht es dem Modell, Grammatik, Stil, wiederkehrende Fakten, Argumentationsmuster und Beziehungen zwischen Konzepten in seinen Parametern zu erfassen.

Dadurch wird das Modell nicht zu einer herkömmlichen Datenbank. Seine Parameter kodieren verteilte statistische Beziehungen, nicht eine ordentliche Bibliothek von Quelldokumenten, die immer genau zitiert werden können. Der Text in der Eingabeaufforderung und alle zur Laufzeit bereitgestellten Dokumente werden zum Kontext, aber der Kontext hat Grenzen. Einige Anwendungen fügen Suchfunktionen, Tools, Taschenrechner oder das Abrufen von Dokumenten rund um das Modell hinzu. Diese Ergänzungen können die Fundierung verbessern, die endgültige Antwort kann jedoch immer noch abgerufene Beweise mit generierten Formulierungen und nicht unterstützten Schlussfolgerungen kombinieren.

Die beeindruckendste KI ist oft hochspezialisiert

Konversationsmodelle erhalten Aufmerksamkeit, weil jeder sie in Sekundenschnelle testen kann. Der Wert von KI beschränkt sich jedoch nicht nur auf Gespräche. Eng gefasste Systeme können Probleme mit klareren Eingaben, Ausgaben und Bewertungskriterien lösen:

• Ein optischer Zeichenerkenner ordnet Pixel in einem Dokumentbild bearbeitbaren Zeichen zu.
• Ein Betrugsmodell ordnet Transaktionen zur weiteren Überprüfung ein, anstatt jeden gemeldeten Fall als strafbar zu erklären.
• Ein Wettermodell schätzt zukünftige atmosphärische Zustände anhand von Beobachtungen und physikalischer Struktur.
• Ein wissenschaftliches Modell sagt eine molekulare Eigenschaft oder Struktur voraus, die Forscher mit Experimenten vergleichen können.

PetexSpace's Bild-zu-Text-Tool veranschaulicht die erste Art fokussierter Aufgabe. Die Eingabe ist ein Bild, die gewünschte Ausgabe ist bearbeitbarer Text und das Ergebnis kann direkt mit der Quelle verglichen werden. Verschwommene Fotos, ungewöhnliche Layouts, Handschrift und falsche Spracheinstellungen können die Genauigkeit dennoch beeinträchtigen. Die Aufgabe ist unter anderem deshalb nützlich, weil Erfolg und Misserfolg sichtbar sind.

Ein konkretes wissenschaftliches Beispiel: AlphaFold

Proteine falten sich zu dreidimensionalen Strukturen, die dabei helfen, ihre Funktion zu bestimmen. Die experimentelle Strukturbestimmung ist wichtig, kann jedoch langsam und schwierig sein. In einer Blindbewertung namens CASP14 sagte das AlphaFold-System viele Proteinstrukturen mit einer mit experimentellen Strukturen konkurrenzfähigen Genauigkeit voraus und übertraf andere Berechnungsmethoden erheblich. Das Peer-Review AlphaFold-Papier in Natur erklärt das Modell, die Bewertung und seine Konfidenzschätzungen.

Das Beispiel ist aus zwei Gründen wichtig. Erstens zeigt es, dass KI zu einem schwierigen wissenschaftlichen Problem beitragen kann, ohne einen Chatbot zu imitieren. Zweitens meldet das System, wo seine Vorhersage mehr oder weniger zuverlässig ist. Ein nützliches wissenschaftliches Modell erzeugt nicht nur eine schöne Struktur. Es liefert Forschern Hinweise auf Unsicherheit und ein Ergebnis, das im Rahmen eines größeren experimentellen Prozesses getestet werden kann.

Warum leistungsfähige KI-Systeme immer noch versagen

Fehler ist kein mysteriöser Fehler, der nach der eigentlichen Intelligenz hinzugefügt wird. Dies ergibt sich daraus, wie das System aufgebaut und genutzt wird. Es können mehrere Fehlermodi gleichzeitig vorliegen.

1. Das Ziel ist unvollständig

Ein messbares Ziel ist normalerweise ein Indikator für das tatsächlich gewünschte Ergebnis. Die Optimierung eines Proxys kann zu seltsamem Verhalten an den Rändern führen. Das Modell kann seine Punktzahl korrekt verbessern, während Eigenschaften fehlen, die in dieser Punktzahl nie repräsentiert waren. Das menschliche Urteilsvermögen kommt schon vor dem Training durch die Wahl des Ziels zum Tragen, nicht erst, nachdem ein Fehler aufgetreten ist.

2. Die Daten lassen etwas aus

Trainingsbeispiele spiegeln Inkassoentscheidungen und historische Bedingungen wider. Einige Gruppen, Umgebungen, Sprachen, Geräte oder seltene Fälle werden möglicherweise schlecht dargestellt. Das NIST weist darauf hin, dass sich schädliche Voreingenommenheit in automatisierte Systeme einschleichen und in der Geschwindigkeit oder im Umfang zunehmen kann. Es ist Arbeiten zur Identifizierung und Bewältigung von Vorurteilen in der KI betont, dass Voreingenommenheit weitreichender ist als ein rein technisches Datenproblem und im gesamten System berücksichtigt werden muss.

3. Ein generatives Modell kann überzeugende Unwahrheiten hervorbringen

NIST verwendet den Begriff Konfabulation für selbstbewusst präsentierte falsche oder fehlerhafte generative Inhalte. Es ist Generatives KI-Profil erklärt, dass dieses Verhalten eine natürliche Folge von Modellen ist, die Ausgaben erzeugen, die Mustern in ihren Trainingsdaten nahekommen. Ein Satz kann statistisch plausibel sein, ohne dass er sachlich untermauert ist. Gefälschte Zitate sind besonders gefährlich, da sie den Eindruck erwecken, eine unbegründete Antwort sei recherchiert.

4. Die Welt verändert sich

Ein gestern evaluiertes Modell kann morgen auf neue Produkte, neue Sprache, neues Verhalten oder neue gegnerische Taktiken stoßen. Genauigkeit ist keine dauerhafte Eigenschaft, die auf dem Modell aufgedruckt ist. Dabei handelt es sich um eine Messung, die zu einem bestimmten Zeitpunkt und unter bestimmten Bedingungen anhand bestimmter Daten durchgeführt wird.

5. Menschen können der Schnittstelle mehr vertrauen als den Beweisen

Eine fließende Antwort, ein sicherer Ton oder eine genaue Prozentangabe können Autorität schaffen, die die zugrunde liegenden Beweise nicht verdienen. Das Interface-Design kann Unsicherheiten verbergen oder eine Empfehlung verbindlich erscheinen lassen. Das endgültige Risiko hängt daher sowohl vom Modellverhalten als auch von der Art und Weise ab, wie Menschen gebeten werden, die Ausgabe zu verwenden.

Wie viel Prüfung benötigt eine KI-Ausgabe?

Die Antwort sollte von den Kosten abhängen, die entstehen, wenn man falsch liegt. Es ist unpraktisch, jede Verwendung als gleich gefährlich zu behandeln. Noch schlimmer ist es, jede Ausgabe als gleichermaßen vertrauenswürdig zu behandeln. Ein einfaches Drei-Zonen-Modell hilft.

Erkundung mit geringem Einsatz

Das Brainstorming von Namen, das Ändern des Tons eines Entwurfs, das Generieren von Übungsfragen oder das Erkunden verschiedener Möglichkeiten zum Organisieren von Notizen verursacht normalerweise nur geringe Fehlerkosten. Sie können das Ergebnis direkt einsehen und schwache Vorschläge verwerfen. Das Modell dient als Quelle von Optionen, nicht als Autorität.

Arbeiten, die eine Überprüfung erfordern

Forschungszusammenfassungen, Übersetzungen, Code, Berechnungen, Produktvergleiche und sachliche Erklärungen können Zeit sparen, aber Fehler können eine schnelle Lektüre überleben. Vergleichen Sie Behauptungen mit Primärquellen, führen Sie den Code aus, reproduzieren Sie die Berechnung, vergleichen Sie die Übersetzung mit dem Kontext und bestätigen Sie, dass das zitierte Material das sagt, was in der Antwort behauptet wird.

Folgeentscheidungen

Medizinische, rechtliche, finanzielle, Beschäftigungs-, Sicherheits-, Identitäts- und Zugangsentscheidungen erfordern eine qualifizierte Prüfung und einen rechenschaftspflichtigen Prozess. Eine allgemeine KI-Reaktion sollte nicht allein deshalb zur alleinigen Handlungsgrundlage werden, weil sie schnell oder verständlich ist. In diesen Situationen sind Unsicherheit, Attraktivität, Dokumentation, Privatsphäre und die Konsequenzen für die betroffene Person ebenso wichtig wie die reine Vorhersageleistung.

Ein Verifizierungsworkflow, der Minuten dauert

1. Trennen Sie Fakten von Vorschlägen. Ein vorgeschlagener Entwurf bedarf einer Beurteilung; Eine Behauptung über ein Gesetz, eine Studie, einen Preis oder ein Ereignis erfordert Beweise.
2. Fragen Sie, woher jeder wichtige Anspruch stammt. Öffnen Sie dann die Quelle, anstatt dem Zitattext zu vertrauen.
3. Bevorzugen Sie nach Möglichkeit Primärmaterial: Forschungspapier, offizielle Dokumentation, Originaldatensatz, Regulierungsbehörde, Standard oder direkte Aufzeichnung.
4. Überprüfen Sie, ob die Quelle aktuell ist und ob sie die genaue Behauptung und nicht nur das gleiche allgemeine Thema unterstützt.
5. Reproduzieren Sie Berechnungen und führen Sie generierten Code in einer sicheren Umgebung mit repräsentativen Tests aus.
6. Vergleichen Sie eine Schlussfolgerung mit einer unabhängigen Quelle oder einer qualifizierten Person, die für diesen Bereich verantwortlich ist.
7. Wenn die Beweise nicht überprüft werden können, verringern Sie Ihr Vertrauen oder verwenden Sie die Ergebnisse nicht für diese Entscheidung.

Eine Dokumentation kann hilfreich sein, bevor Sie überhaupt beginnen. Die Forschungsarbeit zum Thema Modellkarten für die Modellberichterstattung schlägt vor, beabsichtigte Verwendungen, Bewertungsverfahren, Einschränkungen und Leistung unter relevanten Bedingungen aufzuzeichnen. Eine ausgefeilte Demo zeigt Ihnen, was das Modell einmal kann. Eine gute Dokumentation hilft herauszufinden, wo es getestet wurde und wo es nicht verwendet werden sollte.

Sieben Fragen, die Sie zu jedem KI-System stellen sollten

1. Welche spezifische Ausgabe erzeugt dieses System?
2. Welches Ziel wurde zur Optimierung entwickelt oder abgestimmt?
3. Welche Informationen erhält es jetzt und welche Informationen fehlen?
4. Wie wurde es an Fällen getestet, die sich von seinen Trainingsbeispielen unterscheiden?
5. Enthüllt es Unsicherheiten, Quellen, Einschränkungen oder eine Möglichkeit, das Ergebnis in Frage zu stellen?
6. Kann ich die Ausgabe unabhängig überprüfen, bevor ich darauf reagiere?
7. Wer trägt die Kosten, wenn das System fehlerhaft ist?

Diese Fragen sind aufschlussreicher als die Frage, ob ein Werkzeug intelligent ist. Sie lenken die Aufmerksamkeit von einem Marketingetikett auf das eigentliche System: seine Aufgabe, Beweise, Grenzen und Konsequenzen.

Das mentale Modell, das es wert ist, beibehalten zu werden

KI ist eine Methode zur Umwandlung von Eingaben in abgeleitete Ausgaben unter einem Ziel. Maschinelles Lernen erstellt diese Zuordnung anhand von Beispielen. Deep Learning nutzt geschichtete neuronale Netze, um komplexe Darstellungen zu lernen. Generative KI erstellt neues Material, und Sprachmodelle tun dies, indem sie wiederholt Token aus dem Kontext vorhersagen. Keiner dieser Mechanismen garantiert Wahrheit, Fairness, Relevanz oder gutes Urteilsvermögen.

Das Bemerkenswerte daran ist nicht, dass aus einer Maschine ein Mensch geworden ist. Es liegt daran, dass sorgfältig entworfene mathematische Systeme nützliche Muster in einem Ausmaß entdecken können, das niemand manuell untersuchen könnte. Die verantwortungsvolle Antwort ist weder Anbetung noch Entlassung. Es ist Neugier mit Maßstäben: die Aufgabe verstehen, nach Beweisen suchen, Unsicherheit respektieren und die menschliche Verantwortung dort behalten, wo die Konsequenzen real sind.

Primäre und technische Referenzen

• OECD, Begründung zur aktualisierten Definition eines KI-Systems, 2024.
• NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, 2024.
• Vaswani et al., Attention Is All You Need, 2017.
• Jumper et al., Hochpräzise Proteinstrukturvorhersage mit AlphaFold, Nature, 2021.
• Mitchell et al., Model Cards for Model Reporting, 2019.
• Google für Entwickler, Crashkurs zum maschinellen Lernen und Einführung in große Sprachmodelle.