Wat is AI echt? Hoe AI leert, genereert en fouten maakt

Misschien heb je meerdere keren kunstmatige intelligentie gebruikt voordat je klaar was met ontbijten. Een e-mailservice heeft een verdacht bericht uit het zicht verwijderd. Een kaart vergeleek mogelijke routes. Een telefooncamera heeft een gezicht of een plant gevonden. Een muziekdienst heeft een lijst opnieuw geordend. Geen van die momenten leek op een sciencefictionmachine. Ze leken op gewone software die namens u een klein oordeel velde.

Dat is een van de redenen waarom AI moeilijker te begrijpen kan zijn dan zou moeten. De interface toont het antwoord, maar verbergt de machinerie: het doel dat iemand heeft gekozen, de voorbeelden waarmee het model is gebouwd, de signalen die als input worden aangeleverd en de tests die bepaalden of het resultaat goed genoeg was. Generatieve AI voegt nog een extra laag verwarring toe omdat het zichzelf in gepolijste taal kan uitleggen, zelfs als de uitleg onvolledig of verkeerd is.

Deze gids opent die machinerie zonder te doen alsof elk AI-systeem op dezelfde manier werkt. Het volgt van begin tot eind één praktische vraag: wat moet er gebeuren voordat een machine een invoer in een uitvoer kan omzetten, en wat moet u controleren voordat u het resultaat vertrouwt?

Een bruikbare definitie van AI

De Geactualiseerde definitie van de OESO beschrijft een AI-systeem als een machinegebaseerd systeem dat uit zijn input afleidt hoe outputs moeten worden gegenereerd, zoals voorspellingen, inhoud, aanbevelingen of beslissingen, die fysieke of virtuele omgevingen kunnen beïnvloeden. Verschillende systemen variëren in autonomie en in de vraag of ze zich na de implementatie blijven aanpassen.

Het belangrijke werkwoord is afleiden. Een traditionele rekenmachine volgt regels die volledig specificeren hoe getallen in een antwoord moeten worden omgezet. Een AI-model is vaak geschikt voor situaties waarin het met de hand schrijven van elke regel onpraktisch zou zijn. Het schat een bruikbare output op basis van patronen, beperkingen of aangeleerde relaties. Die output kan uitstekend, middelmatig of gevaarlijk misleidend zijn, afhankelijk van de taak en de omstandigheden.

AI is dus niet één product, één algoritme of een digitale geest. Het is een paraplu die veel systemen omvat. Een spamclassificator, een spraakherkenner, een eiwitstructuurvoorspeller en een taalmodel kunnen allemaal aan de definitie voldoen, terwijl ze weinig met elkaar delen buiten het brede invoer-model-uitvoerpatroon.

Elk AI-systeem is meer dan een model

In de publieke discussie wordt het model vaak als de hele machine beschouwd. In de praktijk is het model één onderdeel binnen een systeem. Vijf delen zijn het waard om te scheiden:

• Doelstelling: wat het systeem wordt geoptimaliseerd om te voorspellen, rangschikken, genereren of beslissen.
• Invoer: de informatie die beschikbaar is op het moment van gebruik, zoals pixels, woorden, sensormetingen, locatie of gedrag uit het verleden.
• Model: het aangeleerde of ontwikkelde mechanisme dat de input omzet in een resultaat.
• Uitvoer en interface: het label, de partituur, de route, het beeld, de zin of de actie die aan een persoon wordt getoond of aan een ander systeem wordt doorgegeven.
• Evaluatie en feedback: de tests, monitoring, correcties en menselijke beslissingen die worden gebruikt om te beoordelen of het systeem onder reële omstandigheden werkt.

Overweeg routeplanning. Het doel kan zijn om de geschatte reistijd te minimaliseren. Invoer omvat onder meer het wegennetwerk, de huidige locatie, afsluitingen en verkeerslichten. Een model schat de kosten van mogelijke routes. De interface biedt een of meer keuzes. Feedback komt binnen als het verkeer verandert en de ritten zijn voltooid. Het bruikbare resultaat komt uit de hele keten, niet uit een geïsoleerd algoritme.

De doelstelling verdient ook aandacht. Een systeem kan het toegewezen doel optimaliseren en toch een resultaat opleveren waar mensen een hekel aan hebben. Een route die gemiddeld het snelst is, kan een stressvolle bocht bevatten. Een aanbeveling die is geoptimaliseerd voor klikken, is mogelijk niet de aanbeveling waarmee iemand het beste op de hoogte blijft. Computers ontdekken niet automatisch het juiste menselijke doel. Mensen definiëren het doel, kiezen wat kan worden gemeten en accepteren de afwegingen.

Hoe een machine leert van voorbeelden

Stel dat een appeldistributeur gekneusd fruit wil identificeren op basis van camerabeelden. Een op regels gebaseerd programma zou kleur en vorm kunnen controleren met behulp van drempels die door een ingenieur zijn geschreven. Dat kan in een gecontroleerde omgeving werken, maar echte appels variëren in variëteit, rijpheid, belichting, hoek en oppervlaktetextuur. Een machine-learning-aanpak gebruikt veel voorbeelden en past een model aan, zodat de voorspellingen steeds beter overeenkomen met de bekende uitkomsten.

Tijdens de training doet het model voorspellingen op basis van voorbeelden, meet het hoe ver deze voorspellingen afwijken van het gewenste resultaat, en werkt het numerieke parameters bij om die fout te verminderen. De details verschillen per algoritme, maar de lus is herkenbaar: voorspellen, meten, aanpassen, herhalen. Het model slaat geen verbale regel op, zoals elke donkere vlek is een blauwe plek. Het past in een wiskundige relatie die veel visuele signalen kan combineren.

Training, validatie, testen en gevolgtrekking

Deze termen beschrijven verschillende momenten en mogen niet in één worden samengevat:

• Trainingsgegevens worden gebruikt om de parameters van het model aan te passen.
• Validatiegegevens helpen bij het kiezen van instellingen en het vergelijken van versies terwijl de ontwikkeling nog aan de gang is.
• Testgegevens worden apart gehouden om te schatten hoe het gekozen model omgaat met voorbeelden waar het niet rechtstreeks van heeft geleerd.
• Inferentie is het moment waarop een getraind model nieuwe input ontvangt en output produceert.

Een model dat briljant presteert op bekende voorbeelden, maar slecht op nieuwe, heeft het beoogde patroon niet goed genoeg geleerd. Het kan zijn dat er overmatige incidentele details in zijn trainingsset zitten. Die van Google Spoedcursus machinaal leren behandelt datasets, generalisatie, overfitting, evaluatie, productiesystemen en eerlijkheid precies om deze reden als afzonderlijke onderdelen van praktisch machinaal leren. Een trainingsscore alleen is geen betrouwbare beschrijving van gedrag in de echte wereld.

Zelfs een goede test kan te beperkt zijn. Een Apple-classificator die onder één camera en één magazijnlamp is getest, kan defect raken na implementatie onder een andere. Dit is een distributieverschuiving: de omstandigheden rond nieuwe inputs lijken niet langer op de omstandigheden die tijdens de ontwikkeling worden weergegeven. Echte systemen hebben monitoring nodig omdat de wereld niet belooft te blijven zoals de testset.

Neurale netwerken en deep learning, zonder de mythologie

Een neuraal netwerk is een model dat is opgebouwd uit verbonden lagen van numerieke bewerkingen. Elke laag transformeert een representatie in een andere representatie. Vroege lagen in een beeldmodel kunnen reageren op een eenvoudige visuele structuur; latere lagen kunnen deze signalen combineren tot meer taakspecifieke patronen. Diep leren verwijst naar neurale netwerken met veel van dergelijke lagen, getraind om nuttige representaties uit gegevens te leren.

Het biologische vocabulaire is historische inspiratie en geen bewijs dat het model denkt als een menselijk brein. Een netwerk kan miljoenen of miljarden aanpasbare parameters bevatten en toch geen persoonlijke ervaring, intentie of begrip in de gewone menselijke zin hebben. Het voert berekeningen uit die zijn gebaseerd op de architectuur, het trainingsdoel, de gegevens en de huidige invoer.

Deep learning is vooral effectief gebleken wanneer ruwe input complex is, inclusief afbeeldingen, audio, taal en wetenschappelijke structuren. De kracht ervan brengt kosten met zich mee: het kan moeilijk zijn uit te leggen welke combinatie van aangeleerde signalen een bepaalde output opleverde, en de prestaties kunnen afhangen van grote datasets, uitgebreide berekeningen en zorgvuldige evaluatie.

Wat generatieve AI verandert

Een classificator kiest uit gedefinieerde categorieën. Een generatief model produceert nieuw materiaal dat lijkt op patronen in de trainingsverdeling. Afhankelijk van het model kan dat materiaal tekst, een afbeelding, audio, video, code of een wetenschappelijke structuur zijn. Generatie zorgt ervoor dat AI creatiever en gemoedelijker aanvoelt, maar het onderliggende statistische apparaat wordt er niet door verwijderd.

Een groot taalmodel, of LLM, verwerkt tekst als tokens. Een token kan een woord, een deel van een woord, leestekens of een andere kleine eenheid zijn. Gegeven de tokens die zich al in hun context bevinden, schat het model een verdeling over mogelijke volgende tokens, selecteert er één op basis van de decoderingsinstellingen van het systeem, voegt deze toe en herhaalt deze. Die van Google inleiding tot grote taalmodellen beschrijft deze reeksvoorspelling rechtstreeks.

Moderne LLM's maken doorgaans gebruik van de Transformer-architectuur die in het artikel uit 2017 werd geïntroduceerd Attention Is All You Need. Dankzij het aandachtsmechanisme kan het model relaties tussen tokens in de context afwegen in plaats van elk woord als een geïsoleerd item te verwerken. Door training in grote tekstverzamelingen kan het model grammatica, stijl, terugkerende feiten, redeneerpatronen en relaties tussen concepten in zijn parameters vastleggen.

Dat maakt het model niet tot een conventionele database. De parameters ervan coderen gedistribueerde statistische relaties, en niet een keurige bibliotheek van brondocumenten die altijd accuraat kan worden geciteerd. De tekst in de prompt en alle documenten die tijdens runtime worden aangeleverd, worden context, maar context heeft beperkingen. Sommige toepassingen voegen zoekmogelijkheden, hulpmiddelen, rekenmachines of het ophalen van documenten rond het model toe. Deze toevoegingen kunnen de basis verbeteren, maar het uiteindelijke antwoord kan nog steeds gevonden bewijsmateriaal combineren met gegenereerde bewoordingen en niet-ondersteunde gevolgtrekkingen.

De meest indrukwekkende AI is vaak zeer gespecialiseerd

Gespreksmodellen krijgen aandacht omdat iedereen ze binnen enkele seconden kan testen. But AI's value is not limited to conversation. Eng ingekaderde systemen kunnen problemen oplossen met duidelijkere input, output en evaluatiecriteria:

• Een optische tekenherkenner wijst pixels in een documentafbeelding toe aan bewerkbare tekens.
• Een fraudemodel rangschikt transacties voor verdere beoordeling in plaats van elke gemarkeerde zaak als crimineel te bestempelen.
• Een weermodel schat toekomstige atmosferische toestanden op basis van observaties en fysieke structuur.
• Een wetenschappelijk model voorspelt een moleculaire eigenschap of structuur die onderzoekers kunnen vergelijken met experimenten.

PetexSpace's image-to-text tool illustreert de eerste soort gerichte taak. De invoer is een afbeelding, de gewenste uitvoer is bewerkbare tekst en het resultaat kan rechtstreeks worden vergeleken met de bron. Wazige foto's, ongebruikelijke lay-outs, handschrift en onjuiste taalinstellingen kunnen de nauwkeurigheid nog steeds verminderen. De taak is deels nuttig omdat succes en falen zichtbaar zijn.

Een concreet wetenschappelijk voorbeeld: AlphaFold

Eiwitten vouwen zich op tot driedimensionale structuren die helpen bepalen hoe ze functioneren. Het bepalen van de experimentele structuur is essentieel, maar kan langzaam en moeilijk zijn. In een blinde beoordeling, bekend als CASP14, voorspelde het AlphaFold-systeem veel eiwitstructuren met een nauwkeurigheid die concurreerde met experimentele structuren en presteerde aanzienlijk beter dan andere computationele methoden. De peer-reviewed AlphaFold paper in Nature legt het model, de beoordeling en de bijbehorende betrouwbaarheidsschattingen uit.

The example matters for two reasons. Ten eerste laat het zien dat AI kan bijdragen aan een lastig wetenschappelijk probleem zonder een chatbot te imiteren. Ten tweede rapporteert het systeem waar zijn voorspelling min of meer betrouwbaar is. Een bruikbaar wetenschappelijk model levert niet alleen een mooie structuur op. Het geeft onderzoekers bewijs over onzekerheid en een resultaat dat kan worden getest binnen een groter experimenteel proces.

Waarom capabele AI-systemen nog steeds falen

Falen is geen mysterieuze fout die is toegevoegd na de echte intelligentie. Het volgt uit de manier waarop het systeem is gebouwd en gebruikt. Er kunnen meerdere faalwijzen tegelijkertijd bestaan.

1. De doelstelling is onvolledig

Een meetbaar doel is meestal een maatstaf voor het resultaat dat mensen daadwerkelijk willen. Het optimaliseren van een proxy kan vreemd gedrag aan de randen veroorzaken. Het model kan zijn score correct verbeteren, maar kwaliteiten missen die nooit in die score voorkomen. Het menselijk oordeel komt vóór de training binnen via de keuze van het doel, en niet pas nadat er een fout is opgetreden.

2. De gegevens laten iets achterwege

Trainingsvoorbeelden weerspiegelen incassobeslissingen en historische omstandigheden. Sommige groepen, omgevingen, talen, apparaten of zeldzame gevallen zijn mogelijk slecht vertegenwoordigd. NIST merkt op dat schadelijke vooroordelen ingebed kunnen raken in geautomatiseerde systemen en in snelheid of schaal kunnen worden vergroot. Het is werk aan het identificeren en beheersen van vooroordelen in AI benadrukt dat bias breder is dan een puur technisch gegevensprobleem en dat dit in het hele systeem in aanmerking moet worden genomen.

3. Een generatief model kan overtuigende onwaarheden voortbrengen

NIST gebruikt de term confabulatie voor met vertrouwen gepresenteerde valse of foutieve generatieve inhoud. Het is Generatief AI-profiel legt uit dat dit gedrag op natuurlijke wijze voortvloeit uit modellen die output genereren die patronen in hun trainingsgegevens benaderen. Een zin kan statistisch plausibel zijn zonder feitelijk ondersteund te worden. Verzonnen citaten zijn vooral gevaarlijk omdat ze een niet-ondersteund antwoord er onderzocht uit laten zien.

4. De wereld verandert

Een model dat gisteren werd geëvalueerd, kan morgen te maken krijgen met nieuwe producten, nieuw taalgebruik, nieuw gedrag of nieuwe vijandige tactieken. Nauwkeurigheid is geen permanente eigenschap die op het model is afgedrukt. Het is een meting op basis van bepaalde gegevens, op een bepaald tijdstip en onder bepaalde omstandigheden.

5. Mensen kunnen de interface meer vertrouwen dan het bewijsmateriaal

Een vloeiend antwoord, een zelfverzekerde toon of een precies percentage kunnen autoriteit creëren die het onderliggende bewijsmateriaal niet verdient. Interface-ontwerp kan onzekerheid verbergen of een aanbeveling verplicht doen voelen. Het uiteindelijke risico hangt dus af van zowel het gedrag van het model als van de manier waarop mensen wordt gevraagd de output te gebruiken.

Hoeveel controle heeft een AI-uitvoer nodig?

Het antwoord zou moeten afhangen van de prijs die het kost om ongelijk te hebben. Het is onpraktisch om elk gebruik als even gevaarlijk te beschouwen. Het is nog erger om elke output als even betrouwbaar te behandelen. Een eenvoudig driezonemodel helpt.

Verkenning met lage inzet

Brainstormen over namen, het veranderen van de toon van een concept, het genereren van oefenvragen of het verkennen van verschillende manieren om notities te ordenen, brengt doorgaans weinig fouten met zich mee. U kunt het resultaat direct bekijken en zwakke suggesties negeren. Het model is nuttig als bron van opties, niet als autoriteit.

Werk dat verificatie vereist

Onderzoekssamenvattingen, vertalingen, code, berekeningen, productvergelijkingen en feitelijke verklaringen kunnen tijd besparen, maar fouten kunnen bij een snelle lezing overleven. Controleer beweringen aan de hand van primaire bronnen, voer de code uit, reproduceer de berekening, vergelijk de vertaling met de context en bevestig dat het geciteerde materiaal zegt wat het antwoord beweert.

Gevolgbeslissingen

Beslissingen over medische, juridische, financiële, werkgelegenheids-, veiligheids-, identiteits- en toegang vereisen gekwalificeerde beoordeling en een verantwoordelijk proces. Een AI-reactie voor algemene doeleinden mag niet de enige basis voor actie worden, simpelweg omdat deze snel of duidelijk is. In deze omstandigheden zijn onzekerheid, aantrekkelijkheid, documentatie, privacy en de gevolgen voor de getroffen persoon net zo belangrijk als ruwe voorspellende prestaties.

Een verificatieworkflow die minuten in beslag neemt

1. Scheid feiten van suggesties. Een voorgestelde schets behoeft oordeel; Voor een claim over een wet, studie, prijs of gebeurtenis is bewijs nodig.
2. Vraag waar elke belangrijke claim vandaan komt. Open vervolgens de bron in plaats van de citatietekst te vertrouwen.
3. Geef waar mogelijk de voorkeur aan primair materiaal: het onderzoekspaper, de officiële documentatie, de originele dataset, de toezichthouder, de standaard of het directe record.
4. Controleer of de bron actueel is en of deze de exacte claim ondersteunt, en niet slechts hetzelfde algemene onderwerp.
5. Reproduceer berekeningen en voer gegenereerde code uit in een veilige omgeving met representatieve tests.
6. Vergelijk een vervolgconclusie met een onafhankelijke bron of een gekwalificeerde persoon die verantwoordelijk is voor dat domein.
7. Als het bewijsmateriaal niet kan worden gecontroleerd, verlaagt u uw vertrouwen of gebruikt u de resultaten niet voor die beslissing.

Documentatie kan helpen voordat u zelfs maar begint. Het onderzoekspaper over Modelkaarten voor modelrapportage stelt voor om het beoogde gebruik, de evaluatieprocedures, de beperkingen en de prestaties onder relevante omstandigheden vast te leggen. Een gepolijste demo vertelt je wat het model één keer kan. Goede documentatie helpt onthullen waar het is getest en waar het niet mag worden gebruikt.

Zeven vragen die u kunt stellen over elk AI-systeem

1. Welke specifieke output produceert dit systeem?
2. Voor welk doel is het gebouwd of afgestemd om te optimaliseren?
3. Welke informatie ontvangt het nu en welke informatie ontbreekt?
4. Hoe werd het getest op cases die afwijken van de trainingsvoorbeelden?
5. Legt het onzekerheid, bronnen, beperkingen bloot of is het een manier om het resultaat ter discussie te stellen?
6. Kan ik de uitvoer onafhankelijk controleren voordat ik er iets aan doe?
7. Wie draagt ​​de kosten als het systeem fout is?

Deze vragen zijn onthullender dan de vraag of een tool intelligent is. Ze verplaatsen de aandacht van een marketinglabel naar het daadwerkelijke systeem: de taak, het bewijsmateriaal, de grenzen en de gevolgen ervan.

Het mentale model dat de moeite waard is om te behouden

AI is een methode om input om te zetten in afgeleide output onder een doelstelling. Machine learning bouwt die mapping op aan de hand van voorbeelden. Deep learning maakt gebruik van gelaagde neurale netwerken om complexe representaties te leren. Generatieve AI creëert nieuw materiaal, en taalmodellen doen dit door herhaaldelijk tokens uit de context te voorspellen. Geen van deze mechanismen garandeert waarheid, eerlijkheid, relevantie of goed beoordelingsvermogen.

Het opmerkelijke is niet dat een machine een persoon is geworden. Het is dat zorgvuldig ontworpen wiskundige systemen bruikbare patronen kunnen ontdekken op een schaal die niemand handmatig zou kunnen inspecteren. De verantwoordelijke reactie is noch aanbidding, noch afwijzing. Het is nieuwsgierigheid met normen: begrijp de taak, zoek naar bewijs, respecteer onzekerheid en behoud de menselijke verantwoordelijkheid waar de gevolgen reëel zijn.

Primaire en technische referenties

• OESO, Toelichting op de bijgewerkte definitie van een AI-systeem, 2024.
• NIST, Risicobeheerraamwerk voor kunstmatige intelligentie: profiel voor generatieve kunstmatige intelligentie, 2024.
• Vaswani et al., Aandacht is alles wat je nodig hebt, 2017.
• Jumper et al., Zeer nauwkeurige voorspelling van de eiwitstructuur met AlphaFold, Nature, 2021.
• Mitchell et al., Modelkaarten voor modelrapportage, 2019.
• Google voor ontwikkelaars, spoedcursus machine learning en inleiding tot grote taalmodellen.