De sceptische casus over generatieve AI

Ontvang gratis kunstmatige intelligentie-updates

We sturen je een myFT dagelijkse samenvatting e-mail naar boven afronden Kunstmatige intelligentie nieuws elke ochtend.

Zelfs volgens de ademloze normen van eerdere cycli van technologische hypes, hebben de generatieve kunstmatige intelligentie-enthousiastelingen hard gehyperventileerd.

Biljoenenbedrijven, waaronder Alphabet en Microsoft, verklaren dat AI de nieuwe elektriciteit of het nieuwe vuur is en herstructureren hun hele bedrijf eromheen. Nooit willens en wetens overtroffen, hebben durfkapitaalinvesteerders ook geld in de sector gepompt. Vijftig van de meest veelbelovende generatieve AI-start-ups, geïdentificeerd door CB Insights, hebben sinds 2019 meer dan $ 19 miljard aan financiering opgehaald. Hiervan tellen er nu 11 als eenhoorns met waarderingen van meer dan $ 1 miljard.

Zelfs de nuchtere pakken bij McKinsey schatten dat de technologie jaarlijks tussen de $ 2,6 biljoen en $ 4,4 biljoen aan economische waarde zou kunnen toevoegen aan de hand van 63 voorbeelden van geanalyseerd gebruik, variërend van bankieren tot biowetenschappen. Met andere woorden, in zeer ruwe termen zou generatieve AI elk jaar een nieuwe Britse economie kunnen creëren (het bruto binnenlands product van het land was $ 3,1 biljoen in 2021).

Maar wat als ze ongelijk hebben? In een reeks provocerende berichten onderzoekt de technoloog Gary Marcus de mogelijkheid dat we een “enorme, hartverscheurende correctie” in waarderingen zouden kunnen zien als beleggers zich realiseren dat generatieve AI niet erg goed werkt en geweldige zakelijke toepassingen mist. “De inkomsten zijn er nog niet en zullen er misschien ook nooit komen”, schrijft hij.

Marcus, mede-oprichter van het Center for the Advancement of Trustworthy AI die dit jaar voor het Amerikaanse Congres getuigde, is al lang sceptisch over de intelligentie van neurale netwerkmodellen die voorafgingen aan de nieuwste chatbots, zoals OpenAI’s ChatGPT. Maar hij brengt ook enkele nieuwe waarheden over generatieve AI naar voren. Neem de onbetrouwbaarheid van de modellen zelf. Zoals nu voor miljoenen gebruikers duidelijk is, is een van de grootste nadelen van de technologie dat het feiten hallucineert – of confabuleert.

In zijn eerdere boek AI opnieuw opstarten, Marcus geeft een mooi voorbeeld van hoe dit kan gebeuren. Sommige AI-modellen werken als probabilistische machines en voorspellen antwoorden op basis van gegevenspatronen in plaats van redeneringen te vertonen. Een Franstalige zou het instinctief begrijpen Je kunt een advocaat voor je déjeuner gebruiken wat betekent “Ik eet een avocado als lunch”. Maar in de eerste iteraties gaf Google Translate het weer als “Ik ga een advocaat eten voor de lunch”. In het Frans, het woord advocaat betekent zowel avocado als advocaat. Google Translate koos de meest statistisch waarschijnlijke vertaling, in plaats van een die logisch was.

De technologiebedrijven zeggen dat ze fouten verminderen door het contextuele begrip van hun systemen te verbeteren (Google Translate geeft die Franse zin nu nauwkeurig weer). Maar Marcus stelt dat hallucinaties eerder een kenmerk dan een bug zullen blijven van generatieve AI-modellen, die niet kunnen worden opgelost met hun huidige methodologie. “Er is een fantasie dat als je meer gegevens toevoegt, het zal werken. Maar het lukt je niet om het probleem met data de kop in te drukken”, vertelt hij me.

Voor sommige gebruikers is deze ingebouwde onbetrouwbaarheid een dealbreker. Craig Martell, de belangrijkste AI-officier van het Amerikaanse ministerie van Defensie, zei vorige week dat hij een “five 9s” zou eisen [99.999 per cent] nauwkeurigheidsniveau voordat een AI-systeem wordt ingezet. “Ik kan geen hallucinatie hebben die zegt: ‘Oh ja, plaats widget A verbonden met widget B’ – en het ontploft,” zei hij. Veel generatieve AI-systemen legden een te hoge “cognitieve belasting” op de gebruiker om te bepalen wat goed of fout was, voegde hij eraan toe.

Nog zorgwekkender is het idee dat inhoud geproduceerd door generatieve AI de datasets vervuilt waarop toekomstige systemen zullen worden getraind, wat een bedreiging vormt voor wat sommigen “modelinstorting” noemen. Door meer onvolmaakte informatie en opzettelijke desinformatie aan onze kennisbasis toe te voegen, zorgen generatieve AI-systemen voor een verdere “enshittificatie” van het internet, om de suggestieve term van Cory Doctorow te gebruiken. Dit betekent dat trainingssets meer onzin uitspuwen in plaats van minder.

Onverschrokken voeren investeerders meestal drie argumenten aan over hoe ze geld kunnen verdienen met generatieve AI. Zelfs met zijn onvolkomenheden, zeggen ze, kan het nog steeds een waardevol productiviteitsinstrument zijn, dat de industrialisatie van efficiëntie versnelt. Er zijn ook veel toepassingen, variërend van copywriting tot callcenteractiviteiten, waarbij een nauwkeurigheidsniveau van “twee 9” OK is.

Ten tweede wedden investeerders op het feit dat sommige bedrijven generatieve AI-modellen kunnen inzetten om kleine, reële problemen op te lossen. De nieuwste ontwikkelingen op het gebied van AI maken het mogelijk om gegevens in realtime te analyseren, zegt Zuzanna Stamirowska, CEO van de Franse start-up Pathway, om bijvoorbeeld de maritieme handel of de prestaties van vliegtuigmotoren te optimaliseren. “We richten ons echt op zakelijke use-cases”, zegt ze.

Ten derde zullen generatieve AI-modellen de creatie van nieuwe diensten en bedrijfsmodellen mogelijk maken die tot nu toe onvoorstelbaar waren. Tijdens de massale elektrificatie van de economie eind 19e eeuw profiteerden bedrijven van het opwekken en distribueren van elektriciteit. Maar de serieuze fortuinen werden later gemaakt door elektriciteit te gebruiken om manieren om dingen te produceren, zoals staal, te transformeren of door geheel nieuwe producten en diensten uit te vinden, inclusief huishoudelijke apparaten.

Op dit moment zijn het alleen de cloud computing-providers en chipfabrikanten die echt geld verdienen in de generatieve AI-boom. Ongetwijfeld zal Marcus ook gelijk krijgen dat veel van het bedrijfsgeld dat naar de technologie wordt gegooid, zal worden verspild en dat de meeste start-ups zullen mislukken. Maar wie weet welke nieuwe dingen zullen worden uitgevonden en blijven bestaan? Daarom heeft God bubbels uitgevonden.

john.thornhill@ft.com