Chain-of-Thought toepassen op AI-ondersteund menselijk denken - Ross Dawson

Chain-of-Thought toepassen op AI-ondersteund menselijk denken – Ross Dawson

Tijdstempel: 18 januari 2024 6:14 uur
Bronknooppunt: 3070889

Een van de belangrijkste recente innovaties voor het verbeteren van de waarde en betrouwbaarheid van grote taalmodellen zijn Keten-van-gedachte en zijn derivaten inclusief Boom-van-Gedachten en Grafiek van het denken. 

Deze structuren zijn ook uiterst waardevol bij het effectief ontwerpen Mens + AI-workflows voor beter denken.

In dit artikel geef ik een overzicht op hoog niveau van Chain-of-Thought en kijk ik vervolgens naar de toepassingen ervan AI-vergrote menselijke intelligentie.

Keten-van-gedachte

Grote Taalmodellen (LLM's) zijn over het algemeen uitstekend in het genereren van tekst, maar slecht in taken waarbij sequentieel redeneren betrokken is.

Het baanbrekende document van januari 2022 Chain-of-Thought Prompt lokt redeneren uit in grote taalmodellen legde uit hoe een gedachteketen – ‘een reeks tussenliggende redeneerstappen’ – de LLM-prestaties bij redeneertaken, waaronder wiskunde en gezond verstand-puzzels, aanzienlijk zou kunnen verbeteren.

Je hebt deze afbeelding waarschijnlijk wel eens gezien de krant de rondes doen.

Dit concept werd snel aangepast aan andere toepassingen, waaronder tijdelijke redenering, visuele taalmodellen, ophaal-vermeerderd redenerenen vele andere manieren om de prestaties van AI-modellen te verbeteren.

De gedachteketen is bijzonder waardevol gebleken bij praktische probleemoplossende toepassingen. Voor de hand liggende voorbeelden zijn onder meer geneeskunde, wet en onderwijs. 

Google's PaLM en Med-PaLM bevatten gedachteketenstructuren en GPT-4 van OpenAI doet dat zeer waarschijnlijk, wat betekent dat wanneer je een LLM gebruikt, deze benaderingen al zijn ingebouwd. 

Toch is de beroemde opdracht “Laten we dit stap voor stap uitwerken om er zeker van te zijn dat we het juiste antwoord hebben” of variaties hierop de beste LLM-prestaties geven voor veel soorten taken. 

Evolutie van de gedachteketen

Er zijn een aantal innovaties ontstaan ​​door voort te bouwen op Chain-of-Thought.

Effectieve redeneerprocessen volgen niet noodzakelijkerwijs één enkel traject. Dit leidt tot Boom-van-Gedachten structuren, beschreven in Gedachtenboom: doelbewuste probleemoplossing met grote taalmodellen.

Zoals blijkt uit dit diagram uit het artikel, kan de gedachteketen zich eerst ontwikkelen tot het selecteren van het meest voorkomende pad uit meerdere uitkomsten, en vervolgens kiezen uit het beste van meerdere paden door het denkproces. 

Meer recente ontwikkelingen op het gebied van Chain-of-Thought omvatten de zeer veelbelovende Grafiek van het denken net zoals Hypergraaf van het denken. 

Nieuwe ‘denkstructuren’ zullen centraal staan ​​in de vooruitgang op het gebied van generatieve AI 

Chain-of-Thought en aanverwante technieken zijn ontwikkeld om de beperkingen van LLM's aan te pakken en hun capaciteiten te vergroten. 

De voortdurende opmars van generatieve AI-modellen zal veel meer afhankelijk zijn van dit soort gestructureerde denktechnieken dan van rekencapaciteit of modelgrootte. Deze benaderingen hebben dit al mogelijk gemaakt kleine, efficiënte LLM's om prestaties te bereiken die die van de grootste modellen kan benaderen. 

Chain-of-Thought en soortgelijke modellen leiden ook rechtstreeks tot ketens met meerdere agenten, waarin ketens of gedachtenetwerken over meerdere taakgeoptimaliseerde modellen worden verdeeld om veel betere redeneringen en resultaten te creëren dan binnen één enkel model kunnen worden bereikt.

Augmented Intelligence is belangrijker dan kunstmatige algemene intelligentie

“Technologie moet er niet op gericht zijn mensen te vervangen, maar eerder de menselijke capaciteiten te versterken.” – Doug Engelbart

De drijvende kracht achter bijna alle AI-ontwikkelingen lijkt het creëren van machines te zijn die de menselijke intelligentie en capaciteiten kunnen nabootsen en mogelijk zelfs overtreffen.

Dat is een begrijpelijke ambitie.

Maar ik ben er veel, veel meer in geïnteresseerd hoe AI de menselijke intelligentie kan vergroten.

Wij kunnen aan beide domeinen tegelijk werken.

Maar in elk mogelijk scenario voor vooruitgang in de richting van kunstmatige algemene intelligentie zullen we beter af zijn als we minstens evenveel energie hebben gestoken in het bouwen, leren en toepassen van Human + AI-denkstructuren.

Mensen + AI-denkworkflows 

Het concept van Mensen + AI vormt de kern van mijn werk.

Het onderstaande raamwerk dat ik een jaar geleden heb gemaakt, toont mijn vroege framing van “Mensen + AI-workflows“, waarin mensen en AI opeenvolgend de taken aanpakken waarvoor ze het meest geschikt zijn.

Als dit goed wordt ontworpen, leidt dit onvermijdelijk tot resultaten die superieur zijn aan wat ieder afzonderlijk zou kunnen bereiken. 

Sindsdien heb ik me veel gedetailleerder verdiept in wat specifiek de beste Humans + AI-denkstructuren zijn.

Dit zullen de fundamenten zijn van de volgende fase van verbeterde menselijke intelligentie.

Denkketen voor AI-ondersteund menselijk denken

De concepten die voortvloeien uit Chain-of-Thought zijn ontwikkeld om de stand-alone mogelijkheden van LLM's te verbeteren.

Ze blijken echter ook enorm waardevol te zijn bij het maximaliseren van de waarde van de samenwerking tussen mens en AI. 

Er zijn een aantal technieken voor het toepassen van Chain-of-Thought-structuren op Humans + AI-denkworkflows.

AI-concepten toegepast op augmented intelligence

LLM's kunnen worden gebruikt om te suggereren hoe taken kunnen worden opgesplitst in opeenvolgende (of netwerk) elementen, waarbij mensen of AI kunnen identificeren waar menselijke of AI-capaciteiten het meest geschikt zijn.

Een specifieke aanpak wordt beschreven in Human-in-the-loop via gedachteketen, waarin "handmatige correctie van sublogica's in redeneringen de redeneerprestaties van LLM kan verbeteren."

Het ‘framen’ van de doelstellingen, taak en structuur, zoals weergegeven in het Humans + AI-workflowdiagram, bepaalt de kwaliteit van de resultaten. Dit kan meestal het beste door mensen worden gecontroleerd, met behulp van stromen zoals AI die parameters voorstelt of beoordeelt.

Ik integreer deze en andere benaderingen in een reeks ‘AI-Enhanced Thinking Patterns’.

Meer in het algemeen kan een grote verscheidenheid aan AI-ontwikkelingen, en niet alleen de Chain of Thought, uiterst nuttig worden toegepast om de menselijke intelligentie te vergroten.  

Ik ben van plan een soortgelijk artikel te schrijven over de toepassing van de concepten van Generatieve tegengestelde netwerken naar Symbiotische intelligentie tussen mens en AI structuren. 

Cursus over AI-ondersteund denken en besluitvorming

Mijn volledige focus in 2024 is hoe AI mensen kan versterken.

Een van mijn centrale activiteiten is het geven van een reguliere cohortcursus over Maven: AI-verbeterd denken en besluitvorming. Bekijk de link voor meer details.

Het volgende cohort start op 8 februari. Als dank voor het lezen tot het einde van dit artikel, kun je 30% korting krijgen door de kortingsbon te gebruiken: COTARTICLE 🙂.

Tijdstempel:

Meer van Rossdawson