Voorspellingen voor 2023 voor AI, machinaal leren en NLP

Heruitgegeven door Plato

volgers: 0

Het is een opwindend jaar geweest op het gebied van AI, machine learning en NLP, met tekst-naar-beeld-generatoren en grote taalmodellen die een aantal zeer indrukwekkende resultaten hebben opgeleverd en veel beloven voor de toekomst - terwijl alle belangrijke voorbehouden over hun tekortkomingen worden opgemerkt, waaronder het verminderen van maatschappelijke vooroordelen, de mogelijkheid dat ze worden gebruikt om 'nepnieuws' te genereren en hun impact op het milieu.

Aan het begin van het jaar 2023 wilden we nadenken over wat het nieuwe jaar op het gebied van AI, machine learning en NLP zal brengen.

Jeff Catlin, hoofd van Lexalytics, een InMoment-bedrijf:

AI gaat ROI: De vertraging in technologie-uitgaven zal op twee manieren zichtbaar worden in AI en machine learning: belangrijke nieuwe AI-methodologieën en doorbraken zullen vertragen, terwijl innovatie in AI richting 'productisering' gaat. We zullen zien dat AI sneller en goedkoper wordt naarmate de innovatie zich verplaatst naar technieken om deep learning minder duur te maken om toe te passen en sneller door modellen zoals DistilBERT, waar de nauwkeurigheid wat afneemt, maar de behoefte aan GPU's afneemt.

Groeiende acceptatie van hybride NLP: Het is vrij algemeen bekend dat hybride NLP-oplossingen machine learning en klassiek combineren NLP-technieken zoals witte lijsten, query's en sentimentwoordenboeken gemengd met deep learning-modellen bieden doorgaans betere zakelijke oplossingen dan gewone machine learning-oplossingen. Het voordeel van deze hybride oplossingen betekent dat ze een checkbox-item zullen worden in bedrijfsevaluaties van NLP-leveranciers.

Paul Barba, Chief Scientist bij Lexalytics, een InMoment-bedrijf:

De opkomst van multimodaal leren: De golf van beeldgenererende netwerken zoals Stable Diffusion en DALL-E demonstreren de kracht van AI-benaderingen die meerdere vormen van data begrijpen – in dit geval beeld om een beeld te genereren en tekst om beschrijvingen van een mens op te nemen . Hoewel multimodaal leren altijd een belangrijk onderzoeksgebied is geweest, was het moeilijk te vertalen naar de bedrijfswereld waar elke gegevensbron op zijn eigen manier moeilijk te gebruiken is. Maar naarmate bedrijven steeds geavanceerder worden in het gebruik van gegevens, springt multimodaal leren eruit als een buitengewoon krachtige kans in 2023. Systemen die de brede kennis die wordt overgebracht in tekst, beeld en video, kunnen combineren met geavanceerde modellering van financiële en andere numerieke serie zal de volgende stap zijn in de ontwikkeling van veel bedrijven data science initiatieven.

De singulariteit in ons vizier? Een onderzoekspaper van Jiaxin Huang et al. verscheen afgelopen oktober met de pakkende titel “Grote taalmodellen kunnen zichzelf verbeteren.” Hoewel het nog niet de singulariteit was, hebben de onderzoekers een groot taalmodel overgehaald om vragen te genereren uit tekstfragmenten, de zelf gestelde vraag te beantwoorden door middel van "chain of thought prompting", en vervolgens te leren van die antwoorden om de mogelijkheden van het netwerk op een verscheidenheid aan taken. Deze bootstrapping-benaderingen zijn van oudsher vrij nauw gebonden aan verbetering - uiteindelijk beginnen modellen zichzelf het verkeerde aan te leren en ontsporen ze - maar de belofte van verbeterde prestaties zonder moeizame annotatie-inspanningen is een sirenenzang voor AI-beoefenaars. We voorspellen dat hoewel dit soort benaderingen ons niet naar een singulariteitsmoment zal drijven, het het hot research topic van 2023 zal zijn en tegen het einde van het jaar een standaardtechniek zal zijn in alle state-of-the-art, natuurlijke taal resultaten verwerken.

Samenvattend zal 2023 naar verwachting een verschuiving teweegbrengen in de focus van AI en machine learning naar productisering en kosteneffectiviteit, evenals een grotere acceptatie van hybride NLP-oplossingen. Het gebruik van multimodaal leren, waarbij het gaat om het begrijpen van meerdere vormen van gegevens, zoals tekst, afbeeldingen en video, zal naar verwachting ook vaker voorkomen in bedrijven. Bovendien wordt verwacht dat onderzoek naar zelfverbeterende grote taalmodellen een belangrijke focus in het veld zal blijven, met het potentieel dat deze modellen een standaardtechniek worden bij de verwerking van natuurlijke taal. Het is echter belangrijk om rekening te houden met de potentiële uitdagingen en beperkingen van deze vooruitgang, zoals maatschappelijke vooroordelen en de mogelijkheid van misbruik.