Conversational AI forteller oss hva vi ønsker å høre - en fib om at nettet er pålitelig og vennlig

Publisert av Platon

Følgere: 0

Mening Det er et gammelt ordtak: når kjemper slåss, er det gresset som lider. For oss små som ser på er det lite annet å gjøre enn å løpe i dekning og ta popcornet.

I to tiår har Microsoft og Google sett på hverandre som grunnleggende illegitime. Microsoft har egentlig aldri kommet seg etter å ha tapt kampen om søk, og heller ikke feilen til Windows Mobile. Google hadde ambisjoner om å eie et universelt operativsystem, men har merkelig nok ikke vært i stand til å utnytte den globale dominansen til Android utover mobil. Kampen deres fortsetter å rase på flere fronter: Bing vs Google Search, Azure vs Google Cloud, og det fortsetter.

Og i et uoppbyggelig skue av vi-kom-her-før-du-nei-du-ikke, har de to datagigantene i det siste forsøkt å undergrave hverandres innsats for å lansere "samtale" søkeprodukter, basert på Large Language Modeller (LLM). Google har brukt år på å foredle LaMDA – i fjor til og med sagt opp en ansatt som hadde overbevist seg selv om at LaMDA hadde sans – mens Microsoft har vært det fôring og vanning OpenAI og dens multi-generasjons Generative Pre-trained Transformer (GPT).

Google har sannsynligvis flere AI PhD-er som jobber for det enn alle andre virksomheter til sammen. I løpet av de midterste årene av det siste tiåret avviste det effektivt postgraduate-programmer i AI over hele verden ved å ansette hele klassekull, og ga dem i oppgave å forbedre kvaliteten på firmaets søkeresultater.

Med den typen hjernekraft bør Google være den ubestridte lederen innen offentlig orienterte AI-applikasjoner. Men selvfølgelig gjør Google bare et par ting veldig bra: søk og annonsemålretting. Begge disse trenger mye smart, men de er godt skjult for virkelige menneskers øyne. Så vidt Joe Citizen kan forstå, har den enorme innsatsen i AI blitt fullstendig spolert.

Det ble åpenbart omtrent en halvtime etter OpenAI utgitt ChatGPT – dens samtale, kontekstuelt bevisste LLM. Nesten instinktivt spurte alle som samhandlet med ChatGPT seg "Hvorfor kan jeg ikke bruke dette til søk?" Grensesnittet virker naturlig, diskursivt, vennlig og helt menneskelig – akkurat det motsatte av en stygg side med søkeresultater rikelig saltet med annonser og sporere og alt annet dritt Google finner nødvendig å sette inn for å holde marginene høye.

Microsoft så umiddelbart ChatGPT som våpenet det trengte for å destabilisere konkurrenten. Redmond blekket raskt en investeringsavtale på flere milliarder dollar med OpenAI, og garanterte at ChatGPT ville bli integrert på tvers av hele pakken med Microsoft-produkter. Det betyr ikke bare Bing, men Office, Github og – høyst sannsynlig – Windows.

Rundt denne tiden gikk Google "kode rød" - Hva enn det betyr. Det brakte Larry og Sergey tilbake på dekk, og gjorde alt de kunne, så raskt som det kunne, for å integrere sin eksisterende mengde LLM-er i flaggskipet søkeprodukt.

Men det er sent på dagen for anger.

Forrige uke kunngjorde Google en spesiell hendelse 8. februar for å avsløre sitt arbeid med AI. Ikke lenge etter det lekket et skjermbilde av ChatGPT integrert i Bing på nettet. Så mandag 6. februar, Alphabet-sjef Sundar Pichai kunngjorde Bard – Googles førstegenerasjons forsøk på å integrere LaMDA i sin søkemotor. Microsoft satte raskt sammen en konkurrerende begivenhet (7. februar, natch) der den avslørte fremgangen sin med å integrere ChatGPT i Bing – noe som bekrefter at det lekke skjermbildet var ekte.

Dette er kanskje ikke den beste måten å nærme seg en teknologi som er like kraftig – og like full – som samtale, kontekstuelt bevisste LLM AI-er. Den ene tråkker, den andre tråkker tilbake – og det er gresset som lider.

De siste månedene kanskje hundre millioner mennesker har hatt en lek med ChatGPT, og undret seg over kraften ... og dens mangler. denne "stokastisk papegøye” (en fordømmende, men nøyaktig teknisk vurdering) forstår ingenting, men spytter bare ut det den vurderer som mest sannsynlig å følge på av det som allerede er kommunisert. Det er nyttig og interessant – men det er ikke forståelig. Og den mangelen på dybde betyr at den absolutt ikke har noen sunn fornuft.

Det er et annet gammelt ordtak: "Å feile er menneskelig, men å virkelig rote til ting i stor skala krever en datamaskin."

Både Google og Microsoft har lovet at deres søkeverktøy med LLM-smak vil gjøre det klart for brukerne at disse resultatene ikke er å stole på. Men de samme to firmaene har brukt flere tiår, og utallige milliarder av dollar, på å fortelle oss at datamaskiner er våre pålitelige følgesvenner – de glemmer aldri, gjør aldri feil og gir tilgang til rikdommen av menneskelig kunnskap.

Etter all den indoktrineringen har vi lite annet valg enn å stole på hva ChatGPT eller LaMDA sier til oss. Å gjøre noe annet betyr å ignorere alt vi har hørt gjennom to generasjoner om hva datamaskiner lover.

Microsoft og Google har begge forbedret spillet sitt ved å bruke nye våpen som ingen helt forstår – inkludert dem selv. Er det lurt? Er det i det hele tatt trygt? ChatGPT vil sannsynligvis si ja, men det har en egeninteresse.

Konversasjons-AIer utmerker seg ved å fortelle oss nøyaktig hva vi ønsker å høre. Google og Microsoft har bestemt at vi brukere må være det for deres overlevelse inn i neste generasjons databehandling omgitt av syntetiske bedragere, som kontinuerlig forveksler fakta og fiksjon så subtilt og så grundig at sannheten blir borte i støy og nesten ukjent. Gi popcornet. ®