5 nøkkelområder for myndigheter for ansvarlig distribusjon av generativ AI – IBM Blog

I 2024 vil den pågående digitaliseringsprosessen ytterligere øke effektiviteten til statlige programmer og effektiviteten til politikk, som beskrevet i en tidligere hvitt papir. To kritiske elementer som driver denne digitale transformasjonen er data og kunstig intelligens (AI). AI spiller en sentral rolle i å låse opp verdi fra data og få dypere innsikt i den omfattende informasjonen som myndigheter samler inn for å tjene sine innbyggere.  

Ettersom etterspørselen etter generativ AI forventes å vokse i år, blir det viktig for offentlig sektor å omfavne ansvarlig bruk av denne teknologien. Bare ved å gjøre det kan regjeringer etablere seg som pålitelige forvaltere. 

Forskjellene mellom generativ AI og tradisjonell AI 

For å forstå de unike utfordringene som utgjøres av generativ AI sammenlignet med tradisjonell AI, hjelper det å forstå deres grunnleggende forskjeller. Tradisjonell kunstig intelligens er først og fremst avhengig av algoritmer og omfattende merkede datasett for å trene modeller gjennom maskinlæring. Disse modellene kan gi anbefalinger eller identifisere bestemt atferd ved å gjenkjenne mønstre og følge forhåndsdefinerte regler. For eksempel brukes tradisjonell AI til å forbedre effektiviteten til filtrering av spam-e-post, forbedre film- eller produktanbefalinger for forbrukere og gjøre det mulig for virtuelle assistenter å hjelpe enkeltpersoner med å søke informasjon. 

Generativ AI dukker opp som en verdifull løsning for å automatisere og forbedre rutinemessige administrative og repeterende oppgaver. Denne teknologien utmerker seg ved å bruke grunnmodeller, som er store nevrale nettverk trent på omfattende umerkede data og finjustert for ulike oppgaver. Den kan effektivt identifisere, oppsummere, konvertere, forutsi og generere innhold fra store datasett. Implementering av denne teknologien i offentlig sektor kan forbedre effektiviteten betydelig, slik at organisasjoner kan fullføre sine daglige oppgaver med en brøkdel av ressursene. 

Generativ kunstig intelligens gir en enestående mulighet til å forbedre ulike aspekter ved statlige operasjoner og forbedre tjenestene for innbyggerne. Det kan gi offentlige ansatte kraftigere verktøy for å svare på spørsmål og utføre forskning. Oppgaver som kontraktskriving og -administrasjon, som er både tidkrevende og avgjørende, kan ha stor nytte av bruken av generativ AI. 

I fjor søkte det amerikanske utenriksdepartementet tilbakemelding om utfordringene og sikkerhetshensynene ved å introdusere generativ og naturlig språkbehandling AI i nettverket sitt. En forespørsel fra juni om informasjon fra utenriksdepartementet avslørte deres mål om å forbedre arbeidernes effektivitet og nøyaktighet i repeterende oppgaver relatert til markedsundersøkelser og anskaffelsesplanlegging for kontraktskriving. Maskinlæringstrenet generativ AI kan hjelpe til med å utarbeide nye kontrakter basert på denne forskningen. 

Implementere generativ AI på en ansvarlig måte 

De bemerkelsesverdige generative egenskapene til denne nye AI-teknologien reiser spørsmål om den ansvarlige bruken i offentlig sektor. For eksempel må kontraktsledere vite at den opprinnelige forskningen er trofast konvertert til en juridisk bindende kontrakt for to eller flere parter.  

Publikum har nylig møtt generativ kunstig intelligens, primært gjennom verktøy som bruker eksisterende tekst, bilder, videoer og lyd for å lage tilpasset innhold på forespørsel. Men detaljnivået angående opplæring av noen av disse modellene kan være utilstrekkelig, spesielt for store virksomheter eller sterkt regulerte bransjer som er avhengige av offentlig tillit.  

For å utvikle ansvarlig AI, må regjeringsledere nøye forberede sine interne data å utnytte det fulle potensialet til både AI og generativ AI. Å sette ansvarlige standarder er en avgjørende myndighetsrolle, som krever integrering av ansvar fra starten, snarere enn som en ettertanke. Dette inkluderer å opprettholde menneskelig tilsyn for å sikre nøyaktigheten av AI-generert innhold og forhindre skjevheter, blant andre hensyn. 

Nøkkelpilarer for ansvarlig AI i regjeringen 

IBMs AI-utvikling sentrerer rundt 5 grunnleggende pilarer for å sikre pålitelig AI. Regjeringsledere bør prioritere disse pilarene når de vurderer ansvarlig utvikling, opplæring og distribusjon av AI:  

• Rettferdighet i et AI-system refererer til dets evne til å behandle individer eller grupper rettferdig, avhengig av konteksten AI-systemet brukes i. Det betyr å motvirke skjevheter og forhindre diskriminering som er relatert til beskyttede egenskaper, som kjønn, rase, alder og veteranstatus. 
• Privatliv gjelder et AI-systems evne til å prioritere og ivareta forbrukernes personvern og datarettigheter samtidig som det overholder eksisterende regelverk knyttet til datainnsamling, lagring, tilgang og avsløring.  
• Forklarbarhet er viktig fordi et AI-system må kunne gi en menneskelig tolkbar forklaring på sine spådommer og innsikter på en måte som ikke skjuler seg bak teknisk sjargong.  
• Åpenhet betyr at et AI-system må inkludere og dele informasjon om hvordan det ble designet og utviklet og dataene eller datakildene som brukes til å mate systemet. 
• Robusthet er et AI-systems evne til effektivt å håndtere eksepsjonelle forhold, for eksempel avvik i input. Det bidrar til å sikre konsistente utganger.  

IBM watsonx™, en integrert AI-, data- og styringsplattform, legemliggjør disse prinsippene ved å tilby en sømløs, effektiv og ansvarlig tilnærming til AI-utvikling på tvers av ulike miljøer. Mer spesifikt, den nylige lanseringen av IBM® watsonx.governance™ hjelper offentlig sektor med å automatisere og adressere disse områdene, slik at de kan lede, administrere og overvåke organisasjonens AI-aktiviteter. Dette verktøyet legger til rette for klare prosesser slik at organisasjoner proaktivt kan oppdage og redusere risikoer samtidig som de støtter deres compliance-programmer for interne AI-policyer og industristandarder.  

Ettersom offentlig sektor fortsetter å omfavne AI og automatisering for å løse problemer og forbedre effektiviteten, er det avgjørende å opprettholde tillit og åpenhet i enhver AI-løsning. Lag skal ha evnen til å forstå og administrere AI-livssyklusen effektivt. Å proaktivt ta i bruk ansvarlig AI-praksis er en mulighet for oss alle til å forbedre oss.  

Lær mer om AI kan transformere offentlige tjenester