Napovedujemo nova orodja in zmogljivosti za omogočanje odgovornih inovacij AI | Spletne storitve Amazon

Hitra rast generativne umetne inteligence prinaša obetavne nove inovacije in hkrati odpira nove izzive. Ti izzivi vključujejo nekatere, ki so bili običajni pred generativno umetno inteligenco, na primer pristranskost in razložljivost ter nove, edinstvene za osnovne modele (FM), vključno s halucinacijami in toksičnostjo. Pri AWS smo zavezani odgovoren razvoj generativne umetne inteligence, s pristopom, osredotočenim na ljudi, ki daje prednost izobraževanju, znanosti in našim strankam, za integracijo odgovorne umetne inteligence v celotnem življenjskem ciklu umetne inteligence od konca do konca.

V preteklem letu smo uvedli nove zmogljivosti v naših generativnih aplikacijah in modelih AI, kot je vgrajeno varnostno skeniranje v Amazon Code Whisperer, usposabljanje za odkrivanje in blokiranje škodljivih vsebin v Amazon Titan, in zaščito zasebnosti podatkov v Amazon Bedrock. Naša naložba v varno, pregledno in odgovorno generativno umetno inteligenco vključuje sodelovanje z globalno skupnostjo in oblikovalci politik, saj smo spodbujali in podpirali tako Prostovoljne zaveze Bele hiše glede umetne inteligence in Varnostni vrh AI v Veliki Britaniji. In še naprej sodelujemo z roko v roki s strankami, da operacionaliziramo odgovorno umetno inteligenco z namensko izdelanimi orodji, kot je Amazon SageMaker Pojasni, Upravljanje ML z Amazon SageMaker, In še več.

Predstavljamo nove odgovorne inovacije AI

Ker se generativna umetna inteligenca prilagaja novim panogam, organizacijam in primerom uporabe, mora to rast spremljati trajna naložba v odgovoren razvoj FM. Stranke želijo, da so njihovi FM-ji zgrajeni z mislijo na varnost, pravičnost in varnost, tako da lahko nato odgovorno uvedejo AI. Pri AWS re:Invent letos z veseljem napovedujemo nove zmogljivosti za spodbujanje odgovornih generativnih inovacij AI v širokem naboru zmogljivosti z novimi vgrajenimi orodji, zaščito strank, viri za izboljšanje preglednosti in orodji za boj proti dezinformacijam. Strankam želimo zagotoviti informacije, ki jih potrebujejo za ovrednotenje FM glede na ključne dejavnike odgovorne umetne inteligence, kot sta strupenost in robustnost, ter uvesti zaščitne ograje za uporabo zaščitnih ukrepov na podlagi primerov uporabe strank in politik odgovorne umetne inteligence. Hkrati želijo biti naše stranke bolje obveščene o varnosti, pravičnosti, varnosti in drugih lastnostih storitev AI in FM, saj jih uporabljajo v lastni organizaciji. Z veseljem objavljamo več virov za pomoč strankam pri boljšem razumevanju naših storitev umetne inteligence AWS in zagotavljanju preglednosti, ki jo zahtevajo.

Izvedba zaščitnih ukrepov: zaščitne ograje za Amazon Bedrock

Varnost je prednostna naloga, ko gre za uvedbo generativne umetne inteligence v velikem obsegu. Organizacije želijo spodbujati varne interakcije med svojimi strankami in generativnimi aplikacijami AI, ki se izogibajo škodljivemu ali žaljivemu jeziku in so v skladu s politikami podjetja. Najlažji način za to je vzpostavitev doslednih zaščitnih ukrepov v celotni organizaciji, tako da lahko vsi varno inovirajo. Včeraj smo napovedali predogled Zaščitne ograje za Amazon Bedrock—nova zmožnost, ki olajša izvajanje zaščitnih ukrepov, specifičnih za aplikacijo, ki temeljijo na primerih uporabe strank in odgovornih politikah AI.

Zaščitne ograje spodbujajo doslednost v tem, kako se FM-ji na Amazon Bedrock odzivajo na neželeno in škodljivo vsebino v aplikacijah. Stranke lahko uporabijo zaščitne ograje za velike jezikovne modele na Amazon Bedrock kot tudi za natančno nastavljene modele in v kombinaciji z Zastopniki za Amazon Bedrock. Guardrails vam omogoča, da določite teme, ki se jim je treba izogibati, storitev pa samodejno zazna in prepreči poizvedbe in odgovore, ki spadajo v omejene kategorije. Stranke lahko konfigurirajo tudi pragove filtra vsebine po kategorijah, vključno s sovražnim govorom, žaljivkami, seksualiziranim jezikom in nasiljem, da izločijo škodljivo vsebino na želeno raven. Aplikacijo za spletno bančništvo lahko na primer nastavite tako, da se izognete zagotavljanju naložbenih nasvetov in omejite neprimerno vsebino (kot so sovražni govor, žalitve in nasilje). V bližnji prihodnosti bodo stranke lahko tudi redigirale podatke, ki omogočajo osebno identifikacijo (PII) v uporabniških vnosih in odgovorih FM-jev, nastavile filtre za psovke in zagotovile seznam besed po meri, ki jih bodo blokirale v interakcijah med uporabniki in FM-ji, kar bo izboljšalo skladnost in dodatno varovanje uporabnikov. Z Guardrails lahko hitreje uvajate inovacije z generativno umetno inteligenco, hkrati pa ohranjate zaščite in zaščitne ukrepe v skladu s politikami podjetja.

Prepoznavanje najboljšega FM za določen primer uporabe: Ocena modela v Amazon Bedrock

Danes imajo organizacije široko paleto FM možnosti za napajanje svojih generativnih aplikacij AI. Da bi dosegle pravo ravnovesje med natančnostjo in zmogljivostjo za svoj primer uporabe, morajo organizacije učinkovito primerjati modele in najti najboljšo možnost na podlagi ključne odgovorne AI in meritev kakovosti, ki so zanje pomembne. Za ovrednotenje modelov morajo organizacije najprej porabiti dneve za določanje meril uspešnosti, nastavitev orodij za vrednotenje in izvajanje ocen, kar vse zahteva globoko strokovno znanje na področju znanosti o podatkih. Poleg tega ti testi niso uporabni za ocenjevanje subjektivnih meril (npr. glas blagovne znamke, ustreznost in slog), ki zahtevajo presojo skozi dolgočasne, časovno intenzivne poteke dela, ki jih pregleduje človek. Čas, strokovno znanje in viri, potrebni za te ocene – za vsak nov primer uporabe – organizacijam otežujejo ovrednotenje modelov glede na odgovorne dimenzije umetne inteligence in sprejemanje ozaveščene izbire glede tega, kateri model bo zagotovil najbolj natančno in varno izkušnjo za njihove stranke.

Zdaj na voljo v predogledu, Ocena modela na Amazon Bedrock strankam pomaga oceniti, primerjati in izbrati najboljše FM za njihov specifični primer uporabe na podlagi meritev po meri, kot sta natančnost in varnost, z uporabo samodejnih ali človeških ocen. V konzoli Amazon Bedrock stranke izberejo FM, ki jih želijo primerjati za določeno nalogo, kot je odgovarjanje na vprašanja ali povzemanje vsebine. Za samodejno vrednotenje stranke izberejo vnaprej določena merila vrednotenja (npr. natančnost, robustnost in strupenost) in naložijo svoj nabor podatkov o testiranju ali izbirajo med vgrajenimi, javno dostopnimi nabori podatkov. Za subjektivna merila ali niansirano vsebino, ki zahteva  presojo, lahko stranke preprosto nastavijo delovne poteke vrednotenja, ki temeljijo na človeku, z le nekaj kliki. Ti poteki dela izkoriščajo strankino notranjo delovno skupino ali uporabljajo upravljano delovno silo, ki jo zagotavlja AWS, za ovrednotenje odzivov modela. Med človeškim vrednotenjem stranke določijo meritve uporabe, specifične za primer (npr. ustreznost, slog in glas blagovne znamke). Ko stranke končajo postopek namestitve, Amazon Bedrock izvede ocene in ustvari poročilo, tako da lahko stranke zlahka razumejo, kako se je model obnesel glede na ključna merila varnosti in natančnosti, ter izberejo najboljši model za svoj primer uporabe.

Ta zmožnost ocenjevanja modelov ni omejena na Amazon Bedrock, stranke lahko uporabijo tudi ocenjevanje modela v Amazon SageMaker Clarify, da enostavno ocenijo, primerjajo in izberejo najboljšo možnost FM v ključnih merilih kakovosti in odgovornosti, kot so natančnost, robustnost in toksičnost – v vseh vsi FM-ji.

Boj proti dezinformacijam: vodni žig v Amazon Titan

Danes smo objavili Amazon Titan Image Generator v predogledu, ki strankam omogoča hitro izdelavo in izboljšanje visokokakovostnih slik v velikem obsegu. Upoštevali smo odgovorno umetno inteligenco med vsako stopnjo procesa razvoja modela, vključno z izbiro podatkov za usposabljanje, gradnjo zmogljivosti filtriranja za odkrivanje in odstranjevanje neprimernih uporabniških vnosov in izhodov modela ter izboljšanjem demografske raznolikosti izhodov naših modelov. Vse slike, ki jih ustvari Amazon Titan, privzeto vsebujejo neviden vodni žig, ki je zasnovan tako, da pomaga zmanjšati širjenje dezinformacij z zagotavljanjem diskretnega mehanizma za prepoznavanje slik, ki jih ustvari umetna inteligenca. AWS je med prvimi ponudniki modelov, ki so široko izdali vgrajene nevidne vodne žige, ki so integrirani v slikovne izhode in so zasnovani tako, da so odporni na spremembe.

Gradimo zaupanje: stojimo za našimi modeli in aplikacijami z odškodnino

Gradnja zaupanja strank je jedro AWS. Že od ustanovitve smo na poti z našimi strankami in z rastjo generativne umetne inteligence ostajamo zavezani skupnemu ustvarjanju inovativne tehnologije. Da bi strankam omogočili izkoriščanje moči naše generativne umetne inteligence, morajo vedeti, da so zaščitene. AWS ponuja kritje odškodnine za avtorske pravice za rezultate naslednjih Amazonovih generativnih storitev AI: Amazon Titan Text Express, Amazon Titan Text Lite, Amazon Titan Embeddings, Amazon Titan Multimodal Embeddings, Amazon CodeWhisperer Professional, AWS HealthScribe, Amazon Lexin Amazonska prilagoditev. To pomeni, da so stranke, ki storitve uporabljajo odgovorno, zaščitene pred zahtevki tretjih oseb, ki domnevno kršijo avtorske pravice zaradi rezultatov, ki jih ustvarijo te storitve (glejte razdelek 50.10 Pogoji storitve). Poleg tega naša standardna odškodnina IP za uporabo storitev ščiti stranke pred zahtevki tretjih oseb, ki domnevno kršijo IP s strani storitev in podatkov, uporabljenih za njihovo usposabljanje. Povedano drugače, če uporabljate Amazonovo generativno AI storitev, navedeno zgoraj, in vas nekdo toži zaradi kršitve intelektualne lastnine, bo AWS branil to tožbo, kar vključuje kritje morebitne sodbe proti vam ali stroškov poravnave.

Stojimo za našimi generativnimi storitvami umetne inteligence in si jih prizadevamo nenehno izboljševati. Ker AWS uvaja nove storitve in se generativna umetna inteligenca še naprej razvija, se bo AWS še naprej neusmiljeno osredotočal na pridobivanje in ohranjanje zaupanja strank.

Izboljšanje preglednosti: storitvena kartica AWS AI za Amazon Titan Text

We predstavil storitvene kartice AWS AI na re:Invent 2022 kot vir preglednosti, ki strankam pomaga bolje razumeti naše storitve umetne inteligence AWS. Storitvene kartice umetne inteligence so oblika odgovorne dokumentacije umetne inteligence, ki strankam na enem mestu ponuja informacije o predvidenih primerih uporabe in omejitvah, odgovornih odločitvah zasnove umetne inteligence ter najboljših praksah uvajanja in optimizacije delovanja za naše storitve umetne inteligence. So del celovitega razvojnega procesa, ki se ga lotevamo, da bi naše storitve zgradili na odgovoren način, ki obravnava pravičnost, razložljivost, verodostojnost in robustnost, upravljanje, preglednost, zasebnost in varnost, varnost in možnost nadzora.

Pri re:Invent letos razpisujemo a nova storitvena kartica AI za Amazon Titan Text povečati preglednost modelov temeljev. Predstavljamo tudi štiri nove storitvene kartice AI, vključno z: Amazon Comprehend Detect PII, Odkrivanje strupenosti pri prepisu Amazon, Amazon Rekognition Face Livenessin AWS HealthScribe. Vsako od teh kart lahko raziščete na Spletno mesto AWS. Ker generativna umetna inteligenca še naprej raste in se razvija, bo preglednost o tem, kako se tehnologija razvija, testira in uporablja, bistvena sestavina za pridobitev zaupanja organizacij in njihovih strank. Pri AWS smo zavezani, da bomo še naprej zagotavljali vire preglednosti, kot so storitvene kartice AI, širši skupnosti – ter ponavljali in zbirali povratne informacije o najboljših načinih za naprej.

Vlaganje v odgovorno umetno inteligenco skozi celoten življenjski cikel generativne umetne inteligence

Navdušeni smo nad novimi inovacijami, objavljenimi na re:Invent ta teden, ki našim strankam dajejo več orodij, virov in vgrajenih zaščit za varno izdelavo in uporabo generativne umetne inteligence. Od vrednotenja modela do zaščitnih ograj in vodnega žiga lahko stranke zdaj hitreje prenesejo generativno umetno inteligenco v svojo organizacijo, hkrati pa zmanjšajo tveganje. Nove zaščite za stranke, kot je pokritost z odškodnino IP, in novi viri za izboljšanje preglednosti, kot so dodatne storitvene kartice AI, so tudi ključni primeri naše zavezanosti k izgradnji zaupanja med tehnološkimi podjetji, oblikovalci politik, skupinami skupnosti, znanstveniki in drugimi. Še naprej izvajamo pomembne naložbe v odgovorno umetno inteligenco v celotnem življenjskem ciklu osnovnega modela – da bi našim strankam pomagali prilagoditi umetno inteligenco na varen, varen in odgovoren način.

---

O avtorjih

Peter Hallinan vodi pobude v znanosti in praksi odgovorne umetne inteligence pri AWS AI, skupaj z ekipo odgovornih strokovnjakov za umetno inteligenco. Ima globoko strokovno znanje na področju umetne inteligence (doktorat, Harvard) in podjetništva (Blindsight, prodano Amazonu). Njegove prostovoljne dejavnosti so vključevale službovanje kot svetovalni profesor na Medicinski fakulteti Univerze Stanford in kot predsednik Ameriške gospodarske zbornice na Madagaskarju. Ko je le mogoče, je z otroki v gorah: smuča, pleza, pohodi in rafta

Vasi Filomin je trenutno podpredsednik Generative AI pri AWS. Vodi prizadevanja za generativno umetno inteligenco, vključno z Amazon Bedrock, Amazon Titan in Amazon CodeWhisperer.

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
• PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
• PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
• PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
• vir: https://aws.amazon.com/blogs/machine-learning/announcing-new-tools-and-capabilities-to-enable-responsible-ai-innovation/