Julkistamme uusia työkaluja ja ominaisuuksia vastuullisen tekoälyinnovoinnin mahdollistamiseksi | Amazon Web Services

Generatiivisen tekoälyn nopea kasvu tuo lupaavia uusia innovaatioita ja samalla uusia haasteita. Näihin haasteisiin sisältyy joitain, jotka olivat yleisiä ennen generatiivista tekoälyä, kuten harha ja selitettävyys, ja uusia, ainutlaatuisia perustusmalleihin (FM), mukaan lukien hallusinaatiot ja toksisuus. AWS:llä olemme sitoutuneet kehittää generatiivista tekoälyä vastuullisesti, ottamalla ihmiskeskeisen lähestymistavan, joka asettaa etusijalle koulutuksen, tieteen ja asiakkaamme, integroidaksemme vastuullisen tekoälyn koko tekoälyn elinkaareen.

Olemme viime vuoden aikana ottaneet käyttöön uusia ominaisuuksia generatiivisissa tekoälysovelluksissamme ja -malleissamme, kuten sisäänrakennetun suojausskannauksen Amazon Code Whisperer, koulutus haitallisen sisällön havaitsemiseen ja estämiseen Amazon Titan, ja tietosuojan suojaukset Amazonin kallioperä. Panostuksemme turvalliseen, läpinäkyvään ja vastuulliseen tekoälyyn sisältää yhteistyön maailmanlaajuisen yhteisön ja poliittisten päättäjien kanssa, kun rohkaisimme ja tukimme sekä Valkoisen talon vapaaehtoiset tekoälysitoumukset ja AI Safety Summit Iso-Britanniassa. Jatkamme työskentelyä käsi kädessä asiakkaiden kanssa toteuttaaksemme vastuullisen tekoälyn tarkoitukseen rakennetuilla työkaluilla, kuten Amazon SageMaker selkeyttää, ML-hallinta Amazon SageMakerin kanssa, Ja enemmän.

Esittelyssä uusi vastuullinen tekoälyinnovaatio

Kun generatiivinen tekoäly skaalautuu uusille toimialoille, organisaatioille ja käyttötapauksille, kasvuun on liitettävä jatkuva investointi vastuulliseen FM-kehitykseen. Asiakkaat haluavat, että heidän FM-laitteensa on rakennettu turvallisuutta, oikeudenmukaisuutta ja turvallisuutta ajatellen, jotta he voivat puolestaan ​​ottaa tekoälyn käyttöön vastuullisesti. AWS re:Invent -tapahtumassa tänä vuonna olemme iloisia voidessamme ilmoittaa uusista ominaisuuksista, jotka edistävät vastuullista luovaa tekoälyinnovaatiota useissa eri ominaisuuksissa uusilla sisäänrakennetuilla työkaluilla, asiakassuojalla, avoimuutta lisäävillä resursseilla ja työkaluilla disinformaation torjuntaan. Pyrimme tarjoamaan asiakkaille tietoja, joita he tarvitsevat arvioidakseen FM-laitteita keskeisten vastuullisten tekoälynäkökohtien, kuten myrkyllisyyden ja kestävyyden, perusteella ja otamme käyttöön suojakaiteet suojatoimenpiteiden soveltamiseksi asiakkaiden käyttötapauksiin ja vastuullisiin tekoälykäytäntöihin perustuen. Samalla asiakkaamme haluavat olla paremmin perillä tekoälypalvelujen ja FM-laitteiden turvallisuudesta, oikeudenmukaisuudesta, turvallisuudesta ja muista ominaisuuksista, kun he käyttävät niitä omassa organisaatiossaan. Olemme innoissamme voidessamme julkistaa lisää resursseja auttaaksemme asiakkaita ymmärtämään paremmin AWS AI -palveluitamme ja tarjoamaan heidän pyytämänsä läpinäkyvyyden.

Suojatoimenpiteiden toteuttaminen: Amazon Bedrockin suojakaiteet

Turvallisuus on etusijalla generatiivisen tekoälyn käyttöönotossa laajassa mittakaavassa. Organisaatiot haluavat edistää turvallista vuorovaikutusta asiakkaidensa ja luovien tekoälysovellusten välillä, jotka välttävät haitallista tai loukkaavaa kieltä ja noudattavat yrityksen käytäntöjä. Helpoin tapa tehdä se on ottaa käyttöön johdonmukaiset suojatoimet koko organisaatiossa, jotta kaikki voivat innovoida turvallisesti. Eilen julkistimme esikatselun Suojakaiteet Amazon Bedrockille-uusi ominaisuus, jonka avulla on helppo ottaa käyttöön sovelluskohtaisia ​​suojatoimenpiteitä, jotka perustuvat asiakkaiden käyttötapauksiin ja vastuullisiin tekoälykäytäntöihin.

Suojakaiteet takaavat johdonmukaisuuden siinä, kuinka Amazon Bedrockin FM-laitteet reagoivat ei-toivottuun ja haitalliseen sisältöön sovelluksissa. Asiakkaat voivat kiinnittää suojakaiteet suuriin kielimalleihin Amazon Bedrockissa sekä hienosäädetyissä malleissa ja yhdessä Amazon Bedrockin edustajat. Guarrailien avulla voit määrittää vältettävät aiheet, ja palvelu havaitsee ja estää automaattisesti kyselyt ja vastaukset, jotka kuuluvat rajoitettuihin luokkiin. Asiakkaat voivat myös määrittää sisällön suodatuskynnykset eri luokkien, kuten vihapuheen, loukkausten, seksuaalisen kielen ja väkivallan välillä, suodattaakseen haitallisen sisällön halutulle tasolle. Esimerkiksi verkkopankkisovellus voidaan perustaa välttämään sijoitusneuvontaa ja rajoittamaan sopimatonta sisältöä (kuten vihapuhetta, loukkauksia ja väkivaltaa). Lähitulevaisuudessa asiakkaat voivat myös poistaa henkilökohtaisia ​​tunnistetietoja (PII) käyttäjien syötteissä ja FM-vastauksissa, asettaa kiroilusuodattimia ja tarjota luettelon mukautetuista sanoista, jotka estävät käyttäjien ja FM-vastaavien välisen vuorovaikutuksen, mikä parantaa vaatimustenmukaisuutta ja lisää. suojella käyttäjiä. Guardrailien avulla voit innovoida nopeammin generatiivisen tekoälyn avulla ja säilyttää samalla yrityksen käytäntöjen mukaiset suojat ja suojatoimenpiteet.

Parhaan FM:n tunnistaminen tiettyyn käyttötapaukseen: Mallin arviointi Amazon Bedrockissa

Nykyään organisaatioilla on laaja valikoima FM-vaihtoehtoja generatiivisten AI-sovellustensa tehostamiseen. Löytääkseen oikean tasapainon tarkkuuden ja suorituskyvyn välillä niiden käyttötapauksissa organisaatioiden on verrattava malleja tehokkaasti ja löydettävä paras vaihtoehto keskeisten vastuullisten tekoäly- ja laatumittareiden perusteella, jotka ovat heille tärkeitä. Mallien arvioimiseksi organisaatioiden on ensin vietettävä päiviä vertailuarvojen tunnistamiseen, arviointityökalujen luomiseen ja arviointien suorittamiseen, mikä kaikki edellyttää syvällistä tietotieteen asiantuntemusta. Lisäksi nämä testit eivät ole hyödyllisiä arvioitaessa subjektiivisia kriteerejä (esim. brändin ääni, relevanssi ja tyyli), jotka edellyttävät harkintaa työläiden, aikaa vievien ihmisten arvioimien työnkulkujen avulla. Näihin arviointeihin vaadittava aika, asiantuntemus ja resurssit – jokaisessa uudessa käyttötapauksessa – tekevät organisaatioille vaikeaksi arvioida malleja vastuullisten tekoälymittojen perusteella ja tehdä tietoon perustuvia valintoja, mikä malli tarjoaa asiakkailleen tarkimman ja turvallisimman kokemuksen.

Nyt saatavilla esikatselussa, Mallin arviointi Amazon Bedrockissa auttaa asiakkaita arvioimaan, vertailemaan ja valitsemaan parhaat FM-laitteet omaan käyttötapaukseensa mukautettujen mittareiden, kuten tarkkuuden ja turvallisuuden, perusteella joko automaattisten tai ihmisen arvioiden avulla. Amazon Bedrock -konsolissa asiakkaat valitsevat FM:t, joita he haluavat vertailla tiettyyn tehtävään, kuten kysymyksiin vastaamiseen tai sisällön yhteenvetoon. Automaattisia arviointeja varten asiakkaat valitsevat ennalta määritetyt arviointikriteerit (esim. tarkkuus, kestävyys ja myrkyllisyys) ja lataavat oman testaustietoaineistonsa tai valitsevat sisäänrakennetuista, julkisesti saatavilla olevista tietojoukoista. Subjektiivisten kriteerien tai harkintaa vaativan vivahteikkaan sisällön osalta asiakkaat voivat helposti määrittää ihmislähtöisiä arviointityönkulkuja muutamalla napsautuksella. Nämä työnkulut hyödyntävät asiakkaan sisäistä työtiimiä tai käyttävät AWS:n hallittua työvoimaa mallivastausten arvioimiseen. Ihmisiin perustuvien arvioiden aikana asiakkaat määrittelevät käyttötapauskohtaisia ​​mittareita (esim. osuvuus, tyyli ja brändin ääni). Kun asiakkaat ovat saaneet asennuksen valmiiksi, Amazon Bedrock suorittaa arvioinnit ja luo raportin, jotta asiakkaat voivat helposti ymmärtää, kuinka malli suoriutui keskeisten turvallisuus- ja tarkkuuskriteerien mukaan, ja valita käyttötarkoitukseensa parhaan mallin.

Tämä kyky arvioida malleja ei rajoitu Amazon Bedrockiin, vaan asiakkaat voivat myös käyttää mallien arviointia Amazon SageMaker Clarifyssa arvioidakseen, vertaillakseen ja valitakseen helposti parhaan FM-vaihtoehdon keskeisistä laatu- ja vastuullisuusmittareista, kuten tarkkuudesta, kestävyydestä ja myrkyllisyydestä. kaikki FM:t.

Disinformaation torjunta: Vesileima Amazon Titanissa

Tänään ilmoitimme Amazon Titan Image Generator esikatselussa, mikä antaa asiakkaille mahdollisuuden tuottaa ja parantaa nopeasti korkealaatuisia kuvia mittakaavassa. Harkitsimme vastuullista tekoälyä mallin kehitysprosessin jokaisessa vaiheessa, mukaan lukien koulutustietojen valinnan, suodatusvalmiuksien rakentamisen sopimattomien käyttäjien syötteiden ja mallitulosteiden havaitsemiseksi ja poistamiseksi sekä mallitulostemme demografisen monimuotoisuuden parantamisen. Kaikissa Amazon Titanin luomissa kuvissa on oletusarvoisesti näkymätön vesileima, joka on suunniteltu vähentämään disinformaation leviämistä tarjoamalla huomaamaton mekanismi tekoälyn luomien kuvien tunnistamiseen. AWS on yksi ensimmäisistä mallintoimittajista, jotka julkaisevat laajalti sisäänrakennettuja näkymättömiä vesileimoja, jotka on integroitu kuvatuloksiin ja jotka on suunniteltu kestämään muutoksia.

Luottamuksen rakentaminen: Seiso malliemme ja sovelluksiemme takana korvauksin

Asiakkaiden luottamuksen rakentaminen on AWS:n ydin. Olemme olleet matkalla asiakkaidemme kanssa alusta asti, ja generatiivisen tekoälyn kasvun myötä olemme edelleen sitoutuneet rakentamaan yhdessä innovatiivista teknologiaa. Jotta asiakkaat voivat hyödyntää generatiivisen tekoälymme tehoa, heidän on tiedettävä, että he ovat suojattuja. AWS tarjoaa tekijänoikeussuojan seuraavien Amazonin luovien tekoälypalvelujen tuotoksille: Amazon Titan Text Express, Amazon Titan Text Lite, Amazon Titan Embeddings, Amazon Titan Multimodal Embeddings, Amazon CodeWhisperer Professional, AWS HealthScribe, Amazon-Lexja Amazon Muokkaa. Tämä tarkoittaa, että asiakkaita, jotka käyttävät palveluita vastuullisesti, suojataan kolmansien osapuolten väitteiltä, ​​jotka koskevat kyseisten palvelujen tuottamien tulosten tekijänoikeusrikkomuksia (katso sopimusten kohta 50.10). Palveluehdot). Lisäksi standardi IPR-vakuutuksemme palveluiden käytöstä suojaa asiakkaita kolmansien osapuolten väitteiltä, ​​jotka koskevat palveluiden ja heidän kouluttamiseensa käytettyjen tietojen IPR-loukkausta. Toisin sanoen, jos käytät yllä lueteltua Amazonin luovaa tekoälypalvelua ja joku haastaa sinut oikeuteen IP-loukkauksesta, AWS puolustaa tätä oikeusjuttua, joka sisältää kaikki sinua vastaan ​​kohdistuvat tuomiot tai sovintokulut.

Seisomme luovien tekoälypalveluidemme takana ja pyrimme parantamaan niitä jatkuvasti. Kun AWS lanseeraa uusia palveluita ja luova tekoäly kehittyy edelleen, AWS keskittyy edelleen hellittämättä asiakkaiden luottamuksen ansaitsemiseen ja ylläpitämiseen.

Lisää läpinäkyvyyttä: AWS AI Service Card Amazon Titan Textille

We esitteli AWS AI -palvelukortit osoitteessa re:Invent 2022 läpinäkyvyysresurssina, joka auttaa asiakkaita ymmärtämään paremmin AWS AI -palveluitamme. Tekoälypalvelukortit ovat vastuullisen tekoälydokumentaation muoto, joka tarjoaa asiakkaille yhdestä paikasta tietoa aiotuista käyttötapauksista ja rajoituksista, vastuullisista tekoälysuunnitteluvalinnoista sekä parhaista tekoälypalveluidemme käyttöönoton ja suorituskyvyn optimoinnin käytännöistä. Ne ovat osa kokonaisvaltaista kehitysprosessia, jonka ryhdymme rakentamaan palveluitamme vastuullisella tavalla, joka huomioi oikeudenmukaisuuden, selitettävyyden, todenmukaisuuden ja kestävyyden, hallinnon, läpinäkyvyyden, yksityisyyden ja turvallisuuden, turvallisuuden ja hallittavuuden.

Re:Inventissa tänä vuonna julkistamme a uusi AI-palvelukortti Amazon Titan Textille lisäämään perustusmallien läpinäkyvyyttä. Julkaisemme myös neljä uutta tekoälypalvelukorttia, mukaan lukien: Amazon Comprehend Detect PII, Amazon Transcribe Toxicity Detection, Amazon Rekognition Face Livenessja AWS HealthScribe. Voit tutustua jokaiseen näistä korteista osoitteessa AWS-verkkosivusto. Generatiivisen tekoälyn kasvaessa ja kehittyessä teknologian kehittämisen, testauksen ja käytön avoimuus on tärkeä osa organisaatioiden ja asiakkaiden luottamuksen ansaitsemista. Olemme AWS:ssä sitoutuneet tuomaan jatkossakin läpinäkyvyysresursseja, kuten tekoälypalvelukortteja, laajemmalle yhteisölle – ja toistamaan ja keräämään palautetta parhaista tavoista eteenpäin.

Investointi vastuulliseen tekoälyyn koko generatiivisen tekoälyn elinkaaren ajan

Olemme innoissamme tällä viikolla re:Inventissä julkistetuista uusista innovaatioista, jotka tarjoavat asiakkaillemme lisää työkaluja, resursseja ja sisäänrakennettuja suojauksia generatiivisen tekoälyn rakentamiseen ja turvalliseen käyttöön. Mallin arvioinnista suojakaiteisiin ja vesileimauksiin asiakkaat voivat nyt tuoda generatiivisen tekoälyn organisaatioonsa nopeammin ja samalla vähentää riskejä. Uudet suojat asiakkaille, kuten IP-suojan kattavuus ja uudet läpinäkyvyyttä lisäävät resurssit, kuten AI-palvelukortit, ovat myös keskeisiä esimerkkejä sitoutumisestamme rakentaa luottamusta teknologiayritysten, poliittisten päättäjien, yhteisöryhmien, tutkijoiden ja muiden välillä. Jatkamme mielekkäitä investointeja vastuulliseen tekoälyyn perusmallin koko elinkaaren ajan – auttaaksemme asiakkaitamme skaalaamaan tekoälyä turvallisesti, turvallisesti ja vastuullisesti.

---

Tietoja Tekijät

Peter Hallinan johtaa vastuullisen tekoälyn tieteen ja käytännön aloitteita AWS AI:ssa yhdessä vastuullisten tekoälyasiantuntijoiden tiimin kanssa. Hänellä on syvää asiantuntemusta tekoälystä (PhD, Harvard) ja yrittäjyydestä (Blindsight, myyty Amazonille). Hänen vapaaehtoistoimintaansa ovat kuuluneet konsulttiprofessorina Stanfordin yliopiston lääketieteellisessä korkeakoulussa ja Madagaskarin Amerikan kauppakamarin puheenjohtajana. Mikäli mahdollista, hän on lastensa kanssa vuoristossa: hiihtää, kiipeillä, vaeltaa ja koskenlaskua

Vasi Philomin on tällä hetkellä AWS:n generatiivisen tekoälyn johtaja. Hän johtaa luovia tekoälyyrityksiä, mukaan lukien Amazon Bedrock, Amazon Titan ja Amazon CodeWhisperer.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://aws.amazon.com/blogs/machine-learning/announcing-new-tools-and-capabilities-to-enable-responsible-ai-innovation/