Új eszközök és képességek bejelentése, amelyek lehetővé teszik a felelős AI innovációt | Amazon webszolgáltatások

A generatív mesterséges intelligencia gyors növekedése ígéretes új innovációt hoz, és egyúttal új kihívásokat is felvet. Ezek közé a kihívások közé tartoznak olyanok, amelyek gyakoriak voltak a generatív mesterséges intelligencia előtt, mint például az elfogultság és a megmagyarázhatóság, és az alapozó modellekre jellemző újak (FM), beleértve a hallucinációt és a toxicitást. Az AWS-nél elkötelezettek vagyunk a mellett a generatív mesterséges intelligencia felelős fejlesztése, emberközpontú megközelítést alkalmazunk, amely az oktatást, a tudományt és ügyfeleinket helyezi előtérbe, hogy a felelős AI-t integráljuk a teljes AI-életciklusba.

Az elmúlt évben új funkciókat vezettünk be generatív AI-alkalmazásainkban és modelljeinkben, mint például a beépített biztonsági szkennelés. Amazon Code Whisperer, képzés a káros tartalom észlelésére és blokkolására Amazon Titan, és az adatvédelmi védelmet Amazon alapkőzet. A biztonságos, átlátható és felelősségteljes generatív AI-ba való befektetésünk magában foglalja a globális közösséggel és a politikai döntéshozókkal való együttműködést, mivel ösztönöztük és támogattuk mind a A Fehér Ház önkéntes AI kötelezettségvállalásai és a AI biztonsági csúcstalálkozó az Egyesült Királyságban. Továbbra is kéz a kézben dolgozunk az ügyfelekkel annak érdekében, hogy a felelős mesterséges intelligencia működését olyan célra épített eszközökkel, mint pl Amazon SageMaker Clarify, ML irányítás az Amazon SageMakerrel, És így tovább.

Új, felelős AI innováció bevezetése

Mivel a generatív mesterséges intelligencia új iparágakra, szervezetekre és használati esetekre terjed ki, ezt a növekedést a felelős FM-fejlesztésbe való tartós befektetésnek kell kísérnie. Az ügyfelek azt szeretnék, ha FM-készülékeiket a biztonság, a méltányosság és a biztonság szem előtt tartásával építenék, hogy ők viszont felelősségteljesen telepíthessék az AI-t. Az AWS re:Invent idén nagy örömünkre szolgál, hogy új képességeket jelentünk be a felelősségteljes, generatív mesterségesintelligencia-innováció előmozdítására a képességek széles skáláján, új beépített eszközökkel, ügyfélvédelemmel, az átláthatóságot növelő erőforrásokkal és a dezinformáció elleni küzdelem eszközeivel. Célunk, hogy az ügyfelek rendelkezésére bocsássák azokat az információkat, amelyekre szükségük van az FM-ek értékeléséhez az olyan kulcsfontosságú felelős mesterséges intelligencia szempontok alapján, mint a toxicitás és a robusztusság, valamint védőkorlátokat vezetünk be a védintézkedések alkalmazásához az ügyfelek használati esetei és a felelős AI-irányelvek alapján. Ügyfeleink ugyanakkor szeretnének jobban tájékozódni az AI-szolgáltatások és az FM-ek biztonságáról, méltányosságáról, biztonságáról és egyéb tulajdonságairól, mivel saját szervezetükön belül használják ezeket. Izgatottan várjuk, hogy további forrásokat jelenthessünk be, amelyek segítségével ügyfeleink jobban megérthetik AWS AI-szolgáltatásainkat, és biztosíthatjuk az általuk kért átláthatóságot.

Biztonsági intézkedések végrehajtása: korlátok az Amazon Bedrock számára

A biztonság prioritást élvez a generatív mesterséges intelligencia széles körű bevezetésekor. A szervezetek biztonságos interakciót kívánnak előmozdítani ügyfeleik és a generatív AI-alkalmazások között, amelyek elkerülik a káros vagy sértő nyelvezetet, és összhangban állnak a vállalati irányelvekkel. Ennek legegyszerűbb módja, ha következetes biztosítékokat vezet be az egész szervezetben, hogy mindenki biztonságosan tudjon újítani. Tegnap bejelentettük az előzetest Védőkorlátok az Amazon Bedrock számára-egy új képesség, amely megkönnyíti az alkalmazás-specifikus biztosítékok végrehajtását az ügyfelek használati esetei és a felelős AI-irányelvek alapján.

A védőkorlátok konzisztenciát biztosítanak abban, hogy az Amazon Bedrock FM-jei hogyan reagálnak az alkalmazásokon belüli nemkívánatos és káros tartalmakra. Az ügyfelek védőkorlátokat alkalmazhatnak az Amazon Bedrock nagy nyelvű modelljeire, valamint a finomhangolt modellekre és a Az Amazon Bedrock ügynökei. A Guardrails lehetővé teszi az elkerülendő témák megadását, a szolgáltatás pedig automatikusan észleli és megakadályozza a korlátozott kategóriákba tartozó lekérdezéseket és válaszokat. Az ügyfelek tartalomszűrő küszöbértékeket is beállíthatnak a különböző kategóriákban, beleértve a gyűlöletbeszédet, sértéseket, szexualizált nyelvezetet és erőszakot, hogy a kívánt szintre kiszűrjék a káros tartalmat. Például beállítható egy online banki alkalmazás a befektetési tanácsadás elkerülésére és a nem megfelelő tartalmak (például gyűlöletbeszéd, sértések és erőszak) korlátozására. A közeljövőben az ügyfelek eltávolíthatják a személyazonosításra alkalmas információkat (PII) a felhasználói bemenetekben és az FM-ek válaszaiban, beállíthatnak trágárságszűrőket, valamint megadhatják a felhasználók és az FM-ek közötti interakciókban blokkolandó egyéni szavak listáját, javítva a megfelelőséget és tovább a felhasználók védelme. A Guardrails segítségével gyorsabban innoválhat a generatív mesterséges intelligencia segítségével, miközben fenntartja a vállalati irányelvekkel összhangban lévő védelmet és biztosítékokat.

A legjobb FM azonosítása egy adott használati esethez: Modellértékelés az Amazon Bedrockban

Manapság a szervezetek az FM lehetőségek széles skálájával rendelkeznek generatív AI-alkalmazásaik működtetésére. A pontosság és a teljesítmény megfelelő egyensúlyának megteremtése érdekében a szervezeteknek hatékonyan össze kell hasonlítaniuk a modelleket, és meg kell találniuk a legjobb megoldást a kulcsfontosságú felelős mesterséges intelligencia és a számukra fontos minőségi mutatók alapján. A modellek értékeléséhez a szervezeteknek először napokat kell tölteniük a benchmarkok meghatározásával, az értékelő eszközök felállításával és az értékelések futtatásával, amelyek mindegyike mély adattudományi szakértelmet igényel. Ezen túlmenően ezek a tesztek nem hasznosak olyan szubjektív kritériumok (pl. márkahang, relevancia és stílus) értékelésére, amelyek fárasztó, időigényes, emberi felülvizsgálati munkafolyamatokon keresztüli megítélést igényelnek. Az értékelésekhez szükséges idő, szakértelem és erőforrások – minden új felhasználási eset esetében – megnehezítik a szervezetek számára, hogy a modelleket a felelős mesterséges intelligencia dimenzióihoz viszonyítva értékeljék, és tájékozottan döntsenek arról, hogy melyik modell biztosítja a legpontosabb és legbiztonságosabb élményt ügyfeleik számára.

Most előnézetben elérhető, Modellértékelés az Amazon Bedrock-on segít az ügyfeleknek értékelni, összehasonlítani és kiválasztani a legjobb FM-eket az adott felhasználási esetükhöz egyéni mérőszámok, például pontosság és biztonság alapján, akár automatikus, akár emberi értékelések segítségével. Az Amazon Bedrock konzolban az ügyfelek kiválasztják, hogy egy adott feladathoz, például kérdés-válaszoláshoz vagy tartalom-összefoglalóhoz milyen FM-eket szeretnének összehasonlítani. Az automatikus értékelésekhez az ügyfelek előre meghatározott értékelési kritériumokat választanak (pl. pontosság, robusztusság és toxicitás), és feltöltik saját vizsgálati adatkészletüket, vagy választhatnak a beépített, nyilvánosan elérhető adatkészletek közül. A szubjektív kritériumok vagy az ítélkezést igénylő árnyalt tartalom esetén az ügyfelek egyszerűen, néhány kattintással beállíthatnak emberi alapú értékelési munkafolyamatokat. Ezek a munkafolyamatok az ügyfél házon belüli munkacsoportját használják fel, vagy az AWS által biztosított felügyelt munkaerőt használják a modellre adott válaszok kiértékeléséhez. Az emberi alapú értékelések során az ügyfelek esetspecifikus mérőszámokat határoznak meg (pl. relevancia, stílus és márkahang). Miután az ügyfelek befejezték a beállítási folyamatot, az Amazon Bedrock kiértékeléseket végez, és jelentést készít, így az ügyfelek könnyen megérthetik, hogyan teljesített a modell a legfontosabb biztonsági és pontossági kritériumok között, és kiválaszthatják a legjobb modellt a felhasználási esetükhöz.

A modellek értékelésének ez a képessége nem korlátozódik az Amazon Bedrockra, az ügyfelek az Amazon SageMaker Clarify modellértékelést is használhatják, hogy könnyen kiértékeljék, összehasonlítsák és kiválaszthassák a legjobb FM-opciót az olyan kulcsfontosságú minőségi és felelősségi mutatók közül, mint a pontosság, robusztusság és toxicitás. minden FM.

A dezinformáció elleni küzdelem: Vízjelek az Amazon Titanban

Ma bejelentettük Amazon Titan képgenerátor előnézetben, amely lehetővé teszi az ügyfelek számára, hogy gyorsan és nagy méretekben készítsenek és javítsanak kiváló minőségű képeket. A modellfejlesztési folyamat minden szakaszában figyelembe vettük a felelős AI-t, ideértve a képzési adatok kiválasztását, a nem megfelelő felhasználói bemenetek és modellkimenetek észlelésére és eltávolítására szolgáló szűrési képességek kiépítését, valamint a modellkimenetek demográfiai sokszínűségének javítását. Az Amazon Titan által generált összes kép alapértelmezés szerint tartalmaz egy láthatatlan vízjelet, amelyet úgy terveztek, hogy segítsen csökkenteni a dezinformáció terjedését azáltal, hogy diszkrét mechanizmust biztosít az AI által generált képek azonosítására. Az AWS az első modellszolgáltatók között van, amely széles körben bocsát ki beépített láthatatlan vízjeleket, amelyeket a képkimenetekbe integráltak, és amelyeket úgy terveztek, hogy ellenálljanak a változtatásoknak.

Bizalom építése: Kártalanítással állunk modelljeink és alkalmazásaink mögött

Az ügyfelek bizalmának kiépítése az AWS központi eleme. Megalakulásunk óta utazunk ügyfeleinkkel, és a generatív mesterséges intelligencia növekedésével továbbra is elkötelezettek vagyunk az innovatív technológia közös kiépítése mellett. Ahhoz, hogy ügyfeleink kihasználhassák generatív mesterséges intelligencia erejét, tudniuk kell, hogy védettek. Az AWS szerzői jogi kártalanítási fedezetet kínál a következő Amazon generatív AI-szolgáltatások kimeneteire: Amazon Titan Text Express, Amazon Titan Text Lite, Amazon Titan Embeddings, Amazon Titan Multimodal Embeddings, Amazon CodeWhisperer Professional, AWS HealthScribe, Amazon Lexés Az Amazon testreszabása. Ez azt jelenti, hogy a szolgáltatásokat felelősségteljesen igénybe vevő ügyfelek védve vannak a harmadik felek olyan követeléseivel szemben, amelyek szerint a szolgáltatások által generált kimenetek szerzői jogait megsértik (lásd a 50.10. szakaszt). Szolgáltatási feltételek). Ezen túlmenően, a szolgáltatások használatáért járó szabványos szellemi tulajdon elleni kártalanításunk megvédi ügyfeleinket a harmadik felek azon követeléseivel szemben, amelyek szerint a szolgáltatások és a képzésükre használt adatok állítólagosan megsértették a szellemi tulajdont. Másképpen fogalmazva, ha Ön egy fent felsorolt ​​Amazon generatív mesterségesintelligencia-szolgáltatást használ, és valaki bepereli Önt az IP-sértés miatt, az AWS megvédi ezt a pert, amely magában foglalja az Ön ellen hozott ítéletek vagy az elszámolás költségeinek fedezését.

Generatív AI-szolgáltatásaink mögött állunk, és folyamatosan fejlesztjük azokat. Ahogy az AWS új szolgáltatásokat indít el, és a generatív AI folyamatosan fejlődik, az AWS továbbra is könyörtelenül az ügyfelek bizalmának megszerzésére és fenntartására fog összpontosítani.

Az átláthatóság fokozása: AWS AI szolgáltatáskártya az Amazon Titan Text számára

We bevezette az AWS AI szolgáltatáskártyákat itt: re:Invent 2022, mint átláthatósági forrás, amely segít az ügyfeleknek jobban megérteni AWS AI-szolgáltatásainkat. Az AI-szolgáltatási kártyák a felelős mesterségesintelligencia-dokumentáció egy formája, amely az ügyfelek számára egyetlen helyen nyújt információt a tervezett felhasználási esetekről és korlátozásokról, a felelős AI-tervezési döntésekről, valamint a mesterségesintelligencia-szolgáltatásaink telepítésének és teljesítményoptimalizálásának bevált gyakorlatairól. Ezek egy átfogó fejlesztési folyamat részét képezik, amelynek célja, hogy szolgáltatásainkat felelősségteljes módon építsük fel, amely a méltányosságot, a megmagyarázhatóságot, az igazságot és a robusztusságot, az irányítást, az átláthatóságot, az adatvédelmet és a biztonságot, a biztonságot és az ellenőrizhetőséget is figyelembe veszi.

A re:Inventnél idén meghirdetjük a új AI szervizkártya az Amazon Titan Text számára az alapozási modellek átláthatóságának növelése érdekében. Négy új AI szolgáltatási kártyát is piacra dobunk, köztük: Amazon Comprehend Detect PII, Amazon átírási toxicitás észlelése, Amazon Rekognition Face Livenessés AWS HealthScribe. Mindegyik kártyát felfedezheti a AWS weboldal. Ahogy a generatív mesterséges intelligencia folyamatosan növekszik és fejlődik, a technológia fejlesztésének, tesztelésének és használatának átláthatósága létfontosságú elem lesz a szervezetek és ügyfeleik bizalmának elnyerésében. Az AWS-nél elkötelezettek vagyunk amellett, hogy továbbra is eljuttassuk az átláthatósági forrásokat, például a mesterséges intelligencia-szolgáltatási kártyákat a szélesebb közösséghez, valamint hogy ismételjük és visszajelzéseket gyűjtsünk a legjobb továbblépési módokról.

Befektetés a felelős AI-ba a teljes generatív mesterséges intelligencia életciklusa során

Izgatottak vagyunk a héten a re:Inventen bejelentett új innovációk miatt, amelyek több eszközt, erőforrást és beépített védelmet biztosítanak ügyfeleinknek a generatív AI biztonságos felépítéséhez és használatához. A modellértékeléstől a védőkorlátokon át a vízjelig az ügyfelek gyorsabban hozhatják szervezetükbe a generatív mesterséges intelligenciát, miközben csökkentik a kockázatokat. Az ügyfeleknek nyújtott új védelmek, mint például az IP-mentesség és az átláthatóságot fokozó új erőforrások, például a további mesterségesintelligencia-szolgáltatási kártyák, szintén kulcsfontosságú példái a technológiai vállalatok, politikai döntéshozók, közösségi csoportok, tudósok és egyebek közötti bizalomépítés iránti elkötelezettségünknek. Továbbra is jelentős befektetéseket eszközölünk a felelős mesterséges intelligencia terén egy alapmodell életciklusa során – hogy segíthessünk ügyfeleinknek a mesterséges intelligencia biztonságos, biztonságos és felelősségteljes méretezésében.

---

A szerzőkről

Peter Hallinan felelős AI-szakértőkből álló csapat mellett vezeti a kezdeményezéseket a Responsible AI tudományában és gyakorlatában az AWS AI-nál. Mély szakértelemmel rendelkezik a mesterséges intelligencia (PhD, Harvard) és a vállalkozói szellem (Blindsight, Amazonnak eladva) területén. Önkéntes tevékenységei között szerepelt tanácsadó professzorként a Stanford Egyetem Orvostudományi Karán, valamint a Madagaszkári Amerikai Kereskedelmi Kamara elnökeként. Lehetőség szerint a hegyekben jár a gyerekeivel: síel, mászik, túrázik és raftingol

Vasi Philomin jelenleg az AWS Generative AI alelnöke. Ő vezeti a generatív mesterséges intelligencia erőfeszítéseket, beleértve az Amazon Bedrockot, az Amazon Titant és az Amazon CodeWhisperert.

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://aws.amazon.com/blogs/machine-learning/announcing-new-tools-and-capabilities-to-enable-responsible-ai-innovation/