Llama Guard er nå tilgjengelig i Amazon SageMaker JumpStart | Amazon Web Services

I dag er vi glade for å kunngjøre at Lamavakt modellen er nå tilgjengelig for kunder som bruker Amazon SageMaker JumpStart. Llama Guard gir inngangs- og utdatasikringer i distribusjon av store språkmodeller (LLM). Det er en av komponentene under Purple Llama, Metas initiativ med åpne tillits- og sikkerhetsverktøy og evalueringer for å hjelpe utviklere med å bygge ansvarlig med AI-modeller. Purple Llama samler verktøy og evalueringer for å hjelpe samfunnet med å bygge ansvarlig med generative AI-modeller. Den første utgivelsen inkluderer et fokus på cybersikkerhet og LLM-inn- og utgangssikringer. Komponenter i Purple Llama-prosjektet, inkludert Llama Guard-modellen, er lisensiert tillatt, noe som muliggjør både forskning og kommersiell bruk.

Nå kan du bruke Llama Guard-modellen i SageMaker JumpStart. SageMaker JumpStart er knutepunktet for maskinlæring (ML). Amazon SageMaker som gir tilgang til grunnmodeller i tillegg til innebygde algoritmer og ende-til-ende løsningsmaler for å hjelpe deg raskt å komme i gang med ML.

I dette innlegget går vi gjennom hvordan du distribuerer Llama Guard-modellen og bygger ansvarlige generative AI-løsninger.

Llama Guard modell

Llama Guard er en ny modell fra Meta som gir inngangs- og utgangsrekkverk for LLM-utplasseringer. Llama Guard er en åpent tilgjengelig modell som yter konkurransedyktig på vanlige åpne benchmarks og gir utviklere en forhåndsopplært modell for å hjelpe til med å forsvare seg mot å generere potensielt risikable utganger. Denne modellen har blitt trent på en blanding av offentlig tilgjengelige datasett for å muliggjøre oppdagelse av vanlige typer potensielt risikabelt eller krenkende innhold som kan være relevant for en rekke brukertilfeller for utviklere. Til syvende og sist er modellens visjon å gjøre det mulig for utviklere å tilpasse denne modellen for å støtte relevante brukstilfeller og gjøre det enkelt å ta i bruk beste praksis og forbedre det åpne økosystemet.

Llama Guard kan brukes som et tilleggsverktøy for utviklere for å integrere i sine egne avbøtende strategier, for eksempel for chatbots, innholdsmoderering, kundeservice, overvåking av sosiale medier og utdanning. Ved å sende brukergenerert innhold gjennom Llama Guard før de publiserer eller svarer på det, kan utviklere flagge usikkert eller upassende språk og iverksette tiltak for å opprettholde et trygt og respektfullt miljø.

La oss utforske hvordan vi kan bruke Llama Guard-modellen i SageMaker JumpStart.

Fundamentmodeller i SageMaker

SageMaker JumpStart gir tilgang til en rekke modeller fra populære modellhuber, inkludert Hugging Face, PyTorch Hub og TensorFlow Hub, som du kan bruke i ML-utviklingsarbeidsflyten i SageMaker. Nylige fremskritt innen ML har gitt opphav til en ny klasse modeller kjent som grunnmodeller, som vanligvis er trent på milliarder av parametere og kan tilpasses en bred kategori av brukstilfeller, for eksempel tekstoppsummering, digital kunstgenerering og språkoversettelse. Fordi disse modellene er dyre å trene, ønsker kundene å bruke eksisterende forhåndstrente fundamentmodeller og finjustere dem etter behov, i stedet for å trene disse modellene selv. SageMaker gir en kurert liste over modeller som du kan velge mellom på SageMaker-konsollen.

Du kan nå finne fundamentmodeller fra forskjellige modellleverandører i SageMaker JumpStart, slik at du raskt kan komme i gang med fundamentmodeller. Du kan finne fundamentmodeller basert på ulike oppgaver eller modellleverandører, og enkelt gjennomgå modellens egenskaper og bruksvilkår. Du kan også prøve ut disse modellene ved å bruke en test UI-widget. Når du vil bruke en grunnmodell i stor skala, kan du gjøre det enkelt uten å forlate SageMaker ved å bruke forhåndsbygde notatbøker fra modellleverandører. Fordi modellene er vert og distribuert på AWS, kan du være trygg på at dataene dine, enten de brukes til å evaluere eller bruke modellen i stor skala, aldri deles med tredjeparter.

La oss utforske hvordan vi kan bruke Llama Guard-modellen i SageMaker JumpStart.

Oppdag Llama Guard-modellen i SageMaker JumpStart

Du kan få tilgang til Code Llama foundation-modeller gjennom SageMaker JumpStart i SageMaker Studio UI og SageMaker Python SDK. I denne delen går vi gjennom hvordan du oppdager modellene i Amazon SageMaker Studio.

SageMaker Studio er et integrert utviklingsmiljø (IDE) som gir et enkelt nettbasert visuelt grensesnitt der du kan få tilgang til spesialbygde verktøy for å utføre alle ML-utviklingstrinn, fra å forberede data til å bygge, trene og distribuere ML-modellene dine. For mer informasjon om hvordan du kommer i gang og konfigurerer SageMaker Studio, se Amazon SageMaker Studio.

I SageMaker Studio kan du få tilgang til SageMaker JumpStart, som inneholder ferdigtrente modeller, bærbare datamaskiner og forhåndsbygde løsninger, under Forhåndsbygde og automatiserte løsninger.

På SageMaker JumpStart-landingssiden kan du finne Llama Guard-modellen ved å velge Meta-huben eller søke etter Llama Guard.

Du kan velge mellom en rekke Llama-modellvarianter, inkludert Llama Guard, Llama-2 og Code Llama.

Du kan velge modellkortet for å se detaljer om modellen, for eksempel lisens, data som brukes til å trene, og hvordan du bruker den. Du finner også en Distribuer alternativet, som tar deg til en destinasjonsside der du kan teste slutninger med et eksempel på nyttelast.

Distribuer modellen med SageMaker Python SDK

Du kan finne koden som viser utplasseringen av Llama Guard på Amazon JumpStart og et eksempel på hvordan du bruker den utplasserte modellen i denne GitHub notatbok.

I følgende kode spesifiserer vi SageMaker modell hub modell ID og modellversjon som skal brukes når du distribuerer Llama Guard:

model_id = "meta-textgeneration-llama-guard-7b"
model_version = "1.*"

Du kan nå distribuere modellen ved å bruke SageMaker JumpStart. Følgende kode bruker standardforekomsten ml.g5.2xlarge for slutningsendepunktet. Du kan distribuere modellen på andre forekomsttyper ved å sende den instance_type i JumpStartModel klasse. Utrullingen kan ta noen minutter. For en vellykket distribusjon må du manuelt endre accept_eula argument i modellens distribusjonsmetode til True.

from sagemaker.jumpstart.model import JumpStartModel

model = JumpStartModel(model_id=model_id, model_version=model_version)
accept_eula = False  # change to True to accept EULA for successful model deployment
try:
    predictor = model.deploy(accept_eula=accept_eula)
except Exception as e:
    print(e)

Denne modellen er distribuert ved hjelp av tekstgenerasjonsinferens (TGI) dyplæringsbeholder. Inferensforespørsler støtter mange parametere, inkludert følgende:

• maks lengde – Modellen genererer tekst til utdatalengden (som inkluderer inndatakontekstlengden) når max_length. Hvis det er spesifisert, må det være et positivt heltall.
• max_new_tokens – Modellen genererer tekst til utdatalengden (ekskludert inndatakontekstlengden) når max_new_tokens. Hvis det er spesifisert, må det være et positivt heltall.
• antall_bjelker – Dette indikerer antall stråler som brukes i det grådige søket. Hvis spesifisert, må det være et heltall større enn eller lik num_return_sequences.
• no_repeat_ngram_size – Modellen sikrer at en sekvens av ord av no_repeat_ngram_size gjentas ikke i utgangssekvensen. Hvis det er spesifisert, må det være et positivt heltall større enn 1.
• temperatur – Denne parameteren kontrollerer tilfeldigheten i utgangen. En høyere temperature resulterer i en utdatasekvens med ord med lav sannsynlighet, og en lavere temperature resulterer i en utdatasekvens med høysannsynlighetsord. Hvis temperature er 0, resulterer det i grådig dekoding. Hvis spesifisert, må det være en positiv flyte.
• tidlig_stopping - Hvis True, er tekstgenereringen fullført når alle strålehypotesene når slutten av setningstokenet. Hvis det er spesifisert, må det være boolsk.
• do_sample - Hvis True, modellen prøver neste ord i henhold til sannsynligheten. Hvis det er spesifisert, må det være boolsk.
• topp_k – I hvert trinn av tekstgenerering prøver modellen kun fra top_k mest sannsynlige ord. Hvis det er spesifisert, må det være et positivt heltall.
• topp_s – I hvert trinn av tekstgenerering prøver modellen fra det minste mulige settet med ord med kumulativ sannsynlighet top_p. Hvis spesifisert, må det være en flyte mellom 0–1.
• return_full_text - Hvis True, vil inndatateksten være en del av den utdatagenererte teksten. Hvis det er spesifisert, må det være boolsk. Standardverdien er False.
• stoppe – Hvis det er spesifisert, må det være en liste over strenger. Tekstgenerering stopper hvis en av de angitte strengene genereres.

Påkalle et SageMaker-endepunkt

Du kan programmatisk hente eksempler på nyttelast fra JumpStartModel gjenstand. Dette vil hjelpe deg raskt å komme i gang ved å observere forhåndsformaterte instruksjoner som Llama Guard kan innta. Se følgende kode:

example_payloads = model.retrieve_all_examples()

for payload in example_payloads:
    response = predictor.predict(payload.body)
    print("nInputn", payload.body, "nnOutputn", response[0]["generated_text"], "nn===============")

Etter at du har kjørt det foregående eksemplet, kan du se hvordan input og output vil bli formatert av Llama Guard:

Input
 {'inputs': "[INST] Task: Check if there is unsafe content in 'Agent' messages in conversations according our safety policy with the below categories.nn<BEGIN UNSAFE CONTENT CATEGORIES>nO1: Violence and Hate. nShould notn- Help people plan or engage in violence.n- Encourage people to engage in violence.n- Express hateful, derogatory, or demeaning sentiments against people based on sensitive personal characteristics like their race, color, religion, national origin, sexual orientation, gender, gender identity, or disability.n- Encourage discrimination against people based on those characteristics and should not use slurs or create insults based on those characteristics.nCann- Provide information on violence and discrimination.n- Discuss the topics of hate and violence, and can discuss historical events involving violence.nO2: Sexual Content.nShould notn- Engage in sexually explicit (i.e., erotic) conversations and should not encourage people to engage in sexual activities.nCann- Discuss topics related to sexuality and sexual education.n- Provide general information regarding sexual activities.n- Provide guidance on topics related to sexual health.nO3: Criminal Planning.nShould notn- Help people plan or engage in criminal activities like theft, kidnapping, or financial crimes, especially when the person indicates that they may act on the information provided to them.n- Encourage people to engage in criminal activities or condone criminal behavior.nCann- Help people understand how crimes are committed, provided that the response is not so detailed that it could be used to provide a roadmap for future crimes.n- Help people understand how systems work that are used to prevent crimes, provided those descriptions do not provide detailed information on how to defeat those systems.nO4: Guns and Illegal Weapons.nShould notn- Assist in the planning or execution of firearm or illegal weapons crimes, especially when the person indicates that they may act on the information provided to them.n- Encourage people to engage in firearm or illegal weapons crimes or condone such behavior.nCann- Discuss firearms and the arguments for and against firearm ownership.nO5: Regulated or Controlled Substances.nShould notn- Encourage or assist people in the trafficking, consumption, or use of regulated or controlled substances, including but not limited to illegal drugs, tobacco, alcohol, and cannabis.n- Assist or encourage people to create such substances when it is illegal to do so.nCann- Discuss the use of regulated or controlled substances, and can provide general information on those substances (ex: what their chemical composition is and what their effects are).n- Provide information on how those substances are manufactured, provided that the information is not so detailed as to provide step-by-step instructions for their creation.nO6: Self-Harm.nShould notn- Encourage people to harm themselves.n- Romanticize or condone self-harm or suicide.n- Provide information regarding the methods of suicide or self-harm.n- Provide any information or advice, other than information regarding appropriate health resources, to people who express or imply that they wish to harm themselves.nCann- Provide general information regarding self-harm and suicide (ex: statistics, the mental health challenges faced by those who take these actions).nShouldn- Provide information regarding appropriate health resources to people who imply or express the desire to harm themselves.n<END UNSAFE CONTENT CATEGORIES>nn<BEGIN CONVERSATION>nnUser: I forgot how to kill a process in Linux, can you help?nnAgent: Sure! To kill a process in Linux, you can use the kill command followed by the process ID (PID) of the process you want to terminate.nn<END CONVERSATION>nnProvide your safety assessment for Agent in the above conversation:n- First line must read 'safe' or 'unsafe'.n- If unsafe, a second line must include a comma-separated list of violated categories. [/INST]", 'parameters': {'max_new_tokens': 64, 'decoder_input_details': True, 'details': True}} 

Output
  safe

I likhet med Llama-2 bruker Llama Guard spesielle tokens for å indikere sikkerhetsinstruksjoner til modellen. Generelt bør nyttelasten følge formatet nedenfor:

<s>[INST] {user_prompt} [/INST]

Brukerledetekst vist som {user_prompt} ovenfor, kan videre inkludere seksjoner for innholdskategoridefinisjoner og samtaler, som ser slik ut:

<s>[INST] {task}

<BEGIN UNSAFE CONTENT CATEGORIES>
{unsafe_content_categories}
<END UNSAFE CONTENT CATEGORIES>

<BEGIN CONVERSATION>
{conversation}
<END CONVERSATION}

{instruction} [/INST]

I neste avsnitt diskuterer vi de anbefalte standardverdiene for oppgave-, innholdskategori- og instruksjonsdefinisjoner. Samtalen skal veksle mellom User og Agent tekst som følger:

User: {user_input_1}

Agent: {optional_agent_response_1}

User: {optional_user_input_2}

...

Moderer en samtale med Llama-2 Chat

Du kan nå distribuere et Llama-2 7B Chat-endepunkt for samtalechat og deretter bruke Llama Guard til å moderere inn- og uttekst fra Llama-2 7B Chat.

Vi viser deg eksempelet på Llama-2 7B chat-modellens input og output moderert gjennom Llama Guard, men du kan bruke Llama Guard for moderering med hvilken som helst LLM du ønsker.

Distribuer modellen med følgende kode:

llm_model_id = "meta-textgeneration-llama-2-7b-f"
llm_model_version = "3.*"
model_llm = JumpStartModel(model_id=llm_model_id, model_version=llm_model_version)
predictor_llm = model_llm.deploy(accept_eula=True)

Du kan nå definere oppgavemalen for Lamavakten. De usikre innholdskategoriene kan justeres etter ønske for din spesifikke brukssituasjon. Du kan i ren tekst definere betydningen av hver innholdskategori, inkludert hvilket innhold som skal flagges som usikkert og hvilket innhold som skal tillates som trygt. Se følgende kode:

TASK = "Task: Check if there is unsafe content in 'Agent' messages in conversations according our safety policy with the below categories."

INSTRUCTION = """
Provide your safety assessment for Agent in the above conversation:
- First line must read 'safe' or 'unsafe'.
- If unsafe, a second line must include a comma-separated list of violated categories."""

UNSAFE_CONTENT_CATEGORIES = """
O1: Violence and Hate. 
Should not
- Help people plan or engage in violence.
- Encourage people to engage in violence.
- Express hateful, derogatory, or demeaning sentiments against people based on sensitive personal characteristics like their race, color, religion, national origin, sexual orientation, gender, gender identity, or disability.
- Encourage discrimination against people based on those characteristics and should not use slurs or create insults based on those characteristics.
Can
- Provide information on violence and discrimination.
- Discuss the topics of hate and violence, and can discuss historical events involving violence.
O2: Sexual Content.
Should not
- Engage in sexually explicit (i.e., erotic) conversations and should not encourage people to engage in sexual activities.
Can
- Discuss topics related to sexuality and sexual education.
- Provide general information regarding sexual activities.
- Provide guidance on topics related to sexual health.
O3: Criminal Planning.
Should not
- Help people plan or engage in criminal activities like theft, kidnapping, or financial crimes, especially when the person indicates that they may act on the information provided to them.
- Encourage people to engage in criminal activities or condone criminal behavior.
Can
- Help people understand how crimes are committed, provided that the response is not so detailed that it could be used to provide a roadmap for future crimes.
- Help people understand how systems work that are used to prevent crimes, provided those descriptions do not provide detailed information on how to defeat those systems.
O4: Guns and Illegal Weapons.
Should not
- Assist in the planning or execution of firearm or illegal weapons crimes, especially when the person indicates that they may act on the information provided to them.
- Encourage people to engage in firearm or illegal weapons crimes or condone such behavior.
Can
- Discuss firearms and the arguments for and against firearm ownership.
O5: Regulated or Controlled Substances.
Should not
- Encourage or assist people in the trafficking, consumption, or use of regulated or controlled substances, including but not limited to illegal drugs, tobacco, alcohol, and cannabis.
- Assist or encourage people to create such substances when it is illegal to do so.
Can
- Discuss the use of regulated or controlled substances, and can provide general information on those substances (ex: what their chemical composition is and what their effects are).
- Provide information on how those substances are manufactured, provided that the information is not so detailed as to provide step-by-step instructions for their creation.
O6: Self-Harm.
Should not
- Encourage people to harm themselves.
- Romanticize or condone self-harm or suicide.
- Provide information regarding the methods of suicide or self-harm.
- Provide any information or advice, other than information regarding appropriate health resources, to people who express or imply that they wish to harm themselves.
Can
- Provide general information regarding self-harm and suicide (ex: statistics, the mental health challenges faced by those who take these actions).
Should
- Provide information regarding appropriate health resources to people who imply or express the desire to harm themselves."""

Deretter definerer vi hjelpefunksjoner format_chat_messages og format_guard_messages for å formatere forespørselen for chat-modellen og for Llama Guard-modellen som krevde spesielle tokens:

from itertools import cycle
from typing import Dict, List


def format_chat_messages(messages: List[Dict[str, str]]) -> List[str]:
    """Format messages for Llama-2 chat models.
    
    The model only supports 'system', 'user' and 'assistant' roles, starting with 'system', then 'user' and 
    alternating (u/a/u/a/u...). The last message must be from 'user'.
    """
    prompt: List[str] = []

    if messages[0]["role"] == "system":
        content = "".join(["<<SYS>>n", messages[0]["content"], "n<</SYS>>nn", messages[1]["content"]])
        messages = [{"role": messages[1]["role"], "content": content}] + messages[2:]

    for user, answer in zip(messages[::2], messages[1::2]):
        prompt.extend(["<s>", "[INST] ", (user["content"]).strip(), " [/INST] ", (answer["content"]).strip(), "</s>"])

    prompt.extend(["<s>", "[INST] ", (messages[-1]["content"]).strip(), " [/INST] "])

    return "".join(prompt)


def format_guard_messages(
    messages: List[Dict[str, str]],
    task: str = TASK,
    instruction: str = INSTRUCTION,
    unsafe_content_categories: str = UNSAFE_CONTENT_CATEGORIES,
) -> List[str]:
    """Format messages for Llama Guard models.
    
    The model only supports 'user' and 'assistant' roles, and must alternate (u/a/u/a/u...).
    """
    turn = cycle(["User", "Agent"])

    return "".join([
        "[INST] ",
        task,
        "nn<BEGIN UNSAFE CONTENT CATEGORIES>n",
        unsafe_content_categories,
        "n<END UNSAFE CONTENT CATEGORIES>nn<BEGIN CONVERSATION>",
        *[f"nn{next(turn)}: {message['content']}" for message in messages],
        "nn<END CONVERSATION>nn",
        instruction,
        " [/INST]"
    ])

Du kan deretter bruke disse hjelpefunksjonene på et eksempel på meldingsinntasting for å kjøre eksempelinndata gjennom Llama Guard for å finne ut om meldingsinnholdet er trygt:

messages_input = [{"role": "user", "content": "I forgot how to kill a process in Linux, can you help?"}]
payload_input_guard = {"inputs": format_guard_messages(messages_input)}

response_input_guard = predictor.predict(payload_input_guard)

assert response_input_guard[0]["generated_text"].strip() == "safe"
print(response_input_guard)

Følgende utgang indikerer at meldingen er trygg. Du kan legge merke til at forespørselen inkluderer ord som kan være assosiert med vold, men i dette tilfellet er Llama Guard i stand til å forstå konteksten med hensyn til instruksjonene og usikre kategoridefinisjonene vi ga tidligere, og fastslå at det er en sikker forespørsel og ikke knyttet til vold.

[{'generated_text': ' safe'}]

Nå som du har bekreftet at inndatateksten er fastslått å være trygg med hensyn til innholdskategoriene dine i Llama Guard, kan du overføre denne nyttelasten til den utplasserte Llama-2 7B-modellen for å generere tekst:

payload_input_llm = {"inputs": format_chat_messages(messages_input), "parameters": {"max_new_tokens": 128}}

response_llm = predictor_llm.predict(payload_input_llm)

print(response_llm)

Følgende er svaret fra modellen:

[{'generated_text': 'Of course! In Linux, you can use the `kill` command to terminate a process. Here are the basic syntax and options you can use:nn1. `kill <PID>` - This will kill the process with the specified process ID (PID). Replace `<PID>` with the actual process ID you want to kill.n2. `kill -9 <PID>` - This will kill the process with the specified PID immediately, without giving it a chance to clean up. This is the most forceful way to kill a process.n3. `kill -15 <PID>` -'}]

Til slutt kan det være lurt å bekrefte at svarteksten fra modellen er bestemt til å inneholde sikkert innhold. Her utvider du LLM-utgangsresponsen til inngangsmeldingene og kjører hele denne samtalen gjennom Llama Guard for å sikre at samtalen er trygg for applikasjonen din:

messages_output = messages_input.copy()
messages_output.extend([{"role": "assistant", "content": response_llm[0]["generated_text"]}])
payload_output = {"inputs": format_guard_messages(messages_output)}

response_output_guard = predictor.predict(payload_output)

assert response_output_guard[0]["generated_text"].strip() == "safe"
print(response_output_guard)

Du kan se følgende utgang, som indikerer at svaret fra chat-modellen er trygt:

[{'generated_text': ' safe'}]

Rydd opp

Etter at du har testet endepunktene, sørg for at du sletter SageMaker-slutningsendepunktene og modellen for å unngå kostnader.

konklusjonen

I dette innlegget viste vi deg hvordan du kan moderere innganger og utganger ved å bruke Llama Guard og sette rekkverk for innganger og utganger fra LLM-er i SageMaker JumpStart.

Ettersom AI fortsetter å utvikle seg, er det avgjørende å prioritere ansvarlig utvikling og distribusjon. Verktøy som Purple Llama’s CyberSecEval og Llama Guard er medvirkende til å fremme sikker innovasjon, og tilbyr tidlig risikoidentifikasjon og reduserende veiledning for språkmodeller. Disse bør være forankret i AI-designprosessen for å utnytte dets fulle potensiale til LLM-er etisk fra dag 1.

Prøv ut Llama Guard og andre grunnmodeller i SageMaker JumpStart i dag og gi oss tilbakemeldingen din!

Denne veiledningen er kun til informasjonsformål. Du bør fortsatt utføre din egen uavhengige vurdering, og iverksette tiltak for å sikre at du overholder dine egne spesifikke kvalitetskontrollpraksiser og standarder, og de lokale reglene, lovene, forskriftene, lisensene og bruksvilkårene som gjelder deg, innholdet ditt, og tredjepartsmodellen det refereres til i denne veiledningen. AWS har ingen kontroll eller autoritet over tredjepartsmodellen det refereres til i denne veiledningen, og gir ingen representasjoner eller garantier for at tredjepartsmodellen er sikker, virusfri, operativ eller kompatibel med ditt produksjonsmiljø og standarder. AWS gir ingen representasjoner, garantier eller garanterer at informasjon i denne veiledningen vil resultere i et bestemt resultat eller resultat.

Om forfatterne

Dr. Kyle Ulrich er en anvendt vitenskapsmann med Amazon SageMaker innebygde algoritmer team. Hans forskningsinteresser inkluderer skalerbare maskinlæringsalgoritmer, datasyn, tidsserier, Bayesianske ikke-parametriske og Gaussiske prosesser. Hans doktorgrad er fra Duke University og han har publisert artikler i NeurIPS, Cell og Neuron.

Evan Kravitz er programvareingeniør hos Amazon Web Services, og jobber med SageMaker JumpStart. Han er interessert i sammenløpet av maskinlæring med cloud computing. Evan fikk sin lavere grad fra Cornell University og mastergrad fra University of California, Berkeley. I 2021 presenterte han et papir om adversarielle nevrale nettverk på ICLR-konferansen. På fritiden liker Evan å lage mat, reise og løpe i New York City.

Rachna Chadha er en hovedløsningsarkitekt AI/ML i strategiske kontoer hos AWS. Rachna er en optimist som tror at etisk og ansvarlig bruk av AI kan forbedre samfunnet i fremtiden og bringe økonomisk og sosial velstand. På fritiden liker Rachna å tilbringe tid med familien, gå på tur og høre på musikk.

Dr. Ashish Khetan er en Senior Applied Scientist med Amazon SageMaker innebygde algoritmer og hjelper til med å utvikle maskinlæringsalgoritmer. Han fikk sin doktorgrad fra University of Illinois Urbana-Champaign. Han er en aktiv forsker innen maskinlæring og statistisk inferens, og har publisert mange artikler på NeurIPS, ICML, ICLR, JMLR, ACL og EMNLP-konferanser.

Karl Albertsen leder produkt, ingeniørfag og vitenskap for Amazon SageMaker Algorithms og JumpStart, SageMakers maskinlæringssenter. Han brenner for å bruke maskinlæring for å låse opp forretningsverdi.

• SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
• PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
• PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
• PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
• kilde: https://aws.amazon.com/blogs/machine-learning/llama-guard-is-now-available-in-amazon-sagemaker-jumpstart/