Ανακοίνωση νέων εργαλείων και δυνατοτήτων για να καταστεί δυνατή η υπεύθυνη καινοτομία τεχνητής νοημοσύνης | Υπηρεσίες Ιστού της Amazon

Η ταχεία ανάπτυξη της γενετικής τεχνητής νοημοσύνης φέρνει πολλά υποσχόμενη νέα καινοτομία και ταυτόχρονα θέτει νέες προκλήσεις. Αυτές οι προκλήσεις περιλαμβάνουν ορισμένες που ήταν κοινές πριν από τη δημιουργία τεχνητής νοημοσύνης, όπως η μεροληψία και η επεξήγηση και καινούργια μοναδικά για τα μοντέλα θεμελίωσης (FMs), συμπεριλαμβανομένων των παραισθήσεων και της τοξικότητας. Στην AWS, δεσμευόμαστε ανάπτυξη της γενετικής τεχνητής νοημοσύνης με υπευθυνότητα, ακολουθώντας μια ανθρωποκεντρική προσέγγιση που δίνει προτεραιότητα στην εκπαίδευση, την επιστήμη και τους πελάτες μας, για να ενσωματώσει την υπεύθυνη τεχνητή νοημοσύνη σε όλο τον κύκλο ζωής της τεχνητής νοημοσύνης από άκρο σε άκρο.

Κατά τη διάρκεια του περασμένου έτους, εισαγάγαμε νέες δυνατότητες στις εφαρμογές και τα μοντέλα παραγωγής τεχνητής νοημοσύνης, όπως η ενσωματωμένη σάρωση ασφαλείας σε Amazon Code Whisperer, εκπαίδευση για τον εντοπισμό και τον αποκλεισμό επιβλαβούς περιεχομένου Amazon Titanκαι προστασία απορρήτου δεδομένων σε Θεμέλιο του Αμαζονίου. Η επένδυσή μας σε ασφαλή, διαφανή και υπεύθυνη τεχνητή νοημοσύνη περιλαμβάνει τη συνεργασία με την παγκόσμια κοινότητα και τους υπεύθυνους χάραξης πολιτικής, καθώς ενθαρρύναμε και υποστηρίξαμε τόσο την Εθελοντικές δεσμεύσεις τεχνητής νοημοσύνης του Λευκού Οίκου και Διάσκεψη κορυφής για την ασφάλεια AI στο Ηνωμένο Βασίλειο. Και συνεχίζουμε να εργαζόμαστε χέρι-χέρι με τους πελάτες για να θέσουμε σε λειτουργία την υπεύθυνη τεχνητή νοημοσύνη με ειδικά κατασκευασμένα εργαλεία όπως Amazon SageMaker Clerify, Διακυβέρνηση ML με το Amazon SageMaker, Και πολλά άλλα.

Παρουσιάζοντας νέα υπεύθυνη καινοτομία τεχνητής νοημοσύνης

Καθώς η γενετική τεχνητή νοημοσύνη κλιμακώνεται σε νέες βιομηχανίες, οργανισμούς και περιπτώσεις χρήσης, αυτή η ανάπτυξη πρέπει να συνοδεύεται από μια διαρκή επένδυση στην υπεύθυνη ανάπτυξη FM. Οι πελάτες θέλουν τα FM τους να είναι κατασκευασμένα με γνώμονα την ασφάλεια, τη δικαιοσύνη και την ασφάλεια, ώστε να μπορούν με τη σειρά τους να αναπτύξουν την τεχνητή νοημοσύνη με υπευθυνότητα. Στο AWS re:Invent φέτος, είμαστε ενθουσιασμένοι που ανακοινώνουμε νέες δυνατότητες για την προώθηση της υπεύθυνης καινοτομίας AI σε ένα ευρύ σύνολο δυνατοτήτων με νέα ενσωματωμένα εργαλεία, προστασία πελατών, πόρους για τη βελτίωση της διαφάνειας και εργαλεία για την καταπολέμηση της παραπληροφόρησης. Στόχος μας είναι να παρέχουμε στους πελάτες τις πληροφορίες που χρειάζονται για να αξιολογήσουν τα FM σε σχέση με βασικές υπεύθυνες εκτιμήσεις τεχνητής νοημοσύνης, όπως η τοξικότητα και η ευρωστία, και να εισάγουμε προστατευτικά κιγκλιδώματα για την εφαρμογή διασφαλίσεων με βάση τις περιπτώσεις χρήσης πελατών και τις υπεύθυνες πολιτικές τεχνητής νοημοσύνης. Ταυτόχρονα, οι πελάτες μας θέλουν να είναι καλύτερα ενημερωμένοι για την ασφάλεια, τη δικαιοσύνη, την ασφάλεια και άλλες ιδιότητες των υπηρεσιών AI και των FM, καθώς τα χρησιμοποιούν στον οργανισμό τους. Είμαστε ενθουσιασμένοι που ανακοινώνουμε περισσότερους πόρους για να βοηθήσουμε τους πελάτες να κατανοήσουν καλύτερα τις υπηρεσίες AWS AI και να προσφέρουν τη διαφάνεια που ζητούν.

Εφαρμογή διασφαλίσεων: προστατευτικά κιγκλιδώματα για το Amazon Bedrock

Η ασφάλεια αποτελεί προτεραιότητα όταν πρόκειται για την εισαγωγή γενετικής τεχνητής νοημοσύνης σε κλίμακα. Οι οργανισμοί θέλουν να προωθήσουν ασφαλείς αλληλεπιδράσεις μεταξύ των πελατών τους και τις παραγωγικές εφαρμογές τεχνητής νοημοσύνης που αποφεύγουν την επιβλαβή ή προσβλητική γλώσσα και ευθυγραμμίζονται με τις πολιτικές της εταιρείας. Ο ευκολότερος τρόπος για να γίνει αυτό είναι να τεθούν σε εφαρμογή συνεπείς διασφαλίσεις σε ολόκληρο τον οργανισμό, ώστε όλοι να μπορούν να καινοτομούν με ασφάλεια. Χθες ανακοινώσαμε την προεπισκόπηση του Προστατευτικά κιγκλιδώματα για το Amazon Bedrock—μια νέα δυνατότητα που καθιστά εύκολη την εφαρμογή διασφαλίσεων για συγκεκριμένες εφαρμογές με βάση περιπτώσεις χρήσης πελατών και υπεύθυνες πολιτικές τεχνητής νοημοσύνης.

Τα προστατευτικά κιγκλιδώματα οδηγούν στη συνέπεια στον τρόπο με τον οποίο τα FM στο Amazon Bedrock ανταποκρίνονται σε ανεπιθύμητο και επιβλαβές περιεχόμενο εντός των εφαρμογών. Οι πελάτες μπορούν να εφαρμόσουν προστατευτικά κιγκλιδώματα σε μεγάλα γλωσσικά μοντέλα στο Amazon Bedrock καθώς και σε βελτιωμένα μοντέλα και σε συνδυασμό με Πράκτορες για το Amazon Bedrock. Το Guardrails σάς επιτρέπει να καθορίσετε θέματα προς αποφυγή και η υπηρεσία εντοπίζει αυτόματα και αποτρέπει ερωτήματα και απαντήσεις που εμπίπτουν σε περιορισμένες κατηγορίες. Οι πελάτες μπορούν επίσης να διαμορφώσουν τα όρια φίλτρου περιεχομένου σε κατηγορίες, όπως ρητορική μίσους, προσβολές, σεξουαλική γλώσσα και βία, για να φιλτράρουν το επιβλαβές περιεχόμενο στο επιθυμητό επίπεδο. Για παράδειγμα, μια εφαρμογή ηλεκτρονικής τραπεζικής μπορεί να δημιουργηθεί για να αποφευχθεί η παροχή επενδυτικών συμβουλών και να περιοριστεί το ακατάλληλο περιεχόμενο (όπως ρητορική μίσους, προσβολές και βία). Στο εγγύς μέλλον, οι πελάτες θα μπορούν επίσης να διορθώνουν πληροφορίες προσωπικής ταυτοποίησης (PII) στις εισαγωγές χρηστών και τις απαντήσεις των FM, να ορίζουν φίλτρα βωμολοχίας και να παρέχουν μια λίστα προσαρμοσμένων λέξεων για αποκλεισμό στις αλληλεπιδράσεις μεταξύ χρηστών και FM, βελτιώνοντας τη συμμόρφωση και περαιτέρω προστασία των χρηστών. Με τα Guardrails, μπορείτε να καινοτομείτε πιο γρήγορα με τη δημιουργία τεχνητής νοημοσύνης, διατηρώντας παράλληλα προστασίες και διασφαλίσεις σύμφωνα με τις πολιτικές της εταιρείας.

Προσδιορισμός του καλύτερου FM για μια συγκεκριμένη περίπτωση χρήσης: Αξιολόγηση μοντέλου στο Amazon Bedrock

Σήμερα, οι οργανισμοί έχουν ένα ευρύ φάσμα επιλογών FM για να τροφοδοτήσουν τις παραγωγικές εφαρμογές τεχνητής νοημοσύνης τους. Για να επιτευχθεί η σωστή ισορροπία ακρίβειας και απόδοσης για την περίπτωση χρήσης τους, οι οργανισμοί πρέπει να συγκρίνουν αποτελεσματικά μοντέλα και να βρουν την καλύτερη επιλογή με βάση τις βασικές υπεύθυνες μετρήσεις τεχνητής νοημοσύνης και ποιότητας που είναι σημαντικές για αυτούς. Για την αξιολόγηση μοντέλων, οι οργανισμοί πρέπει πρώτα να αφιερώσουν μέρες στον εντοπισμό σημείων αναφοράς, στη δημιουργία εργαλείων αξιολόγησης και στην εκτέλεση αξιολογήσεων, τα οποία απαιτούν βαθιά εξειδίκευση στην επιστήμη των δεδομένων. Επιπλέον, αυτά τα τεστ δεν είναι χρήσιμα για την αξιολόγηση υποκειμενικών κριτηρίων (π.χ. φωνή επωνυμίας, συνάφεια και στυλ) που απαιτούν κρίση μέσω κουραστικών, χρονοβόρων ροών εργασιών αναθεώρησης από τον άνθρωπο. Ο χρόνος, η τεχνογνωσία και οι πόροι που απαιτούνται για αυτές τις αξιολογήσεις—για κάθε νέα περίπτωση χρήσης—καθιστούν δύσκολο για τους οργανισμούς να αξιολογήσουν μοντέλα σε σχέση με υπεύθυνες διαστάσεις AI και να κάνουν ενημερωμένη επιλογή σχετικά με το μοντέλο που θα παρέχει την πιο ακριβή, ασφαλή εμπειρία στους πελάτες τους.

Τώρα διαθέσιμο σε προεπισκόπηση, Αξιολόγηση μοντέλου στο Amazon Bedrock βοηθά τους πελάτες να αξιολογούν, να συγκρίνουν και να επιλέγουν τα καλύτερα FM για τη συγκεκριμένη περίπτωση χρήσης τους με βάση προσαρμοσμένες μετρήσεις, όπως η ακρίβεια και η ασφάλεια, χρησιμοποιώντας είτε αυτόματες είτε ανθρώπινες αξιολογήσεις. Στην κονσόλα Amazon Bedrock, οι πελάτες επιλέγουν τα FM που θέλουν να συγκρίνουν για μια δεδομένη εργασία, όπως η απάντηση σε ερωτήσεις ή η σύνοψη περιεχομένου. Για αυτόματες αξιολογήσεις, οι πελάτες επιλέγουν προκαθορισμένα κριτήρια αξιολόγησης (π.χ. ακρίβεια, ευρωστία και τοξικότητα) και ανεβάζουν το δικό τους σύνολο δεδομένων δοκιμής ή επιλέγουν από ενσωματωμένα, δημόσια διαθέσιμα σύνολα δεδομένων. Για υποκειμενικά κριτήρια ή διαφοροποιημένο περιεχόμενο που απαιτεί κρίση, οι πελάτες μπορούν εύκολα να ρυθμίσουν ροές εργασιών αξιολόγησης που βασίζονται σε ανθρώπους με λίγα μόνο κλικ. Αυτές οι ροές εργασίας αξιοποιούν την εσωτερική ομάδα εργασίας ενός πελάτη ή χρησιμοποιούν ένα διαχειριζόμενο εργατικό δυναμικό που παρέχεται από την AWS, για την αξιολόγηση των απαντήσεων του μοντέλου. Κατά τη διάρκεια των αξιολογήσεων που βασίζονται σε ανθρώπους, οι πελάτες ορίζουν μετρήσεις χρήσης για συγκεκριμένες περιπτώσεις (π.χ. συνάφεια, στυλ και φωνή επωνυμίας). Μόλις οι πελάτες ολοκληρώσουν τη διαδικασία εγκατάστασης, το Amazon Bedrock εκτελεί αξιολογήσεις και δημιουργεί μια αναφορά, ώστε οι πελάτες να μπορούν εύκολα να κατανοήσουν την απόδοση του μοντέλου σε βασικά κριτήρια ασφάλειας και ακρίβειας και να επιλέξουν το καλύτερο μοντέλο για την περίπτωση χρήσης τους.

Αυτή η ικανότητα αξιολόγησης μοντέλων δεν περιορίζεται στο Amazon Bedrock, οι πελάτες μπορούν επίσης να χρησιμοποιήσουν την αξιολόγηση μοντέλων στο Amazon SageMaker Clarify για να αξιολογήσουν, να συγκρίνουν και να επιλέξουν εύκολα την καλύτερη επιλογή FM σε βασικές μετρήσεις ποιότητας και ευθύνης, όπως ακρίβεια, ευρωστία και τοξικότητα. όλα τα FM.

Καταπολέμηση της παραπληροφόρησης: Υδατογράφημα στο Amazon Titan

Σήμερα, ανακοινώσαμε Amazon Titan Image Generator σε προεπισκόπηση, η οποία δίνει τη δυνατότητα στους πελάτες να παράγουν και να βελτιώσουν γρήγορα εικόνες υψηλής ποιότητας σε κλίμακα. Θεωρήσαμε υπεύθυνη τεχνητή νοημοσύνη σε κάθε στάδιο της διαδικασίας ανάπτυξης μοντέλων, συμπεριλαμβανομένης της επιλογής δεδομένων εκπαίδευσης, της δημιουργίας δυνατοτήτων φιλτραρίσματος για τον εντοπισμό και την αφαίρεση ακατάλληλων εισροών και εξόδων μοντέλων από τους χρήστες και τη βελτίωση της δημογραφικής ποικιλομορφίας των αποτελεσμάτων των μοντέλων μας. Όλες οι εικόνες που δημιουργούνται από το Amazon Titan περιέχουν ένα αόρατο υδατογράφημα από προεπιλογή, το οποίο έχει σχεδιαστεί για να συμβάλλει στη μείωση της εξάπλωσης παραπληροφόρησης παρέχοντας έναν διακριτικό μηχανισμό για τον εντοπισμό εικόνων που δημιουργούνται από AI. Το AWS είναι από τους πρώτους παρόχους μοντέλων που κυκλοφόρησαν ευρέως ενσωματωμένα αόρατα υδατογραφήματα που είναι ενσωματωμένα στις εξόδους εικόνας και έχουν σχεδιαστεί για να είναι ανθεκτικά στις αλλοιώσεις.

Χτίζοντας εμπιστοσύνη: Στεκόμαστε πίσω από τα μοντέλα και τις εφαρμογές μας με αποζημίωση

Η οικοδόμηση εμπιστοσύνης πελατών είναι ο πυρήνας του AWS. Είμαστε σε ένα ταξίδι με τους πελάτες μας από την ίδρυσή μας και με την ανάπτυξη της γενετικής τεχνητής νοημοσύνης, παραμένουμε αφοσιωμένοι στην οικοδόμηση καινοτόμου τεχνολογίας από κοινού. Για να μπορέσουν οι πελάτες να αξιοποιήσουν τη δύναμη της γενετικής μας τεχνητής νοημοσύνης, πρέπει να γνωρίζουν ότι προστατεύονται. Η AWS προσφέρει κάλυψη αποζημίωσης πνευματικών δικαιωμάτων για τις εξόδους των ακόλουθων υπηρεσιών τεχνητής νοημοσύνης που δημιουργούνται από την Amazon: Amazon Titan Text Express, Amazon Titan Text Lite, Amazon Titan Embeddings, Amazon Titan Multimodal Embeddings, Amazon CodeWhisperer Professional, AWS HealthScribe, Amazon-Lex, να Προσαρμογή του Amazon. Αυτό σημαίνει ότι οι πελάτες που χρησιμοποιούν τις υπηρεσίες υπεύθυνα προστατεύονται από αξιώσεις τρίτων που ισχυρίζονται ότι παραβιάζονται πνευματικά δικαιώματα από τα αποτελέσματα που παράγονται από αυτές τις υπηρεσίες (βλ. Ενότητα 50.10 του Όροι παροχής υπηρεσιών). Επιπλέον, η τυπική μας αποζημίωση IP για τη χρήση των υπηρεσιών προστατεύει τους πελάτες από αξιώσεις τρίτων που υποστηρίζουν παραβίαση IP από τις υπηρεσίες και τα δεδομένα που χρησιμοποιούνται για την εκπαίδευσή τους. Για να το θέσω διαφορετικά, εάν χρησιμοποιείτε μια υπηρεσία δημιουργίας τεχνητής νοημοσύνης της Amazon που αναφέρεται παραπάνω και κάποιος σας μηνύσει για παραβίαση IP, η AWS θα υπερασπιστεί αυτήν την αγωγή, η οποία περιλαμβάνει την κάλυψη οποιασδήποτε δικαστικής απόφασης εναντίον σας ή τα έξοδα διακανονισμού.

Στεκόμαστε πίσω από τις παραγωγικές μας υπηρεσίες AI και εργαζόμαστε για να τις βελτιώνουμε συνεχώς. Καθώς η AWS λανσάρει νέες υπηρεσίες και η γενετική τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται, η AWS θα συνεχίσει να εστιάζει αμείλικτα στο να κερδίζει και να διατηρεί την εμπιστοσύνη των πελατών.

Βελτίωση της διαφάνειας: Κάρτα υπηρεσίας AWS AI για το Amazon Titan Text

We παρουσίασε τις κάρτες υπηρεσιών AWS AI στο re:Invent 2022 ως πηγή διαφάνειας που βοηθά τους πελάτες να κατανοήσουν καλύτερα τις υπηρεσίες AWS AI. Οι κάρτες υπηρεσιών AI είναι μια μορφή υπεύθυνης τεκμηρίωσης τεχνητής νοημοσύνης που παρέχει στους πελάτες ένα ενιαίο μέρος για να βρουν πληροφορίες σχετικά με τις περιπτώσεις χρήσης και περιορισμούς που προορίζονται, τις υπεύθυνες επιλογές σχεδίασης τεχνητής νοημοσύνης και τις βέλτιστες πρακτικές ανάπτυξης και βελτιστοποίησης απόδοσης για τις υπηρεσίες τεχνητής νοημοσύνης. Αποτελούν μέρος μιας ολοκληρωμένης διαδικασίας ανάπτυξης που αναλαμβάνουμε να χτίσουμε τις υπηρεσίες μας με υπεύθυνο τρόπο που αντιμετωπίζει τη δικαιοσύνη, την επεξήγηση, την ακρίβεια και την ευρωστία, τη διακυβέρνηση, τη διαφάνεια, το απόρρητο και την ασφάλεια, την ασφάλεια και τον έλεγχο.

Στο re:Invent φέτος ανακοινώνουμε α νέα κάρτα υπηρεσίας AI για το Amazon Titan Text για να αυξηθεί η διαφάνεια στα μοντέλα θεμελίωσης. Κυκλοφορούμε επίσης τέσσερις νέες κάρτες υπηρεσιών AI, συμπεριλαμβανομένων: Amazon Comprehend Detect PII, Amazon Transcribe Toxicity Detection, Amazon Rekognition Face Liveness, να AWS HealthScribe. Μπορείτε να εξερευνήσετε καθεμία από αυτές τις κάρτες στο Ιστότοπος AWS. Καθώς η γενετική τεχνητή νοημοσύνη συνεχίζει να αναπτύσσεται και να εξελίσσεται, η διαφάνεια σχετικά με τον τρόπο με τον οποίο αναπτύσσεται, δοκιμάζεται και χρησιμοποιείται η τεχνολογία θα είναι ζωτικής σημασίας στοιχείο για την απόκτηση της εμπιστοσύνης των οργανισμών και των πελατών τους. Στην AWS, δεσμευόμαστε να συνεχίσουμε να φέρνουμε πόρους διαφάνειας, όπως τις Κάρτες Υπηρεσιών AI στην ευρύτερη κοινότητα — και να επαναλαμβάνουμε και να συλλέγουμε σχόλια για τους καλύτερους τρόπους για να προχωρήσουμε.

Επένδυση στην υπεύθυνη τεχνητή νοημοσύνη σε ολόκληρο τον κύκλο ζωής της γενετικής τεχνητής νοημοσύνης

Είμαστε ενθουσιασμένοι με τις νέες καινοτομίες που ανακοινώθηκαν στο re:Invent αυτήν την εβδομάδα, οι οποίες προσφέρουν στους πελάτες μας περισσότερα εργαλεία, πόρους και ενσωματωμένες προστασίες για να δημιουργήσουν και να χρησιμοποιήσουν με ασφάλεια τη γενετική τεχνητή νοημοσύνη. Από την αξιολόγηση μοντέλων έως τα προστατευτικά κιγκλιδώματα και τη υδατοσήμανση, οι πελάτες μπορούν πλέον να φέρουν τεχνητή νοημοσύνη στον οργανισμό τους γρηγορότερα, ενώ μετριάζουν τον κίνδυνο. Οι νέες προστασίες για πελάτες, όπως η κάλυψη αποζημίωσης IP και οι νέοι πόροι για τη βελτίωση της διαφάνειας, όπως οι πρόσθετες κάρτες υπηρεσιών AI, αποτελούν επίσης βασικά παραδείγματα της δέσμευσής μας να οικοδομήσουμε εμπιστοσύνη σε εταιρείες τεχνολογίας, υπεύθυνους χάραξης πολιτικής, κοινοτικές ομάδες, επιστήμονες και άλλα. Συνεχίζουμε να κάνουμε ουσιαστικές επενδύσεις σε υπεύθυνη τεχνητή νοημοσύνη σε όλο τον κύκλο ζωής ενός θεμελιώδους μοντέλου—για να βοηθήσουμε τους πελάτες μας να αναβαθμίσουν την τεχνητή νοημοσύνη με ασφαλή, ασφαλή και υπεύθυνο τρόπο.

---

Σχετικά με τους Συγγραφείς

Πήτερ Χάλιναν ηγείται πρωτοβουλιών στην επιστήμη και την πρακτική του Responsible AI στο AWS AI, μαζί με μια ομάδα υπεύθυνων εμπειρογνωμόνων AI. Έχει βαθιά εξειδίκευση στην τεχνητή νοημοσύνη (PhD, Harvard) και στην επιχειρηματικότητα (Blindsight, που πωλήθηκε στην Amazon). Οι εθελοντικές του δραστηριότητες περιλαμβάνουν τη θητεία ως σύμβουλος καθηγητής στην Ιατρική Σχολή του Πανεπιστημίου του Στάνφορντ και ως πρόεδρος του Αμερικανικού Εμπορικού Επιμελητηρίου στη Μαδαγασκάρη. Όταν είναι δυνατόν, πηγαίνει στα βουνά με τα παιδιά του: σκι, αναρρίχηση, πεζοπορία και ράφτινγκ

Βασι Φιλομίν είναι επί του παρόντος Αντιπρόεδρος του Generative AI στο AWS. Διευθύνει τις προσπάθειες παραγωγής τεχνητής νοημοσύνης, συμπεριλαμβανομένων των Amazon Bedrock, Amazon Titan και Amazon CodeWhisperer.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://aws.amazon.com/blogs/machine-learning/announcing-new-tools-and-capabilities-to-enable-responsible-ai-innovation/