Χαρακτηριστικά
Σε αυτό το μοτίβο κώδικα, αποκτήστε καλύτερες γνώσεις και εξηγησιμότητα μαθαίνοντας πώς να χρησιμοποιείτε τα Εργαλεία Επεξήγησης AI 360 για να απομυθοποιήσετε τις αποφάσεις που λαμβάνονται από ένα μοντέλο μηχανικής μάθησης. Αυτό όχι μόνο βοηθά τους υπεύθυνους χάραξης πολιτικής και τους επιστήμονες δεδομένων να αναπτύξουν αξιόπιστες εξηγήσιμες εφαρμογές τεχνητής νοημοσύνης, αλλά βοηθά επίσης στη διαφάνεια για όλους. Για να δείξουμε τη χρήση του AI Explainability 360 Toolkit, χρησιμοποιούμε το υπάρχον μοτίβο κωδικού ανίχνευσης απάτης εξηγώντας τους αλγόριθμους AIX360.
Περιγραφή
Φανταστείτε ένα σενάριο στο οποίο επισκέπτεστε μια τράπεζα όπου θέλετε να συνάψετε δάνειο $1 εκατομμυρίου. Ο υπεύθυνος δανείων χρησιμοποιεί ένα σύστημα που υποστηρίζεται από τεχνητή νοημοσύνη που προβλέπει ή προτείνει εάν πληροίτε τα κριτήρια για δάνειο και πόσο μπορεί να είναι αυτό το δάνειο. Σε αυτό το παράδειγμα, το σύστημα AI συνιστά να μην πληροίτε τα κριτήρια για δάνειο. Έτσι, μπορεί να έχετε μερικές ερωτήσεις που στη συνέχεια πρέπει να σκεφτείτε:
- Εσείς ως πελάτης θα μείνετε ικανοποιημένοι με την υπηρεσία;
- Θα θέλατε αιτιολόγηση για την απόφαση που έλαβε το σύστημα AI;
- Θα πρέπει ο υπάλληλος του δανείου να ελέγξει ξανά την απόφαση που ελήφθη από το σύστημα AI και θα θέλατε να γνωρίζει τον υποκείμενο μηχανισμό του μοντέλου AI;
- Πρέπει η τράπεζα να εμπιστεύεται πλήρως και να βασίζεται στο σύστημα που λειτουργεί με τεχνητή νοημοσύνη;
Ίσως συμφωνήσετε ότι δεν αρκεί μόνο να κάνετε προβλέψεις. Μερικές φορές, πρέπει να έχετε βαθιά κατανόηση του γιατί ελήφθη η απόφαση. Υπάρχουν πολλοί λόγοι για τους οποίους πρέπει να κατανοήσετε τον υποκείμενο μηχανισμό των μοντέλων μηχανικής εκμάθησης. Αυτά περιλαμβάνουν:
- Ανθρώπινη αναγνωσιμότητα
- Μετριασμός μεροληψίας
- Δικαιολογησιμότητα
- Ερμηνευσιμότητα
- Ενίσχυση της εμπιστοσύνης και της εμπιστοσύνης στα συστήματα AI
Σε αυτό το μοτίβο κώδικα, δείχνουμε πώς λειτουργούν οι τρεις αλγόριθμοι επεξήγησης:
- Ο αλγόριθμος Contrastive Explanations Method (CEM) που είναι διαθέσιμος στο AI Explainability 360 Toolkit.
- Το AI Explainability 360—ProtoDash λειτουργεί με ένα υπάρχον μοντέλο πρόβλεψης για να δείξει πώς ο πελάτης συγκρίνεται με άλλους που έχουν παρόμοια προφίλ και είχαν παρόμοια αρχεία αποπληρωμής με την πρόβλεψη του μοντέλου για τον τρέχοντα πελάτη. Αυτό βοηθά στην αξιολόγηση και την πρόβλεψη του κινδύνου του αιτούντος. Με βάση την πρόβλεψη του μοντέλου και την εξήγηση για το πώς κατέληξε σε αυτή τη σύσταση, ο υπεύθυνος δανείου μπορεί να λάβει μια πιο τεκμηριωμένη απόφαση.
- Ο αλγόριθμος Generalized Linear Rule Model (GLRM) στο AI Explainability 360 Toolkit παρέχει ένα βελτιωμένο επίπεδο επεξήγησης σε έναν επιστήμονα δεδομένων εάν το μοντέλο μπορεί να αναπτυχθεί.
Ροή
- Συνδεθείτε στο IBM Watson® Studio που υποστηρίζεται από το Spark, ξεκινήστε το IBM Cloud Object Storage και δημιουργήστε ένα έργο.
- Ανεβάστε το αρχείο δεδομένων .csv στο IBM Cloud Object Storage.
- Φορτώστε το αρχείο δεδομένων στο σημειωματάριο Watson Studio.
- Εγκαταστήστε το AI Explainability 360 Toolkit και το Adversarial Robustness Toolbox στο σημειωματάριο Watson Studio.
- Λάβετε οπτικοποίηση για επεξήγηση και ερμηνεία του μοντέλου AI για τους τρεις διαφορετικούς τύπους χρηστών.
Οδηγίες
Βρείτε τα λεπτομερή βήματα στο README αρχείο. Αυτά τα βήματα εξηγούν πώς:
- Δημιουργήστε ένα λογαριασμό στο IBM Cloud.
- Δημιουργήστε ένα νέο έργο Watson Studio.
- Προσθήκη δεδομένων.
- Δημιουργήστε τον φορητό υπολογιστή.
- Εισαγάγετε τα δεδομένα ως DataFrame.
- Εκτελέστε το σημειωματάριο.
- Αναλύστε τα αποτελέσματα.
Αυτό το μοτίβο κώδικα είναι μέρος του Το AI 360 Toolkit: Τα μοντέλα AI εξηγούνται Χρησιμοποιήστε σειρές περιπτώσεων, οι οποίες βοηθούν τους ενδιαφερόμενους και τους προγραμματιστές να κατανοήσουν πλήρως τον κύκλο ζωής του μοντέλου AI και να τους βοηθήσουν να λάβουν ενημερωμένες αποφάσεις.
Πηγή: https://developer.ibm.com/patterns/analyzing-fraud-prediction-ai-models/- Λογαριασμός
- AI
- αλγόριθμος
- αλγόριθμοι
- εφαρμογές
- αρχιτεκτονική
- Τράπεζα
- σώμα
- Backup
- κωδικός
- εμπιστοσύνη
- περιεχόμενο
- Ρεύμα
- ημερομηνία
- επιστήμονας δεδομένων
- Ανίχνευση
- ανάπτυξη
- προγραμματιστές
- Επεξήγηση
- Επεξήγηση AI
- ροή
- απάτη
- Πως
- Πώς να
- HTTPS
- IBM
- IBM Cloud
- ιδέες
- IT
- μάθηση
- Επίπεδο
- δάνειο
- μάθηση μηχανής
- μοντέλο
- Αποθήκευση αντικειμένων
- Αξιωματικός
- Άλλα
- πρότυπο
- πρόβλεψη
- Προβλέψεις
- προφίλ
- σχέδιο
- λόγους
- αρχεία
- Αποτελέσματα
- Κίνδυνος
- επιστήμονες
- Σειρές
- So
- χώρος στο δίσκο
- σύστημα
- Διαφάνεια
- Εμπιστευθείτε
- Χρήστες
- οραματισμός
- Watson
- Στούντιο Watson
- Ο ΟΠΟΊΟΣ
- Εργασία
- λειτουργεί