Αφού ένας δικηγόρος της Νέας Υόρκης παραδέχθηκε την περασμένη εβδομάδα ότι ανέφερε ανύπαρκτες δικαστικές υποθέσεις που είχαν παραισθήσεις από το λογισμικό ChatGPT του OpenAI, ένας δικαστής του Τέξας ζήτησε από τους δικηγόρους του δικαστηρίου του να πιστοποιήσουν είτε ότι δεν έχουν χρησιμοποιήσει τεχνητή νοημοσύνη για την προετοιμασία των νομικών τους εγγράφων – ή ότι αν το κάνουν, ότι η έξοδος έχει επαληθευτεί από άνθρωπο.
«Αυτές οι πλατφόρμες στην τρέχουσα κατάστασή τους είναι επιρρεπείς σε παραισθήσεις και μεροληψίες», αναφέρει μια σημείωση από τον δικαστή Brantley Starr της Βόρειας Περιφέρειας του Τέξας. «Στις παραισθήσεις, φτιάχνουν πράγματα – ακόμα και αποσπάσματα και παραπομπές.
«Ένα άλλο ζήτημα είναι η αξιοπιστία ή η προκατάληψη. Ενώ οι δικηγόροι ορκίζονται ότι θα παραμερίσουν τις προσωπικές τους προκαταλήψεις, προκαταλήψεις και πεποιθήσεις για να τηρούν πιστά το νόμο και να εκπροσωπούν τους πελάτες τους, η γενετική τεχνητή νοημοσύνη είναι προϊόν προγραμματισμού που επινοήθηκε από ανθρώπους που δεν χρειάστηκε να ορκιστούν τέτοιο όρκο.
«Ως εκ τούτου, αυτά τα συστήματα δεν έχουν καμία πίστη σε κανέναν πελάτη, το κράτος δικαίου ή τους νόμους και το Σύνταγμα των Ηνωμένων Πολιτειών (ή, όπως αναφέρθηκε παραπάνω, την αλήθεια). Χωρίς να δεσμεύονται από οποιαδήποτε αίσθηση καθήκοντος, τιμής ή δικαιοσύνης, τέτοια προγράμματα ενεργούν σύμφωνα με κώδικα υπολογιστή και όχι με πεποίθηση, βασισμένα στον προγραμματισμό και όχι σε αρχές. Οποιοδήποτε μέρος πιστεύει ότι μια πλατφόρμα έχει την απαιτούμενη ακρίβεια και αξιοπιστία για νομική ενημέρωση μπορεί να ζητήσει άδεια και να εξηγήσει γιατί.»
Το σημείωμα του δικαστή εξηγεί στη συνέχεια ότι το δικαστήριο του θα χτυπήσει κάθε κατάθεση από δικηγόρο που δεν υποβάλλει την απαιτούμενη βεβαίωση που βεβαιώνει ότι αυτοί οι όροι έχουν διαβάσει και κατανοηθεί.
Ο δικαστής Starr δεν ήταν διαθέσιμος για σχόλιο.
Δεν είναι ασυνήθιστο πρόβλημα
Το σημείωμα δημοσιεύτηκε στις Τρίτη, Μάιος 30. Ακολουθεί την καταδικαστική απόφαση ενός δικαστή της Νέας Υόρκης στις 26 Μαΐου Εντολή για εμφάνιση αιτίας [PDF] κατευθύνοντας τους δικηγόρους για έναν ενάγοντα που μήνυσε την κολομβιανή αεροπορική εταιρεία Avianca SA για να εξηγήσει γιατί δεν πρέπει να τους επιβληθούν κυρώσεις για «αναφορά ανύπαρκτων υποθέσεων».
Οι πληρεξούσιοι δικηγόροι του ενάγοντα είχαν παραδεχτεί σε ένορκη κατάθεση ότι είχαν υποβάλει «στο δικαστήριο αντίγραφα ανυπόστατων δικαστικών γνωμοδοτήσεων» και έκαναν «χρήση ψευδούς και δόλιας συμβολαιογραφικής πράξης».
Ουσιαστικά, οι δικηγόροι χρησιμοποίησαν το ChatGPT για να αναζητήσουν προηγούμενες υποθέσεις, το chat-bot επινόησε αυτές τις υποθέσεις και οι δικηγόροι τις παρέθεσαν στα αρχεία σαν να ήταν αληθινές. Στη συνέχεια, η νομική ομάδα κλήθηκε από την υπεράσπιση και παραδέχτηκε το λάθος της.
Ο δικαστής Kevin Castel, όπως μπορείτε να φανταστείτε, δεν εντυπωσιάστηκε. Κατεύθυνε την οργή του στους δικηγόρους του ενάγοντα Mata κατά Avianca, Inc. (1:22-cv-01461), ο οποίος αντιτάχθηκε σε μια προσπάθεια υπεράσπισης να απορρίψει τον ισχυρισμό σωματικής βλάβης αναφέροντας Varghese κατά South China Airlines Co Ltd, Shaboon κατά Egyptair, να Petersen κατά Iran Air, μεταξύ άλλων μηχανοκίνητων δικαστικών υποθέσεων.
Το μητρώο ζήτησε σχόλιο από το δικηγορικό γραφείο του ενάγοντα, Levidow, Levidow και Oberman, και η κλήση μας δεν ανταποκρίθηκε.
Έχουμε προηγουμένως γραπτή σχετικά με το ChatGPT που εφευρίσκει μοιρολόγια για ζωντανούς ανθρώπους, φτάνοντας μέχρι τη δημιουργία διευθύνσεων URL σε ανύπαρκτες εφημερίδες, οπότε δεν αποτελεί έκπληξη ότι το bot που δημιουργεί κείμενο δημιουργεί δικαστικές υποθέσεις. Το OpenAI προειδοποιεί το σύστημά του «μπορεί περιστασιακά να παράγει εσφαλμένες πληροφορίες», κάτι που φαίνεται ήπιο δεδομένης της ετοιμότητας του μοντέλου να δημοσιεύσει με σιγουριά λάθος πληροφορίες.
Σε αυτό Ένορκη βεβαίωση [PDF], ο δικηγόρος είπε ότι «λυπάται πολύ που χρησιμοποίησε γενετική τεχνητή νοημοσύνη για να συμπληρώσει τη νομική έρευνα που διεξάγεται εδώ και δεν θα το κάνει ποτέ στο μέλλον χωρίς απόλυτη επαλήθευση της γνησιότητάς της».
Ενώ η υπόθεση της Νέας Υόρκης φαίνεται να είναι η πρώτη δικαστική αστοχία που βασίζεται στην τεχνητή νοημοσύνη που προσελκύει την προσοχή του κοινού, υπάρχουν αξιώσεις άλλα ψευδείς αναφορές υποθέσεων έχουν συμβεί.
Stephen Wu, μέτοχος της Silicon Valley Law Group και πρόεδρος του Αμερικανικού Δικηγορικού Συλλόγου Εθνικό Ινστιτούτο Τεχνητής Νοημοσύνης και Ρομποτικής, είπε στους Το μητρώο ότι ενώ αγνοεί περιπτώσεις παραμόρφωσης τεχνητής νοημοσύνης πέρα από την υπόθεση της Νέας Υόρκης, αναμένει ότι υπάρχουν και άλλες.
Οι κανόνες είναι κανόνες
Ερωτηθείς εάν οι δικηγόροι θα έπρεπε να γνωρίζουν καλύτερα ή εάν η καινοτομία της γενετικής τεχνητής νοημοσύνης θα μπορούσε με κάποιο τρόπο να μετριάσει την κατάσταση, ο Wu ήταν κατηγορηματικός.
«Δεν υπάρχει καμία δικαιολογία στο βιβλίο μου», είπε ο Γου. «Υπάρχουν κανόνες επαγγελματικής συμπεριφοράς και λένε ότι εάν πρόκειται να αναθέσετε οποιαδήποτε ευθύνη για ένα νομικό θέμα, ότι έχετε καθήκον να επιβλέπετε τους ανθρώπους στους οποίους αναθέτετε το θέμα».
Ο Wu είπε ότι αυτοί οι κανόνες προορίζονταν να ισχύουν για έναν δικηγόρο ή βοηθό, αλλά θα έπρεπε να ισχύουν για την γενετική τεχνητή νοημοσύνη.
Δεν υπάρχει καμία δικαιολογία στο βιβλίο μου
«Διαβάζω ότι, σε μια εποχή γενετικής τεχνητής νοημοσύνης, για να πείτε εάν αναθέτετε κάτι στην τεχνητή νοημοσύνη, πρέπει να επιβλέπετε αυτήν την τεχνητή νοημοσύνη και να ελέγξετε τα αποτελέσματά της για να βεβαιωθείτε ότι πληροί το πρότυπο ικανότητας που απαιτούνται από τους δικηγόρους να συναντηθούμε», εξήγησε.
Ο Wu είπε ότι υπάρχει ένας ρόλος για τα εργαλεία τεχνητής νοημοσύνης στο νόμο, αλλά αυτός ο ρόλος πρέπει να είναι υποδεέστερος ενός ατόμου. Είπε ότι αναμένει ότι η γενετική τεχνητή νοημοσύνη θα αποδειχθεί πιο χρήσιμη για εργασίες όπως η δημιουργία συμβάσεων, όπου υπάρχει περισσότερος χώρος για ποικίλη διατύπωση και ερμηνεία. Στις δικαστικές καταθέσεις, είπε, «το διακύβευμα είναι κάπως υψηλότερο επειδή πρέπει να σημειώσεις κάθε «ι» και να διασχίσεις κάθε «τ».
Πιστεύει επίσης ότι η απαίτηση πιστοποίησης του δικαστή του Τέξας θα μπορούσε να υιοθετηθεί ευρύτερα.
«Η πάγια εντολή του δικαστή σχετικά με την πιστοποίηση ότι δεν βασίζεται αποκλειστικά στη γενετική τεχνητή νοημοσύνη μπορεί να γίνει τοπικός κανόνας σε συγκεκριμένα δικαστήρια», είπε ο Wu.
«Και μου φαίνεται ότι η συμβουλευτική επιτροπή των ομοσπονδιακών κανόνων και οι αντίστοιχες πολιτείες μπορεί να θέλουν να αλλάξουν τον εσωτερικό κανονισμό. Για παράδειγμα, η έννοια της πάγιας εντολής του δικαστή του Τέξας σχετικά με την πιστοποίηση μη χρήσης γενετικής τεχνητής νοημοσύνης ή τουλάχιστον τον έλεγχο με πραγματικές πηγές θα μπορούσε να ενταχθεί στον Ομοσπονδιακό Κανονισμό Πολιτικής Δικονομίας 11(β).»
Ο Αμερικανικός Δικηγορικός Σύλλογος κατά τη συνεδρίασή του στα μέσα του Φεβρουαρίου υιοθέτησε ένα ψήφισμα [PDF] καλώντας τους οργανισμούς που αναπτύσσουν, σχεδιάζουν και αναπτύσσουν συστήματα τεχνητής νοημοσύνης να διασφαλίσουν ότι οι άνθρωποι επιβλέπουν αυτά τα μοντέλα, ότι τα άτομα και οι οργανισμοί λογοδοτούν για βλάβες που προκαλούνται από νευρωνικά δίκτυα και τα παρόμοια, και ότι οι προγραμματιστές αυτών των συστημάτων τα εφαρμόζουν με τρόπο Αυτό είναι διαφανές και ελεγχόμενο, ενώ παράλληλα σέβεται την πνευματική ιδιοκτησία. Καλή τύχη.
Ο Wu είπε ότι η ανάγκη αντιμετώπισης του τρόπου με τον οποίο οι τεχνολογικές αλλαγές επηρεάζουν τη νομοθεσία εμφανίστηκε πριν από μια δεκαετία περίπου Το έργο ηθικής 20/20 της ABA. «Μεταξύ άλλων, μίλησε για το πώς το καθήκον των δικηγόρων για επάρκεια απαιτεί επάρκεια στην κατανόηση της τεχνολογίας και πώς σχετίζεται με την άσκηση του δικαίου και τη χρήση της τεχνολογίας για την άσκηση του δικαίου», είπε.
Ο Wu αναμένει περαιτέρω συζήτηση σχετικά με τον ρόλο της γενετικής τεχνητής νοημοσύνης στο νόμο. "Προβλέπω ότι θα πρέπει να έχουμε λίγη δουλειά στην επιτροπή για αυτό, για να προσπαθήσουμε να καταλήξουμε σε αλλαγές στους κανόνες του μοντέλου ABA", είπε. ®
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoAiStream. Web3 Data Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- Minting the Future με την Adryenn Ashley. Πρόσβαση εδώ.
- Αγορά και πώληση μετοχών σε εταιρείες PRE-IPO με το PREIPO®. Πρόσβαση εδώ.
- πηγή: https://go.theregister.com/feed/www.theregister.com/2023/05/31/texas_ai_law_court/
- :έχει
- :είναι
- :δεν
- :που
- $UP
- 1
- 26
- a
- Σχετικα
- πάνω από
- Απόλυτος
- Σύμφωνα με
- υπεύθυνος
- ακρίβεια
- Πράξη
- διεύθυνση
- παράδεκτος
- θετός
- συμβουλευτικός
- επηρεάζουν
- κατά
- την ηλικία του
- πριν
- AI
- Συστήματα AI
- αερογραμμή
- Αερογραμμές
- Επίσης
- Αμερικανικη
- μεταξύ των
- an
- και
- Άλλος
- προσδοκώ
- κάθε
- Εφαρμογή
- Αρχείο
- ΕΙΝΑΙ
- τεχνητός
- τεχνητή νοημοσύνη
- AS
- Βοηθός
- Σχέση
- At
- προσοχή
- δικηγόρος
- προσελκύσει
- αυθεντικότητα
- διαθέσιμος
- μπαρ
- βασίζονται
- BE
- επειδή
- γίνονται
- ήταν
- πιστεύει
- πιστεύοντας
- Καλύτερα
- Πέρα
- προκατάληψη
- μεροληψίες
- Κομμάτι
- βιβλίο
- Bot
- Ενημέρωση
- γενικά
- αλλά
- by
- κλήση
- που ονομάζεται
- κλήση
- ήρθε
- CAN
- περίπτωση
- περιπτώσεις
- Πιστοποίηση
- πιστοποιώ
- Καρέκλα
- αλλαγή
- Αλλαγές
- ChatGPT
- έλεγχος
- έλεγχος
- Κίνα
- China Airlines
- ισχυρισμός
- πελάτης
- πελάτες
- CO
- κωδικός
- Ελάτε
- σχόλιο
- επιτροπή
- υπολογιστή
- έννοια
- Διεξαγωγή
- με σιγουριά
- Σύνταγμα
- συμβάσεις
- πεποίθηση
- αντίγραφα
- θα μπορούσε να
- Δικαστήριο
- δικαστικές υποθέσεις
- Καταθέσεις Δικαστηρίου
- Δικαστήρια
- Σταυρός
- Ρεύμα
- δεκαετία
- Άμυνα
- απαιτήσεις
- ανάπτυξη
- σχέδιο
- προγραμματιστές
- ανάπτυξη
- DID
- σκηνοθεσία
- συζήτηση
- να απορρίψει
- περιοχή
- do
- έγγραφα
- γίνεται
- DOT
- προσπάθεια
- είτε
- εξασφαλίζω
- ισοδύναμα
- σφάλμα
- Αιθέρας (ΕΤΗ)
- δεοντολογία
- Even
- Κάθε
- αναμένει
- Εξηγήστε
- εξήγησε
- αποτυγχάνει
- ψευδής
- μακριά
- Φεβρουάριος
- Ομοσπονδιακός
- Κατάθεση
- ρινίσματα
- Εταιρεία
- Όνομα
- ταιριάζουν
- εξής
- Για
- απατηλός
- από
- περαιτέρω
- μελλοντικός
- παράγουν
- παραγωγής
- γενετική
- Παραγωγική τεχνητή νοημοσύνη
- δεδομένου
- πηγαίνει
- μετάβαση
- καλός
- σε μεγάλο βαθμό
- Group
- είχε
- βλάπτει
- Έχω
- που έχει
- he
- Ήρωας
- υψηλότερο
- του
- κρατήστε
- Πως
- HTTPS
- ανθρώπινος
- Οι άνθρωποι
- i
- if
- φαντάζομαι
- εφαρμογή
- εντυπωσιασμένος
- in
- άτομα
- πληροφορίες
- πληροφορίες
- παράδειγμα
- διανοούμενος
- πνευματικής ιδιοκτησίας
- Νοημοσύνη
- προορίζονται
- ερμηνεία
- Επινοηθείσα
- Ιράν
- ζήτημα
- IT
- ΤΟΥ
- jpg
- δικαστής
- δικαστήριο
- Δικαιοσύνη
- Ξέρω
- Επίθετο
- Νόμος
- δικηγορικό γραφείο
- Του νόμου
- Δικηγόροι
- ελάχιστα
- Άδεια
- Νομικά
- νομική ομάδα
- Μου αρέσει
- Δίκη
- λίγο
- ζουν
- τοπικός
- ματιά
- τύχη
- που
- κάνω
- ΚΑΝΕΙ
- ύλη
- Ενδέχεται..
- Γνωρίστε
- συνάντηση
- πληροί
- Στα μέσα του έτους
- ενδέχεται να
- Αστοχία
- Μετριάζω
- μοντέλο
- μοντέλα
- περισσότερο
- μετακινήσετε
- my
- εθνικός
- Ανάγκη
- δίκτυα
- Νευρικός
- νευρωνικά δίκτυα
- ποτέ
- Νέα
- Νέα Υόρκη
- δικαστής της Νέας Υόρκης
- Όχι.
- καινοτομία
- Ορκος
- συνέβη
- of
- on
- OpenAI
- Απόψεις
- αντίθετος
- or
- τάξη
- επιχειρήσεις
- οργανώσεις
- ΑΛΛΑ
- Άλλα
- δικός μας
- έξω
- παραγωγή
- επιβλέπω
- κόμμα
- People
- εκτελούνται
- person
- προσωπικός
- πλατφόρμες
- Πλατφόρμες
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- πρακτική
- προκαταλήψεις
- Προετοιμάστε
- προηγούμενος
- αρχή
- Προϊόν
- επαγγελματίας
- Προγραμματισμός
- Προγράμματα
- περιουσία
- Αποδείξτε
- δημόσιο
- δημοσιεύθηκε
- βάζω
- εισαγωγικά
- μάλλον
- RE
- Διάβασε
- Ετοιμότητα
- πραγματικός
- Εκφράζει τη λύπη του
- αξιοπιστία
- βασιζόμενοι
- εκπροσωπώ
- απαιτείται
- απαίτηση
- Απαιτεί
- απαιτούμενο
- έρευνα
- σχετικά με
- ευθύνη
- Αποτελέσματα
- ρομποτική
- Ρόλος
- Δωμάτιο
- Άρθρο
- κανόνες
- s
- Είπε
- Καθιερωμένος
- λένε
- φαίνεται
- αίσθηση
- σειρά
- μέτοχος
- θα πρέπει να
- δείχνουν
- Πυρίτιο
- Κοιλάδα του πυριτίου
- κατάσταση
- So
- λογισμικό
- μόνο
- κάτι
- κάπως
- Πηγές
- Νότος
- συγκεκριμένες
- πρότυπο
- Κατάσταση
- Μελών
- απεργία
- υποβάλουν
- υποβάλλονται
- τέτοιος
- συμπλήρωμα
- έκπληξη
- σύστημα
- συστήματα
- εργασίες
- τεχνολογικός
- Τεχνολογία
- όροι
- Τέξας
- από
- ότι
- Η
- Το μέλλον
- ο νόμος
- τους
- Τους
- τότε
- Εκεί.
- Αυτοί
- αυτοί
- πράγματα
- εκείνοι
- προς την
- εργαλεία
- διαφανής
- Αλήθεια
- προσπαθώ
- Ασυνήθης
- κατανόηση
- κατανοητή
- Ενωμένος
- United States
- Υποστηρίζω
- χρήση
- μεταχειρισμένος
- χρησιμοποιώντας
- χρησιμοποιούνται
- κοιλάδα
- Ve
- Επαλήθευση
- επαληθεύεται
- θέλω
- Προειδοποιεί
- ήταν
- Τρόπος..
- we
- εβδομάδα
- ήταν
- πότε
- αν
- Ποιό
- ενώ
- Ο ΟΠΟΊΟΣ
- WHY
- θα
- με
- εντός
- χωρίς
- διατύπωση
- Εργασία
- Λανθασμένος
- wu
- Υόρκη
- εσείς
- zephyrnet