Οι προγραμματιστές Bored Apes εγκαταλείπουν το στρατιωτικό σύστημα εκπαίδευσης ΗΠΑ-ΗΒ

Έχετε δημοσιεύσει ποτέ φωτογραφίες σας σε πλατφόρμες κοινωνικών μέσων όπως το Facebook, το Instagram, το Tik Tok και άλλες; Αν ναι, ίσως είναι καιρός να επανεξετάσουμε αυτές τις δημοσιεύσεις.

Αυτό οφείλεται στο γεγονός ότι μια νέα τεχνολογία δημιουργίας εικόνων AI επιτρέπει τώρα στους χρήστες να αποθηκεύουν ένα σωρό φωτογραφίες και καρέ βίντεο από εσάς και στη συνέχεια να τις εκπαιδεύουν ώστε να δημιουργούν «ρεαλιστικές» απομιμήσεις της φωτογραφίας σας που σας απεικονίζουν σε εντελώς ντροπιαστικές θέσεις, παράνομες και μερικές φορές συμβιβαστικές θέσεις.

Λοιπόν, δεν κινδυνεύουν όλοι, αλλά η απειλή είναι πραγματική.

Αν και οι φωτογραφίες ήταν πάντα επιρρεπείς σε χειρισμός και παραποίηση από την εποχή των σκοτεινών αιθουσών όπου οι ταινίες χειραγωγούνταν με ψαλίδι και κολλούσαν μέχρι το photoshopping των pixel σήμερα.

Αν και ήταν ένα τρομακτικό έργο και απαιτούσε κάποιες ειδικές δεξιότητες εκείνες τις μέρες, αυτές τις μέρες η δημιουργία πειστικών φωτορεαλιστικών απομιμήσεων έχει γίνει πολύ εύκολη.

Πρώτα ένα μοντέλο AI πρέπει να μάθει πώς να αποδίδει ή να συνθέτει μια εικόνα κάποιου σε μια φωτογραφία από ένα μοντέλο 2D ή 3D μέσω λογισμικού. Από τη στιγμή που η εικόνα αποδοθεί με επιτυχία, η εικόνα γίνεται φυσικά παιχνίδι για την τεχνολογία και έχει την ικανότητα να δημιουργεί άπειρες ποσότητες εικόνων.

Όταν κάποιος επιλέγει να μοιραστεί το μοντέλο AI, μπορούν επίσης να συμμετάσχουν και άλλα άτομα και να αρχίσουν να δημιουργούν εικόνες αυτού του ατόμου επίσης.

Μελέτες περιπτώσεων μέσων κοινωνικής δικτύωσης

Ένας εθελοντής που περιγράφεται ως «γενναίος» από Ars Technica, ένα τεχνολογικό έντυπο, το οποίο αρχικά είχε επιτρέψει στην εταιρεία να χρησιμοποιήσει τις εικόνες του για να δημιουργήσει ψεύτικα, άλλαξε γνώμη.

Αυτό οφείλεται στο γεγονός ότι σε ελάχιστο χρόνο, τα αποτελέσματα των εικόνων από το μοντέλο AI ήταν πολύ πειστικά και πολύ επιζήμια για τη φήμη του εθελοντή.

Δεδομένου του υψηλού κινδύνου φήμης, ένα πλασματικό άτομο που δημιουργήθηκε από AI, ο John, έγινε μια φυσική επιλογή.

Ο Γιάννης, ο πλασματικός τύπος, ήταν δάσκαλος δημοτικού σχολείου, ο οποίος, όπως πολλοί άλλοι άνθρωποι, δημοσίευσε τις εικόνες του στο Facebook στη δουλειά του, ήρεμα στο σπίτι και σε κάποια τέτοια εκδήλωση.

Οι σε μεγάλο βαθμό απαράδεκτες εικόνες του "Τζον" αποδίδονταν και στη συνέχεια χρησιμοποιήθηκαν για να εκπαιδεύσουν την τεχνητή νοημοσύνη για να τον βάλουν σε πιο συμβιβασμούς.

Από μόνο επτά εικόνες, η τεχνητή νοημοσύνη θα μπορούσε να εκπαιδευτεί ώστε να δημιουργεί εικόνες που το κάνουν να φαίνεται σαν να ζει μια διπλή και μυστική ζωή. Για παράδειγμα, εμφανίστηκε ως κάποιος που του άρεσε να ποζάρει γυμνός για selfie στην τάξη του.

Το βράδυ πήγαινε σε μπαρ που έμοιαζε με κλόουν.

Τα Σαββατοκύριακα ήταν μέλος μιας εξτρεμιστικής παραστρατιωτικής ομάδας.

Το AI δημιούργησε επίσης την εντύπωση ότι είχε φυλακιστεί για παράνομη κατηγορία ναρκωτικών, αλλά είχε αποκρύψει αυτό το γεγονός από τον εργοδότη του.

Σε μια άλλη φωτογραφία, ο Τζον, ο οποίος είναι παντρεμένος, φαίνεται να ποζάρει δίπλα σε μια γυμνή γυναίκα που δεν είναι γυναίκα του σε ένα γραφείο.

Χρησιμοποιώντας μια γεννήτρια εικόνας AI που ονομάζεται Σταθερή Διάχυση (έκδοση 1.5) και μια τεχνική που ονομάζεται Dreambooth, η Ars Technica μπόρεσε να εκπαιδεύσει το AI πώς να δημιουργεί φωτογραφίες του John σε οποιοδήποτε στυλ. Αν και ο John ήταν μια πλασματική δημιουργία, οποιοσδήποτε θεωρητικά μπορούσε να επιτύχει το ίδιο σύνολο αποτελεσμάτων από πέντε ή περισσότερες εικόνες. Αυτές οι εικόνες θα μπορούσαν να αφαιρεθούν από λογαριασμούς μέσων κοινωνικής δικτύωσης ή να ληφθούν ως ακίνητα καρέ από ένα βίντεο.

Η διαδικασία διδασκαλίας της τεχνητής νοημοσύνης πώς να δημιουργεί εικόνες του John διήρκεσε περίπου μία ώρα και ήταν δωρεάν χάρη σε μια υπηρεσία υπολογιστικού νέφους της Google.

Όταν ολοκληρώθηκε η εκπαίδευση, η δημιουργία των εικόνων χρειάστηκε αρκετές ώρες, ανέφερε η δημοσίευση. Και αυτό δεν συνέβη επειδή η δημιουργία των εικόνων ήταν μια κάπως αργή διαδικασία, αλλά επειδή χρειαζόταν να χτενίσουμε έναν αριθμό «ατελών εικόνων» και να χρησιμοποιήσουμε ένα είδος «δοκιμής και λάθους» για να βρούμε τις καλύτερες εικόνες.

Η μελέτη διαπίστωσε ότι ήταν εντυπωσιακά πολύ πιο εύκολο σε σύγκριση με την προσπάθεια δημιουργίας μιας φωτογραφίας ρεαλιστικής ψεύτικης εικόνας του «John» στο Photoshop από την αρχή.

Χάρη στην τεχνολογία, άνθρωποι όπως ο John μπορεί να φαίνονται σαν να ενήργησαν παράνομα ή να διέπραξαν ανήθικες πράξεις όπως διάρρηξη σπιτιού, χρήση παράνομων ναρκωτικών και γυμνό ντους με έναν μαθητή. Εάν τα μοντέλα τεχνητής νοημοσύνης είναι βελτιστοποιημένα για πορνογραφία, άτομα όπως ο John μπορούν να γίνουν αστέρες του πορνό σχεδόν από τη μια μέρα στην άλλη.

Κάποιος μπορεί επίσης να δημιουργήσει εικόνες του Τζον να κάνει φαινομενικά απαράδεκτα πράγματα που μπορεί να είναι καταστροφικά αν τον δείξουν να τρώει σε ένα μπαρ όταν έχει υποσχεθεί νηφαλιότητα.

Δεν τελειώνει εκεί.

Ένα άτομο μπορεί επίσης να εμφανιστεί σε μια πιο ανάλαφρη στιγμή ως μεσαιωνικός ιππότης ή αστροναύτης. Σε ορισμένες περιπτώσεις, οι άνθρωποι θα μπορούσαν είτε να είναι νέοι και μεγάλοι ή ακόμη και να ντυθούν.

Ωστόσο, το αποδοθέν εικόνες απέχουν πολύ από το τέλειο. Μια πιο προσεκτική ματιά μπορεί να τα διακρίνει ως ψεύτικα.

Το μειονέκτημα είναι ότι η τεχνολογία που δημιουργεί αυτές τις εικόνες έχει αναβαθμιστεί σημαντικά και θα μπορούσε να καταστήσει αδύνατη τη διάκριση μεταξύ μιας συνθετικής φωτογραφίας και μιας πραγματικής.

Ωστόσο, παρά τα ελαττώματα τους, τα ψεύτικα θα μπορούσαν να δημιουργήσουν σκιές αμφιβολίας για τον John και ενδεχομένως να καταστρέψουν τη φήμη του.

Τελευταία, αρκετοί άνθρωποι έχουν χρησιμοποιήσει την ίδια τεχνική (με αληθινούς ανθρώπους) για να δημιουργήσουν ιδιόρρυθμες και καλλιτεχνικές φωτογραφίες προφίλ του εαυτού τους.

Επίσης εμπορικές υπηρεσίες και εφαρμογές όπως Λένσα έχουν ξεφυτρώσει που χειρίζονται την εκπαίδευση.

Πώς λειτουργεί;

Το έργο για τον John μπορεί να φαίνεται αξιοσημείωτο αν δεν ακολουθούσε τις τάσεις. Σήμερα, οι μηχανικοί λογισμικού ξέρουν πώς να δημιουργούν νέες φωτορεαλιστικές εικόνες από οτιδήποτε μπορεί να φανταστεί κανείς.

Εκτός από φωτογραφίες, η τεχνητή νοημοσύνη επέτρεψε αμφιλεγόμενα στους ανθρώπους να δημιουργήσουν νέα έργα τέχνης που κλωνοποιούν τη δουλειά των υπαρχόντων καλλιτεχνών χωρίς την άδειά τους.

Ανεστάλη λόγω ηθικών ανησυχιών

Ο Μιτς Τζάκσον, ένας δικηγόρος τεχνολογίας των ΗΠΑ, εξέφρασε την ανησυχία του για τη διάδοση της βαθιάς ψεύτικης τεχνολογίας στην αγορά και λέει ότι θα μελετήσει τις νομικές επιπτώσεις της τεχνολογίας το μεγαλύτερο μέρος του 2023.

"Η διάκριση ανάμεσα σε αυτό που είναι αληθινό και τι είναι ψεύτικο θα γίνει τελικά αδύνατη για τους περισσότερους καταναλωτές».

Η Adobe διαθέτει ήδη τεχνολογία ήχου που ονομάζεται Adobe VoCo που επιτρέπει σε οποιονδήποτε να ακούγεται ακριβώς όπως κάποιος άλλος. Οι εργασίες στο Adobe VoCo ανεστάλησαν λόγω ηθικών ανησυχιών, αλλά δεκάδες άλλες εταιρείες τελειοποιούν την τεχνολογία, με ορισμένες να προσφέρουν εναλλακτικές λύσεις σήμερα. Ρίξτε μια ματιά ή ακούστε μόνοι σας», είπε ο Mitchum είπε.

Οι εικόνες και οι εκδόσεις βίντεο των deep fake βίντεο γίνονται όλο και καλύτερες, λέει.

«Μερικές φορές, είναι αδύνατο να ξεχωρίσεις τα ψεύτικα βίντεο από τα αληθινά», προσθέτει.

Το Stable Diffusion χρησιμοποιεί μοντέλο σύνθεσης εικόνων βαθιάς μάθησης που μπορεί να δημιουργήσει νέες εικόνες από περιγραφές κειμένου και μπορεί να εκτελεστεί σε υπολογιστή Windows ή Linux, σε Mac ή στο cloud σε ενοικιαζόμενο υλικό υπολογιστή.

Το νευρωνικό δίκτυο του Stable Diffusion έχει κατακτήσει με τη βοήθεια της εντατικής μάθησης τη συσχέτιση λέξεων και τη γενική στατιστική συσχέτιση μεταξύ των θέσεων των εικονοστοιχείων στις εικόνες.

Εξαιτίας αυτού, μπορεί κανείς να δώσει στο Stable Diffusion μια προτροπή, όπως "Tom Hanks in a classroom", και θα δώσει στο χρήστη μια νέα εικόνα του Tom Hanks σε μια τάξη.

Στην περίπτωση του Tom Hank, πρόκειται για μια βόλτα στο πάρκο επειδή εκατοντάδες φωτογραφίες του βρίσκονται ήδη στο σύνολο δεδομένων που χρησιμοποιείται για την εκπαίδευση του Stable Diffusion. Αλλά για τη δημιουργία εικόνων ανθρώπων όπως ο John, το AI θα χρειαστεί λίγη βοήθεια.

Εκεί χτυπάει το Dreambooth.

Το Dreambooth, το οποίο κυκλοφόρησε στις 30 Αυγούστου από ερευνητές της Google, χρησιμοποιεί μια ειδική τεχνική για να εκπαιδεύσει το Stable Diffusion μέσω μιας διαδικασίας που ονομάζεται "fine tuning".

Αρχικά, το Dreambooth δεν συσχετίστηκε με το Stable Diffusion και η Google δεν είχε διαθέσει τον πηγαίο κώδικα του εν μέσω φόβων κατάχρησης.

Σε ελάχιστο χρόνο, κάποιος βρήκε έναν τρόπο να προσαρμόσει την τεχνική Dreambooth για να συνεργαστεί με το Stable Diffusion και κυκλοφόρησε τον κώδικα ελεύθερα ως έργο ανοιχτού κώδικα, καθιστώντας το Dreambooth έναν πολύ δημοφιλή τρόπο για τους καλλιτέχνες AI να διδάξουν νέα καλλιτεχνικά στυλ στο Stable Diffusion.

Παγκόσμια επίδραση

Υπολογίζεται ότι 4 δισεκατομμύρια άνθρωποι παγκοσμίως χρησιμοποιούν τα μέσα κοινωνικής δικτύωσης. Καθώς πολλοί από εμάς έχουμε ανεβάσει περισσότερες από μια χούφτα φωτογραφίες του εαυτού μας, θα μπορούσαμε να γίνουμε ευάλωτοι σε τέτοιες επιθέσεις.

Αν και ο αντίκτυπος της τεχνολογίας σύνθεσης εικόνας έχει απεικονιστεί από την σκοπιά ενός άνδρα, οι γυναίκες τείνουν επίσης να φέρουν το κύριο βάρος αυτού.

Όταν αποδίδεται το πρόσωπο ή το σώμα μιας γυναίκας, η ταυτότητά της μπορεί να εισαχθεί άτακτα σε πορνογραφικές εικόνες.

Αυτό κατέστη δυνατό από τον τεράστιο αριθμό σεξουαλικών εικόνων που βρέθηκαν σε σύνολα δεδομένων που χρησιμοποιούνται στην εκπαίδευση AI.

Με άλλα λόγια, αυτό σημαίνει ότι το AI είναι πολύ εξοικειωμένο με τον τρόπο δημιουργίας αυτών των πορνογραφικών εικόνων.

Σε μια προσπάθεια να αντιμετωπίσει ορισμένα από αυτά τα ηθικά ζητήματα, το Stability AI αναγκάστηκε να αφαιρέσει υλικό NSFW από το σύνολο δεδομένων εκπαίδευσης για την πιο πρόσφατη κυκλοφορία του 2.0.

Αν και η άδεια λογισμικού του απαγορεύει στους χρήστες να χρησιμοποιούν τη γεννήτρια AI για τη δημιουργία εικόνων ανθρώπων χωρίς την άδειά τους, υπάρχει πολύ μικρή έως καθόλου δυνατότητα επιβολής.

Τα παιδιά επίσης δεν είναι ασφαλή από συνθετικές εικόνες και θα μπορούσαν να εκφοβιστούν χρησιμοποιώντας αυτήν την τεχνολογία ακόμη και σε περιπτώσεις όπου οι εικόνες δεν χειραγωγούνται.

Υπάρχει κάτι που μπορούμε να κάνουμε για αυτό;

Η λίστα με τα πράγματα που πρέπει να κάνετε διαφέρει από άτομο σε άτομο. Ένας τρόπος είναι να κάνετε το δραστικό βήμα της κατάργησης εικόνων εκτός σύνδεσης όλες μαζί.

Αν και αυτό μπορεί να λειτουργήσει για τους απλούς ανθρώπους, δεν είναι και πολύ λύση για διασημότητες και άλλα δημόσια πρόσωπα.

Ωστόσο, στο μέλλον, οι άνθρωποι μπορεί να μπορούν να προστατεύονται από την κατάχρηση φωτογραφιών μέσω τεχνικών μέσων. Οι μελλοντικές γεννήτριες εικόνων AI θα μπορούσαν να υποχρεωθούν νόμιμα να ενσωματώσουν αόρατα υδατογραφήματα στις εξόδους τους.

Με αυτόν τον τρόπο, τα υδατογραφήματα τους μπορούν να διαβαστούν αργότερα και διευκολύνουν τους ανθρώπους να γνωρίζουν ότι είναι πλαστά.

"Απαιτείται εκτενής ρύθμιση. Οποιοδήποτε παραποιημένο ή ψεύτικο περιεχόμενο θα πρέπει να απαιτείται να εμφανίζει ευδιάκριτα ένα γράμμα ή προειδοποίηση, όπως η ταινία (G, PG, R και X). Ίσως κάτι σαν Digitally Altertered ή DA," λέει ο Mitchum.

Η Stability AI ξεκίνησε το Stable Diffusion ως έργο ανοιχτού κώδικα φέτος.

Προς τιμήν του, το Stable Diffusion χρησιμοποιεί ήδη ενσωματωμένα υδατογραφήματα από προεπιλογή, αλλά τα άτομα που έχουν πρόσβαση στην έκδοσή του ανοιχτού κώδικα τείνουν να το παρακάμψουν είτε απενεργοποιώντας το στοιχείο υδατογράφησης του λογισμικού είτε αφαιρώντας το εντελώς.

MIT να μετριάσει

Αν και αυτό είναι καθαρά εικαστικό, ένα υδατογράφημα που προστίθεται οικειοθελώς σε προσωπικές φωτογραφίες, μπορεί να μπορεί να διαταράξει τη διαδικασία εκπαίδευσης του Dreambooth. Μια ομάδα ερευνητών του MIT είπε PhotoGuard, μια αντίθετη διαδικασία που στοχεύει στην προστασία και την προστασία της τεχνητής νοημοσύνης από τη σύνθεση μιας υπάρχουσας φωτογραφίας μέσω μικρών τροποποιήσεων μέσω της χρήσης μιας αόρατης μεθόδου υδατοσήμανσης. Αυτό, ωστόσο, περιορίζεται μόνο σε περιπτώσεις χρήσης επεξεργασίας τεχνητής νοημοσύνης (συχνά αποκαλούμενο "inpainting") και περιλαμβάνει εκπαίδευση ή δημιουργία εικόνων.

"Το AI αναλαμβάνει τη γραφή και τη ζωγραφική! Τα βαθιά ψεύτικα θα καταστρέψουν το βίντεο!
Καλή.
Αυτό σημαίνει ότι η ζωντανή απόδοση γίνεται ακόμα πιο πολύτιμη. Οι εμπορικές εκθέσεις θα ευδοκιμήσουν. Οι άνθρωποι θέλουν να συναλλάσσονται με τους ανθρώπους.
Το Meatspace είναι ακόμα καλύτερος χώρος" Τζόναθαν Πίτσαρντ λέει.

Τελευταία, υπήρξε ένας πολλαπλασιασμός της τεχνολογίας AI που γράφουν ποιήματα, ρίμες και τραγούδια. Και μερικά που είναι masterings παιχνίδια.

Οι επικριτές έχουν λάβει αρνητικά τις τεχνολογικές εξελίξεις και πιστεύουν ότι τα AI καταλαμβάνουν τις ανθρώπινες θέσεις εργασίας.

/MetaNews.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• Platoblockchain. Web3 Metaverse Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• πηγή: https://metanews.com/bored-apes-developers-abandon-us-uk-military-training-system/?utm_source=rss&utm_medium=rss&utm_campaign=bored-apes-developers-abandon-us-uk-military-training-system