Treści zawierające znak wodny nadal nie wystarczają do rozróżnienia treści rzeczywistych od treści wygenerowanych przez sztuczną inteligencję, ponieważ cyberprzestępcy mogą również ominąć zabezpieczenia.
Dzieje się tak w związku z rosnącym zastosowaniem technologii sztucznej inteligencji, zwłaszcza sztucznej inteligencji generatywnej, co stwarza podatny grunt dla pozbawionych skrupułów osób, które mogą je wykorzystywać do rozpowszechniania dezinformacji, nienawiści i innych form złośliwych treści.
Znak wodny stał się jednym z kluczowych rozwiązań umożliwiających rozróżnienie treści generowanych przez sztuczną inteligencję od treści rzeczywistych. Jednak ma też swoje wady.
Przeczytaj także: Meta's Audio2Photoreal umożliwia teraz fotorealistyczne awatary zasilane głosem
Manipulacja
Eksperci twierdzą, że rozwój sztucznej inteligencji wiąże się również z wykorzystaniem tej technologii przez złych aktorów do szerzenia dezinformacji i złośliwości oraz wywoływania paniki za pomocą fałszywych wiadomości.
Chociaż zidentyfikowano znak wodny, który umożliwia użytkownikom odróżnienie treści generowanych przez sztuczną inteligencję od treści stworzonych przez człowieka, to również jest podatne na manipulację.
Zgodnie z Rejestr, niektóre widoczne sygnatury, takie jak model zamiany tekstu na obraz Dall-E, są jednymi z najłatwiejszych do ominięcia narzędzia do wykrywania sztucznej inteligencji. W artykule dalej stwierdzono, że osoby pozbawione skrupułów mogą wyciąć znaki wodne lub skopiować obraz w sposób omijający bezpośrednie pobieranie.
Profesor informatyki na Uniwersytecie w Buffalo w USA, Siwei Lyu, powiedział, że są też eksperci, jeśli chodzi o przełamywanie barier.
„Technologię znakowania wodnego stosowano z przymrużeniem oka, ponieważ osobie znającej znaki wodne i sztuczną inteligencję nie jest tak trudno ją złamać, usunąć lub wyprodukować” – powiedział Lyu.
Ekspert ds. sztucznej inteligencji i dyrektor wykonawczy organizacji non-profit, która pomaga ludziom wykorzystywać technologię do promowania praw człowieka, Sam Gregory, myśli znakami wodnymi nadal mogą manipulować źli aktorzy.
Według niego jest to „narzędzie segregacyjne służące redukcji szkód”, dodając, że „nie jest to rozwiązanie stuprocentowe”.
Rodzaje znaków wodnych
Jednak nie wszystko jest różowe w przypadku pozbawionych skrupułów, złych aktorów. Niektóre znaki wodne są niewidoczne, np. Google DeepMind SynthID, trudno się ich pozbyć, ponieważ są „osadzone bezpośrednio w wynikach systemu Imagen”.
Tego rodzaju znaku wodnego nie można zobaczyć gołym okiem, ale można go wykryć za pomocą specjalnego oprogramowania lub algorytmów.
Lyu jednak nadal uważa, że łajdacy posiadający „wiedzę techniczną” mogą sobie z tym poradzić.
„Myślę, że znaki wodne głównie oddziałują na nieświadomość ludzi o ich istnieniu. Jeśli więc będą wiedzieć, że mogą, znajdą sposób, aby to przełamać” – powiedział Lyu.
Innym rodzajem znaku wodnego jest znak widoczny, który jest dodawany do filmów, tekstu lub obrazów przez firmy takie jak Google, Getty i OpenAI w celu sprawdzenia ważności treści.
Trzecim typem znaku wodnego są metadane kryptograficzne. Ten pokazuje, kiedy treść została utworzona i jak została edytowana.
„Wymywanie” znaków wodnych
Badanie przeprowadzone na Uniwersytecie Maryland pod kierunkiem Soheila Feiziego, profesora informatyki, wykazało, że znaki wodne AI nie były niezawodne. Przetestowali wszystkie rodzaje znaków wodnych i „zniszczyli je wszystkie”.
„W tej chwili nie mamy żadnego wiarygodnego znaku wodnego” – powiedział.
Profesor wyjaśnił również, jak łatwo złym aktorom manipulować znakami wodnymi, co określił jako „wymywanie” znaku wodnego.
Inne badanie, którego współautorami są naukowcy z Uniwersytetu Kalifornijskiego w Santa Barbara i Carnegie Mellon, również przyniosło te same wyniki.
„Wszystkie widoczne znaki wodne nie są wiarygodne” czyta papier.
Problem wrażliwy na czas
Pracownik Senatu USA zaangażowany w opracowywanie przepisów dotyczących sztucznej inteligencji powiedział Fedscope o konieczności „dotrzymywania kroku złym aktorom”, dodając, że Senat znajduje się obecnie w erze „edukacji i definiowania problemu”.
„To jak ze sportowcami olimpijskimi – teraz, gdy wiem, że szukasz tego leku, po prostu wezmę inny”.
Z wiele krajów pójdzie do urn w tym roku nie można pominąć konieczności wprowadzenia środków minimalizujących deepfake i dezinformację. We wrześniu ubiegłego roku przywódca większości w Senacie Chuck Schumer powiedział, że walka z autentycznością treści to: kwestia czasowa biorąc pod uwagę, że w wielu krajach wybory zbliżają się wielkimi krokami.
„Pojawia się problem z deepfake’ami, w przypadku których ludzie naprawdę wierzą… że kandydat coś mówi, podczas gdy jest całkowicie wytworem sztucznej inteligencji” – powiedział po swoim pierwszym Wgląd w sztuczną inteligencję za zamkniętymi drzwiami forum.
Firmy technologiczne podejmują wyzwanie
W międzyczasie istnieje już Koalicja na rzecz pochodzenia i autentyczności treści (C2PA), dzieło firm medialnych i technologicznych. Pozwala to zidentyfikować źródło obrazu – niezależnie od tego, czy jest to kamera, czy program AI, który został użyty do jego utworzenia.
Podaje także szczegółowe informacje na temat czasu, miejsca i sposobu powstania obrazu, umożliwiając sprawdzenie jego pochodzenia. Według doniesień TikTok jest jedną z czołowych firm technologicznych, które przodują w dziedzinie znaków wodnych.
„TikTok pokazuje użytą ścieżkę audio; pokazuje wykonany ścieg; pokazuje zastosowane efekty sztucznej inteligencji” – powiedział Gregory.
Inne duże tech takie jak Alphabet, Amazon, Meta i OpenAI zobowiązały się w zeszłym roku do opracowania technologii znaków wodnych w celu zwalczania dezinformacji.
- Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
- PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
- PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
- PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
- Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
- Źródło: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :ma
- :Jest
- :nie
- :Gdzie
- 8
- 9
- a
- Zdolny
- aktorzy
- faktycznie
- w dodatku
- dodanie
- Przyjęcie
- Korzyść
- Po
- AI
- Algorytmy
- Wszystkie kategorie
- Pozwalać
- pozwala
- Alfabet
- również
- Amazonka
- wśród
- an
- i
- Inne
- każdy
- SĄ
- na około
- artykuł
- AS
- At
- audio
- autentyczność
- Łazienka
- bariery
- BE
- bo
- być
- pomiędzy
- Duży
- przerwa
- Przełamując
- Bawół
- ale
- by
- bypass
- California
- aparat fotograficzny
- CAN
- kandydat
- nie może
- Carnegie Mellona
- Spowodować
- Chuck
- koalicja
- byliśmy spójni, od początku
- Firmy
- komputer
- Computer Science
- zawartość
- Corner
- kraje
- Stwórz
- stworzony
- Tworzenie
- tworzenie
- wole
- kryptograficzny
- Obecnie
- cyberprzestępcy
- Dall's
- deepfakes
- definiowanie
- opisane
- detale
- wykryte
- Wykrywanie
- rozwijać
- trudny
- kierować
- bezpośrednio
- Dyrektor
- dezinformacja
- rozróżniać
- nie
- lek
- Najprostszym
- łatwo
- ruchomości
- Wybory
- wyłonił
- umożliwiać
- dość
- Era
- szczególnie
- wykonawczy
- Dyrektor wykonawczy
- ekspert
- eksperci
- wyjaśnione
- oko
- imitacja
- fałszywe wiadomości
- Korzyści
- Znajdź
- Ustalenia
- firmy
- i terminów, a
- W razie zamówieenia projektu
- formularze
- Forum
- dalej
- generatywny
- generatywna sztuczna inteligencja
- otrzymać
- dany
- daje
- będzie
- Ziemia
- Rozwój
- Wzrost
- miał
- Ciężko
- zaszkodzić
- nienawidzić
- Have
- mający
- he
- pomaga
- go
- jego
- W jaki sposób
- Jednak
- HTTPS
- człowiek
- prawa człowieka
- i
- CHORY
- zidentyfikowane
- identyfikuje
- if
- obraz
- zdjęcia
- in
- osób
- najnowszych
- niewidoczny
- zaangażowany
- problem
- IT
- JEGO
- właśnie
- Klawisz
- Uprzejmy
- Wiedzieć
- wiedza
- Nazwisko
- Ostatni rok
- prowadzić
- lider
- Doprowadziło
- Prawodawstwo
- lubić
- lokalizacja
- poszukuje
- zrobiony
- Większość
- złośliwy
- manipulować
- Manipulacja
- wiele
- Maryland
- w międzyczasie
- środków
- Media
- Mellon
- Meta
- Metadane
- metoda
- zminimalizować
- Mylna informacja
- model
- przeważnie
- Potrzebować
- aktualności
- niedochodowy
- organizacja non-profit
- już dziś
- of
- olimpijski
- on
- ONE
- OpenAI
- or
- organizacja
- Inne
- na zewnątrz
- Wyjścia
- Pokój
- Panika
- Papier
- Ludzie
- Ludzie na
- Fotorealistyczne
- Miejsce
- plato
- Analiza danych Platona
- PlatoDane
- Grać
- punkt
- możliwy
- Profesor
- Program
- promować
- pochodzenie
- Czytaj
- real
- naprawdę
- redukcja
- rzetelny
- usunąć
- podobno
- Badacze
- Pozbyć się
- prawa
- Różany
- Powiedział
- sól
- Sam
- taki sam
- Święty
- Santa Barbara
- powiedzieć
- powiedzenie
- nauka
- bezpieczeństwo
- widziany
- Senat
- wrzesień
- niedociągnięcia
- Targi
- Podpisy
- So
- Tworzenie
- rozwiązanie
- Rozwiązania
- kilka
- Ktoś
- coś
- Źródło
- specjalny
- specjalne oprogramowanie
- rozpiętość
- Zjednoczone
- Nadal
- Badanie
- taki
- system
- sprzęt
- zwalczanie
- Brać
- biorąc
- tech
- tech
- Technologies
- Technologia
- przetestowany
- XNUMX
- że
- Połączenia
- Źródło
- ich
- Im
- Tam.
- one
- myśleć
- Myśli
- Trzeci
- to
- w tym roku
- Przez
- TIK Tok
- czas
- do
- powiedział
- także
- narzędzie
- Top
- CAŁKOWICIE
- śledzić
- ocena stanu zdrowia rannych
- rodzaj
- typy
- uniwersytet
- University of California
- University of Maryland
- us
- Senat USA
- posługiwać się
- używany
- Użytkownicy
- za pomocą
- zweryfikować
- Filmy
- widoczny
- była
- watermark
- znak wodny
- Znaki wodne
- Droga..
- sposoby
- Co
- jeśli chodzi o komunikację i motywację
- czy
- który
- będzie
- w
- rok
- jeszcze
- ty
- zefirnet