Badanie zagrożeń i alternatyw związanych z ChatGPT: Torowanie ścieżki do godnej zaufania sztucznej inteligencji

Robisz smoothie, którym będą mogli się delektować Twoi przyjaciele. Zmieszany już z różnymi owocami i jogurtem, Twój przyjaciel Ruchir przybywa z dojrzałym jabłkiem i daje Ci je, abyś mógł dokończyć swoje orzeźwiające arcydzieło. Teraz, gdy napój jest gotowy, prawie nadal możesz wyczuć nutę jabłka. Przed pierwszym łykiem Ruchir mówi: „Zmieniłem zdanie, muszę wyjść i chcę odzyskać jabłko”. Odpowiadasz: „Ach, przepraszam, ale to po prostu niemożliwe”. Za chwilę wrócimy do tej historii i wyjaśnimy, jaki ma ona związek z tą historią ChatGPT i godną zaufania sztuczną inteligencję.

Jako świat sztuczna inteligencja (AI) ewoluuje, nowe narzędzia, takie jak OpenAI's ChatGPT zwróciło uwagę na swoje możliwości konwersacyjne. Niemniej jednak rozumiem również wagę oceny nieodłącznego ryzyka przed rozpoczęciem jego bezpośredniego wdrożenia w naszych organizacjach. W tej dyskusji badam ryzyko i wyzwania związane z ChatGPT w kontekście korporacyjnym, co wymaga ostrożnego podejścia do jego wdrożenia. Dodatkowo podkreślę znaczenie przyjęcia IBM watsonx za zapewnienie godna zaufania sztuczna inteligencja rozwiązania. A w razie wątpliwości polecam zachować ten sam zdrowy rozsądek, z którego zawsze korzystałeś przy korzystaniu z nowych usług internetowych.

Ewolucja narzędzi AI

ChatGPT wykorzystuje ogromną moc GPT-3 i GPT-4, należący do A nowa klasa „gargantuicznych” i powszechnie popularnych modeli wielkojęzykowych stosowanych w różnych zastosowaniach sztucznej inteligencji. Dzięki ChatGPT użytkownicy mogą zadawać pytania, generować tekst, tworzyć wersje e-maili, omawiać kod w różnych językach programowania, tłumaczyć język naturalny na kod i nie tylko. Wyróżnia się jako wysokiej jakości chatbot konwersacyjny, którego celem jest dostarczanie spójnych i kontekstowych odpowiedzi.

ChatGPT to doskonałe narzędzie do odkrywania kreatywnego pisania, generowania pomysłów i interakcji z AI. Jest bezpłatny dla każdego, dostępna jest bardziej zaawansowana wersja Czat GPT Plus abonentów. Zdolność chatbota do zapamiętywania poprzednich rozmów zwiększa jego interaktywność i wciągające doświadczenie.  

Chociaż ChatGPT zyskał znaczną uwagę i popularność, musi stawić czoła konkurencji ze strony innych chatbotów wykorzystujących sztuczną inteligencję przetwarzanie języka naturalnego systemów (NLP). Rozwinęło się na przykład Google Bard, chatbot AI, który działa na własnym silniku językowym o nazwie PAL 2. Podobnie Meta wydała niedawno swoje imponujące modelu LLaMA2. W miarę ewolucji dziedziny chatbotów AI z pewnością nastąpi wzrost konkurencji i pojawienie się nowych graczy. Aby odkrywać najlepsze rozwiązania dla potrzeb przedsiębiorstw, konieczne jest śledzenie na bieżąco postępów w tej dziedzinie.

Dlaczego nie skorzystać z ChatGPT bezpośrednio w przedsiębiorstwie?

Bezpośrednie użycie ChatGPT w przedsiębiorstwie stwarza ryzyko i wyzwania. Należą do nich kwestie bezpieczeństwa i wycieku danych, kwestie poufności i odpowiedzialności, złożoność własności intelektualnej, zgodność z licencjami typu open source, ograniczenia w rozwoju sztucznej inteligencji oraz niepewna prywatność i zgodność z prawem międzynarodowym. W tym miejscu omawiam te zagrożenia i przedstawiam przykłady ilustrujące, w jaki sposób zagrożenia te mogą objawiać się w codziennych działaniach przedsiębiorstwa.

Zacznę od zbadania alternatywnych rozwiązań, których celem jest ograniczenie ryzyka związanego z bezpośrednim korzystaniem z ChatGPT, w tym IBM Watsonx, które zdecydowanie polecam do użytku w przedsiębiorstwach, ponieważ rozwiązuje problemy związane z własnością danych i prywatnością poprzez rygorystyczną kontrolę i zarządzanie. Obiecuję, że zakończę tę rozmowę powrotem do historii smoothie, ale kiedy wspomnę poniżej o „twoich danych”, nie wahaj się zastąpić tego wyrażenia słowami „twoje jabłko”.

Przed zbadaniem alternatywnych rozwiązań ważne jest, aby firmy miały świadomość potencjalnych zagrożeń i wyzwań związanych z bezpośrednim korzystaniem z ChatGPT. Przypominamy, że historia Internetu pokazała pojawienie się i ewolucję nowych usług (np. wyszukiwarka Google, platformy mediów społecznościowych itp.), co podkreśla znaczenie prywatności i własności danych w przedsiębiorstwie. Mając to na uwadze, oto najważniejsze czynniki, które należy wziąć pod uwagę:

Bezpieczeństwo i wyciek danych

Jeśli do ChatGPT zostaną wprowadzone wrażliwe informacje pochodzące od osób trzecich lub wewnętrzne firmy, stają się one częścią modelu danych chatbota i mogą być udostępniane innym osobom zadającym odpowiednie pytania. Może to prowadzić do wycieku danych i naruszenia zasad bezpieczeństwa organizacji.

Przykład: Plany dotyczące nowego produktu, które Twój zespół pomaga wprowadzić klientowi na rynek, w tym poufne specyfikacje i strategie marketingowe, nie powinny być udostępniane ChatGPT, aby uniknąć ryzyka wycieku danych i potencjalnych naruszeń bezpieczeństwa.

Poufność i prywatność

Podobnie jak w przypadku powyższego, udostępnianie poufnych informacji o klientach lub partnerach może naruszać umowy i wymogi prawne dotyczące ochrony takich informacji. Jeśli bezpieczeństwo ChatGPT zostanie naruszone, poufna treść może wycieknąć, potencjalnie wpływając na reputację organizacji i narażając ją na odpowiedzialność.

Przykład: Załóżmy, że organizacja opieki zdrowotnej korzysta z ChatGPT, aby pomóc w odpowiadaniu na zapytania pacjentów. Jeśli poufne informacje o pacjencie, takie jak dokumentacja medyczna lub dane dotyczące zdrowia osobistego, zostaną udostępnione ChatGPT, może to potencjalnie naruszyć zobowiązania prawne i prawa pacjentów do prywatności chronione przez przepisy takie jak HIPAA (Ustawa o przenośności i odpowiedzialności w ubezpieczeniach zdrowotnych) w Stanach Zjednoczonych.

Kwestie własności intelektualnej

Własność kodu lub tekstu wygenerowanego przez ChatGPT może być złożona. Warunki korzystania z usługi stanowią, że dane wyjściowe należą do dostawcy danych wejściowych, ale mogą pojawić się problemy, gdy dane wyjściowe obejmują prawnie chronione dane pochodzące z innych wejść. Obawy dotyczące praw autorskich może również wystąpić, jeśli ChatGPT jest używany do generowania materiałów pisemnych w oparciu o własność chronioną prawem autorskim.

Przykład: Generowanie materiałów pisemnych do celów marketingowych, których wynik zawiera treści chronione prawem autorskim ze źródeł zewnętrznych bez odpowiedniego przypisania lub pozwolenia, może potencjalnie naruszyć prawa własności intelektualnej twórców oryginalnych treści. Może to skutkować konsekwencjami prawnymi i utratą reputacji firmy.

Zgodność z licencjami open source

Jeśli ChatGPT korzysta z bibliotek open source i włącza ten kod do produktów, może to potencjalnie naruszyć licencje oprogramowania Open Source (OSS) (np. LPG), co prowadzi do komplikacji prawnych dla organizacji.

Przykład: Jeśli firma wykorzystuje ChatGPT do generowania kodu oprogramowania, a pochodzenie danych szkoleniowych używanych do uczenia GPT jest niejasne, istnieje ryzyko potencjalnego naruszenia warunków licencji open source powiązanych z tym kodem. Może to prowadzić do komplikacji prawnych, w tym roszczeń o naruszenie licencji i potencjalnych działań prawnych ze strony społeczności open source.

Ograniczenia rozwoju AI

Warunki świadczenia usługi ChatGPT określają, że nie można go używać do opracowywania innych systemów AI. Korzystanie z ChatGPT w ten sposób może utrudnić przyszłe plany rozwoju AI, jeśli firma działa w tej przestrzeni.

Przykład: Firma specjalizująca się w technologii rozpoznawania głosu planuje ulepszyć swój istniejący system poprzez integrację możliwości przetwarzania języka naturalnego ChatGPT. Jednakże warunki świadczenia usługi ChatGPT wyraźnie stwierdzają, że nie można go używać do opracowywania innych systemów AI.

Większa wiarygodność dzięki IBM watsonx

Wracając do historii naszego smoothie, publiczny ChatGPT wykorzystuje Twoje natychmiastowe dane w celu ulepszenia swojej sieci neuronowej, na przykład tego, jak jabłko dodaje smaku smoothie. Gdy Twoje dane dotrą do ChatGPT, podobnie jak zmiksowane jabłko, nie masz kontroli ani wiedzy o tym, w jaki sposób są one wykorzystywane. Trzeba zatem mieć pewność, że ma on pełne prawo do umieszczenia swojego jabłka i że nie zawiera ono, że tak powiem, danych wrażliwych.

Aby rozwiązać te problemy, IBM watsonx oferuje wyselekcjonowane i przejrzyste dane i modele, zapewniając większą kontrolę i pewność podczas tworzenia i używania koktajlu. Mówiąc najprościej, gdyby Ruchir poprosił o zwrot jabłka, Watsonx mógłby spełnić jego prośbę. Proszę bardzo…. analogia i cała historia.

IBM watsonx wprowadza trzy kluczowe funkcje — watsonx.data, watsonx.ai, watsonx.governance — które współpracują ustanowić godną zaufania sztuczną inteligencję w sposób, który nie jest jeszcze obecny w modelach OpenAI. Funkcje te służą do selekcjonowania i oznaczania danych oraz modeli sztucznej inteligencji, zapewniając przejrzystość szczegółów pochodzenia i własności. Regulują także modele i dane, rozwiązując ciągłe problemy związane z dryfem i stronniczością. To rygorystyczne podejście skutecznie łagodzi obawy dotyczące własności danych i prywatności omówione w tym artykule.

IBM nawiązał współpracę z Przytulanie Twarzy, firmy open source, w celu stworzenia ekosystemu modeli. Obie firmy wykorzystują funkcje watsonx do wybierania i promowania modeli w oparciu o ich funkcjonalność i wiarygodność.

Idziemy dalej z AI

Bezpośrednie wykorzystanie chatbotów AI, takich jak ChatGPT, w przedsiębiorstwie wiąże się z ryzykiem związanym z bezpieczeństwem, wyciekiem danych, poufnością, odpowiedzialnością, własnością intelektualną, zgodnością, ograniczeniami rozwoju sztucznej inteligencji i prywatności. Ryzyko to może mieć szkodliwe konsekwencje dla organizacji, w tym utratę reputacji i kosztowne komplikacje prawne.

Aby złagodzić to ryzyko i stworzyć godną zaufania sztuczną inteligencję, zalecanym rozwiązaniem jest IBM watsonx. Oferuje wyselekcjonowane i oznaczone modele danych oraz sztucznej inteligencji, zapewniając przejrzystość własności i pochodzenia. Rozwiązuje problemy związane z uprzedzeniami i dryfem, zapewniając dodatkową warstwę zaufania. IBM watsonx zapewnia równowagę między innowacjami a odpowiedzialnym wykorzystaniem sztucznej inteligencji. Co więcej, współpraca IBM i Hugging Face wzmacnia ekosystem modeli.

Chociaż watsonx oferuje większe zaufanie i rygorystyczność, obecnie niewiele modeli może dorównać szerokiemu zakresowi zastosowań ogólnych, jakie można zaobserwować w przypadku ChatGPT i rodziny modeli GPT. Dziedzina modeli sztucznej inteligencji stale ewoluuje i można spodziewać się ciągłych ulepszeń. Aby zapewnić optymalne wyniki, ważne jest, aby zrozumieć, w jaki sposób modele są oceniane i szkolone. Wiedza ta umożliwia podejmowanie świadomych decyzji i pozwala organizacjom wybrać modele, które najlepiej odpowiadają ich potrzebom i standardom jakości.

Wdrażając rozwiązanie Watsonx, organizacje mogą wykorzystać możliwości sztucznej inteligencji, zachowując jednocześnie kontrolę nad swoimi danymi i zapewniając zgodność ze standardami etycznymi i prawnymi. Mogą chronić swoje dane, chronić swoją własność intelektualną i budować zaufanie wśród interesariuszy, korzystając jednocześnie z wyselekcjonowanych modeli i zwiększonej przejrzystości. W miarę jak przedsiębiorstwa poruszają się po świecie sztucznej inteligencji, niezwykle ważne jest zachowanie ostrożności, poszukiwanie rozwiązań i nadawanie priorytetu godnej zaufania sztucznej inteligencji.

Śledź podcast Sztuka sztucznej inteligencji dla biznesu

^{Od czasu do czasu IBM zaprasza liderów branży do dzielenia się swoimi opiniami i spostrzeżeniami na temat aktualnych trendów technologicznych. Opinie zawarte w tym poście na blogu są ich własnymi i niekoniecznie odzwierciedlają poglądy lub strategie IBM.}