Dryf danych a dryf koncepcji: jaka jest różnica?

Dryf modelu odnosi się do zjawiska, które występuje, gdy wydajność modelu uczenia maszynowego spada wraz z upływem czasu. Dzieje się tak z różnych powodów, w tym zmian dystrybucji danych, zmian w celach modelu lub zmian w środowisku, w którym działa model. Istnieją dwa główne rodzaje dryfu modelu które mogą wystąpić: dryf danych i dryf koncepcji.

Dryf danych odnosi się do zmieniającego się rozkładu danych, do których stosuje się model. Dryf koncepcji odnosi się do zmieniającego się podstawowego celu lub celu modelu. Zarówno dryf danych, jak i dryf koncepcji mogą prowadzić do spadku wydajności uczenie maszynowe model.

Dryf modelu może stanowić poważny problem dla systemów uczenia maszynowego, które są wdrażane w rzeczywistych warunkach, ponieważ może prowadzić do niedokładnych lub niewiarygodnych prognoz lub decyzji. Aby zająć się dryfem modelu, ważne jest, aby stale monitorować wydajność modeli uczenia maszynowego w czasie i podejmować kroki w celu zapobiegania lub łagodzenia tego zjawiska, takie jak ponowne uczenie modelu na nowych danych lub dostosowywanie parametrów modelu. Te systemy monitorowania i regulacji muszą być integralną częścią a system wdrażania oprogramowania dla modeli ML.

Dryf koncepcji a dryf danych: jaka jest różnica?

Dryf danych

Dryf danych lub przesunięcie współzmiennej odnosi się do zjawiska, w którym rozkład danych wejściowych, które an Model ML został przeszkolony różni się od dystrybucji danych wejściowych, do których model jest stosowany. Może to spowodować, że model stanie się mniej dokładny lub mniej skuteczny w przewidywaniu lub podejmowaniu decyzji.

Matematyczną reprezentację dryfu danych można wyrazić w następujący sposób:

P(x|y) ≠ P(x|y')

Gdzie P(x|y) odnosi się do rozkładu prawdopodobieństwa danych wejściowych (x) przy danych wyjściowych (y), a P(x|y') jest rozkładem prawdopodobieństwa danych wejściowych przy danych wyjściowych dla nowych danych do którego model jest stosowany (y').

Załóżmy na przykład, że model ML został przeszkolony na zbiorze danych klientów z określonego sklepu detalicznego, a model został użyty do przewidywania, czy klient dokona zakupu na podstawie wieku, dochodów i lokalizacji. 

Jeśli rozkład danych wejściowych (wiek, dochód i lokalizacja) dla nowych danych wprowadzonych do modelu znacznie różni się od rozkładu danych wejściowych w zbiorze danych szkoleniowych, może to prowadzić do dryfowania danych i spowodować, że model stanie się mniej dokładny.

Pokonywanie dryfu danych

Jednym ze sposobów przezwyciężenia dryfu danych jest zastosowanie technik takich jak ważenie lub próbkowanie w celu dostosowania do różnic w rozkładzie danych. Na przykład można przypisać wagę przykładom w zestawie danych szkoleniowych, aby lepiej pasowały do ​​rozkładu danych wejściowych dla nowych danych, do których zostanie zastosowany model. 

Alternatywnie możesz pobrać próbkę z nowych danych i danych szkoleniowych, aby utworzyć zrównoważony zestaw danych do trenowania modelu. Innym podejściem jest zastosowanie technik adaptacji domen, które mają na celu dostosowanie modelu do nowego rozkładu danych poprzez nauczenie się mapowania między domeną źródłową (dane treningowe) a domeną docelową (nowe dane). Jednym ze sposobów osiągnięcia tego jest użycie generowanie danych syntetycznych algorytmy.

Dryf koncepcji

Dryf koncepcji ma miejsce, gdy następuje zmiana relacji funkcjonalnej między danymi wejściowymi i wyjściowymi modelu. Model nadal funkcjonuje tak samo pomimo zmienionego kontekstu, nieświadomy zmian. W ten sposób wzorce, których nauczył się podczas treningu, nie są już dokładne.

Dryf koncepcji jest czasami nazywany dryfem klas lub późniejszym przesunięciem prawdopodobieństwa. Dzieje się tak, ponieważ odnosi się do zmian prawdopodobieństwa między różnymi sytuacjami:

Pt1 (Y|X) ≠ Pt2 (Y|X)

Ten rodzaj dryfu jest spowodowany zewnętrznymi procesami lub zdarzeniami. Na przykład możesz mieć model, który przewiduje koszty utrzymania na podstawie położenia geograficznego, z różnymi regionami jako danymi wejściowymi. Jednak poziom rozwoju każdego regionu może się zwiększać lub zmniejszać, zmieniając koszty życia w realnym świecie. W ten sposób model traci zdolność do dokonywania dokładnych prognoz. 

Pierwotne znaczenie „dryfowania koncepcji” polega na zmianie sposobu, w jaki rozumiemy określone etykiety. Jednym z przykładów jest to, co określamy jako „spam” w wiadomościach e-mail. Wzorce, takie jak częste, masowe wiadomości e-mail, były kiedyś uważane za oznaki spamu, ale nie zawsze tak jest dzisiaj. Wykrywacze spamu, które nadal używają tych przestarzałych atrybutów, będą mniej skuteczne w identyfikowaniu spamu, ponieważ mają dryf koncepcji i wymagają ponownego szkolenia.

Oto więcej przykładów dryfowania koncepcji:

• Wpływ zmian w kodeksie podatkowym na model przewidujący zgodność podatkową
• Wpływ zmieniających się zachowań klientów na model prognozujący sprzedaż produktów
• Wpływ kryzysu finansowego na prognozy zysków firmy

Dryf koncepcji a dryf danych

W przypadku dryfu danych granica decyzyjna nie zmienia się; zmienia się tylko rozkład prawdopodobieństwa wejść – P(x). Wraz z dryfem koncepcji zmienia się granica decyzyjna, przy czym zmienia się zarówno rozkład wejściowy, jak i wyjściowy – P(x) i P(y). 

Inną ważną różnicą jest to, że dryf danych jest głównie wynikiem czynników wewnętrznych, takich jak gromadzenie, przetwarzanie i szkolenie danych. Dryf koncepcji zwykle wynika z czynników zewnętrznych, takich jak sytuacja w świecie rzeczywistym.

Strategie wykrywania i przezwyciężania dryfu danych i koncepcji

Istnieje kilka strategii, które mogą pomóc wykryć i przezwyciężyć dryf modelu w systemie uczenia maszynowego:

• Monitoring wydajności: Regularna ocena wydajności modelu ML na wstrzymanym zbiorze danych lub w produkcji może pomóc w zidentyfikowaniu spadku dokładności lub innych metryk, które mogą wskazywać na dryf modelu.
• Algorytmy wykrywania dryfu danych i koncepcji: Istnieją algorytmy zaprojektowane specjalnie do wykrywania dryfu danych, takie jak test Page-Hinkleya lub test Kołmogorowa-Smirnowa, a także algorytmy wykrywające dryf koncepcji, takie jak algorytm ADWIN. Algorytmy te mogą automatycznie identyfikować zmiany w danych wejściowych lub zadaniu, które mogą wskazywać na dryf modelu.
• Techniki zapobiegania dryfowaniu danych i koncepcji: Techniki te mogą przede wszystkim pomóc w zapobieganiu dryfowaniu danych lub koncepcji. Na przykład użycie rozszerzania danych lub generowania danych syntetycznych może pomóc zapewnić ekspozycję modelu uczenia maszynowego na szeroki, reprezentatywny zakres danych, co może uczynić go bardziej odpornym na zmiany w dystrybucji danych. Podobnie wykorzystanie uczenia transferowego lub uczenia wielozadaniowego może pomóc modelowi dostosować się do zmieniającego się zadania lub celu.
• Ponowne szkolenie i dostrajanie: Jeśli zostanie wykryty dryf modelu, ponowne uczenie lub dostrajanie modelu na nowych danych może pomóc w przezwyciężeniu tego problemu. Można to robić okresowo lub w odpowiedzi na istotne zmiany w danych lub zadaniu.

Regularne monitorowanie dryfu modelu i podejmowanie proaktywnych kroków w celu zapobiegania lub łagodzenia tego zjawiska umożliwia utrzymanie dokładności i niezawodności modeli uczenia maszynowego w miarę upływu czasu.

Wnioski

Podsumowując, dryf danych i dryf modelu to dwa ważne zjawiska, które mogą wpływać na wydajność modeli uczenia maszynowego (ML). 

Dryf danych, znany również jako przesunięcie współzmiennej, występuje, gdy rozkład danych wejściowych, na których szkolono model ML, różni się od rozkładu danych wejściowych, do których zastosowano model. Dryf modelu, znany również jako dryf koncepcji, występuje, gdy właściwości statystyczne danych, na których model ML był trenowany, zmieniają się w czasie. 

Zarówno dryf danych, jak i dryf modelu mogą prowadzić do tego, że model stanie się mniej dokładny lub mniej skuteczny w przewidywaniu lub podejmowaniu decyzji, dlatego ważne jest zrozumienie i uwzględnienie tych zjawisk w celu utrzymania wydajności modelu uczenia maszynowego w czasie. 

Istnieją różne techniki, które można wykorzystać do przezwyciężenia dryfu danych i dryfu modelu, w tym ponowne uczenie modelu na zaktualizowanych danych, korzystanie z uczenia online lub uczenia adaptacyjnego oraz monitorowanie wydajności modelu w czasie.

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• Platoblockchain. Web3 Inteligencja Metaverse. Wzmocniona wiedza. Dostęp tutaj.
• Źródło: https://www.dataversity.net/data-drift-vs-concept-drift-what-is-the-difference/