Дрейф даних проти концептуального дрейфу: у чому різниця?

Зміщення моделі стосується явища, яке виникає, коли продуктивність моделі машинного навчання з часом погіршується. Це відбувається з різних причин, включаючи зміни розподілу даних, зміни в цілях або завданнях моделі або зміни в середовищі, в якому працює модель. Є дві основні види модельного дрейфу що може статися: дрейф даних і дрейф концепції.

Дрейф даних стосується зміни розподілу даних, до яких застосована модель. Зміщення концепції стосується зміни основної мети або цілі моделі. І дрейф даних, і дрейф концепції можуть призвести до зниження продуктивності a навчання за допомогою машини модель.

Зміщення моделі може бути серйозною проблемою для систем машинного навчання, які розгортаються в реальних умовах, оскільки це може призвести до неточних або ненадійних прогнозів або рішень. Щоб усунути дрейф моделі, важливо постійно відстежувати продуктивність моделей машинного навчання з часом і вживати заходів, щоб запобігти або пом’якшити його, наприклад перенавчати модель на нових даних або коригувати параметри моделі. Ці системи моніторингу та регулювання повинні бути невід’ємною частиною a система розгортання програмного забезпечення для моделей ML.

Дрейф концепції проти дрейфу даних: у чому різниця?

Дрейф даних

Дрейф даних, або зсув коваріат, відноситься до явища, коли розподіл вхідних даних, що Модель ML було навчено, відрізняється від розподілу вхідних даних, до яких застосована модель. Це може призвести до того, що модель стане менш точною або ефективною для прогнозування або прийняття рішень.

Математичне представлення дрейфу даних можна виразити таким чином:

P(x|y) ≠ P(x|y')

Де P(x|y) відноситься до розподілу ймовірностей вхідних даних (x) з урахуванням вихідних даних (y), а P(x|y') є розподілом ймовірностей вхідних даних з урахуванням вихідних даних для нових даних для до якого застосована модель (y').

Наприклад, припустімо, що модель ML була навчена на наборі даних про клієнта з певного роздрібного магазину, і модель використовувалася для прогнозування того, чи зробить клієнт покупку на основі його віку, доходу та місця розташування. 

Якщо розподіл вхідних даних (вік, дохід і місцезнаходження) для нових даних, що надходять у модель, суттєво відрізняється від розподілу вхідних даних у навчальному наборі даних, це може призвести до дрейфу даних і призвести до того, що модель стане менш точною.

Подолання дрейфу даних

Один із способів подолання дрейфу даних – це використання таких методів, як зважування або вибірка для коригування відмінностей у розподілі даних. Наприклад, ви можете зважити приклади в навчальному наборі даних, щоб точніше відповідати розподілу вхідних даних для нових даних, до яких буде застосована модель. 

Крім того, ви можете взяти вибірку з нових даних і навчальних даних, щоб створити збалансований набір даних для навчання моделі. Інший підхід полягає у використанні методів адаптації домену, які спрямовані на адаптацію моделі до нового розподілу даних шляхом вивчення відображення між вихідним доменом (навчальні дані) і цільовим доменом (нові дані). Одним із способів досягти цього є використання генерація синтетичних даних алгоритми.

Концепція дрейфу

Зміщення концепції відбувається, коли відбувається зміна функціонального зв’язку між вхідними та вихідними даними моделі. Модель продовжує функціонувати незмінно, незважаючи на змінений контекст, не знаючи про зміни. Таким чином, шаблони, які він засвоїв під час навчання, більше не є точними.

Зміщення концепції також іноді називають дрейфом класу або апостеріорним зсувом ймовірності. Це пояснюється тим, що він стосується змін у ймовірностях між різними ситуаціями:

Pt1 (Y|X) ≠ Pt2 (Y|X)

Цей тип дрейфу викликаний зовнішніми процесами або подіями. Наприклад, у вас може бути модель, яка прогнозує вартість життя на основі географічного розташування з різними регіонами в якості вхідних даних. Однак рівень розвитку кожного регіону може зростати або знижуватися, змінюючи вартість життя в реальному світі. Таким чином, модель втрачає можливість робити точні прогнози. 

Початкове значення «дрейфу концепції» полягає в зміні того, як ми розуміємо конкретні мітки. Одним із прикладів є те, що ми позначаємо як «спам» в електронних листах. Такі шаблони, як часті, масові електронні листи, колись вважалися ознаками спаму, але сьогодні це не завжди так. Детектори спаму, які все ще використовують ці застарілі атрибути, будуть менш ефективними під час ідентифікації спаму, оскільки вони мають дрейф концепції та потребують перенавчання.

Ось ще приклади дрейфу концепції:

• Вплив змін до податкового кодексу на модель прогнозування податкового законодавства
• Вплив еволюції поведінки клієнтів на модель, яка передбачає продажі продукту
• Вплив фінансової кризи на прогнозування прибутків компанії

Дрейф концепції проти дрейфу даних

З дрейфом даних межа рішення не змінюється; змінюється лише розподіл ймовірностей входів – P(x). З дрейфом концепції межа прийняття рішення змінюється, змінюючи як вхідний, так і вихідний розподіл – P(x) і P(y). 

Ще одна важлива відмінність полягає в тому, що дрейф даних є в основному результатом внутрішніх факторів, таких як збір, обробка та навчання даних. Зміщення концепції зазвичай є результатом зовнішніх факторів, таких як ситуація в реальному світі.

Стратегії виявлення та подолання дрейфу даних і концепцій

Є кілька стратегій, які можуть допомогти виявити та подолати дрейф моделі в системі машинного навчання:

• Моніторинг продуктивності: Регулярна оцінка продуктивності моделі ML на невикористаному наборі даних або у виробництві може допомогти виявити будь-яке зниження точності чи інших показників, які можуть вказувати на дрейф моделі.
• Алгоритми виявлення дрейфу даних і концепції: Існують алгоритми, спеціально розроблені для виявлення дрейфу даних, такі як тест Пейджа-Хінклі або тест Колмогорова-Смирнова, а також алгоритми, які виявляють дрейф концепції, такі як алгоритм ADWIN. Ці алгоритми можуть автоматично ідентифікувати зміни у вхідних даних або завданнях, які можуть вказувати на дрейф моделі.
• Методи запобігання дрейфу даних і концепції: Ці методи можуть допомогти запобігти дрейфу даних або концепцій. Наприклад, використання доповнення даних або генерації синтетичних даних може допомогти забезпечити доступність моделі ML до широкого репрезентативного діапазону даних, що може зробити її більш стійкою до змін у розподілі даних. Подібним чином використання трансферного навчання або багатозадачного навчання може допомогти моделі адаптуватися до мінливого завдання чи цілі.
• Перенавчання та доопрацювання: Якщо виявлено дрейф моделі, перенавчання або точне налаштування моделі на нових даних може допомогти подолати це. Це можна робити періодично або у відповідь на значні зміни в даних чи завданні.

Регулярно відстежуючи дрейф моделі та вживаючи профілактичних заходів для його запобігання або пом’якшення, можна з часом підтримувати точність і надійність моделей машинного навчання.

Висновок

Підсумовуючи, дрейф даних і дрейф моделі є двома важливими явищами, які можуть впливати на продуктивність моделей машинного навчання (ML). 

Зсув даних, також відомий як зсув коваріат, виникає, коли розподіл вхідних даних, на яких навчалася модель ML, відрізняється від розподілу вхідних даних, до яких застосована модель. Дрейф моделі, також відомий як дрейф концепції, виникає, коли статистичні властивості даних, на яких була навчена модель ML, змінюються з часом. 

Як дрейф даних, так і дрейф моделі можуть призвести до того, що модель стане менш точною або ефективною для прогнозування чи прийняття рішень, і важливо розуміти ці явища та вирішувати їх, щоб підтримувати ефективність моделі машинного навчання з часом. 

Існують різні методи, які можна використовувати для подолання дрейфу даних і моделі, включаючи перенавчання моделі на основі оновлених даних, використання онлайн-навчання або адаптивного навчання та моніторинг продуктивності моделі з часом.

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• Платоблокчейн. Web3 Metaverse Intelligence. Розширені знання. Доступ тут.
• джерело: https://www.dataversity.net/data-drift-vs-concept-drift-what-is-the-difference/