Ми всі хочемо, щоб наші ідеальні людські цінності відображалися в наших технологіях. Ми очікуємо, що такі технології, як штучний інтелект (ШІ), не обманюють нас, не дискримінують і будуть безпечними для нас і наших дітей. Тим не менш, багато розробників штучного інтелекту зараз стикаються з негативною реакцією через упередження, неточності та проблематичну практику обробки даних, які виявляються в їхніх моделях. Ці проблеми потребують не тільки технічного, алгоритмічного або штучного інтелекту. Насправді потрібен цілісний, соціально-технічний підхід.
Математика демонструє потужну істину
Усі прогнозні моделі, включно зі штучним інтелектом, є більш точними, коли вони включають різноманітний людський інтелект і досвід. Це не думка; він має емпіричну достовірність. Розглянемо теорема передбачення різноманітності. Простіше кажучи, коли різноманітність у групі велика, помилка натовпу невелика, що підтверджує концепцію «мудрості натовпу». У впливовому дослідженні було показано, що різні групи тих, хто розв’язує проблеми з низькими здібностями, можуть перевершити групи тих, хто розв’язує проблеми з високими здібностями (Хонг і Пейдж, 2004).
Математичною мовою: чим ширше ваша дисперсія, тим стандартніше ваше середнє значення. Рівняння виглядає так:
A подальше навчання надав більше розрахунків, які уточнюють статистичні визначення мудрого натовпу, включаючи незнання прогнозів інших членів і включення тих, хто максимально різні (негативно корельовані) передбачення або судження. Отже, не лише обсяг, але й різноманітність покращує прогнози. Як це розуміння може вплинути на оцінку моделей ШІ?
(Не)точність моделі
Якщо процитувати поширений афоризм, усі моделі помилкові. Це стосується статистики, науки та ШІ. Моделі, створені за браком досвіду предметної області, можуть призвести до помилковий Виходи
Сьогодні крихітна однорідна група людей визначає, які дані використовувати для навчання генеративних моделей штучного інтелекту, отриманих із джерел, які значно перевищують англійську мову. «Для більшості з понад 6,000 мов світу доступних текстових даних недостатньо для підготовки великомасштабної базової моделі» (з «Про можливості та ризики моделей фонду”, Боммасані та ін., 2022).
Крім того, самі моделі створюються на основі обмеженої архітектури: «Майже всі найсучасніші моделі НЛП тепер адаптовані з однієї з кількох базових моделей, таких як BERT, RoBERTa, BART, T5 тощо. Хоча ця гомогенізація дає надзвичайно високе кредитне плече (будь-які вдосконалення базових моделей можуть призвести до миттєвої вигоди в усьому НЛП), це також шкода; усі системи штучного інтелекту можуть успадкувати однакові проблемні упередження кількох основних моделей (Боммасані та ін.) "
Щоб генеративний штучний інтелект краще відображав різноманітні спільноти, які він обслуговує, у моделях має бути представлено набагато більше різноманітних даних про людей.
Оцінка точності моделі йде рука об руку з оцінкою упередженості. Ми повинні запитати, який намір моделі і для кого вона оптимізована? Розглянемо, наприклад, хто отримує найбільшу користь від алгоритмів рекомендацій вмісту та алгоритмів пошукових систем. Зацікавлені сторони можуть мати дуже різні інтереси та цілі. Алгоритми та моделі вимагають цілей або проксі для помилки Байєса: мінімальної помилки, яку модель має покращити. Цією довіреною особою часто є особа, як-от експерт із певної тематики з досвідом у певній галузі.
Дуже людське завдання: оцінка ризику перед придбанням або розробкою моделі
Нові нормативні акти та плани дій щодо штучного інтелекту дедалі більше підкреслюють важливість алгоритмічних форм оцінки впливу. Мета цих форм — зібрати важливу інформацію про моделі штучного інтелекту, щоб команди управління могли оцінити й усунути ризики перед їх розгортанням. Типові запитання включають:
- Який варіант використання вашої моделі?
- Які ризики різнорідного впливу?
- Як ви оцінюєте справедливість?
- Як ви робите свою модель зрозумілою?
Незважаючи на те, що вони розроблені з добрими намірами, проблема полягає в тому, що більшість власників моделей ШІ не розуміють, як оцінити ризики для свого випадку використання. Загальним рефреном може бути: «Як моя модель може бути несправедливою, якщо вона не збирає особисту інформацію (PII)?» Отже, форми рідко заповнюються з тією продуманістю, яка необхідна для систем управління, щоб точно позначати фактори ризику.
Таким чином, підкреслюється соціально-технічний характер рішення. Власнику моделі — фізичній особі — не можна просто надати список прапорців, щоб оцінити, чи завдасть їх варіант використання шкоди. Замість цього потрібні групи людей із різноманітним життєвим досвідом, які об’єднуються в спільноти, які пропонують психологічну безпеку, щоб вести складні розмови про різні впливи.
Ми вітаємо ширші перспективи для надійного ШІ
IBM® вірить у підхід «нульового клієнта», впроваджуючи рекомендації та системи, які вона створила б для своїх клієнтів у консалтингових і продуктових рішеннях. Цей підхід поширюється на етичні практики, тому IBM створила Надійний центр передового досвіду AI (COE).
Як пояснювалося вище, різноманітність досвіду та навичок має вирішальне значення для належної оцінки впливу ШІ. Але перспектива участі в Центрі передового досвіду може лякати в компанії, яка кишить новаторами, експертами та видатними інженерами зі штучного інтелекту, тому необхідно розвивати спільноту психологічної безпеки. IBM чітко повідомляє про це, кажучи: «Зацікавлені ШІ? Цікавитеся етикою ШІ? Тобі місце за цим столом».
COE пропонує тренінги з етики штучного інтелекту для практиків усіх рівнів. Пропонуються як синхронне навчання (викладач і учні в класі), так і асинхронні (самокеровані) програми.
Але це COE прикладної навчання, яке дає нашим практикам найглибше розуміння, оскільки вони працюють із глобальними, різноманітними, мультидисциплінарними командами над реальними проектами, щоб краще зрозуміти різнорідний вплив. Вони також використовують структуру дизайнерського мислення IBM Дизайн для ШІ група використовує внутрішньо та з клієнтами для оцінки ненавмисних ефектів моделей штучного інтелекту, зберігаючи на увазі тих, хто часто маргіналізований. (Див. Сільвію Дакворт Колесо влади та привілеїв на приклади того, як особистісні характеристики перетинаються, щоб привілеювати або маргіналізувати людей.) IBM також пожертвувала багато фреймворків спільноті відкритих кодів Етичний дизайн.
Нижче наведено кілька публічних звітів IBM щодо цих проектів:
Інструменти автоматизованого керування моделлю ШІ потрібні для отримання важливої інформації про ефективність вашої моделі ШІ. Але зауважте, оптимальним є фіксування ризику задовго до того, як вашу модель буде розроблено та почнеться виробництво. Створюючи спільноти різноманітних міждисциплінарних практиків, які пропонують людям безпечний простір для важких розмов про різнорідний вплив, ви можете розпочати свій шлях до реалізації своїх принципів і відповідального розвитку ШІ.
На практиці, коли ви наймаєте спеціалістів зі штучного інтелекту, вважайте, що понад 70% зусиль у створенні моделей припадає на підбір правильних даних. Ви хочете найняти людей, які знають, як збирати репрезентативні дані, які також збираються за згодою. Ви також хочете, щоб люди, які знають, тісно співпрацювали з експертами в області, щоб переконатися, що вони мають правильний підхід. Ключовим є переконання, що ці практики мають емоційний інтелект, щоб підійти до виклику відповідального курування ШІ зі смиренням і проникливістю. Ми повинні навмисно навчитися розпізнавати, як і коли системи штучного інтелекту можуть посилити несправедливість так само, як вони можуть підвищити людський інтелект.
Переосмисліть, як ваш бізнес працює за допомогою ШІ
Чи була ця стаття корисною?
ТакНемає
Більше від Штучний інтелект
Інформаційні бюлетені IBM
Отримуйте наші інформаційні бюлетені та оновлення тем, які містять найновіші думки про лідерство та ідеї щодо нових тенденцій.
Підпишись зараз
Більше бюлетенів
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://www.ibm.com/blog/why-we-need-diverse-multidisciplinary-coes-for-model-risk/
- : має
- :є
- : ні
- :де
- $UP
- 000
- 1
- 16
- 2022
- 2024
- 23
- 25
- 28
- 29
- 30
- 300
- 32
- 39
- 40
- 400
- 65
- 7
- 9
- a
- здатність
- МЕНЮ
- вище
- AC
- прискорювати
- точність
- точний
- точно
- через
- дію
- пристосований
- адреса
- визнати
- прийняти
- реклама
- рада
- впливати
- агенти
- AI
- Моделі AI
- Системи ШІ
- мета
- AL
- алгоритмічний
- алгоритми
- ВСІ
- Також
- завжди
- amp
- an
- аналітика
- та
- будь-який
- додаток
- застосування
- підхід
- ЕСТЬ
- області
- стаття
- штучний
- штучний інтелект
- Штучний інтелект (AI)
- AS
- запитати
- оцінити
- Оцінювання
- оцінка
- помічники
- допомагати
- At
- аудіо
- збільшення
- автор
- доступний
- уникнути
- назад
- Балансування
- BE
- було
- перед тим
- починати
- буття
- вважає,
- Переваги
- Краще
- За
- зміщення
- упередження
- Блог
- блоги
- синій
- Бостон
- обидва
- ширше
- Створюємо
- бізнес
- господарська діяльність
- підприємства
- але
- button
- by
- CAN
- захоплення
- захопивши
- вуглець
- карта
- Cards
- який
- випадок
- КПП
- Категорія
- Викликати
- Центр
- Центр передового досвіду
- центральний
- певний
- виклик
- характеристика
- chatbots
- перевірка
- дитина
- діти
- кола
- СНД
- клас
- очевидно
- клієнтів
- тісно
- хмара
- color
- поєднання
- майбутній
- загальний
- спільноти
- співтовариство
- Компанії
- компанія
- Зроблено
- концепція
- згода
- Отже
- Вважати
- консалтинг
- Контейнер
- продовжувати
- розмови
- Core
- виправити
- корелює
- Коштувати
- може
- створений
- створення
- Творці
- критичний
- натовп
- CSS
- кураторство
- В даний час
- виготовлений на замовлення
- клієнт
- Досвід клієнтів
- Клієнти
- дані
- Дата
- рішення
- найглибший
- дефолт
- Визначення
- доставляти
- демонструє
- розгортання
- description
- дизайн
- дизайн-мислення
- призначений
- Визначати
- розвивати
- розвиненою
- різний
- важкий
- цифровий
- цифрове перетворення
- розрізнені
- Видатний
- Різне
- різноманітність
- do
- домен
- пожертвуваний
- звертається
- управляти
- E&T
- ефекти
- зусилля
- усуваючи
- вбудовування
- обійняти
- з'являються
- співробітників
- включіть
- залучення
- двигун
- Інженери
- англійська
- досить
- забезпечення
- Що натомість? Створіть віртуальну версію себе у
- помилка
- і т.д.
- Ефір (ETH)
- етичний
- етика
- оцінювати
- оцінки
- оцінка
- Навіть
- Кожен
- скрізь
- загострювати
- приклад
- Приклади
- Перевага
- вихід
- очікувати
- досвід
- Досліди
- експерт
- експертиза
- experts
- пояснені
- піддаватися
- продовжується
- надзвичайно
- facebook посланника
- фасилітувати
- облицювання
- фактори
- справедливість
- false
- далеко
- ШВИДКО
- кілька
- знайти
- Сфокусувати
- стежити
- після
- Шрифти
- для
- передній край
- форми
- фонд
- каркаси
- від
- перед
- Функції
- збирати
- зібраний
- збір
- генеративний
- Генеративний ШІ
- generator
- отримати
- даний
- дає
- Глобальний
- мета
- Цілі
- йде
- добре
- управління
- Граматика
- значно
- сітка
- Group
- Групи
- Зростання
- керівництво
- шкодити
- Мати
- Тема
- чути
- висота
- допомога
- корисний
- Високий
- його
- прокат
- Наймання
- його
- тримає
- цілісний
- Головна
- Як
- How To
- HTTPS
- людина
- людський інтелект
- смирення
- гібрид
- гібридна хмара
- i
- Я БУДУ
- IBM
- ICO
- ICON
- ідеальний
- ідентифікований
- if
- Невігластво
- зображення
- Негайний
- Impact
- Вплив
- здійснювати
- реалізації
- значення
- важливо
- удосконалювати
- поліпшення
- поліпшується
- in
- включати
- У тому числі
- включення
- включати
- все більше і більше
- зростаючий
- індекс
- промисловість
- Впливовий
- інформація
- інновація
- новатори
- вхід
- розуміння
- розуміння
- негайно
- замість
- Інститут
- страхування
- Страховики
- Інтелект
- Розумний
- намір
- Навмисне
- наміри
- зацікавлений
- інтереси
- внутрішньо
- перетинатися
- втручання
- залякуючи
- сутнісний
- isn
- питання
- питання
- IT
- ЙОГО
- січня
- приєднатися
- Приєднайся до нас
- подорож
- JPG
- просто
- зберігання
- ключ
- Знати
- відомий
- відсутність
- мова
- мови
- великий
- масштабний
- останній
- вести
- лідер
- Керівництво
- вивчення
- дозволяти
- рівень
- Важіль
- відповідальність
- брехня
- як
- обмеженою
- список
- місцевий
- місце дії
- ВИГЛЯДИ
- зробити
- Робить
- управління
- керівництво
- багато
- математики
- математичний
- Матерія
- макс-ширина
- Може..
- me
- значити
- Зустрічатися
- Messenger
- може бути
- хвилин
- mind
- мінімальний
- протокол
- Mobile
- модель
- Моделі
- модернізація
- більше
- найбільш
- рухатися
- багато
- мультидисциплінарний
- повинен
- my
- природа
- навігація
- необхідно
- Необхідність
- необхідний
- потреби
- негативно
- Нові
- нові продукти
- Інформаційні бюлетені
- nlp
- немає
- увагу
- нічого
- зараз
- численний
- of
- від
- пропонувати
- запропонований
- Пропозиції
- часто
- on
- ONE
- з відкритим вихідним кодом
- Думка
- Можливості
- оптимальний
- оптимізований
- or
- організації
- Інше
- наші
- Вищі результати
- виходи
- над
- власний
- Власники
- сторінка
- участь
- проходити
- Люди
- виконанні
- людина
- персонал
- Особисто
- перспективи
- PHP
- пій
- плани
- plato
- Інформація про дані Платона
- PlatoData
- підключати
- політика
- положення
- пошта
- потенціал
- потенційні клієнти
- влада
- потужний
- практика
- практики
- прогноз
- Прогнози
- інтелектуального
- первинний
- Принципи
- Пріоритетність
- привілей
- Проблема
- придбання
- випускає
- Production
- продуктивність
- Продукти
- програми
- проектів
- правильно
- перспектива
- за умови
- забезпечення
- проксі
- повноваження
- психологічний
- публічно
- опублікований
- put
- питань
- швидко
- цитувати
- рідко
- Готовність
- читання
- реальний
- Реальність
- визнавати
- рекомендації
- зниження
- удосконалювати
- відображати
- відображено
- правила
- Звіти
- представник
- представлений
- запитів
- вимагати
- вимагається
- дослідження
- відповідаючи
- відповідальний
- відповідально
- реагувати
- revenue
- Зростання доходів
- право
- Risk
- фактори ризику
- ризики
- дорога
- роботи
- сейф
- Безпека
- Зазначений
- то ж
- приказка
- шкала
- Масштабування
- наука
- Екран
- scripts
- Пошук
- Пошукова система
- безпечний
- побачити
- пошукова оптимізація
- служить
- налаштування
- Повинен
- показаний
- просто
- сайт
- слабкий
- невеликий
- розумний
- Розумні колонки
- SMS
- So
- рішення
- Рішення
- деякі
- Джерела
- Простір
- динаміки
- Рекламні
- квадрати
- зацікавлених сторін
- standard
- старт
- впроваджений
- статистичний
- статистика
- Студентам
- Вивчення
- тема
- підписуватися
- такі
- підтримка
- Підтримуючий
- SVG
- Systems
- T
- таблиця
- взяття
- цілі
- учитель
- команди
- технічний
- Технології
- третинний
- текст
- ніж
- Дякую
- Що
- Команда
- світ
- їх
- Їх
- тема
- самі
- Ці
- вони
- думати
- Мислення
- це
- ті
- думка
- думка лідерства
- три
- через
- час
- назва
- до
- разом
- інструменти
- топ
- тема
- жорсткий
- поїзд
- Навчання
- Перетворення
- Тенденції
- правда
- заслуговуючий довіри
- два
- тип
- типовий
- розуміти
- несправедливо
- створеного
- розблокування
- Updates
- на
- URL
- us
- використання
- використання випадку
- використовує
- використовує
- значення
- Цінності
- різноманітність
- різний
- дуже
- Віртуальний
- обсяг
- W
- хотіти
- було
- we
- ДОБРЕ
- Що
- Що таке
- коли
- Чи
- який
- в той час як
- ВООЗ
- кого
- чому
- широко
- ширше
- волі
- мудрість
- WISE
- з
- слово
- WordPress
- Work
- працює
- світ
- б
- письмовий
- Неправильно
- ще
- ви
- вашу
- зефірнет