Регулятор США перевіряє ChatGPT OpenAI на розповсюдження брехні

Регулятор США перевіряє ChatGPT OpenAI на розповсюдження брехні

Мітка часу: 15 липня 2023 р., 7:05
Вихідний вузол: 2764806

Федеральна торгова комісія США (FTC) розпочала розслідування щодо OpenAI щодо можливих порушень законів про захист прав споживачів, пов’язаних із її чат-ботом ChatGPT, який звинувачується в поширенні неправдивої інформації та порушенні правил конфіденційності даних.

Згідно зі звітом Washington Post, орган з нагляду за конкуренцією надіслав 20-сторінковий лист до OpenAI з вимогою надати детальну інформацію про його бізнес-операції, включаючи політику конфіденційності та технології ШІ. заходи безпеки даних і процеси.

Цей лист є останнім кроком регуляторів щодо ретельного вивчення потенційних ризиків генеративного ШІ, типу штучного інтелекту, який можна використовувати для створення реалістичного та переконливого тексту, зображень і відео. ChatGPT був запущений з великим визнанням у листопаді, викликавши «гонку озброєнь» ШІ.

Читайте також: Чат-бот Bard AI від Google тепер читає зображення та розмовляє, поширюється на ЄС

ChatGPT звинувачують у завданні шкоди користувачам

У звітом, FTC розслідує, чи ChatGPT завдав людям шкоди, надаючи неправильні відповіді на їхні запитання. Він хоче знати, чи компанія «займалася несправедливими або оманливими методами конфіденційності чи безпеки даних», що завдало користувачам «шкоди репутації».

Федеральна торгова комісія запитала OpenAI про запобіжні заходи, які вона вжила, щоб запобігти створенню моделями штучного інтелекту «неправдивих, оманливих або зневажливих заяв про реальних людей».

Засновник і генеральний директор OpenAI Сем Альтман висловив розчарування тим, що він дізнався про розслідування FTC лише через витік інформації в Washington Post. писемність у Twitter Альтман сказав, що цей крок «не допоможе зміцнити довіру», але додав, що компанія співпрацюватиме з FTC.

«Для нас надзвичайно важливо, щоб наша технологія була безпечною та сприятливою для споживачів, і ми впевнені, що дотримуємося закону», — сказав він. «Ми захищаємо конфіденційність користувачів і розробляємо наші системи, щоб вивчати світ, а не приватних осіб».

Альтман також розповів про новітню технологію OpenAI GPT-4. Він сказав, що модель була «створена на основі багаторічних досліджень безпеки та витратила понад 6 місяців після того, як ми закінчили початкове навчання, щоб зробити її безпечнішою та більш узгодженою перед випуском».

«Ми прозоро ставимося до обмежень нашої технології, особливо коли ми не впораємося», — підкреслив генеральний директор.

На момент написання статті Федеральна торгова комісія ще не опублікувала офіційних коментарів.

Більше юридичних проблем для OpenAI

Розслідування FTC – не єдина юридична проблема OpenAI має турбуватися про. Як повідомляв MetaNews раніше повідомляє, OpenAI було пред’явлено до суду на 3 мільярди доларів у груповому позові, звинувачуючи творця ChatGPT у крадіжці даних користувачів.

Згідно зі скарга подано до федерального суду Каліфорнії 28 червня, OpenAI нібито використовував «викрадену особисту інформацію» для «навчання та розробки» своїх продуктів, включаючи ChatGPT 3.5, ChatGPT 4, Dall-E та Vall-E.

Минулого тижня комік Сара Сілверман і ще двоє авторів подано позов проти OpenAI і Meta, стверджуючи, що системи штучного інтелекту цих компаній навчалися на захищеному авторським правом матеріалі з їхніх книг без їхнього дозволу.

Автори стверджують, що компанії використовували «тіньові бібліотеки» матеріалів, захищених авторським правом, для навчання своїх систем ШІ, і що це є порушенням авторських прав.

Проблеми регулювання

Швидкий розвиток ШІ викликає занепокоєння щодо потенційних ризиків технології, таких як упередженість, дискримінація та порушення конфіденційності. У результаті регулятори в усьому світі починають приділяти пильну увагу галузі, що розвивається.

Уряди розглядають, як існуючі норми, такі як ті, що регулюють авторське право та конфіденційність даних, можуть бути застосовані до ШІ. Вони також розглядають нові правила, які можуть знадобитися. Двома ключовими напрямами уваги є дані, які вводяться в моделі AI, і контент, який вони створюють.

У Сполучених Штатах лідер більшості в Сенаті Чак Шумер закликав прийняти «всеохоплююче законодавство» для забезпечення захисту від ШІ, повідомляє Washington Post. Він також пообіцяв провести серію форумів пізніше цього року, спрямованих на «закладання нового фундаменту для політики ШІ».

Нещодавно Папа Франциск випущений керівні принципи відповідального розвитку ШІ. Китай і Європа також посилюють і налаштовують правила штучного інтелекту.

ПОДІЛИТИСЯ ЦІЄЮ ПУБЛІКАЦІЄЮ

Часова мітка:

Більше від МетаНовини