После того, как нью-йоркский адвокат на прошлой неделе признался, что ссылался на несуществующие судебные дела, которые были галлюцинированы программным обеспечением OpenAI ChatGPT, судья из Техаса поручил адвокатам в своем суде подтвердить, что они либо не использовали искусственный интеллект для подготовки своих юридических документов, либо если они это сделают, то результат будет проверен человеком.
«Эти платформы в их нынешнем состоянии склонны к галлюцинациям и предвзятости», — говорится в сообщении. отметил от судьи Брантли Старра из Северного округа Техаса. «О галлюцинациях придумывают всякую ерунду – даже цитаты и цитаты.
«Еще одна проблема — надежность или предвзятость. В то время как адвокаты клянутся отказаться от своих личных предубеждений, предубеждений и убеждений, чтобы добросовестно соблюдать закон и представлять своих клиентов, генеративный искусственный интеллект — это продукт программирования, разработанный людьми, которым не приходилось приносить такую клятву.
«Как таковые, эти системы не подчиняются ни одному клиенту, верховенству закона, законам и Конституции Соединенных Штатов (или, как говорилось выше, истине). Не связанные никаким чувством долга, чести или справедливости, такие программы действуют в соответствии с компьютерным кодом, а не убеждениями, основанными на программировании, а не на принципах. Любая сторона, считающая, что платформа обладает необходимой точностью и надежностью для юридического брифинга, может подать заявление об отпуске и объяснить, почему».
Далее в записке судьи поясняется, что его суд отменит любое заявление адвоката, который не предоставит необходимое подтверждение того, что эти условия были прочитаны и поняты.
Судья Старр не был доступен для комментариев.
Не редкая проблема
Заметка опубликована на Вторник, Май 30. Это следует за осуждением судьи Нью-Йорка 26 мая. Приказ показать причину [PDF] поручает адвокатам истца, подающего иск к колумбийской авиакомпании Avianca SA, объяснить, почему к ним не следует применять санкции за «ссылку на несуществующие дела».
Адвокаты истца признались в письменных показаниях, что они представили «суду копии несуществующих судебных заключений» и «использовали ложное и мошенническое нотариальное заверение».
По сути, адвокаты использовали ChatGPT для поиска предыдущих дел, чат-бот придумывал эти дела, а юристы цитировали их в документах, как если бы они были реальными. Затем защита вызвала команду юристов, которая признала свою ошибку.
Судью Кевина Кастеля, как вы понимаете, это не впечатлило. Свой гнев он направил на адвокатов истца. Мата против Avianca, Inc. (1:22-cv-01461), который выступил против попытки защиты отклонить иск о телесных повреждениях, ссылаясь на Варгезе против South China Airlines Co Ltd, Шабун против Egyptairи Петерсен против Иранской авиакомпании, среди других судебных дел, воображаемых машиной.
Регистр попросил прокомментировать юридическую фирму истца «Левидов, Левидов и Оберман», но на наш звонок не ответили.
У нас ранее списанных о том, что ChatGPT изобретает некрологи для живых людей, вплоть до создания URL-адресов к несуществующим газетным некрологам, поэтому неудивительно, что бот, генерирующий текст, составляет судебные дела. OpenAI предупреждает, что ее система «иногда может генерировать неверную информацию», что кажется незначительным, учитывая готовность модели уверенно предоставлять неверную информацию.
В этом письменное показание под присягой [PDF] адвокат-нарушитель сказал, что он «очень сожалеет о том, что использовал генеративный искусственный интеллект в дополнение к юридическому исследованию, проведенному в настоящем документе, и никогда не будет делать этого в будущем без абсолютной проверки его подлинности».
Хотя дело в Нью-Йорке, по-видимому, является первой судебной осечкой, основанной на искусственном интеллекте, которая привлекла внимание общественности, есть требования другие фальшивые цитаты из дела не произошло.
Стивен Ву, акционер юридической группы Кремниевой долины и председатель Американской ассоциации адвокатов. Национальный институт искусственного интеллекта и робототехники, Сказал Регистр что, хотя ему неизвестны случаи выдумки ИИ, помимо дела Нью-Йорка, он ожидает, что есть и другие.
Правила есть правила
На вопрос, должны ли юристы знать лучше или может ли новинка генеративного искусственного интеллекта каким-то образом смягчить ситуацию, Ву ответил однозначно.
«В моей книге нет оправданий», — сказал Ву. «Существуют правила профессионального поведения, и они гласят, что если вы собираетесь делегировать какую-либо ответственность по юридическому вопросу, вы обязаны контролировать людей, которым вы делегируете это дело».
Ву сказал, что эти правила предназначены для помощников юристов или помощников, но должны применяться и к генеративному ИИ.
В моей книге нет оправданий
«Я читал, что в эпоху генеративного искусственного интеллекта, чтобы сказать, что если вы делегируете что-то искусственному интеллекту, вам необходимо контролировать этот искусственный интеллект и проверять его результаты, чтобы убедиться, что он соответствует стандарту компетентности, который требуется от юристов. встретиться», — пояснил он.
Ву сказал, что в законе предусмотрена роль инструментов искусственного интеллекта, но эта роль должна быть подчинена человеку. Он сказал, что ожидает, что генеративный ИИ окажется более полезным для таких задач, как создание контрактов, где есть больше места для различных формулировок и интерпретаций. В судебных документах, по его словам, «ставки несколько выше, потому что вам придется расставить точки над каждым «i» и зачеркнуть каждое «t».
Он также считает, что требования к сертификации судей Техаса могут быть приняты более широко.
«Постоянный приказ судьи о том, чтобы не полагаться исключительно на генеративный искусственный интеллект, может стать местным правилом в конкретных судах», — сказал Ву.
«И мне кажется, что консультативный комитет по федеральным правилам и его эквиваленты на уровне штатов могут захотеть изменить правила процедуры. Например, концепция постоянного распоряжения судьи Техаса о подтверждении отказа от использования генеративного ИИ или, по крайней мере, проверки реальных источников может вписаться в Федеральное правило гражданского судопроизводства 11 (b)».
Американская ассоциация адвокатов на своем полугодовом заседании в феврале приняла разрешение [PDF] призывает организации, разрабатывающие, проектирующие и внедряющие системы искусственного интеллекта, обеспечить, чтобы люди контролировали эти модели, чтобы отдельные лица и организации несли ответственность за вред, причиненный нейронными сетями и т.п., и чтобы разработчики этих систем реализовывали их соответствующим образом. это прозрачно и поддается проверке, а также уважает интеллектуальную собственность. Удачи.
У сказал, что необходимость разобраться, как технологические изменения влияют на закон, возникла около десяти лет назад в Этический проект ABA 20/20. «Помимо прочего, в нем говорилось о том, что обязанность юристов обеспечивать компетентность требует компетентности в понимании технологий, и как это связано с юридической практикой и использованием технологий для юридической практики», — сказал он.
Ву ожидает дальнейшего обсуждения роли генеративного ИИ в законодательстве. «Я ожидаю, что нам придется немного поработать над этим комитетом, чтобы попытаться внести изменения в типовые правила ABA», — сказал он. ®
- SEO-контент и PR-распределение. Получите усиление сегодня.
- ПлатонАйСтрим. Анализ данных Web3. Расширение знаний. Доступ здесь.
- Чеканка будущего с Эдриенн Эшли. Доступ здесь.
- Покупайте и продавайте акции компаний PREIPO® с помощью PREIPO®. Доступ здесь.
- Источник: https://go.theregister.com/feed/www.theregister.com/2023/05/31/texas_ai_law_court/
- :имеет
- :является
- :нет
- :куда
- $UP
- 1
- 26
- a
- О нас
- выше
- Absolute
- По
- подотчетный
- точность
- Действие (Act):
- адрес
- признал
- принял
- консультативный
- влиять на
- против
- возраст
- тому назад
- AI
- Системы искусственного интеллекта
- авиакомпания
- Авиакомпании
- причислены
- американские
- среди
- an
- и
- Другой
- предвидеть
- любой
- Применить
- архив
- МЫ
- искусственный
- искусственный интеллект
- AS
- помощник
- Объединение
- At
- внимание
- адвокат
- привлекать
- подлинность
- доступен
- бар
- основанный
- BE
- , так как:
- становиться
- было
- считает,
- верить
- Лучшая
- Beyond
- смещение
- предубеждения
- Немного
- книга
- Бот
- брифинг
- широко
- но
- by
- призывают
- под названием
- вызова
- пришел
- CAN
- случаев
- случаев
- Сертификация
- удостоверять
- Кресла
- изменение
- изменения
- ChatGPT
- проверка
- контроль
- Китай
- China Airlines
- утверждать
- клиент
- клиентов
- CO
- код
- как
- комментарий
- комитет
- компьютер
- сама концепция
- Проводить
- уверенно
- Конституция
- контрактов
- убеждение
- копии
- может
- корт
- судебные дела
- Судебные документы
- Суды
- Пересекать
- Текущий
- десятилетие
- Защита
- запросы
- развертывание
- проектирование
- застройщиков
- развивающийся
- DID
- руководство
- обсуждение
- Принять
- район
- do
- Документация
- сделанный
- DOT
- усилие
- или
- обеспечивать
- эквиваленты
- ошибка
- Эфир (ETH)
- этика
- Даже
- Каждая
- надеется
- Объяснять
- объяснены
- не удается
- ложный
- далеко
- февраль
- Федеральный
- Подача
- опилки
- Фирма
- First
- соответствовать
- следующим образом
- Что касается
- и мошенническими
- от
- далее
- будущее
- порождать
- порождающий
- генеративный
- Генеративный ИИ
- данный
- идет
- будет
- хорошо
- значительно
- группы
- было
- доказательств вреда
- Есть
- имеющий
- he
- Герой
- высший
- его
- держать
- Как
- HTTPS
- человек
- Людей
- i
- if
- картина
- осуществлять
- впечатленный
- in
- лиц
- info
- информация
- пример
- интеллектуальный
- интеллектуальная собственность
- Интеллекта
- предназначенных
- интерпретация
- Изобретенный
- включая Иран
- вопрос
- IT
- ЕГО
- JPG
- судья
- судебный
- Юстиция
- Знать
- Фамилия
- закон
- юридическая фирма
- Законодательство
- Адвокаты
- наименее
- Оставлять
- Юр. Информация
- команда юристов
- такое как
- Судебный процесс
- мало
- жизнью
- локальным
- посмотреть
- удачи
- сделанный
- сделать
- ДЕЛАЕТ
- Вопрос
- Май..
- Встречайте
- заседания
- Соответствует
- В середине года
- может быть
- Осечка
- смягчать
- модель
- Модели
- БОЛЕЕ
- двигаться
- my
- национальный
- Необходимость
- сетей
- нервный
- нейронные сети
- никогда
- Новые
- New York
- нью-йоркский судья
- нет
- новинка
- Присяга
- произошло
- of
- on
- OpenAI
- Мнения
- против
- or
- заказ
- организация
- организации
- Другое
- Другое
- наши
- внешний
- выходной
- надзирать
- вечеринка
- Люди
- выполнены
- человек
- личного
- Платформа
- Платформы
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- практика
- предрассудки
- Подготовить
- предыдущий
- принцип
- Продукт
- профессиональный
- Программирование
- Программы
- собственность
- Доказывать
- что такое варган?
- опубликованный
- положил
- кавычки
- скорее
- RE
- Читать
- Готовность
- реальные
- сожаления
- надежность
- опираясь
- представлять
- обязательный
- требование
- требуется
- реквизит
- исследованиям
- относительно
- ответственность
- Итоги
- робототехника
- Роли
- Комната
- Правило
- условиями,
- s
- Сказал
- санкционированные
- сообщили
- кажется
- смысл
- набор
- акционер
- должен
- показывать
- кремний
- Кремниевая долина
- ситуация
- So
- Software
- только
- удалось
- в некотором роде
- Источники
- Южная
- конкретный
- стандарт
- Область
- Области
- удар
- отправить
- представленный
- такие
- дополнять
- сюрприз
- система
- системы
- задачи
- команда
- технологический
- Технологии
- terms
- Техас
- чем
- который
- Ассоциация
- Будущее
- закон
- их
- Их
- тогда
- Там.
- Эти
- они
- вещи
- те
- в
- инструменты
- прозрачный
- Правда
- стараться
- Обычный
- понимание
- понимать
- Объединенный
- США
- поддерживать
- использование
- используемый
- через
- использовать
- Долина
- Ve
- проверка
- проверено
- хотеть
- предупреждает
- законопроект
- Путь..
- we
- неделя
- были
- когда
- будь то
- который
- в то время как
- КТО
- зачем
- будете
- в
- без
- формулировка
- Работа
- Неправильно
- wu
- йорк
- являетесь
- зефирнет