Изучение рисков и альтернатив ChatGPT: прокладывание пути к надежному ИИ

Вы готовите коктейль для своих друзей. Уже смешанный с ассорти из фруктов и йогурта, ваш друг Ручир приходит со спелым яблоком и дает его вам для завершения вашего освежающего шедевра. Теперь, когда напиток наливается, вы почти все еще чувствуете запах яблока. Перед первым глотком Ручир говорит: «Я передумал, мне нужно уйти, и я хотел бы вернуть свое яблоко». Вы отвечаете: «Ах, извините, но это просто невозможно». Мы вернемся к этой истории через минуту и ​​объясним, как она связана с ChatGPT и надежный ИИ.

Как мир искусственный интеллект (ИИ) развивается, появляются новые инструменты, такие как OpenAI-х ChatGPT привлек внимание своими диалоговыми возможностями. Тем не менее, я также понимаю важность оценки неотъемлемых рисков, прежде чем приступать к ее прямому внедрению в наших организациях. В этом обсуждении я исследую риски и проблемы, связанные с ChatGPT в корпоративном контексте, что требует тщательного подхода к его реализации. Кроме того, я подчеркну важность перехода на IBM Watsonx для обеспечения надежный ИИ решения. И если вы сомневаетесь, я рекомендую вам руководствоваться тем же здравым смыслом, который вы всегда использовали при использовании новых интернет-услуг.

Эволюция инструментов ИИ

ChatGPT использует огромную мощь GPT-3 и GPT-4, принадлежащий новый класс «гигантских» и широко популярных больших языковых моделей, используемых в различных приложениях ИИ. С помощью ChatGPT пользователи могут задавать вопросы, генерировать текст, составлять черновики электронных писем, обсуждать код на разных языках программирования, переводить естественный язык в код и многое другое. Он выделяется как высококачественный диалоговый чат-бот, цель которого — давать связные и контекстно-зависимые ответы.

ChatGPT — отличный инструмент для исследования творческого письма, генерации идей и взаимодействия с ИИ. Это бесплатно для всех, более продвинутая версия доступна для ЧатGPT Plus подписчики. Способность чат-бота запоминать предыдущие разговоры делает его интерактивным и увлекательным.  

Хотя ChatGPT завоевал значительное внимание и популярность, он сталкивается с конкуренцией со стороны других чат-ботов на базе ИИ и обработки естественного языка (НЛП) системы. Google, например, разработал Bard, своего чат-бота с искусственным интеллектом, работающего на собственном языковом движке под названием Палм 2. Точно так же Meta недавно выпустила впечатляющий Модель LLaMA2. По мере того, как область чат-ботов с искусственным интеллектом продолжает развиваться, безусловно, будет возрастать конкуренция и появляться новые игроки. Важно быть в курсе достижений в этой области, чтобы исследовать лучшие решения для нужд предприятия.

Почему бы не использовать ChatGPT непосредственно на предприятии?

Прямое использование ChatGPT на предприятии сопряжен с рисками и проблемами. К ним относятся безопасность и утечка данных, проблемы конфиденциальности и ответственности, сложности интеллектуальной собственности, соответствие лицензиям с открытым исходным кодом, ограничения на разработку ИИ, а также неопределенность конфиденциальности и соблюдение международных законов. Здесь я исследую эти риски и делюсь примерами, иллюстрирующими, как эти риски могут проявляться в вашей повседневной деятельности предприятия.

Я начну с изучения альтернативных решений, направленных на снижение рисков, связанных с непосредственным использованием ChatGPT, в том числе IBM уотсонкс, который я рекомендую для корпоративного использования, поскольку он решает проблемы владения данными и конфиденциальности посредством тщательного контроля и управления. Я завершу этот разговор, вернув вас к истории о смузи, обещаю, но когда я буду упоминать «ваши данные» ниже, не стесняйтесь заменять фразу на «ваше яблоко».

Перед изучением альтернативных решений компаниям крайне важно помнить о потенциальных рисках и проблемах, связанных с непосредственным использованием ChatGPT. Здравый смысл напоминает, что история Интернета показала появление и развитие новых сервисов (например, поиск Google, платформы социальных сетей и т. д.), что подчеркивает важность конфиденциальности данных и права собственности на предприятии. Имея это в виду, вот основные факторы, которые следует принять во внимание:

Безопасность и утечка данных

Если конфиденциальная информация третьих лиц или внутренняя информация компании вводится в ChatGPT, она становится частью модели данных чат-бота и может быть передана другим лицам, которые задают соответствующие вопросы. Это может привести к утечке данных и нарушению политик безопасности организации.

Пример. Планы нового продукта, который ваша команда помогает запустить клиенту, включая конфиденциальные спецификации и маркетинговые стратегии, не должны передаваться в ChatGPT, чтобы избежать риска утечки данных и потенциальных нарушений безопасности.

Конфиденциальность и приватность

Как и в предыдущем пункте, раскрытие конфиденциальной информации о клиентах или партнерах может привести к нарушению договорных соглашений и юридических требований по защите такой информации. Если безопасность ChatGPT будет скомпрометирована, может произойти утечка конфиденциального контента, что может повлиять на репутацию организации и привести к ответственности.

Пример. Предположим, организация здравоохранения использует ChatGPT для помощи в ответах на запросы пациентов. Если конфиденциальная информация о пациенте, такая как медицинские записи или личные данные о здоровье, передается ChatGPT, это может потенциально нарушать юридические обязательства и права пациентов на неприкосновенность частной жизни, защищенные такими законами, как HIPAA (Закон о переносимости и подотчетности медицинского страхования) в США.

Проблемы интеллектуальной собственности

Право собственности на код или текст, сгенерированный ChatGPT, может быть сложным. В Условиях обслуживания указано, что выходные данные принадлежат поставщику входных данных, но могут возникнуть проблемы, если выходные данные содержат защищенные законом данные, полученные из других источников. Вопросы авторского права также может возникнуть, если ChatGPT используется для создания письменных материалов на основе собственности, защищенной авторским правом.

Пример. Создание письменных материалов в маркетинговых целях, а результат включает защищенный авторским правом контент из внешних источников без надлежащей атрибуции или разрешения, это потенциально может нарушить права интеллектуальной собственности создателей оригинального контента. Это может привести к юридическим последствиям и репутационному ущербу для компании.

Соответствие лицензиям с открытым исходным кодом

Если ChatGPT использует библиотеки с открытым исходным кодом и включает этот код в продукты, это может привести к нарушению лицензий на программное обеспечение с открытым исходным кодом (OSS) (например, GPL), что приводит к юридическим осложнениям для организации.

Пример: если компания использует ChatGPT для создания кода для программного продукта, а происхождение обучающих данных, используемых для обучения GPT, неясно, существует риск потенциального нарушения условий лицензий с открытым исходным кодом, связанных с этим кодом. Это может привести к юридическим осложнениям, включая иски о нарушении лицензии и возможные судебные иски со стороны сообщества разработчиков открытого исходного кода.

Ограничения на разработку ИИ

В условиях обслуживания ChatGPT указано, что его нельзя использовать при разработке других систем ИИ. Использование ChatGPT таким образом может помешать будущим планам развития ИИ, если компания будет работать в этом направлении.

Пример. Компания, специализирующаяся на технологии распознавания голоса, планирует усовершенствовать свою существующую систему, интегрировав возможности обработки естественного языка ChatGPT. Однако в условиях обслуживания ChatGPT прямо указано, что его нельзя использовать при разработке других систем ИИ.

Повышенная надежность с IBM watsonx

Возвращаясь к нашей истории о смузи, публичный ChatGPT использует данные ваших подсказок для улучшения своей нейронной сети, например, как яблоко добавляет вкус смузи. Как только ваши данные попадают в ChatGPT, например, в яблочную смесь, вы не можете контролировать или знать, как они используются. Следовательно, нужно быть уверенным, что у него есть полные права на включение своего яблока, и что оно, так сказать, не содержит конфиденциальных данных.

Чтобы решить эти проблемы, IBM watsonx предлагает проверенные и прозрачные данные и модели, обеспечивающие больший контроль и уверенность при создании и использовании вашего смузи. Проще говоря, если Ручир попросит вернуть свое яблоко, watsonx выполнит его просьбу. Ну вот…. Аналогия и история завершена.

IBM watsonx представляет три ключевые функции: watsonx.data, watsonx.aiи watsonx.управление - которые сотрудничают с установить надежный ИИ способом, которого еще нет в моделях OpenAI. Эти функции курируют и маркируют данные и модели ИИ, обеспечивая прозрачность сведений о происхождении и владении. Они также управляют моделями и данными, устраняя текущие проблемы дрейфа и систематической ошибки. Этот строгий подход эффективно снижает проблемы владения данными и конфиденциальности, обсуждаемые в этой статье.

IBM сотрудничает с Обнимая лицо, компания с открытым исходным кодом, для создания экосистемы моделей. Обе компании используют функции watsonx для отбора и одобрения моделей на основе их функциональности и надежности.

Вперед с ИИ

Прямое использование чат-ботов с искусственным интеллектом, таких как ChatGPT, на предприятии сопряжено с рисками, связанными с безопасностью, утечкой данных, конфиденциальностью, ответственностью, интеллектуальной собственностью, соблюдением нормативных требований, ограничениями на разработку искусственного интеллекта и конфиденциальностью. Эти риски могут иметь пагубные последствия для организаций, включая ущерб репутации и дорогостоящие юридические осложнения.

Для снижения этих рисков и создания надежного искусственного интеллекта в качестве рекомендуемого решения выступает IBM watsonx. Он предлагает тщательно отобранные и помеченные данные и модели искусственного интеллекта, обеспечивая прозрачность прав собственности и происхождения. Он решает проблемы, связанные с предвзятостью и дрейфом, обеспечивая дополнительный уровень доверия. IBM watsonx обеспечивает баланс между инновациями и ответственным использованием ИИ. Более того, сотрудничество между IBM и Hugging Face укрепляет экосистему моделей.

Хотя watsonx предлагает повышенное доверие и точность, в настоящее время немногие модели могут соответствовать широкому спектру общего использования, наблюдаемому в ChatGPT и семействе моделей GPT. Область моделей ИИ продолжает развиваться, и можно ожидать постоянных улучшений. Чтобы обеспечить оптимальные результаты, важно понимать, как модели оцениваются и обучаются. Эти знания позволяют принимать обоснованные решения и позволяют организациям выбирать модели, которые наилучшим образом соответствуют их потребностям и стандартам качества.

Внедряя watsonx, организации могут использовать возможности ИИ, сохраняя при этом контроль над своими данными и обеспечивая соблюдение этических и правовых норм. Они могут защищать свои данные, защищать свою интеллектуальную собственность и укреплять доверие заинтересованных сторон, пользуясь при этом тщательно подобранными моделями и повышенной прозрачностью. Поскольку предприятия ориентируются в сфере ИИ, крайне важно действовать осторожно, изучая решения и отдавая приоритет надежному ИИ.

Следите за подкастом Art of AI for Business

^{Время от времени IBM приглашает лидеров отрасли поделиться своим мнением и идеями о текущих технологических тенденциях. Мнения в этом сообщении в блоге являются их собственными и не обязательно отражают взгляды или стратегии IBM.}