GuardRail OSS, проект с открытым исходным кодом, обеспечивает защиту для ответственной разработки ИИ

Ветераны отрасли разрабатывают структуру, которая поможет предприятиям создавать этические решения в области искусственного интеллекта

Проект с открытым исходным кодом обеспечивает основу для ответственной разработки искусственного интеллекта

САН-ФРАНЦИСКО – (BUSINESS WIRE) – Сегодня группа ветеранов корпоративного программного обеспечения запустила GuardRail OSS, проект с открытым исходным кодом, обеспечивающий практические меры для обеспечения ответственной разработки и развертывания искусственного интеллекта (ИИ). Созданная технологами, в том числе серийным предпринимателем Реувеном Коэном, генеральным директором Peripety Labs Марком Хинклем и ветераном ServiceNow и нынешним генеральным директором Opaque Systems Аароном Фулкерсоном, GuardRail OSS предлагает платформу на основе API для расширенного анализа данных, уменьшения предвзятости, анализа настроений, классификации контента и надзор, адаптированный к конкретным потребностям организации в области ИИ.

По мере быстрого развития возможностей искусственного интеллекта растет и потребность в подотчетности и надзоре для снижения рисков. GuardRail OSS предоставляет компаниям, желающим использовать ИИ, инструменты, позволяющие гарантировать ответственное и этичное функционирование их систем путем анализа входных данных, мониторинга выходных данных и управления вкладом ИИ. Доступность открытого исходного кода способствует прозрачности, позволяя при этом настраивать различные отраслевые приложения в научных кругах, здравоохранении, корпоративном программном обеспечении и т. д.

«ИИ предлагает важную возможность изменить как бизнес, так и общественный ландшафт, и его потенциал полностью реализуется только при условии ответственного развития», — заметил Реувен Коэн, разработчик ИИ, стоящий за GuardRail OSS. «Благодаря этой структуре предприятия получают не только инструменты надзора и анализа, но и средства для интеграции расширенных функций, таких как эмоциональный интеллект и принятие этических решений, в свои системы искусственного интеллекта. Речь идет о расширении возможностей ИИ при обеспечении прозрачности и подотчетности, установлении нового ориентира для прогрессивного и ответственного развития ИИ».

GuardRail OSS, поддерживаемый Opaque Systems и командой ветеранов отрасли, может стать широко используемым решением для внедрения подотчетности в разработке ИИ. По мере распространения ИИ в различных отраслях специально созданные ограждения и надзор обеспечат безопасность, уменьшат предвзятость и повысят доверие к системам ИИ. Будучи свободно доступным решением с открытым исходным кодом, GuardRail OSS подает пример предоставления практических инструментов и инфраструктур, прокладывающих путь к ответственному развитию искусственного интеллекта.

«Поскольку компании переводят модели большого языка из пилотных этапов в полномасштабное производство, мы наблюдаем всплеск спроса предприятий на надежный, безопасный и адаптируемый шлюз данных. Такой шлюз не только имеет решающее значение для обеспечения конфиденциальности и этики в ИИ, но также является ключом к использованию богатой информации, скрытой в исчерпывающих данных, которые, если их анализировать с ответственностью, могут раскрыть беспрецедентный интеллект», — сказал Ралука Ада Попа, известный специалист по искусственному интеллекту. и эксперт по безопасности, доцент Калифорнийского университета в Беркли, соучредитель инновационных RISELab и Skylab в Калифорнийском университете в Беркли, а также соучредитель Opaque Systems и Preveil. «В этой ситуации появление GuardRail OSS в качестве безопасной среды для развертывания ИИ является не просто своевременным, но и решающим. Это инструмент, который соответствует растущему спросу отрасли на механизмы, гарантирующие конфиденциальность данных и этичное использование ИИ».

О Реувене «rUv» Коэне

Реувен Коэн — опытный эксперт в области технологий, внесший огромный вклад в создание революционных инноваций. Его опыт охватывает облачные вычисления, искусственный интеллект и web3. Он вносит свой вклад в развитие ИИ в качестве альфа-/бета-тестера OpenAI. Реувен консультирует правительства, является соучредителем глобальной инициативы по облачным технологиям и возглавляет инициативы в некоторых крупнейших корпоративных системах искусственного интеллекта, включая недавнее развертывание генеративного искусственного интеллекта с участием 400,000 1.4 сотрудников и стоимостью XNUMX миллиарда долларов. Вы можете подписаться на него в LinkedIn (https://www.linkedin.com/in/reuvencohen/).

О непрозрачных системах

Непрозрачные системы (https://opaque.co) — лидер в области технологий конфиденциальности данных и искусственного интеллекта, новатор в области конфиденциальных вычислений для аналитики и искусственного интеллекта в RISElab Калифорнийского университета в Беркли. Opaque используется такими организациями, как Ant Group, IBM, Scotiabank и Ericsson. Opaque Systems недавно запустила Opaque Prompts (https://opaqueprompts.opaque.co/) как услугу, но разместил код под лицензией с открытым исходным кодом на Github (https://github.com/opaque-systems/opaqueprompts-python).

О лаборатории Перипети

Лаборатории Перипетии (https://peripety.com) — консалтинговая компания по искусственному интеллекту, основанная Марком Хинклем. Марк долгое время был сторонником открытого исходного кода и руководителем корпоративного программного обеспечения. Он был коммиттером Apache Software Foundation для Apache CloudStack и главным редактором журналов LinuxWorld и Enterprise Open Source Magazine. Он был руководителем Linux Foundation, Node.js Foundation и главой-основателем бизнес-офиса открытого исходного кода Citrix. Он издает еженедельный информационный бюллетень об искусственном интеллекте The Artificial Intelligence Enterprise (англ.https://www.theenterprise.io).

Контакты

Марк Хинкль

press@peripety.com
919.228.8049

Лаборатории Перипетии

www.peripety.com

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://thenewscrypto.com/guardrail-oss-open-source-project-provides-guardrails-for-responsible-ai-development/