GuardRail OSS, projet Open Source, fournit des garde-fous pour un développement responsable de l'IA

Des vétérans du secteur développent un cadre pour aider les entreprises à créer des solutions d'IA éthiques

Un projet Open Source fournit des garde-fous pour un développement responsable de l'IA

SAN FRANCISCO–(BUSINESS WIRE)–Aujourd'hui, un groupe de vétérans des logiciels d'entreprise a lancé GuardRail OSS, un projet open source fournissant des garde-fous pratiques pour garantir le développement et le déploiement responsables de l'intelligence artificielle (IA). Créé par des technologues, dont l'entrepreneur en série Reuven Cohen, le PDG de Peripety Labs Mark Hinkle et le vétéran de ServiceNow et actuel PDG d'Opaque Systems Aaron Fulkerson, GuardRail OSS offre un cadre piloté par API pour l'analyse avancée des données, l'atténuation des biais, l'analyse des sentiments, la classification du contenu et une surveillance adaptée aux besoins spécifiques d’une organisation en matière d’IA.

À mesure que les capacités d’intelligence artificielle ont progressé rapidement, la demande de responsabilité et de surveillance pour atténuer les risques a également augmenté. GuardRail OSS fournit aux entreprises qui cherchent à tirer parti de l'IA les outils nécessaires pour garantir que leurs systèmes agissent de manière responsable et éthique en analysant les entrées de données, en surveillant les sorties et en guidant les contributions de l'IA. Sa disponibilité open source favorise la transparence tout en permettant la personnalisation pour différentes applications industrielles dans les domaines universitaire, de la santé, des logiciels d'entreprise, etc.

« L'IA offre une opportunité importante de remodeler les paysages commerciaux et sociétaux, et son potentiel n'est pleinement réalisé que lorsqu'il est ancré dans un développement responsable », a fait remarquer Reuven Cohen, le développeur d'IA derrière GuardRail OSS. « Grâce à ce cadre, les entreprises bénéficient non seulement d'outils de surveillance et d'analyse, mais également des moyens d'intégrer des fonctionnalités avancées telles que l'intelligence émotionnelle et la prise de décision éthique dans leurs systèmes d'IA. Il s'agit d'améliorer les capacités de l'IA tout en garantissant la transparence et la responsabilité, établissant ainsi une nouvelle référence pour l'évolution progressive et responsable de l'IA.

Soutenu par Opaque Systems et une équipe de vétérans de l'industrie, GuardRail OSS est en passe de devenir une solution largement utilisée pour inculquer la responsabilité dans le développement de l'IA. À mesure que l’IA prolifère dans tous les secteurs, des garde-fous et une surveillance spécialement conçus garantiront la sécurité, réduiront les préjugés et développeront la confiance dans les systèmes d’IA. En tant que solution open source disponible gratuitement, GuardRail OSS montre l'exemple en fournissant des outils et des cadres pratiques pour ouvrir la voie à l'avancement responsable de l'IA.

« Alors que les entreprises font passer les grands modèles linguistiques des phases pilotes à la production à grande échelle, nous assistons à une augmentation de la demande des entreprises pour une passerelle de données robuste, sécurisée et adaptable. Une telle passerelle est non seulement cruciale pour garantir la confidentialité et l’éthique de l’IA, mais elle est également essentielle pour exploiter les riches informations latentes dans l’épuisement des données, qui, lorsqu’elles sont analysées de manière responsable, peuvent débloquer des renseignements sans précédent », a déclaré Raluca Ada Popa, spécialiste renommée de l’IA. et expert en sécurité, professeur agrégé à l'UC Berkeley, co-fondateur des solutions innovantes RISELab et Skylab à l'UC Berkeley, et co-fondateur d'Opaque Systems et Preveil. « Dans ce paysage, l’avènement de GuardRail OSS en tant que cadre sécurisé pour le déploiement de l’IA est non seulement opportun mais crucial. Il s’agit d’un outil qui répond à la demande croissante du secteur pour des mécanismes garantissant la confidentialité des données et une utilisation éthique de l’IA.

À propos de Reuven « rUv » Cohen

Reuven Cohen est un expert technologique chevronné qui a un impact profond sur les innovations révolutionnaires. Son expertise couvre le cloud computing, l'IA et le web3. Il contribue aux progrès de l'IA en tant qu'alpha/beta testeur pour OpenAI. Reuven conseille les gouvernements, a cofondé une initiative mondiale de cloud computing et dirige des initiatives dans certains des plus grands systèmes d'IA d'entreprise, y compris un récent déploiement d'IA générative de 400,000 1.4 employés et d'une valeur de XNUMX milliard de dollars. Vous pouvez le suivre sur LinkedIn (https://www.linkedin.com/in/reuvencohen/).

À propos des systèmes opaques

Systèmes opaques (https://opaque.co) est le leader des technologies de confidentialité pour les données et l'IA, pionnier de l'informatique confidentielle pour l'analyse et l'IA au RISElab de l'UC Berkeley. Opaque est utilisé par des organisations telles que Ant Group, IBM, Scotiabank et Ericsson. Opaque Systems a récemment lancé Opaque Prompts (https://opaqueprompts.opaque.co/) en tant que service mais a publié le code sous licence open source sur Github (https://github.com/opaque-systems/opaqueprompts-python).

À propos de Peripety Labs

Laboratoires de péripétie (https://peripety.com) est un cabinet de conseil en IA fondé par Mark Hinkle. Mark est un défenseur de longue date de l'open source et un responsable des logiciels d'entreprise. Il a été commissaire de l'Apache Software Foundation pour Apache CloudStack et rédacteur en chef de LinuxWorld et Enterprise Open Source Magazine. Il a été cadre à la Linux Foundation, à la Node.js Foundation et directeur fondateur du bureau d'affaires Open Source de Citrix. Il publie une newsletter hebdomadaire sur l'intelligence artificielle, The Artificial Intelligence Enterprise (https://www.theenterprise.io).

Contacts

Mark Hinkle

press@peripety.com
919.228.8049

Laboratoires de péripétie

www.peripety.com

• Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
• PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
• PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
• PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
• PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
• La source: https://thenewscrypto.com/guardrail-oss-open-source-project-provides-guardrails-for-responsible-ai-development/