OpenAI y Common Sense Media hacen que la IA sea segura para los adolescentes

Reeditado por Platón

seguidores: 0

OpenAI, la empresa pionera en inteligencia artificial (IA), ha forjado recientemente una asociación con Common Sense Media, una organización sin fines de lucro dedicada a evaluar la idoneidad de los medios y la tecnología para los niños. Esta colaboración tiene como objetivo establecer pautas integrales de IA y materiales educativos diseñados para adolescentes y familias. El esfuerzo refleja un compromiso colectivo para hacer que la IA sea accesible y al mismo tiempo mitigar los riesgos potenciales. En este artículo profundizamos en los aspectos clave de esta asociación estratégica y sus implicaciones para el futuro de las aplicaciones de IA.

Lea también Estados Unidos establece reglas para el desarrollo seguro de la IA

Generar confianza a través de la colaboración

OpenAI, reconociendo la importancia de ganarse la confianza entre los padres y los formuladores de políticas, se ha alineado estratégicamente con organizaciones dedicadas a minimizar los daños potenciales que surgen de la tecnología y la exposición a los medios para los jóvenes. La asociación con Common Sense Media marca un paso significativo hacia el establecimiento de pautas y recursos educativos que prioricen la seguridad y el uso responsable de las herramientas de IA.

Lea también 4 gigantes tecnológicos: OpenAI, Google, Microsoft y Anthropic se unen para una IA segura

Marco de sentido común para productos de IA

La asociación entre OpenAI y Common Sense Media sigue a la introducción del marco de Common Sense, lanzado en septiembre, diseñado para evaluar la seguridad, la transparencia, el uso ético y el impacto general de los productos de IA. Este marco tiene como objetivo proporcionar una “etiqueta nutricional” clara para las aplicaciones impulsadas por IA, arrojar luz sobre cómo se utilizan estas aplicaciones y resaltar áreas potenciales de oportunidad y daño.

Selección de GPT para familias

Como parte de la colaboración, OpenAI trabajará en estrecha colaboración con Common Sense Media para seleccionar GPT (Transformadores generativos preentrenados) “familiares” dentro de la Tienda GPT. Estas aplicaciones de chatbot impulsadas por IA, basadas en OpenAI Modelos GenAI, se adherirá a los estándares de calificación y evaluación de Common Sense. Esta iniciativa tiene como objetivo garantizar que las herramientas de inteligencia artificial, como el ampliamente utilizado ChatGPT, se alineen con los valores de seguridad e idoneidad establecidos por Common Sense Media.

Lea también ¿Qué es la Tienda GPT? ¿Cómo acceder a él?

OpenAI y Common Sense Media establecen pautas para el uso seguro de la IA

Abordar las preocupaciones y dar forma al futuro

OpenAI enfrenta una presión cada vez mayor por parte de los reguladores para demostrar los beneficios sociales de sus aplicaciones impulsadas por GenAI, especialmente a la luz de las preocupaciones sobre el manejo de datos y los sesgos presentes en los sistemas de IA. El esfuerzo de colaboración con Common Sense Media enfatiza un enfoque proactivo para abordar desafíos potenciales y garantizar que la IA, en particular herramientas como ChatGPT, tiene un impacto positivo en los adolescentes y las familias.

Lea también El director de confianza y seguridad de OpenAI dimite: ¿Cuál es el impacto en ChatGPT?

Nuestro dicho

La asociación entre OpenAI y Common Sense Media significa un paso fundamental hacia el desarrollo y uso responsable de la IA. Al combinar esfuerzos para crear directrices, materiales educativos y modelos de IA aptos para familias, la colaboración tiene como objetivo fomentar un entorno de IA más seguro y accesible para adolescentes y familias. A medida que el panorama digital continúa evolucionando, este tipo de iniciativas se vuelven esenciales para dar forma a un futuro en el que la IA contribuya positivamente a la educación y el desarrollo personal.

Siganos en noticias de Google para mantenerse actualizado con las últimas innovaciones en el mundo de la inteligencia artificial, la ciencia de datos y GenAI.