OpenAI establece un comité de seguridad y protección A medida que aumentan las preocupaciones sobre la IA

OpenAI, el creador de ChatGPT, dijo el martes que ha formado un comité de seguridad para evaluar los procesos y protecciones de la empresa. Esto se debe a las preocupaciones sobre el uso de tecnología de inteligencia artificial en rápida evolución. El comité espera tomar 90 días para completar su evaluación, después de lo cual presentará a toda la junta directiva de la compañía recomendaciones sobre decisiones críticas de seguridad para los proyectos y operaciones de OpenAI, dijo la compañía en una publicación de blog. El anuncio se produce después de que dos altos líderes, el cofundador Ilya Sutskever y su colega ejecutivo Jan Leike, hicieran el anuncio. Renunciar a la empresa Sus salidas generan preocupaciones sobre las prioridades de la empresa. Mientras ambos se centran en la importancia de garantizar un futuro seguro para la humanidad en medio del auge de la IA, Sutskever y Leike lideran un equipo llamado La superalineación de OpenAI, que tiene como objetivo crear un sistema para reducir los riesgos a largo plazo de la tecnología. El grupo fue asignado a «La cultura y los procesos de seguridad de OpenAI han pasado a un segundo plano frente a los productos brillantes», dijo Leike, el nuevo Comité de Seguridad de OpenAI está dirigido por el presidente de la junta, Bret Taylor, los directores Adam D’Angelo y Nicole Seligman, y el director ejecutivo Sam Altman. y los líderes políticos también están en el comité, dijo OpenAI “contratará y consultará con expertos en seguridad”. seguridad y otros técnicos para apoyar este trabajo”. La creación del comité se produce cuando la empresa comienza a trabajar en lo que llama capacitación. «Modelo de próxima frontera» para la inteligencia artificial “Como estamos orgullosos de construir y lanzar modelos que lideran la industria tanto en capacidades como en seguridad, Damos la bienvenida al intenso debate en este momento importante”, dijo OpenAI en una publicación de blog. El debate sobre el uso de la IA sigue siendo polémico en San Francisco. Incluido en el negocio del entretenimiento. Preocupada por el impacto de la tecnología en la propiedad intelectual y la posible dislocación de los trabajadores, la actriz Scarlett Johansson criticó a la compañía la semana pasada por su manejo y el de otros de la función de audio ChatGPT. Dijo que se parecía mucho a ella, Johansson, quien expresó el programa de inteligencia artificial en la película ganadora del Oscar “Her” de Spike Jonze, dijo que Altman se acercó a ella para prestar su voz, pero ella se negó, solo para ser escuchada. Sonó como si su voz se escuchara en una demostración de OpenAI. OpenAI luego dijo que la voz que se muestra en la demostración no era la voz de Johansson, sino la de otro actor. Después de que Johansson dio la alarma, OpenAI retuvo la opción de voz «Sky» temporalmente. es una de las voces humanas disponibles en la aplicación Un portavoz de OpenAI dijo que la creación del comité de seguridad no estaba relacionada con los problemas relacionados con OpenAI, que es mejor conocido. ChatGPT y Sora, una herramienta de conversión de texto a video, tienen el potencial de tener importantes ramificaciones para cineastas y estudios, OpenAI y otras empresas de tecnología. Está en conversaciones con Hollywood mientras la industria del entretenimiento lidia con el impacto a largo plazo de la IA en el empleo y la creatividad. Algunos directores de cine y televisión dicen que la IA les ayuda a pensar con más audacia. Probando varias ideas Sin limitaciones en efectos visuales y presupuestos de viajes, a otros les preocupa que una mayor eficiencia a través de herramientas de inteligencia artificial pueda reducir el trabajo en áreas como maquillaje, producción y animación. Frente a cuestiones de seguridad, el negocio de OpenAI, que cuenta con el respaldo de Microsoft, también tiene que lidiar con la competencia de otras empresas que están construyendo sus propios negocios. Anthropic, la herramienta de inteligencia artificial y financiación colectiva con sede en San Francisco, ha recaudado miles de millones de dólares de Amazon y Google. El domingo, xAI, liderada por Elon Musk, anunció el cierre de una ronda de financiación de 6.000 millones de dólares. Para ser utilizado en investigación y desarrollo. construir infraestructura y lanzó el primer producto al mercado.