bonus primeira aposta

Ex-empleado de alto rango de OpenAI afirma que la empresa detrás de ChatGPT prioriza los "productos brillantes" sobre la seguridad

Un 3️⃣ ex empleado de alto rango de OpenAI ha declarado que la empresa detrás de ChatGPT está priorizando los "productos brillantes" 3️⃣ sobre la seguridad, revelando que renunció después de que una desacuerdo sobre los objetivos clave alcanzara un "punto de ruptura".

Jan 3️⃣ Leike fue un destacado investigador de seguridad en OpenAI como codirector de la superalineación, garantizando que los sistemas de inteligencia 3️⃣ artificial potentes adhieran a los valores y objetivos humanos. Su intervención tiene lugar antes de una cumbre global de inteligencia 3️⃣ artificial en Seúl la próxima semana, donde políticos, expertos y ejecutivos de tecnología discutirán la supervisión de la tecnología.

Leike renunció 3️⃣ días después de que la empresa con sede en San Francisco lanzara su último modelo de IA, GPT-4o. Su partida 3️⃣ significa que dos figuras importantes de la seguridad de OpenAI han dejado este semana tras la renuncia de Ilya Sutskever, 3️⃣ codirector y cofundador de superalineación de OpenAI.

Leike detalló los motivos de su renuncia en un hilo de X publicado el 3️⃣ viernes, en el que escribió que la cultura de seguridad se había convertido en una prioridad menor.

"A lo largo de 3️⃣ los años, la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos llamativos", 3️⃣ escribió.

Consternación sobre la priorización de la seguridad en OpenAI

OpenAI fue fundada con el objetivo de garantizar que la inteligencia artificial 3️⃣ general, que describe como "sistemas de IA que son generalmente más inteligentes que los humanos", beneficie a toda la humanidad. 3️⃣ En sus publicaciones de X, Leike dijo que había estado en desacuerdo con los líderes de OpenAI sobre las prioridades 3️⃣ de la empresa durante algún tiempo, pero que el enfrentamiento había "llegado finalmente a un punto de ruptura".

Leike dijo que 3️⃣ OpenAI, que también ha desarrollado el generador de imágenes Dall-E y el generador de video Sora, debería estar invirtiendo más 3️⃣ recursos en problemas como la seguridad, el impacto social, la confidencialidad y la seguridad para su próxima generación de modelos.

"Estos 3️⃣ problemas son bastante difíciles de resolver, y estoy preocupado de que no estemos en un rumbo para llegar allí", escribió, 3️⃣ agregando que está resultando "cada vez más difícil" para su equipo realizar su investigación.

"Crear máquinas más inteligentes que los humanos 3️⃣ es una empresa inherentemente peligrosa. OpenAI está asumiendo una responsabilidad enorme en nombre de toda la humanidad", escribió Leike, agregando 3️⃣ que OpenAI "debe convertirse en una empresa de IA centrada en la seguridad".

Sam Altman, director ejecutivo de OpenAI, respondió al 3️⃣ hilo de Leike con una publicación en X en la que agradeció a su ex colega por sus contribuciones a 3️⃣ la cultura de seguridad de la empresa.

"Tiene razón, todavía tenemos mucho más por hacer; estamos comprometidos a hacerlo", escribió.

Sutskever, quien 3️⃣ también fue el jefe científico de OpenAI, escribió en su publicación de X anunciando su partida que confiaba en que 3️⃣ OpenAI "construirá AGI que sea segura y beneficiosa" bajo su actual liderazgo.

La advertencia de Leike se produjo cuando un panel 3️⃣ de expertos internacionales en IA publicó un informe inaugural sobre la seguridad de la IA, que