OpenAI suprime su departamento de análisis de riesgos de la IA

Tan solo cuatro días después de presentar ChatGPT-40, la nueva versión de su famoso chatbot, OpenAI ha suprimido su departamento enfocado en analizar los riesgos a futuro de la inteligencia artificial, según informan este viernes medios estadounidenses especializados.

Esta división, denominada Superalignment, tenía previsto consumir hasta un 20% de la "potencia de cálculo" de OpenAI durante cuatro años para, entre otras líneas de investigación, evaluar posibles peligros aparejados a los nuevos escenarios que abre la inteligencia artificial.

Sin embargo, de acuerdo con la prensa local, la plantilla de esta sección está siendo recolocada en otras secciones dentro de la compañía.

La noticia llega días después de que el cofundador de OpenAI, Ilya Sutskever, y el que fuera codirector de Superalignment, Jan Leike, anunciaran su marcha alegando que la empresa, respaldada por Microsoft, debería centrarse mucho más en la seguridad, la vigilancia, la preparación y el impacto social derivado de su actividad.

"Construir máquinas más inteligentes que los humanos es un esfuerzo inherentemente peligroso"

"Construir máquinas más inteligentes que los humanos es un esfuerzo inherentemente peligroso. OpenAI está asumiendo una enorme responsabilidad en nombre de toda la humanidad.

Pero en los últimos años, la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos innovadores", escribió Leike en X tras su salida.

En noviembre, el consejo de OpenAI destituyó al cofundador y consejero delegado, Sam Altman, por una supuesta falta de honestidad que generó gran incertidumbre entre inversores y empleados.

Al cabo de una semana, Altman estaba de vuelta en la empresa y miembros del consejo como el propio Sutskever, que habían votado a favor de la destitución del consejero delegado, estaban fuera.

Sutskever seguía en plantilla, pero ya no como miembro del consejo.

Medios como The Wall Street Journal informaban entonces de una pugna interna Altman-Sutskever porque este último prestaba mayor atención al impacto de la IA en los humanos, mientras que el primero estaba enfocado mayormente en seguir innovando.