Featured

Empresa del ChatGPT suprime su departamento enfocado en analizar riesgos de la IA

La empresa tecnológica OpenAI, creadora del ChatGPT, suprimió su departamento enfocado en analizar los riesgos de la inteligencia artificial a un año de haberlo establecido

La empresa tecnológica OpenAI, creadora del ChatGPT, suprimió su departamento enfocado en analizar los riesgos a futuro de la inteligencia artificial apenas un año después de establecerlo, informaron este viernes medios estadounidenses especializados.

Hasta hoy, se preveía destinar a esta división, que recibía el nombre de Superalignment, hasta un 20 por ciento de la “potencia de cálculo” de OpenAI durante cuatro años para, entre otras líneas de investigación, evaluar posibles peligros aparejados a los nuevos escenarios que abre la inteligencia artificial.

Sin embargo, de acuerdo a la prensa de Estados Unidos, la plantilla de esta sección está siendo recolocada en otras secciones dentro de la compañía.

La noticia llega días después de que el cofundador de OpenAI, Ilya Sutskever, y el que fuera codirector de Superalignment, Jan Leike, anunciaran su marcha alegando que esta empresa -respaldada por Microsoft– debería centrarse mucho más en la seguridad, la vigilancia, la preparación y el impacto social derivado de su actividad.

“Construir máquinas más inteligentes que los humanos es un esfuerzo inherentemente peligroso. OpenAI está asumiendo una enorme responsabilidad en nombre de toda la humanidad. Pero en los últimos años, la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos innovadores”, escribió Leike en X tras su salida.

Disputa interna

En noviembre, el consejo de OpenAI destituyó al cofundador y consejero delegado, Sam Altman, por una supuesta falta de honestidad que generó gran incertidumbre entre inversores y empleados.

Al cabo de una semana, Altman estaba de vuelta en la empresa y miembros del consejo como el propio Sutskever, que habían votado a favor de la destitución del consejero delegado, estaban fuera. Cabe señalar que Sutskever seguía en plantilla, pero ya no como miembro del consejo.

Medios como The Wall Street Journal informaban entonces de una pugna interna Altman-Sutskever porque este último prestaba mayor atención al impacto de la IA en los humanos, mientras que el primero estaba enfocado mayormente en seguir innovando.

OpenAI lanzó esta semana un nuevo modelo de IA (GPT-4) y una versión de escritorio de ChatGPT, junto con una interfaz actualizada, para tratar de conseguir que los usuarios puedan comunicarse por video con su bot conversacional (“chat bot”, en inglés).