Los peligros de 'Sora' de OpenIA... ¿Qué puede salir mal?

La empresa OpenAI, uno de los líderes en inteligencia artificial generativa ha presentado este jueves su modelo 'Sora'.

Sora es un modelo de Inteligencia Artificial capaz de generar escenas de vídeo a partir de instrucciones de texto. El resultado es espectacular y no tiene nada que envidiar a un vídeo realizado por un humano.

OpenAI dirigida por Sam Altman es responsable de ChatGPT y DALL-E. ChatGPT escribe texto, contesta cualquier pregunta hecha por un humano y es capaz de mantener una conversación muy sofisticada, aunque los datos aportados a veces no son muy fiables.

DALL-E es capaz de generar imágenes fijas basadas en unas instrucciones de texto escritas por un humano. Pero son imágenes fijas.

Ahora OpenIA ha dado un paso más. 'Sora' es capaz de crear "escenas complejas con detalles del componente principal y el trasfondo". Imágenes en movimiento. Es capaz de interpretar a la perfección instrucciones por escrito y "entender cómo existen los objetos en el mundo físico". Y crear un vídeo que exprese emociones humanas.

La compañía todavía no ha puesto a Sora a disposición del público. Antes, teniendo el cuenta el potencial de lo que puede hacer, quieren revisar las implicaciones de 'soltar' una IA con semejante potencial en la sociedad.

Para comprender los peligros que puedan derivarse del sistema y las maneras en las que Sora podría usarse con intenciones maliciosas, la empresa ha compartido la tecnología con un pequeño grupo de académicos e investigadores externos.

Este grupo de expertos tiene como misión estudiar a Sora y detectar todos los usos fraudulentos que podrían derivarse de ponerla a disposición de cualquiera, antes de ponerla a disposición del público.

Sora ha sido entrenada con una gran cantidad de vídeos y es capaz de reconocer movimientos y efectos visuales y recrearlos cuando se lo pidas sin ningún problema, así como cualquier entorno. E irá aprendiendo y mejorando. ¿Qué puede salir mal?