Musk pide una moratoria en el desarrollo de IA hasta que sea regulada, para "calcular sus riesgos"

El magnate Elon Musk y un grupo de expertos en inteligencia artificial y ejecutivos de la industria tecnológica, piden una pausa de seis meses en el desarrollo de sistemas superiores a GPT-4 recientemente lanzado por OpenAI, en una carta abierta donde avisan de los riesgos potenciales para la sociedad.

La IA deben desarrollarse "solo cuando estemos seguros de que sus efectos serán positivos y sus riesgos calculados", dice la carta firmada por Future Life Institute, una ONG financiada principalmente por la Fundación Musk, Founders Pledge y Silicon Valley Community Foundation.

"¿Deberíamos desarrollar mentes que podrían reemplazarnos?"

Los firmantes piden la moratoria hasta que exista un protocolo de seguridad elaborado por expertos independientes, al mismo tiempo que invita a los desarrolladores a trabajar con las instituciones para regular la tecnología.

"¿Deberíamos dejar que las máquinas nos inunden con propaganda y falsedad?, ¿Deberíamos desarrollar mentes que podrían reemplazarnos?", se cuestiona la carta, diciendo "tales decisiones no deben delegarse en líderes tecnológicos no elegidos".

LAS BIG TECH SE DESMARCAN

Las 'big tech' se desmarcan de la petición de Musk. Sam Altman, Sundar Pichai y Satya Nadella, directores ejecutivos de OpenAI, Alphabet y Microsoft, respectivamente, no aparecen entre los firmantes del manifiesto sobre la moratoria.

Sí encontramos nombres como Yoshua Bengio, al que se considera uno de los "padrinos" de la inteligencia artificial y Stuart Russell, pionero en la investigación de IA.

Mientras tanto, la compañía directamente aludida, OpenAI, guarda silencio. A principios marzo, la tecnológica de moda dio a conocer la cuarta versión de su GPT, que ha cautivado a los usuarios al involucrarlos en comportamientos similares a los humanos como mantener una conversación, componer canciones o resumir documentos extensos.

CUESTIÓN DE SEGURIDAD

Lo cierto es que, desde las instituciones surge la preocupación sobre el impacto de la IA, especialmente en materia de seguridad.

ChatGPT ha captado la atención de los legisladores de Estados Unidos con dudas sobre la influencia de esta tecnología en la seguridad nacional o la educación.

Por su parte, la Unión Europea y Europol advierten sobre el posible uso indebido del sistema en intentos de phishing, desinformación y ciberdelincuencia.

El gobierno del Reino Unido ha dado un paso al frente con una serie de propuestas para un marco regulatorio "adaptable" en torno a la IA.

"LA 'IA' ME ESTRESA"

Elon Musk aseguraba a principios de marzo: "La IA me estresa", una afirmación llamativa para alguien que es cofundador de OpenAI y que integra la inteligencia artificial en el sistema de piloto automático de sus automóviles Tesla.

De hecho, el propio Musk, que ha expresado su frustración por los intentos de regular dicho sistema, investigado en Estados Unidos tras varios accidentes, pide ahora un autoridad reguladora para garantizar que el desarrollo de la IA sirva a la interés público.