Elon Musk y un grupo de expertos y ejecutivos inmiscuidos en el desarrollo de inteligencia artificial (IA) solicitaron poner una pausa a cualquier sistema con más potencia que el recientemente lanzado GPT-4, de OpenAI, durante un periodo de seis meses.
La solicitud por parte de los actores de la industria llega en una carta abierta en donde se citan los riesgos potenciales que esta tecnología puede traer para la sociedad y la humanidad en sí misma.
A través de una carta emitida por el Future of Life Institute, firmada por más de 1,000 personas, pidieron pausar el desarrollo de IA hasta que los expertos independientes desarrollen, implementen y auditen protocolos de seguridad compartidos para esta tecnología.
Los poderosos sistemas de inteligencia artificial deben desarrollarse sólo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables
se indicó en la misiva.
Entre los señalamientos por parte de los especialistas se encuentran riesgos potenciales para la sociedad y la civilización de los sistemas de IA competitivos entre humanos en forma de interrupciones económicas y políticas. Además, se solicita que desarrolladores, reguladores y legisladores trabajen de forma conjunta en materia de gobernanza.
Las preocupaciones se expusieron luego de que la Agencia de la Unión Europea para la Cooperación Policial (Europol) se sumó a las preocupaciones éticas y legales sobre IA avanzada, advirtiendo sobre el posible uso indebido del sistema en intentos de phishing, desinformación y ciberdelincuencia.
La carta no es perfecta, pero el espíritu es correcto: debemos reducir la velocidad hasta que entendamos mejor las ramificaciones
dijo Gary Marcus, profesor de la Universidad de Nueva York que firmó la carta.
Te puede interesar: Estos son los trabajos que se verían más impactados por la automatización de la IA, Goldman Sachs
El papel de OpenAI
La firma OpenAI se ha colocado a la cabeza en el desarrollo de esta tecnología el año pasado luego del lanzamiento del ChatGPT, lo que impulsó la inversión y trabajo entre sus competidores.
Apenas la semana pasada, la compañía anunció que se había asociado con alrededor de una docena de compañías para incorporar sus servicios de chatbot, lo que permitirá usar esta herramientas para tareas básicas como la solicitud de comestibles en Instacart o reservar vuelo a través de Expedia.
Los grandes jugadores se están volviendo cada vez más reservados sobre lo que están haciendo, lo que dificulta que la sociedad se defienda de cualquier daño que pueda materializarse
añadió Marcus.
Por su parte, los críticos acusaron a los firmantes de la carta de ser alarmistas sobre lo que representa la IA, pues aseguran que las afirmaciones sobre el potencial actual de la tecnología habían sido muy exageradas.
De acuerdo con un portavoz de Future of Life, el director ejecutivo de OpenAI, Sam Altman, no ha firmado la carta.
Para más información visita nuestro canal de YouTube
Con información de Reuters
