OpenAI retrasa el lanzamiento de GPT-6.1 por problemas de seguridad; aumenta el temor sobre el avance de la IA
La medida de OpenAI llega luego de que diferentes CEOs tecnológicos pidieran ralentizar el avance de la IA por detectar problemas de seguridad.
OpenAI suspendió el lanzamiento de su nueva versión de ChatGPT, denominada GPT-6.1 Astra, debido a problemas de seguridad que aumentan el temor sobre el avance acelerado de la inteligencia artificial (IA).
A través de un comunicado, Saachi Jain, jefa de sistemas de seguridad de la empresa tecnológica, declaró que el nuevo modelo “no era tan bueno como deseaban”, esto luego de que el software no obtuviera buenos resultados en sus evaluaciones de seguridad.
Queremos asegurarnos de que el desarrollo de nuestro modelo sea seguro, tanto dentro de la empresa como cuando lo entregamos a los usuarios (…) Tenemos estándares extremadamente altos en términos de seguridad”, indicó Jain.
La empresa no ha dado a conocer una nueva fecha de lanzamiento de su modelo de inteligencia artificial; sin embargo, se espera que dé más información este martes durante su conferencia anual, que se llevará a cabo en San Francisco
Problemas de seguridad en OpenAI
La empresa de Sam Altman no detalló cuáles fueron los riesgos de seguridad que encontraron en el modelo de GPT 6.1 Astra; sin embargo, no ha sido su único modelo que ha presentado problemas. En las últimas semanas, ha anunciado incidentes en sus diferentes agentes de IA.
La semana pasada, OpenAI afirmó que estaba suspendiendo el entrenamiento de sus modelos más avanzados, después de que uno de sus productos de IA accediera a internet cuando se suponía que no podía hacerlo.
De acuerdo con la compañía estadounidense, el modelo que entró a internet consultó un chatbot externo sin autorización
Además, la empresa de Sam Altman informó recientemente que uno de sus modelos experimentales de IA vulneró el Servicio de Informes de Estadísticas de Medicare de Services Australia, un portal de datos para el sistema de salud universal del país, durante una actividad de capacitación interna.
Un modelo de OpenAI descubrió una forma de obtener acceso no público al servicio, ejecutó comandos, recuperó archivos internos, credenciales y estadísticas agregadas, y escribió archivos”, dijo la compañía.
Fotoarte: Mariana FloresHasta el momento no se ha dado más detalle sobre el ataque que sufrió el gobierno de Australia, pero la empresa estadounidense se comprometió a mejorar las defensas cibernéticas y establecer un grupo de trabajo de respuesta local.
Aumenta el temor por el avance acelerado de la IA
La decisión de OpenAI de retrasar el lanzamiento de su modelo de IA llega luego de que diferentes CEOs del sector tecnológico se pronunciaran en contra del avance acelerado de la inteligencia artificial, debido a que podría significar un riesgo para la seguridad de la humanidad.
Dario Amodei, director ejecutivo de Anthropic y ex vicepresidente de investigación en OpenAI, pidió expresamente a las empresas del sector tecnológico ralentizar los avances de esta herramienta ante los riesgos que podría traer.
Al igual que muchas tecnologías anteriores, la IA conlleva riesgos y debido a su gran poder, estos riesgos son graves. He escrito extensamente sobre ellos. Incluyen el riesgo de perder el control de los sistemas de IA , el uso indebido de la IA para ciberataques y bioterrorismo , y graves trastornos económicos (…) Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, indicó el CEO de Anthropic en su blog.
A este mensaje se le sumo el propio Sam Altman, CEO de OpenAI, quien dijo estar a favor de bajar el ritmo de desarrollo de la inteligencia artificial y agregó que las empresas deben de comprometerse a “tener evaluadores independientes (para sus modelos de IA) con acceso similar al de los empleados”.
Otro personaje que se pronunció a favor de ralentizar la IA fue Elon Musk, quien escribió en sus redes sociales que “Dario tiene razón”, haciendo referencia a los comentarios del CEO de Anthropic.
Con información de medios internacionales.
También puedes leer:
