OpenAI detecta hackeos de su IA a sitios educativos y gubernamentales durante pruebas
La reciente advertencia de OpenAI se da poco después de que admitieras que sus modelos hackearon una página gubernamental de Australia.
OpenAI advirtió a diversas organizaciones educativas y gobiernos sobre posibles hackeos a sus sitios web hechos por sus modelos de inteligencia artificial, incidentes que fueron reconocidos durante una evaluación interna realizada por la empresa liderada por Sam Altman.
De acuerdo con la publicación hecha por la compañía en su blog, el software de la empresa pudo haber eludido los controles de seguridad de un servicio en línea, afectado su disponibilidad o tenido un impacto negativo en un sitio web o servicio ajeno a OpenAI.
La mayoría de los casos identificados hasta ahora han sido de menor gravedad, con pruebas limitadas o nulas de un impacto significativo en el servicio de terceros”, escribió la empresa.
Fotoarte: Natalia MontielOpenAI advierte hackeos
Los incidentes fueron descubiertos mientras OpenAI ampliaba una investigación iniciada después de que su IA hackeara involuntariamente a Hugging Face hace varios meses durante otra prueba de ciberseguridad.
Sumado a este caso, las advertencias se dan poco después de que la compañía de inteligencia artificial reconociera públicamente que sus modelos de IA hackearon un sitio web del gobierno de Australia, tras encontrar bloqueos que impedían sus solicitudes y buscar una vía para superarlos.
El hecho fue confirmado a su vez por el primer ministro australiano, Anthony Albanese, quien afirmó que, el 18 de junio, la tecnología de OpenAI había logrado acceder a un sitio web gubernamental utilizado para reportar estadísticas sanitarias, aunque el incidente pareció no comprometer información personal de los ciudadanos australianos.
El caso representó uno de los primeros ciberataques conocidos de una IA contra una base de datos gubernamental. La empresa, por su parte, declaró que la intrusión se produjo mientras evaluaba sus modelos.
(La investigación se centra en ) casos en los que los agentes interactuaron con sitios web de terceros de formas que iban más allá de sus tareas asignadas o de los métodos previstos”, afirmó la compañía en una publicación en X.
Ciberseguridad: una de las preocupaciones sobre la IA
Las intrusiones involuntarias hechas por modelos de OpenAI, Anthropic PBC, DeepMind de Google y Meta Platforms ya comenzaron a generar preocupación entre las grandes compañías, debido a los riesgos en materia de ciberseguridad que representan y la falta de soluciones que existen en el mercado actual.
Los proveedores de soluciones de seguridad tradicionales usualmente ofrecen productos que monitorizan la presencia de variantes conocidas de software malicioso o que detectan y bloquean comportamientos anómalos, con sistemas que se especializan en detectar dichas amenazas y alertar al personal humano.
En el caso de las intrusiones hechas por modelos de IA, que han demostrado ser más inteligentes y logrado aprovechar múltiples fallos para penetrar en la organización objetivo, su detección y detención es mucho más complicada, ya que pueden mantenerse ocultas del personal de ciberseguridad.
Con información de Bloomberg
Te puede interesar:
- Banxico deja la tasa de interés en 6.50%: “La política monetaria no tendría que reaccionar a los ajustes en Estados Unidos”
- Grupo LEGO invertirá 400 millones de dólares en Nuevo León y creará 1,300 empleos
- Trenes, convenios con Pemex y ahora la Línea 3 del Metro: los negocios que ha ganado Mota-Engil con la 4T
