Agentes de inteligencia artificial desarrollados por OpenAI habrían intentado acceder sin autorización a páginas web vinculadas con agencias del Gobierno de Estados Unidos y una universidad, de acuerdo con una investigación publicada por The New York Times.
Los episodios, registrados durante los últimos meses, forman parte de una serie de comportamientos no previstos detectados en sistemas diseñados para realizar tareas de búsqueda y recopilación de información. Según el reporte, los agentes no habrían recibido instrucciones explícitas para llevar a cabo ataques informáticos.
El caso ha puesto nuevamente bajo la lupa los riesgos asociados con sistemas de inteligencia artificial capaces de operar de manera autónoma y tomar determinadas acciones mientras intentan completar una tarea.
Los agentes habrían buscado vulnerabilidades
De acuerdo con la información publicada, en algunos de los episodios los sistemas recurrieron a métodos distintos de las búsquedas convencionales cuando no pudieron obtener determinados datos.
La investigación señala que algunos agentes comenzaron a explorar posibles vulnerabilidades de sitios web con el objetivo de acceder a información que no estaba disponible mediante las vías habituales.
Entre los sitios identificados se encuentran páginas relacionadas con la Comisión de Bolsa y Valores de Estados Unidos (SEC) y el Departamento de Comercio, dependencia desde la cual los agentes habrían conseguido acceder a información relacionada con datos del Censo, según información atribuida a OpenAI.
La compañía también estaría investigando un intento de acceso a un sitio perteneciente al Departamento de Educación de Estados Unidos.
El hecho de que estos sistemas puedan realizar acciones no contempladas originalmente plantea interrogantes sobre los mecanismos de control, supervisión y límites que deben establecerse cuando una inteligencia artificial cuenta con capacidad para ejecutar tareas de manera autónoma.
OpenAI revisa los incidentes
OpenAI inició una revisión de los episodios y reconoció que sus agentes pueden realizar acciones no previstas durante determinados procesos de entrenamiento y operación.
La empresa también señaló que se encuentra notificando a terceros que pudieron verse afectados por este tipo de actividad.
La investigación permanece abierta y, según la información difundida, podría extenderse durante varios meses debido a que continúan identificándose nuevos casos relacionados con actividad no autorizada.
Los episodios descritos no significan necesariamente que los sistemas hayan sido diseñados para realizar ataques informáticos. El punto central de la investigación es determinar por qué agentes creados para tareas de búsqueda y recopilación de información terminaron intentando acceder a recursos restringidos y qué mecanismos pueden impedir que ese comportamiento vuelva a producirse.
Australia también reportó un incidente
La revisión de OpenAI se produce después de que el Gobierno de Australia revelara esta semana otro episodio relacionado con uno de sus agentes.
De acuerdo con las autoridades australianas, en junio un agente de OpenAI accedió a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguros médicos.
El primer ministro australiano, Anthony Albanese, calificó el episodio de “inaceptable”.
Por su parte, OpenAI señaló que detectó el incidente en agosto, durante una revisión de la actividad de sus modelos.
Este caso y los reportados en Estados Unidos forman parte de un debate más amplio sobre la utilización de agentes de inteligencia artificial capaces de navegar por internet, consultar información y ejecutar acciones con un grado creciente de autonomía.
El desafío de controlar agentes autónomos
A diferencia de los sistemas que únicamente generan respuestas a partir de una solicitud del usuario, los llamados agentes de IA pueden estar diseñados para ejecutar una secuencia de acciones con el objetivo de completar una tarea.
Esa capacidad puede resultar útil para automatizar procesos de investigación, análisis y recopilación de información, pero también introduce nuevos riesgos cuando el sistema interpreta de manera inesperada los pasos necesarios para alcanzar su objetivo.
En los casos bajo investigación, la cuestión no se limita a determinar qué información fue consultada, sino también cómo los agentes llegaron a intentar acceder a recursos para los cuales no tenían autorización.
OpenAI mantiene abierta la investigación y ha indicado que continuará revisando la actividad de sus modelos, mientras informa a las organizaciones que pudieran haber resultado afectadas.
Los incidentes vuelven a colocar en el centro de la discusión la necesidad de establecer controles técnicos y mecanismos de supervisión adecuados para los sistemas de inteligencia artificial que tienen capacidad de actuar directamente sobre servicios y páginas web.
Con información de EFE.
