MADRID, 11 (EUROPA PRESS)
La presidenta de Signal, Meredith Whittaker, ha advertido sobre el uso de agentes de Inteligencia Artificial (IA) para realizar tareas del día a día de los usuarios, que pueden ocasionar problemas de seguridad y privacidad “profundos” al acceder libremente a sus datos personales.
Un agente de IA es un sistema o programa capaz de realizar tareas de forma autónoma en nombre de un usuario u otro sistema. Así, los agentes abarcan una amplia gama de funcionalidades más allá del procesamiento del lenguaje natural, como es la toma de decisiones, la resolución de problemas, la interacción con entornos externos o la ejecución de acciones.
Por tanto, esta tecnología se puede implementar en diversas aplicaciones para que resuelvan distintos tipos de tareas. En el caso del día a día de los usuarios, los agentes pueden diseñarse para, por ejemplo, programar eventos en el calendario del ‘smartphone’, reservar entradas de conciertos o enviar mensajes a contactos de forma automática.
En este sentido, aunque representan un avance en el uso diario de la IA aplicada a diversos sectores, la presidenta de Signal Foundation, la organización sin fines de lucro dedicada a impulsar la comunicación privada accesible y segura, Meredith Whittaker, ha advertido sobre los posibles riesgos de seguridad que tiene el uso de esta tecnología para los usuarios.
Concretamente, Whittaker ha comparado el uso de los agentes de IA con “meter el cerebro en un frasco”, ya que realizan labores de forma autónoma sustituyendo el papel de los usuarios en sus tareas del día a día. Igualmente, ha apuntado que dejar que la IA realice tareas en nombre de los usuarios conlleva a “un profundo problema” de privacidad y seguridad con respecto a sus datos.
Así lo ha detallado la presidenta de la fundación, propietaria de la red social de mensajería instantánea Signal Messenger, en una conferencia celebrada en el marco del evento South by Southwest (SXSW) celebrado en la ciudad de Austin (Texas, Estados Unidos), cuya participación ha sido recogida por TechCrunch.
Según ha explicado Whittaker, para que los agentes de IA funcionen de forma autónoma y lleven a cabo las tareas para las que están programados, tienen acceso a todos los datos personales que manejan en las distintas aplicaciones en las que están implementados.
Asimismo, si el agente de IA está impulsado por un modelo “suficientemente potente”, este se ejecutará en un servidor en la nube porque “no hay forma de que eso suceda en un dispositivo”, lo que implica la externalización de los datos de los usuarios con los que se esté trabajando.
“Es casi seguro que se enviará a un servidor en la nube donde se procesará y se enviará de vuelta”, ha matizado Whittaker, al tiempo que ha subrayado que, por tanto, “existe un problema profundo con la seguridad y la privacidad” en relación al uso de agentes y a los datos de los usuarios.
“Debería ser posible ejecutar el proceso en todo el sistema con algo parecido a un permiso de ‘root’, accediendo a cada una de esas bases de datos, probablemente de forma clara, porque no hay ningún modelo para hacerlo de forma encriptada”, ha valorado la directiva.
Con todo ello, Whittaker ha manifestado que el uso de agentes de IA y los problemas de seguridad relacionados “amenazan con romper la barrera hematoencefálica entre la capa de aplicación y la capa del sistema operativo”, dando acceso a la IA a cualquier dato almacenado en el dispositivo, por relevante que sea.
Aplicado a la ‘app’ de mensajería Signal, Whittaker ha asegurado que si integrase un agente de IA, se destruiría la privacidad de los mensajes de los usuarios, un factor característico en esta aplicación. Esto se debe a que, según ha explicado, el agente tiene que acceder a la aplicación para, por ejemplo, poder enviar mensajes de texto a otros contactos. De la misma forma, también tiene que extraer datos para llevar a cabo acciones como resumir los mensajes.
Teniendo todo ello en cuenta Whittaker ha concluido que, con la implementación masiva de los agentes de IA, se perjudicaría aún más la privacidad y seguridad de las personas, para impulsar “un robot genio mágico que se ocupará de las exigencias de la vida”.
- Te recomendamos -
