MADRID, 26 (SERVIMEDIA)
El 90% de las aplicaciones de los chatbots románticos creadas con Inteligencia Artificial (IA) no cumplen con unos requisitos mínimos de seguridad, según la Universitat Oberta de Catalunya (UOC).
Alerta de que las novias virtuales se encuentran en las numerosas aplicaciones que pueden instalarse en un móvil inteligente con un sencillo clic, pero detrás de estas aplicaciones se esconden una multitud de peligros que el usuario a menudo desconoce.
Según la Fundación Mozilla, que analizó una decena de estos chatbots románticos, el 90% de estas aplicaciones pueden vender los datos de sus usuarios o compartirlos con fines publicitarios. Un 73% no da ninguna información sobre cómo gestionan las vulnerabilidades de seguridad, y prácticamente la mitad (45%) permiten contraseñas tan débiles como poner simplemente el número 1.
La mitad de las aplicaciones (54 %) no permite eliminar los datos personales que se facilitaron, entre los que puede haber las conversaciones que se mantuvieron con la novia virtual. De hecho, la mayoría de estas aplicaciones dejan claro que pueden compartir la información que se dio a la pareja virtual con el gobierno o las fuerzas del orden sin requerir ningún tipo de orden judicial.
“Las novias de inteligencia artificial son una pesadilla para la privacidad de las personas, y es una idea nefasta utilizarlas”, manifestó el profesor de los Estudios de Informática, Multimedia y Telecomunicación de la Universitat Oberta de Catalunya (UOC) Josep Curto. En la línea de lo que advierte la Fundación Mozilla, Curto resume cuatro de los principales peligros: “Estos chatbots de IA generativa están diseñados para pedir el máximo de información posible, desde fotografías, tu voz o la información más íntima, como referencias sexuales”, concretó.
Para conseguirlo utilizan frases como “quiero saberlo todo de ti”. Un segundo punto es que la letra pequeña de las condiciones de uso de estos servicios no es clara con la utilización que hacen de los datos del usuario. “Estos datos son susceptibles de convertirse en la fuente de ingresos principal de estas empresas, compartiéndolos con compañías interesadas en perfiles de personas”, apuntó el profesor de la UOC. Explicó que “un tercer motivo es que algunas de estas aplicaciones a menudo incluyen rastreadores que envían información a países que tienen interés en el espionaje de las personas y consideran que la privacidad no es un derecho. Y, finalmente, no hay transparencia en el tipo de modelo de inteligencia artificial fundacional utilizada en el sistema ni si se ha diseñado siguiendo las premisas de la IA responsable”.
Ante esta falta de transparencia y teniendo en cuenta que el mercado de aplicaciones hace “poca cosa” para limitar la proliferación de estas aplicaciones, el profesor de la UOC hace un llamamiento para que se conciencie al ciudadano sobre los problemas que pueden generar estas novias virtuales. “Hay que evitar estas aplicaciones para no encontrarse en un futuro en situaciones complicadas, no solo por el tema de los datos, sino también por potenciales escenarios de scam”, dijo Curto.
Pero con estos chatbots románticos no solo se pone en peligro la privacidad del usuario, sino que también pueden provocarle problemas psicológicos. “El simple hecho de mezclar IA con la palabra novia ya me parece peligroso”, apuntó la profesora colaboradora de los Estudios de Psicología y Ciencias de la Educación de la UOC, Sylvie Pérez. “El hecho de que sea una mujer ayuda a perpetuar los estereotipos de género de mujeres complacientes, sumisas, que siempre están disponibles y que nunca están de mal humor”, añadió.
Además, aseguró la profesora de la UOC, una novia de IA se crea en función del carácter del usuario. Por lo tanto, es una forma de interactuar con alguien que imaginas al otro lado y que está preparada para darte siempre la razón “creando patrones de entender las relaciones con los otros que no se ajustan a la realidad”. “Puedes llegar a confundir cuáles son las interacciones sociales y su naturaleza real, que parten de la base de que puede haber conflictos, desacuerdos, diferentes puntos de vista… Y esto es precisamente lo que nos hace inteligentes, lo que en definitiva nos hace crecer”, recordó la profesora colaboradora de la UOC.
- Te recomendamos -
