Cara y cruz de la IA: la clave está en la ciberseguridad

Karen Kharmandarian_Natixis_Thematics Assets_noticia
Firma: cedida (Natixis IM).

TRIBUNA de Karen Kharmandarian, presidente de Thematics AM, y gestor del fondo Natixis International Funds (Lux) I - Thematics AI and Robotics Fund. Comentario patrocinado por Natixis Investment Managers.

La Inteligencia Artificial (IA)(1) y los grandes modelos lingüísticos (LLM)(2) son tecnologías en rápida evolución que tienen el potencial de transformar nuestras vidas, tanto en el mundo digital como en el real. Un buen ejemplo de ello es el reciente lanzamiento de ChatGPT, que ilustra las expectativas en torno a la IA y el apetito de la sociedad: solo hay que ver que este chatbot alcanzó un millón de usuarios en sólo cinco días y más de 100 millones de usuarios en dos meses(3).

El impacto de la IA en nuestro futuro digital es polifacético y de gran alcance. Nos encontramos ante una serie de innovaciones disruptivas de las que estamos a punto de ver cómo revolucionan e impactan en nuestras vidas, transformando la forma en que nos relacionamos, conectamos, consumimos, compramos, comemos, nos movemos, trabajamos y, en definitiva, vivimos. 

Por ejemplo, la creación automatizada de contenidos (como ChatGTP) es una de las áreas principales y más evidentes en las que es probable que veamos implicaciones inmediatas para nuestra futura vida digital. Esta tecnología puede producir textos, imágenes y vídeos realistas, e incluso reproducir la voz. La automatización ya ha mejorado la productividad en el sector de la publicidad, donde los equipos pueden producir ahora contenidos de alta calidad en cuestión de minutos.

Por otra parte, encontramos las aplicaciones de la IA en el comercio electrónico, en el que la inteligencia artificial puede crear recomendaciones personalizadas, mejorando la experiencia de compra de los clientes. Otro impacto es la creación de chatbots inteligentes y asistentes virtuales. Estas tecnologías han revolucionado el servicio de atención al cliente, permitiendo a las empresas ofrecer soporte 24/7 a sus clientes. Se espera que el mercado mundial de chatbots crezca a una tasa de crecimiento anual compuesto (CAGR) del 23,5% entre 2022 y 2026(4). Además, los chatbots inteligentes pueden entender el lenguaje natural y ofrecer respuestas personalizadas, mejorando el compromiso y la satisfacción del cliente. Por ejemplo, Siri, el asistente personal de Apple, se ha convertido en una popular herramienta de atención al cliente, capaz de responder preguntas, dar consejos e incluso tomar medidas en nombre del cliente.

Además, no podemos olvidar que las herramientas de IA tienen potencial para mejorar la seguridad digital ya que pueden utilizarse para desarrollar sistemas avanzados de detección de amenazas que identifiquen los ciberataques antes de que causen daños significativos. Además, pueden utilizarse para desarrollar canales de comunicación seguros y autentificar usuarios, impidiendo el acceso no autorizado a datos sensibles. 

En conclusión, sectores enteros de la economía pueden beneficiarse de la aparición de la IA. En la industria de la salud, por ejemplo, la inteligencia artificial puede aplicarse para desarrollar planes de tratamiento individualizados y mejorar la precisión de los diagnósticos médicos y los dispositivos portátiles impulsados por la IA pueden ayudar a las personas a controlar su salud y proporcionar una detección precoz de posibles problemas de salud, lo que se traduce en mejores resultados sanitarios. En la industria alimentaria, la IA puede utilizarse, por ejemplo, para desarrollar planes de nutrición personalizados, lo que ayuda a las personas a tomar decisiones más saludables basadas en sus necesidades dietéticas únicas, o para desarrollar sistemas de seguridad alimentaria con los que minimizar el desperdicio de alimentos y prevenir brotes de enfermedades transmitidas por los alimentos.

De igual manera, la inteligencia artificial puede dar lugar a avances significativos en el transporte con los coches autónomos, por ejemplo, que ayudan también a mejorar la seguridad y reducir la congestión del tráfico al mismo tiempo que disminuyen la huella de carbono del transporte y los nuevos sistemas de gestión del tráfico pueden mejorar la eficiencia del transporte público y reducir los tiempos de viaje para los viajeros. En cuanto al desarrollo y avance social, la IA puede conducir al desarrollo de ciudades inteligentes que utilicen algoritmos para optimizar el consumo de energía y reducir los residuos, y la domótica y los sistemas de seguridad también pueden ayudar a las personas a reducir el consumo de energía y mejorar la protección de sus hogares. 

Por último, en el ámbito laboral, esta nueva tecnología puede mejorar la productividad y reducir los costes laborales, con chatbots y asistentes virtuales que automatizarán tareas rutinarias, permitiendo a los trabajadores centrarse en misiones más complejas que requieren habilidades humanas, pero también con el desarrollo de herramientas de análisis que pueden ayudar a las empresas a tomar decisiones basadas en datos y mejorar las operaciones. 

Pero toda moneda tiene su cara y cruz, y todos estos avances tecnológicos también plantean serias preocupaciones, incertidumbres y riesgos en torno a la privacidad de los datos, la ciberseguridad y consideraciones éticas. Veamos algunos ejemplos.

La creación automatizada de contenidos puede amenazar la seguridad digital en tanto y cuanto los ciberdelincuentes pueden aprovechar esta tecnología para crear correos electrónicos de phishing muy eficaces, haciéndose pasar por entidades de confianza y engañando a los usuarios para que divulguen información confidencial. Además, la naturaleza automatizada de la creación de contenidos dificulta la detección de contenidos maliciosos y supone un reto para las organizaciones a la hora de proteger a sus usuarios y su propiedad intelectual. 

A medida que evolucionan los modelos de IA, también lo hace la sofisticación de las ciberamenazas. Esto subraya la necesidad de reforzar las medidas de ciberseguridad para proteger los datos personales y corporativos. Sin embargo, los ciberdelincuentes también pueden aprovechar esta tecnología para lanzar ataques de ingeniería social. Según IBM(5), el phishing es uno de los principales vectores de ataque de la ciberdelincuencia (16%). El estudio sobre phishing del tercer trimestre de 2021 de Cofense muestra que casi el 93 % de las brechas modernas implican ataques de phishing(6). Los piratas informáticos pueden incluso utilizar chatbots para engañar a los usuarios y hacerles hacer clic en enlaces maliciosos o divulgar información confidencial. Por eso es crucial informar a los usuarios de los riesgos potenciales de interactuar con asistentes virtuales y chatbots.

Las 'falsificaciones profundas' muy realistas también son posibles gracias a la inteligencia artificial. Utilizando algoritmos de inteligencia artificial, es posible crear imágenes y vídeos realistas que pueden engañar y manipular la información. Aunque los deepfakes tienen aplicaciones positivas, especialmente en la industria del entretenimiento, también pueden utilizarse para difundir información falsa, incitar a la violencia y dañar reputaciones. Los deepfakes tienen implicaciones potenciales en la creación de noticias falsas, bulos, acoso y fraude financiero. Hay numerosos ejemplos de deepfakes que se utilizan con fines nefastos que preocupan seriamente a gobiernos, legisladores y servicios de seguridad. 

Para protegerse contra estas aplicaciones maliciosas, los gobiernos están empezando a introducir nuevas leyes que penalizan la producción de deepfakes con la intención de hacer daño, como las anunciadas como parte del proyecto de Ley de Seguridad en línea de Reino Unido(7). Pero igualmente importante será el desarrollo de tecnologías de detección sólidas que desempeñarán un papel fundamental en la aplicación de dichas normativas. 

Como resultado, es fundamental permanecer alerta y supervisar de forma proactiva la seguridad de nuestros sistemas para adelantarnos a los actores maliciosos. Pero, tal y como predijeron los expertos, los ciberdelincuentes han explotado ChatGPT para crear contenido malicioso a pesar de las restricciones diseñadas para evitar solicitudes ilícitas. Los investigadores de Check Point probaron las capacidades de codificación de ChatGPT y descubrieron que podía ayudar a los hackers poco cualificados y a los script kiddies a crear malware sencillo o mejorar el código malicioso.

Esto subraya la necesidad de reforzar las medidas de ciberseguridad para proteger los datos personales y corporativos. El uso de la IA en los ciberataques puede provocar un aumento de la velocidad y la escala de las ciberamenazas, dificultando el funcionamiento de las medidas tradicionales de ciberseguridad. Según Chris Anley, de NCC Group, ChatGPT puede utilizarse para crear virus polimórficos, y señaló que ya hay herramientas y marcos disponibles en línea para producirlos. Esto es especialmente novedoso ya que permite a los atacantes menos expertos generar código que podría ser peligroso. También permite montar ciberataques en un tiempo récord y por un coste insignificante. 

Como hemos visto una y otra vez, cada nueva innovación tecnológica conlleva nuevos riesgos y nuevas oportunidades. Pero es la mitigación de estos riesgos lo que ayuda a la resiliencia de esta temática de inversión. Sin duda, el impacto de la IA en nuestra vida digital y real será, como hemos dicho, amplio e incidirá en multitud de aspectos, y, aunque tiene el potencial de mejorar el desarrollo social y revolucionar las industrias, también plantea problemas de ciberseguridad, privacidad de los datos y consideraciones éticas. Abordar estos retos exigirá la colaboración de gobiernos, empresas tecnológicas y particulares. La buena noticia es que es alentador ver el grado de colaboración e innovación que ya está en marcha. 

Fuentes y notas:

1 La inteligencia artificial (IA) generativa describe algoritmos (como ChatGPT) que pueden utilizarse para crear nuevos contenidos, como audio, código, imágenes, texto, simulaciones y vídeos.

2 Un gran modelo lingüístico (LLM) es un tipo de algoritmo de inteligencia artificial (IA) que utiliza técnicas de aprendizaje profundo y conjuntos de datos masivamente grandes para comprender, resumir, generar y predecir nuevos contenidos.

3 UBS, Global Research and Evidence Lab, Feb 2023.

4 MarketsandMarkets™, Chatbot market, March 2023

5 Informe de IBM sobre el coste de una filtración de datos en 2022

6 Cofense Intelligence™, análisis de phishing del tercer trimestre de 2021

7 BBC, Noviembre 2022

Comunicación publicitaria

Solo para inversores profesionales.

Consulte el folleto del fondo y el documento de datos fundamentales para el inversor antes de tomar una decisión final de inversión


Este material se ha proporcionado con fines informativos solo a proveedores de servicios de inversión u otros clientes profesionales o inversores cualificados y, cuando así lo exija la normativa local, solo a petición escrita. Este material no debe utilizarse con inversores minoristas. Es responsabilidad de cada proveedor de servicios de inversión garantizar que la oferta o venta de acciones de fondos o servicios de inversión de terceros a sus clientes cumple con la legislación nacional pertinente.

Para obtener un resumen de los derechos de los inversores en el idioma oficial de su jurisdicción, consulte la sección de documentación legal del sitio web (im.natixis.com/intl/intl-fund-documents)

En España y Portugal Proporcionado por Natixis Investment Managers International o su sucursal Natixis Investment Managers International S.A., Sucursal en España, Serrano n°90, 6th Floor, 28006 Madrid, España. Natixis Investment Managers International es una sociedad de gestión de cartera autorizada por la Autorité des Marchés Financiers (Autoridad Francesa de Mercados Financieros - AMF) con el núm. GP 90-009, y una sociedad anónima (société anonyme) registrado en el Registro de Comercio y Sociedades de París con el núm. 329 450 738. Domicilio social: 43 avenue Pierre Mendès Francia, 75013 París. Natixis Investment Managers International S.A., Sucursal en España está autorizada y supervisada por la Comisión Nacional del Mercado de Valores (CNMV) en relación con sus actividades en España, y por la Comissão do Mercado de Valores Mobiliários (CMVM) en relación con sus actividades en Portugal. Domicilio social de Natixis Investment Managers International S.A., Sucursal en España: Serrano n°90, 6th Floor, 28006 Madrid, España.

La entidad mencionada anteriormente es una unidad de desarrollo de negocio de Natixis Investment Managers, la sociedad de cartera de una diversa gama de entidades especializadas en gestión y distribución de inversiones en todo el mundo. Las filiales de gestión de inversiones de los gestores de inversiones de Natixis realizan cualquier actividad regulada solo en y desde las jurisdicciones en las que están autorizados. Sus servicios y los productos que gestionan no están disponibles para todos los inversores en todas las jurisdicciones.

Aunque Natixis Investment Managers cree que la información proporcionada en este material es confiable, incluyendo la de fuentes de terceros, no garantiza la exactitud, adecuación o integridad de dicha información.

El suministro de este material y/o referencia a valores, sectores o mercados específicos dentro de este material no constituye un asesoramiento de inversión, o una recomendación o una oferta para comprar o vender cualquier valor, o una oferta de servicios. Los inversores deben considerar cuidadosamente los objetivos de inversión, los riesgos y los gastos de cualquier inversión antes de invertir. Los análisis, opiniones y algunos de los temas y procesos de inversión a los que se hace referencia en este documento representan las opiniones del gestor de cartera (s) en la fecha indicada. Estas, así como las tenencias de cartera y las características que se muestran, están sujetas a cambios. No puede haber ninguna garantía de que se produzcan los acontecimientos previstos en este material.

Este material no puede ser distribuido, publicado, o reproducido, en su totalidad o en parte.

Todas las cantidades mostradas se expresan en USD a menos que se indique lo contrario.

Los gestores de inversiones de Natixis podrán decidir poner fin a sus acuerdos de comercialización de este fondo de conformidad con la legislación pertinente.