La inteligencia artificial generativa nos plantea grandes desafíos

La inteligencia artificial generativa nos plantea grandes desafíos

Hace unos días llegó a nuestras manos, un valioso documento de ESET, donde advierte que si bien el futuro es prometedor para cada uno de los campos dónde puede ser aplicada la inteligencia artificial generativa, y con grandes expectativas, existen riesgos vinculados a la adopción de esta nueva tendencia.
Los modelos tradicionales de Inteligencia Artificial se basan en modelos estadísticos que reconocen patrones a partir de datos existentes y son más aprovechados para contextos analíticos y predictivos. En el auge de la inteligencia artificial, se creó una nueva categoría llamada generativa que tiene el potencial de (re)construir o (re)producir contenido proveniente de algún texto, imagen, video, audio o código fuente, tan verosímil como el usuario lo permita. Los modelos generativos pueden producir nuevos datos (artificiales) usando datos reales (alimentados por el usuario) y crear información nueva; aquel horizonte que existía hasta hace un par de años solo en los libros de ciencia ficción o las películas va acercándose cada vez más a la realidad.

“La IA Generativa presenta riesgos particulares que deben abordarse de manera cuidadosa para garantizar su uso ético y seguro. Estos riesgos incluyen desde la moderación del contenido que suben los usuarios, hasta aquel engañoso, sesgado o perjudicial para evitar la manipulación de información.”, nos comenta, David González Cuautle, Investigador de Seguridad Informática de ESET Latinoamérica. Al considerar estos riesgos, el especialista nos señala, que es esencial implementar estrategias preventivas y correctivas, tales como:
Desarrollar sistemas de filtrado y moderación robustos que puedan identificar y eliminar contenido inapropiado, engañoso o sesgado generado por modelos de IA Generativa.
Garantizar que los modelos de IA Generativa se entrenen con conjuntos de datos éticos, imparciales y representativos.

Establecer regulaciones que permitan a los usuarios comprender cómo se genera el contenido, el tratamiento que reciben los datos y las implicaciones que puede llegar a tener en caso de no cumplir.
Implementar mecanismos de evaluación continua para monitorear la ética y la calidad del contenido generado.
Promover la educación y la conciencia pública sobre los riesgos asociados con la IA Generativa. Fomentar la comprensión de cómo funcionan estos modelos y cuáles son sus posibles impactos.

Mira más contenidos siguiéndonos en Facebook, Twitter, Instagram, TikTok y únete a nuestro grupo de Telegram para recibir las noticias del momento.