En febrero de 2024, ESET, una empresa líder en detección proactiva de amenazas, advierte sobre los riesgos vinculados a la adopción de la inteligencia artificial generativa en Centroamérica, a pesar de su prometedor futuro en diversos campos.
La inteligencia artificial tradicional se basa en modelos estadísticos que reconocen patrones a partir de datos existentes, mientras que la inteligencia artificial generativa tiene el potencial de (re)construir o (re)producir contenido de manera verosímil a partir de datos reales. Sin embargo, ESET identifica cinco riesgos asociados:
1. **Moderación de contenidos:** Existe un vacío legal que protege a los proveedores de plataformas ante la violación de derechos de autor por contenido generado por IA, lo que puede resultar en políticas de uso poco claras o contradictorias.
2. **Infracción de derechos de autor e imagen:** El uso de IA generativa por parte de compañías para producir contenido sin consentimiento ha generado conflictos legales y demandas por parte de guionistas y actores en Hollywood, exigiendo protección contra la explotación de su identidad y talento.
3. **Privacidad:** El entrenamiento de modelos de IA generativa requiere grandes volúmenes de datos, lo que plantea preocupaciones sobre la obtención de estos datos sin el consentimiento del titular, exigiendo el cumplimiento de regulaciones sobre privacidad de datos.
4. **Cuestiones éticas:** En países con regulaciones laxas sobre IA, se aprovecha la tecnología para fines poco éticos, como la suplantación de identidad para cometer fraudes o estafas.
5. **Desinformación:** La difusión de noticias falsas se ve potenciada por la IA generativa, perjudicando la imagen de individuos, comunidades o empresas.
David González Cuautle, Investigador de Seguridad Informática de ESET Latinoamérica, destaca la necesidad de abordar estos riesgos de manera cuidadosa para garantizar un uso ético y seguro de la IA generativa. Propone estrategias como sistemas de filtrado efectivos, entrenamiento con datos éticos, transparencia en la regulación del contenido, evaluación continua de la ética y la calidad, y educación pública sobre los riesgos asociados.
Es esencial implementar estas estrategias para mitigar los riesgos y garantizar un uso responsable de la inteligencia artificial generativa en Centroamérica.
