Con el lanzamiento de Grok 2, una nueva versión del modelo de inteligencia artificial de X que desarrolló Elon Musk, la red social ahora cuenta con una nueva función para crear imágenes. Sin embargo, el contenido que se puede generar allí no tiene censura y de forma inmediata saltaron las alarmas por el tipo de imágenes que pueden crear los usuarios, dónde al no tener ciertos límites está generando ciertas polémicas.
Otros modelos de creación de imágenes como DALL-E o Midjourney cuentan con algunas reglas y parámetros para protegerse de situaciones desafortunadas, como violencia o uso no autorizado de la imagen de una personalidad. Algo que en la IA de Elon Musk es posible evitar. Grok si bien es una inteligencia artificial muy avanzada, al no tener un límite puede crear contenido que puede ser ofensivo para muchos usuarios.
Por qué es importante la censura en la generación de imágenes con IA
Si bien la creación de imágenes satíricas y humorísticas de figuras públicas a priori puede parecer inofensiva, las implicaciones van mucho más allá. La facilidad con la que se pueden crear deepfakes, es decir, imágenes o videos falsos hiperrealistas, representa un gran riesgo para la seguridad y privacidad de todas las personas y autoridades. Y ante esto Grok de Elon Musk está bajo la mira.
Esto abre la puerta a que los famosos alrededor del mundo sean puestos en situaciones polémicas que no son reales, cómo hacer que un candidato presidencial se vea haciendo algo contrario a sus ideales. Algo que es muy riesgoso en Grok, más en una época como las elecciones presidenciales en Estados Unidos, debido a que es posible generar imágenes de Donald Trump o Kamala Harris con objetos controversiales o en situaciones que pueden ser usadas para ilustrar una información falsa.
el contenido que se puede generar allí no tiene censura.
La IA de Elon Musk bajo la mira
Actualmente Grok ya está siendo investigada por la Unión Europea por una posible infracción de la Ley de Servicios Digitales, afirmando que la red social “engaña a los usuarios” y no se ajusta a las prácticas estándar de la industria. Además, en Estados Unidos ya hay varios proyectos para poner freno a los deepfakes que genera esta IA de Elon Musk después de varios casos en los que menores de edad han sido afectadas y acechados.
Cabe recordar que la aplicación autorizó de forma automática la recolección de datos de los usuarios para entrenar a la inteligencia artificial. Algo que nunca se notificó y que se puede desactivar manualmente para impedir que Grok tome las publicaciones, interacciones y resultados para extender sus conocimientos y generar contenido. Para hacerlo, los usuarios deben ir a la sección Privacidad y seguridad y sacar el permiso que está activado de manera predeterminada.
