domingo, 24 noviembre 2024

Google presenta su herramienta para identificar fotos de IA y evitar estafas

La tecnología de Google ya permite generar imágenes con inteligencia artificial mediante una serie de prompts y unos sencillos pasos. Estas fotografías son tan reales que hace que sea difícil identificarla de una verdadera o la que se pueda tomar con la cámara del móvil. En este contexto, Google está planeando lanzar una herramienta que te dará la posibilidad de reconocer si una imagen ha sido capturada con una cámara, editada con Photoshop o generada con un modelo de inteligencia artificial.

El objetivo de este plan es ir al origen de todo ese contenido multimedia que se genera en formato digital para que se categorice como hecho con IA, ya sea cuando se tome una imagen con una cámara de Nikon, se use Photoshop de Adobe o incluso con un móvil Android como los Pixel de Google. Esta decisión de la empresa empieza con los resultados de su buscador que integrarían la función actualizada «acerca de esta imagen» para que el usuario pueda saber si una imagen ha sido generada o editada con herramientas de IA.

Cómo funciona esta nueva tecnología de Google

Cómo funciona esta nueva tecnología de Google

El sistema que utiliza Google es parte de la C2PA (Coalition for Content Provenance and Authenticity), uno de los grandes grupos que intentan acaparar la creación de fotografías con IA. Cabe destacar que el sistema de autenticación de C2PA es un estándar técnico que incorpora información acerca del origen de las fotografías y el flujo de trabajo usado tanto en el hardware como el software para así generar un trazo digital.

Es importante remarcar que el C2PA ya está con varios de los gigantes tecnológicos como son Amazon, Microsoft, Adobe, ARM, OpenAI, Intel, Truepic y Google, aunque hay que señalar que el ritmo está bastante lento para la adaptación de esta tecnología. Ante esto, Google juega un papel primordial para poder avanzar fuertemente la adopción por parte del resto de las empresas, ya que es la primera de las grandes en integrar esta herramienta en su motor de búsqueda.

El sistema que utiliza Google es parte de la C2PA.

Etiquetar el contenido en origen

Etiquetar el contenido en origen

La participación de Google ha sido clave en el desarrollo del estándar C2PA y lo usará de manera conjunta con la lista de comprobación C2PA, que le dará posibilidad a Google Search de conocer el origen del contenido de las imágenes. Tan simple que, si los datos muestran que la fotografía fue capturada por un modelo de cámara en específico, la lista de verificación validará la pieza como correcta.

Un paso muy importante es que Canon y Nikon se han comprometido en integrar este estándar y se espera que tanto Google como Apple lo incorporen en sus móviles Android e iPhones. Por otro lado, está el software dedicado a la edición, Photoshop y Lightroom de Adobe agrega C2PA, pero otras plataformas como Affinity Photo o Gimp todavía no lo hicieron.