La Casa Blanca anunció que Apple se ha sumado a más de una docena de compañías tecnológicas que se han comprometido a cumplir reglas que limiten los riesgos asociados con la inteligencia artificial (IA) generativa.
Entre las empresas que se unieron previamente al pacto voluntario hace un año se encuentran Amazon, Google, Microsoft y OpenAI, todas ellas competidoras en el sector.
El gobierno del presidente Joe Biden, al anunciar el compromiso, destacó que las compañías acordaron avanzar hacia un desarrollo seguro y transparente de la tecnología de IA.
Este esfuerzo busca abordar los beneficios y los riesgos de la IA generativa, que puede producir rápidamente imágenes, sonidos y videos a partir de comandos verbales.
En junio, Apple lanzó Apple Intelligence, una iniciativa destinada a optimizar el uso de la IA generativa en dispositivos como el iPhone y la Mac. Además, Apple ha previsto una alianza con OpenAI, permitiendo que la aplicación ChatGPT esté disponible en sus teléfonos inteligentes a solicitud de los usuarios.
1Apple sobre la IA
La aplicación de la IA generativa promete avances significativos en áreas como la medicina, pero también ha generado preocupaciones sobre el aumento de la desinformación, la pérdida masiva de empleos y el robo de propiedad intelectual.
Además, existen temores sobre el posible uso de la IA por parte de regímenes autoritarios u organizaciones criminales.
Para mitigar estos riesgos, las salvaguardas acordadas con las tecnológicas incluyen la simulación de ataques en modelos de IA mediante una técnica conocida como «red teaming», que busca identificar posibles vulnerabilidades.
La Casa Blanca subrayó que los modelos de IA deben ser evaluados para detectar riesgos sociales, de seguridad nacional, ciberataques y el desarrollo de armas biológicas.
El compromiso también establece que las empresas compartirán información entre ellas y con el gobierno sobre los riesgos de la IA y los intentos de eludir las defensas.
A finales del año pasado, Biden firmó una orden ejecutiva que establece nuevos estándares de seguridad para los sistemas de IA y exige que los desarrolladores compartan los resultados de sus pruebas de seguridad con el gobierno estadounidense.
La Casa Blanca describió la orden ejecutiva como el conjunto de acciones más amplio jamás adoptado para proteger a los estadounidenses de los riesgos potenciales de los sistemas de IA.
Este compromiso representa un paso importante hacia la creación de un marco regulatorio que asegure que la IA generativa se desarrolle de manera ética y responsable.
